人工智能技術正在幫助銀行的網(wǎng)絡安全團隊洞察并處理違規(guī)行為。不過，人工智能也會創(chuàng)造出新的系統(tǒng)漏洞，這是由于機器被賦予控制權的同時也為發(fā)生錯誤和偽造行為提供了機會。從另一個角度來看，人工智能還可以提升攻擊者的工作效率。例如，在去年發(fā)生的那起黑客攻擊事件中， Petya 惡意軟件就利用人工智能來識別漏洞，可以每秒掃描數(shù)百萬個端口來發(fā)現(xiàn)攻擊的突破口。
「人工智能是一把錘子，可以用來行善，也可用來作惡，」普華永道合伙人、負責人兼網(wǎng)絡安全和隱私部門負責人 Jim Fox 說道，「如果你的對手有一把錘子，你最好也有一把?！?/div>
人工智能軟件能夠監(jiān)視所有的網(wǎng)絡活動，并快速辨別出可能出現(xiàn)違規(guī)的行為模式。隨著時間的推移，人工智能系統(tǒng)可以辨別出常規(guī)模式中真正的可疑行為，哪怕這種模式在之前從未被標記過。
去年的 Petya 惡意軟件攻擊是「以機器的速度」在做決策，一位網(wǎng)絡安全專家說道，「沒有人指導這個惡意軟件。他們編寫了一個智能程序來完成所有的工作?！?/div>
紐約投資銀行 Greenhill & Co.的首席信息官 John Shaffer 找到了一個更好的方式來應對零日漏洞攻擊（ zero-day attack ）。
「我們現(xiàn)在處理的大多數(shù)攻擊事件都不是通過傳統(tǒng)工具解決的，比如基于簽名的防病毒軟件，或者其它與簽名有關的東西?！筍haffer 說道，「真正的攻擊程序知道如何對付這些工具。真正有趣的是嘗試找出那些聰明的程序在做什么。這就是機器學習和人工智能發(fā)揮作用的地方?！?/div>
Shaffer 安裝了 Vectra 公司基于人工智能的系統(tǒng)，該系統(tǒng)可以監(jiān)管 Greenhill 公司所有的網(wǎng)絡流量。它能夠發(fā)現(xiàn)那些標準入侵檢測軟件看不到的異常，他解釋說?；谌斯ぶ悄芑蛟鰪娦途W(wǎng)絡安全產(chǎn)品的供應商還包括 IBM、Darktrace、FireEye 和 McAfee。
在 Shaffer 部署這個軟件時，系統(tǒng)立即發(fā)現(xiàn)了銀行網(wǎng)絡中一些奇怪的流量模式，而在這之前，這些工作是由公司自己的漏洞掃描器負責。
「對很多系統(tǒng)來說，這就像是有人在掃描你的網(wǎng)絡，」Shaffer 說道。
Vectra 的軟件并不像絕大多數(shù)的安全系統(tǒng)那樣會發(fā)出大量警告，一天的發(fā)送量在 10 條左右。同時無需人工編寫規(guī)則，而是系統(tǒng)自己去學習正常行為和違規(guī)行為之間的差異，這為網(wǎng)絡安全人員節(jié)省了大量的時間和精力。
人工智能的黑暗面
美國情報界對人工智能的使用憂心忡忡：人工智能不僅會增加網(wǎng)絡攻擊漏洞、增加事故發(fā)生的風險，還能催生外國組織利用技術升級武器和情報系統(tǒng)，同時加重了私營部門和金融機構(gòu)擔負的責任。
「美國政府已經(jīng)表示，如果一切都由機器運作而不再有人為干預，那么人工智能就是我們的全部執(zhí)法力量、一切人類事務的總把關人，」多倫多公司 Duhaime Law 一位律師 Christine 說道，「所以，我們的互聯(lián)性越強，使用系統(tǒng)判定安全性、良性或惡性的比例就越高，系統(tǒng)就會越容易受到攻擊，因為我們竟然指望系統(tǒng)能夠比想要傷害我們的外國黑客更聰明且更優(yōu)秀。」
她還指出，政府擔心人工智能可能會增加事故發(fā)生的風險，并大幅增加私營部門和金融機構(gòu)肩負的責任。換句話說，系統(tǒng)的自行決策程度越高，就越有可能犯下一個難以挽回的大錯誤。
「例如，系統(tǒng)搞錯了付款對象，而那個人已經(jīng)走了，或者是顛倒了一群交易對象，或是將 100 萬美元付給了 1000 個人，」Duhaime 說道，「如果系統(tǒng)遭到大規(guī)模曝光，那么很多人的個人信息將被不法分子利用，可能面臨被勒索的威脅。具有超強計算能力的流氓軟件會解碼我們的系統(tǒng)，而且能夠?qū)ξ覀兊年P鍵金融基礎設施實施各種破壞性行為。從歷史的角度看，私營部門從未在網(wǎng)絡安全方面投入足夠多的資金?？墒侵挥羞@么做，才能發(fā)現(xiàn)漏洞?！?/div>
鑒于網(wǎng)絡犯罪分子使用人工智能的現(xiàn)實，私營部門更有理由以其之道防患于未然，普華永道的 Fox 在援引 Petya 的例子時說到?！高@些決策是以機器的水準和速度制定的，」他說，「沒有人指導這個惡意軟件。他們編寫了一個智能程序來完成所有的工作。」
有一家銀行配備了強大的網(wǎng)絡安全系統(tǒng)和人工智能工具，卻在兩分鐘內(nèi)被 Petya 感染了 14000 臺機器。Fox 說：「人工智能系統(tǒng)在五分鐘內(nèi)便通知到網(wǎng)絡安全團隊，報告了一些可能帶有惡意的異常事件，并做了鎖定和關閉所有機器的決策?！?/div>
罪犯如何使用人工智能
McAfee 公司首席技術官 Steve Grobman 也指出，新技術的出現(xiàn)會引來守法者，也會招致網(wǎng)絡罪犯。
「金融領域有如此多網(wǎng)絡犯罪的原因在于，這是一個非常有效且低風險的偷錢方法，罪犯只會遭到逮捕和起訴?！笹robman 說，McAfee 正在學習「對抗性機器學習技術」。
「我們正在研究惡意軟件究竟是如何對模型產(chǎn)生不良影響?！顾忉尩?，騙子們可能會把經(jīng)過專門制作的數(shù)據(jù)引入到數(shù)據(jù)集中，這樣模型在未來查看數(shù)據(jù)時就更難發(fā)現(xiàn)它的問題。
或者，他們可能會向輸入數(shù)據(jù)集中添加噪聲或虛假信號，從而使提取真實信號的過程變得更加困難。
「如果你成功令防衛(wèi)系統(tǒng)頻繁誤報，網(wǎng)絡安全人員將不得不重新調(diào)整其模型，」Grobman 說。他做了一個比喻：如果一個小偷想闖入一個有警報系統(tǒng)的房子，他可能會在每晚 11 點鐘騎車經(jīng)過房子，故意激活警報。幾周后，房主會對這個警報系統(tǒng)厭倦，不是校準警報系統(tǒng)的敏感度，就是把這個系統(tǒng)系統(tǒng)關掉。這時，小偷就有了可乘之機。
惡意軟件也開始使用人工智能來自動化先前人類的工作，Grobman 說。例如，利用電郵或社交媒體搜索的歷史記錄，人工智能可以生成千人千面的魚叉式網(wǎng)絡釣魚郵件，即黑客會偽裝成接收者認識的人并向其發(fā)送電子郵件來套取密碼等信息。
他補充道：「人類無需為每個人量身定制內(nèi)容，軟件可以自動創(chuàng)造出適合每一個人的內(nèi)容，從而可以提高受害者的轉(zhuǎn)化率?！?/div>
Grobman 對政府面向人工智能的警告感慨萬千。
更多>相關資訊
0 條相關評論
推薦圖文
推薦資訊
- Project Loon前CEO已加盟自主機器人交付企業(yè)Starship
- 即將實施的協(xié)作機器人末端接口標準，將對協(xié)作機器人產(chǎn)生哪些影響？
- 機械行業(yè)：噴涂機器人市場空間及競爭格局
- 螺螄粉“機器人”正式投產(chǎn)
- 告別人工作業(yè) 2022 年將實現(xiàn)水下 3D 打印技術
- ABB機器人推動建筑行業(yè)自動化升級，提升行業(yè)安全性和可持續(xù)性
- NASA噴氣推進實驗室正創(chuàng)造各種機器人：以探索人類無法抵達的地方
- 能跑又能跳！騰訊推出全新“奧利”機器人：要能買回家就好了
- 研究人員調(diào)教出可細膩模仿人類表情的AI機器人
- 專訪丨2萬小時MTBF認證背后的“硬核”品質(zhì)
點擊排行
