人工智能技術(shù)正在幫助銀行的網(wǎng)絡(luò)安全團(tuán)隊(duì)洞察并處理違規(guī)行為。不過，人工智能也會(huì)創(chuàng)造出新的系統(tǒng)漏洞，這是由于機(jī)器被賦予控制權(quán)的同時(shí)也為發(fā)生錯(cuò)誤和偽造行為提供了機(jī)會(huì)。從另一個(gè)角度來看，人工智能還可以提升攻擊者的工作效率。例如，在去年發(fā)生的那起黑客攻擊事件中， Petya 惡意軟件就利用人工智能來識(shí)別漏洞，可以每秒掃描數(shù)百萬個(gè)端口來發(fā)現(xiàn)攻擊的突破口。
「人工智能是一把錘子，可以用來行善，也可用來作惡，」普華永道合伙人、負(fù)責(zé)人兼網(wǎng)絡(luò)安全和隱私部門負(fù)責(zé)人 Jim Fox 說道，「如果你的對(duì)手有一把錘子，你最好也有一把?！?/div>
人工智能軟件能夠監(jiān)視所有的網(wǎng)絡(luò)活動(dòng)，并快速辨別出可能出現(xiàn)違規(guī)的行為模式。隨著時(shí)間的推移，人工智能系統(tǒng)可以辨別出常規(guī)模式中真正的可疑行為，哪怕這種模式在之前從未被標(biāo)記過。
去年的 Petya 惡意軟件攻擊是「以機(jī)器的速度」在做決策，一位網(wǎng)絡(luò)安全專家說道，「沒有人指導(dǎo)這個(gè)惡意軟件。他們編寫了一個(gè)智能程序來完成所有的工作?！?/div>
紐約投資銀行 Greenhill & Co.的首席信息官 John Shaffer 找到了一個(gè)更好的方式來應(yīng)對(duì)零日漏洞攻擊（ zero-day attack ）。
「我們現(xiàn)在處理的大多數(shù)攻擊事件都不是通過傳統(tǒng)工具解決的，比如基于簽名的防病毒軟件，或者其它與簽名有關(guān)的東西?！筍haffer 說道，「真正的攻擊程序知道如何對(duì)付這些工具。真正有趣的是嘗試找出那些聰明的程序在做什么。這就是機(jī)器學(xué)習(xí)和人工智能發(fā)揮作用的地方?！?/div>
?
Shaffer 安裝了 Vectra 公司基于人工智能的系統(tǒng)，該系統(tǒng)可以監(jiān)管 Greenhill 公司所有的網(wǎng)絡(luò)流量。它能夠發(fā)現(xiàn)那些標(biāo)準(zhǔn)入侵檢測(cè)軟件看不到的異常，他解釋說。基于人工智能或增強(qiáng)型網(wǎng)絡(luò)安全產(chǎn)品的供應(yīng)商還包括 IBM、Darktrace、FireEye 和 McAfee。
在 Shaffer 部署這個(gè)軟件時(shí)，系統(tǒng)立即發(fā)現(xiàn)了銀行網(wǎng)絡(luò)中一些奇怪的流量模式，而在這之前，這些工作是由公司自己的漏洞掃描器負(fù)責(zé)。
「對(duì)很多系統(tǒng)來說，這就像是有人在掃描你的網(wǎng)絡(luò)，」Shaffer 說道。
Vectra 的軟件并不像絕大多數(shù)的安全系統(tǒng)那樣會(huì)發(fā)出大量警告，一天的發(fā)送量在 10 條左右。同時(shí)無需人工編寫規(guī)則，而是系統(tǒng)自己去學(xué)習(xí)正常行為和違規(guī)行為之間的差異，這為網(wǎng)絡(luò)安全人員節(jié)省了大量的時(shí)間和精力。
人工智能的黑暗面
美國情報(bào)界對(duì)人工智能的使用憂心忡忡：人工智能不僅會(huì)增加網(wǎng)絡(luò)攻擊漏洞、增加事故發(fā)生的風(fēng)險(xiǎn)，還能催生外國組織利用技術(shù)升級(jí)武器和情報(bào)系統(tǒng)，同時(shí)加重了私營部門和金融機(jī)構(gòu)擔(dān)負(fù)的責(zé)任。
「美國政府已經(jīng)表示，如果一切都由機(jī)器運(yùn)作而不再有人為干預(yù)，那么人工智能就是我們的全部執(zhí)法力量、一切人類事務(wù)的總把關(guān)人，」多倫多公司 Duhaime Law 一位律師 Christine 說道，「所以，我們的互聯(lián)性越強(qiáng)，使用系統(tǒng)判定安全性、良性或惡性的比例就越高，系統(tǒng)就會(huì)越容易受到攻擊，因?yàn)槲覀兙谷恢竿到y(tǒng)能夠比想要傷害我們的外國黑客更聰明且更優(yōu)秀?！?/div>
她還指出，政府擔(dān)心人工智能可能會(huì)增加事故發(fā)生的風(fēng)險(xiǎn)，并大幅增加私營部門和金融機(jī)構(gòu)肩負(fù)的責(zé)任。換句話說，系統(tǒng)的自行決策程度越高，就越有可能犯下一個(gè)難以挽回的大錯(cuò)誤。
「例如，系統(tǒng)搞錯(cuò)了付款對(duì)象，而那個(gè)人已經(jīng)走了，或者是顛倒了一群交易對(duì)象，或是將 100 萬美元付給了 1000 個(gè)人，」Duhaime 說道，「如果系統(tǒng)遭到大規(guī)模曝光，那么很多人的個(gè)人信息將被不法分子利用，可能面臨被勒索的威脅。具有超強(qiáng)計(jì)算能力的流氓軟件會(huì)解碼我們的系統(tǒng)，而且能夠?qū)ξ覀兊年P(guān)鍵金融基礎(chǔ)設(shè)施實(shí)施各種破壞性行為。從歷史的角度看，私營部門從未在網(wǎng)絡(luò)安全方面投入足夠多的資金?？墒侵挥羞@么做，才能發(fā)現(xiàn)漏洞。」
鑒于網(wǎng)絡(luò)犯罪分子使用人工智能的現(xiàn)實(shí)，私營部門更有理由以其之道防患于未然，普華永道的 Fox 在援引 Petya 的例子時(shí)說到?！高@些決策是以機(jī)器的水準(zhǔn)和速度制定的，」他說，「沒有人指導(dǎo)這個(gè)惡意軟件。他們編寫了一個(gè)智能程序來完成所有的工作?！?/div>
有一家銀行配備了強(qiáng)大的網(wǎng)絡(luò)安全系統(tǒng)和人工智能工具，卻在兩分鐘內(nèi)被 Petya 感染了 14000 臺(tái)機(jī)器。Fox 說：「人工智能系統(tǒng)在五分鐘內(nèi)便通知到網(wǎng)絡(luò)安全團(tuán)隊(duì)，報(bào)告了一些可能帶有惡意的異常事件，并做了鎖定和關(guān)閉所有機(jī)器的決策。」
罪犯如何使用人工智能
McAfee 公司首席技術(shù)官 Steve Grobman 也指出，新技術(shù)的出現(xiàn)會(huì)引來守法者，也會(huì)招致網(wǎng)絡(luò)罪犯。
「金融領(lǐng)域有如此多網(wǎng)絡(luò)犯罪的原因在于，這是一個(gè)非常有效且低風(fēng)險(xiǎn)的偷錢方法，罪犯只會(huì)遭到逮捕和起訴?！笹robman 說，McAfee 正在學(xué)習(xí)「對(duì)抗性機(jī)器學(xué)習(xí)技術(shù)」。
「我們正在研究惡意軟件究竟是如何對(duì)模型產(chǎn)生不良影響?！顾忉尩溃_子們可能會(huì)把經(jīng)過專門制作的數(shù)據(jù)引入到數(shù)據(jù)集中，這樣模型在未來查看數(shù)據(jù)時(shí)就更難發(fā)現(xiàn)它的問題。
或者，他們可能會(huì)向輸入數(shù)據(jù)集中添加噪聲或虛假信號(hào)，從而使提取真實(shí)信號(hào)的過程變得更加困難。
「如果你成功令防衛(wèi)系統(tǒng)頻繁誤報(bào)，網(wǎng)絡(luò)安全人員將不得不重新調(diào)整其模型，」Grobman 說。他做了一個(gè)比喻：如果一個(gè)小偷想闖入一個(gè)有警報(bào)系統(tǒng)的房子，他可能會(huì)在每晚 11 點(diǎn)鐘騎車經(jīng)過房子，故意激活警報(bào)。幾周后，房主會(huì)對(duì)這個(gè)警報(bào)系統(tǒng)厭倦，不是校準(zhǔn)警報(bào)系統(tǒng)的敏感度，就是把這個(gè)系統(tǒng)系統(tǒng)關(guān)掉。這時(shí)，小偷就有了可乘之機(jī)。
惡意軟件也開始使用人工智能來自動(dòng)化先前人類的工作，Grobman 說。例如，利用電郵或社交媒體搜索的歷史記錄，人工智能可以生成千人千面的魚叉式網(wǎng)絡(luò)釣魚郵件，即黑客會(huì)偽裝成接收者認(rèn)識(shí)的人并向其發(fā)送電子郵件來套取密碼等信息。
他補(bǔ)充道：「人類無需為每個(gè)人量身定制內(nèi)容，軟件可以自動(dòng)創(chuàng)造出適合每一個(gè)人的內(nèi)容，從而可以提高受害者的轉(zhuǎn)化率?！?/div>
Grobman 對(duì)政府面向人工智能的警告感慨萬千。
聲明：凡資訊來源注明為其他媒體來源的信息，均為轉(zhuǎn)載自其他媒體，并不代表本網(wǎng)站贊同其觀點(diǎn)，也不代表本網(wǎng)站對(duì)其真實(shí)性負(fù)責(zé)。您若對(duì)該文章內(nèi)容有任何疑問或質(zhì)疑，請(qǐng)立即與中國機(jī)器人網(wǎng)(www.baoxianwx.cn)聯(lián)系，本網(wǎng)站將迅速給您回應(yīng)并做處理。
電話：021-39553798-8007
電話：021-39553798-8007
更多>相關(guān)專題
0 條相關(guān)評(píng)論
推薦圖文
推薦專題
- 中國機(jī)器人發(fā)展哪座城市最強(qiáng)？
- 會(huì)當(dāng)凌絕頂，一覽眾山小——埃夫特科創(chuàng)板上市之路
- 疫情下不得不看，關(guān)于中國未來十年的政治經(jīng)濟(jì)分析（深度雄文）
- 服務(wù)機(jī)器人成風(fēng)口，疫情過后還能否起飛？
- 中國機(jī)器人抗疫的經(jīng)驗(yàn)，外國人怎么看？又學(xué)去了多少？
- 誰來破解口罩機(jī)困境？
- 蘋果公司為什么做了一個(gè)機(jī)器人？
- 大疆“無人車”新專利圖曝光 這是個(gè)不會(huì)飛的無人機(jī)
- 從協(xié)作機(jī)器人到協(xié)作應(yīng)用？自動(dòng)化應(yīng)用的新拐點(diǎn)來了！
- 性愛機(jī)器人竟如此栩栩如生？
點(diǎn)擊排行
