AI 就好像家里的菜刀一樣，既是你切菜的好工具，但也可能成為暴徒手中的趁手武器。雖然技術(shù)無罪，但也應(yīng)當(dāng)善用技術(shù)。這篇馬斯克在推特上轉(zhuǎn)發(fā)的文章，或許可以解釋他到底在擔(dān)憂 AI 什么，AI 對你我的生活又會有哪些影響。
去年，來自安全公司 ZeroFOX 的兩位數(shù)據(jù)科學(xué)家進行了一次實驗，看看誰更好地讓 Twitter 用戶點擊惡意鏈接，人類或人工智能。研究人員教導(dǎo)人工智能研究社交網(wǎng)絡(luò)用戶的行為，然后設(shè)計并實施自己的網(wǎng)絡(luò)釣魚誘餌。在測試中，AI 比人類競爭對手強大得多，制造并分發(fā)了比人類更多的網(wǎng)絡(luò)釣魚推文，成功率也大大提高。
這個名為 SNAP_R 的 AI 以每分鐘 6.75 條推文的速度向 800 多名用戶發(fā)送了模擬的釣魚詐騙推文，吸引到 275 位受害者。相比之下，參加實驗的人類實驗者只能每分鐘發(fā)出 1.075 條推文，只吸引了 49 位用戶。
雖然這只是一個實驗，但它也證明 AI 已經(jīng)可以用來進行惡意攻擊。事實上，黑客可能已經(jīng)在使用 AI 來進行這種攻擊了。今年 7 月份，在 2017 年美國黑帽安全大會上，數(shù)百名領(lǐng)先的網(wǎng)絡(luò)安全專家聚集在拉斯維加斯，討論這個問題和新興技術(shù)帶來的其他隱患。在接力調(diào)查期間舉行的巡回調(diào)查中，有與會者被問及在未來一年內(nèi)黑客是否會使用 AI 進行攻擊，62％的受訪者表示肯定。
數(shù)據(jù)安全科學(xué)家 Brian Wallace 受訪時說：「黑客一直在使用人工智能作為武器，因為這是非常有意義的，因為黑客有規(guī)模的問題，試圖盡可能多的攻擊，盡可能多的目標，同時盡量減少對自己的風(fēng)險。特別是人工智能和機器學(xué)習(xí)，是他們最終使用的完美工具。「他說，這些工具可以決定要攻擊的人，攻擊者，何時攻擊等等。
被忽視的 AI 技術(shù)發(fā)展
1997 年深藍電腦對戰(zhàn)國際象棋冠軍獲勝
一個有趣的事實是，隨著技術(shù)的進步，我們對它的觀念也隨之變化。例如，幾個世紀以前，如果你說由一個叫做計算器的東西計算速度可能會比人類快幾百萬倍，這肯定被認為是天方夜譚，但是今天很少有人會將計算器視為特別的事情。
同樣，在國際象棋中贏得勝利的能力曾經(jīng)被認為是人類智力的高標準，但自 1997 年 Deep Blue 擊敗加里·卡斯帕羅夫以來，這種認知技能已經(jīng)失去了前所未有的光彩。所以，隨著 AI 的每一次突破，機器智能和神經(jīng)網(wǎng)絡(luò)這樣的現(xiàn)代工具是人造智能的一種形式也在變得平凡。
今天，機器學(xué)習(xí)、自然語言處理，神經(jīng)網(wǎng)絡(luò)等技術(shù)的快速發(fā)展降低了我們對什么構(gòu)成 AI 的看法。幾年來，人工助理（如 Siri 或 Alexa），自駕車和疾病診斷算法開始被視作理所當(dāng)然的，并且很多人開始覺得這樣的 AI 其實也沒有多大力量。
但不要誤會，如果我們忽視工具或忽視這些工具的力量，我們可能會被那些渴望利用 AI 潛力的人蒙蔽，黑客包括在內(nèi)。
黑客的邪惡意圖
黑客利用 AI 將更容易破解私人數(shù)據(jù)，造成安全隱患
AI 或許沒有電影中想象的那么邪惡，但是在錯誤的人手中，他們同樣會變成可怕的工具。
移動安全初創(chuàng)公司 Zighra 的創(chuàng)始人兼首席執(zhí)行官 Deepak Dutt 表示，在不久的將來，復(fù)雜的人工智能將被用于網(wǎng)絡(luò)攻擊的可能性很高，而且它可能已經(jīng)被俄羅斯、東歐等國家使用家。關(guān)于 AI 如何以惡劣的方式使用，Dutt 認為人們并不缺乏創(chuàng)意。
「人工智能可用于挖掘大量公共領(lǐng)域和社交網(wǎng)絡(luò)數(shù)據(jù)，以提取出生日期、性別、位置電話號碼、郵箱地址等個人身份信息，可用于黑客入侵個人賬戶，」Dutt 告訴記者?！杆€可以用于自動監(jiān)控電子郵件和短信，并為社會工程攻擊創(chuàng)建個性化的網(wǎng)絡(luò)釣魚郵件網(wǎng)絡(luò)釣魚詐騙是非法嘗試從不知情的用戶獲取敏感信息。AI 可以更容易地突變惡意軟件、更智能地搜索并挖掘和利用系統(tǒng)中的漏洞。
Dutt 懷疑 AI 已經(jīng)被用于網(wǎng)絡(luò)攻擊，而且這些罪犯已經(jīng)在使用某種機器學(xué)習(xí)功能，例如通過自動創(chuàng)建個性化的網(wǎng)絡(luò)釣魚電子郵件。
「但是，新的機器學(xué)習(xí)技術(shù)，如深度學(xué)習(xí)，AI 可以用來實現(xiàn)我剛才提到的更高水平的準確性和效率的情況，但新的是什么。」他說。深度學(xué)習(xí)也稱為分層學(xué)習(xí)，是利用大型神經(jīng)網(wǎng)絡(luò)的機器學(xué)習(xí)的子領(lǐng)域。它已經(jīng)應(yīng)用于計算機視覺，語音識別，社交網(wǎng)絡(luò)過濾等諸多復(fù)雜任務(wù)，往往產(chǎn)生優(yōu)于人類專家的成果。
「此外，大量社交網(wǎng)絡(luò)和公共數(shù)據(jù)集（Big Data）的可用性也有所幫助。先進的機器學(xué)習(xí)和深度學(xué)習(xí)技術(shù)和工具現(xiàn)在可以在開源平臺上輕松獲得 - 這與相對便宜的計算基礎(chǔ)設(shè)施相結(jié)合，有效地使得網(wǎng)絡(luò)攻擊更加復(fù)雜。
《未來犯罪：人人相關(guān)人人脆弱的時代我們能做什么》一書的作者古德曼認為越來越多的網(wǎng)絡(luò)攻擊都將自動化。人類黑客鎖定單一目標的情況是非常少的，現(xiàn)在更常見的方法是使用 AI 和機器學(xué)習(xí)的工具自動化攻擊 - 從腳本分布式拒絕服務(wù)（DDoS）攻擊到勒索軟件、犯罪聊天室等的一切。
AI 可以以超越任何個人黑客的速度和復(fù)雜程度生產(chǎn)復(fù)雜且高度針對性的腳本。盡管如此，這些可能性似乎幾乎是無止境的。除了已經(jīng)描述的犯罪活動之外，這些技術(shù)還可以用來針對弱勢群體，進行快速攻擊，開發(fā)智能惡意軟件等。
Recorded Future 首席技術(shù)官 StaffanTruvé 認為，隨著 AI 成熟，黑客將開始使用它來提高攻擊的性能，同時也降低成本。
要避免 AI 被壞人利用，還得依靠 AI 發(fā)展
AI ON AI 可能才是正確的解決方案
幸運的是，對于潛在的黑客風(fēng)險，安全專業(yè)人員有一個相當(dāng)有力和明顯的對策，那就是人工智能本身。
麻煩的是，和黑客之間的較量一定是一場競賽。兩方都沒有選擇，因為唯一的對抗方式就是越來越依賴 AI。「一旦你開始對付敵手，你別無選擇，只能自己使用武器化的 AI。」，華萊士認為。為了保持領(lǐng)先地位，華萊士建議安全公司進行自己的內(nèi)部研究，并開發(fā)自己的武器化 AI 來戰(zhàn)斗并測試他們的防御。
事實上，美國國防部研究機構(gòu) DARPA 已經(jīng)采用了這種方法，并組織了大量的挑戰(zhàn)，AI 開發(fā)人員在捕捉旗幟的虛擬游戲中將他們的作品相互對方。這個過程和達爾文的自然進化理論非常相似，于黑客和信息技術(shù)專業(yè)人士來說，通過對抗技術(shù)能生成最合適的技術(shù)。
「我們將不再需要」使用越來越多的 AI「從欺詐檢測到打擊網(wǎng)絡(luò)攻擊」。事實上，幾個初創(chuàng)企業(yè)已經(jīng)在與 IBM 沃森合作打擊網(wǎng)絡(luò)威脅，防病毒公司利用 AI 將異常檢測作為一種自動的方法。比如，Truvé 正在使用 AI 技術(shù)來進行自然語言處理，比如利用自動檢測何時什么時候可能會發(fā)生攻擊，并預(yù)測未來的威脅。
利用 AI 的黑客將采用更有效的方式進行攻擊，其危害遠遠超過傳統(tǒng)的網(wǎng)絡(luò)攻擊手段。因此現(xiàn)在開發(fā)的基于 AI 的防御機制在很大程度上也可能用于基于 AI 的攻擊。信息科技團隊不斷監(jiān)測黑客的網(wǎng)絡(luò)攻擊活動，并從中學(xué)習(xí)，不斷通過監(jiān)督和無監(jiān)督的基于學(xué)習(xí)的防御策略的組合進行創(chuàng)新，以便在第一個標志上發(fā)現(xiàn)和阻止攻擊，在任何戰(zhàn)爭中，采取更為積極的進攻防御策略可能是更好的選擇。
