身為人工智能（AI）威脅論的主要支持者，馬斯克（Elon Musk）一直都很擔(dān)憂 AI 未來(lái)的發(fā)展可能會(huì)對(duì)人類造成危險(xiǎn)，近日他在推特轉(zhuǎn)推了一篇黑客對(duì) AI 威脅的看法報(bào)導(dǎo)，試圖佐證自己的理念。
Gizmodo 的報(bào)導(dǎo)談到，為了解 AI 走上“歧途”的可能情況，網(wǎng)絡(luò)安全公司 ZeroFOX 在 2016 年進(jìn)行了一次實(shí)驗(yàn)，讓人類和 AI 進(jìn)行一場(chǎng)競(jìng)賽，看誰(shuí)能誘導(dǎo)更多 Twitter 用戶點(diǎn)擊惡意連結(jié)。
實(shí)驗(yàn)之前，研究人員先讓 AI 理解這次的目標(biāo)，在研究社交網(wǎng)絡(luò)用戶的行為模式之后，設(shè)計(jì)并拋出網(wǎng)絡(luò)釣魚(yú)（phishing）的誘餌，吸引用戶點(diǎn)擊連接上鉤。
結(jié)果在實(shí)驗(yàn)的規(guī)定時(shí)間里，AI 總計(jì)向 800 多名用戶發(fā)出詐騙推特，并吸引 275 名用戶點(diǎn)擊；相較之下，參加實(shí)驗(yàn)的 ZeroFOX 員工只發(fā)出 129 次嘗試，吸引了 49 名用戶。
不論是拋出的魚(yú)餌數(shù)或吸引到的用戶數(shù)量，AI 都以壓倒性的比數(shù)擊敗了人類。
這樣的結(jié)果似乎在預(yù)料之中，但 ZeroFOX 認(rèn)為最重要的是，這個(gè)結(jié)果證明 AI 確實(shí)能被黑客用來(lái)進(jìn)行惡意攻擊，事實(shí)上，雖然無(wú)法證實(shí)，但他們很有可能已經(jīng)這么做了。
今年 7 月舉辦的美國(guó)黑客年會(huì)（Black Hat），數(shù)百名網(wǎng)絡(luò)安全專家一起討論 AI 技術(shù)可能帶來(lái)的隱憂，當(dāng)與會(huì)者被問(wèn)到“未來(lái)一年內(nèi)，是否會(huì)有黑客開(kāi)始利用 AI 進(jìn)行網(wǎng)絡(luò)犯罪”時(shí)，近 62% 的受訪者給了肯定的答案。
運(yùn)用 AI 進(jìn)行網(wǎng)絡(luò)犯罪
負(fù)責(zé)調(diào)查的 Cylance 安全數(shù)據(jù)科學(xué)家 Brian Wallace 認(rèn)為，黑客應(yīng)該已把 AI 當(dāng)做武器使用好一段時(shí)間了。
“這推論非常合理，因?yàn)?lsquo;規(guī)模’對(duì)黑客來(lái)說(shuō)很重要，他們必須盡可能增加攻擊次數(shù)、目標(biāo)，同時(shí)減少自己的風(fēng)險(xiǎn)。對(duì)他們來(lái)說(shuō)，AI 和機(jī)器學(xué)習(xí)就是能用到的最終完美武器。”
Wallace 的想法并非少數(shù)，移動(dòng)設(shè)備安全防護(hù)公司 Zighra CEO Deepak Dutt 也認(rèn)為，在不久的將來(lái)，運(yùn)用復(fù)雜的 AI 系統(tǒng)進(jìn)行網(wǎng)絡(luò)攻擊的可能性很高，甚至很有可能已被一些國(guó)家利用。
Dutt 指出，AI 可透過(guò)挖取網(wǎng)絡(luò)大數(shù)據(jù)，得到每個(gè)人出生日期、電話、位置等幾乎所有身份信息，也可以監(jiān)控電郵、發(fā)送的文字新=信息，甚至是量身打造個(gè)性化的“魚(yú)餌”，來(lái)進(jìn)行社交工程（social engineering）的黑客攻擊。
這些言論與馬斯克日前發(fā)布的擔(dān)憂十分類似，當(dāng)時(shí)馬斯克在推特提到，他認(rèn)為國(guó)與國(guó)之間的 AI 競(jìng)賽，很可能引爆第三次世界大戰(zhàn)。
“戰(zhàn)爭(zhēng)可能不會(huì)由國(guó)家領(lǐng)導(dǎo)者，而是由人工智能所發(fā)動(dòng)──只要它認(rèn)為‘先發(fā)制人’是取得勝利最有效的方式。”
但就像 Facebook 創(chuàng)辦人馬克·扎克伯格（Mark Zuckerberg）那樣，也有安全數(shù)據(jù)科學(xué)家抱持不同想法。Recorded Future 的技術(shù)長(zhǎng) Staffan Truvé 就認(rèn)為，黑客目前并沒(méi)有使用 AI，而是運(yùn)用更簡(jiǎn)單的自修改代碼或自動(dòng)化方案在正常工作。
Truvé 表示，他并不認(rèn)為對(duì)有犯罪意圖的黑客來(lái)說(shuō)，AI 已經(jīng)成為必須存在的“標(biāo)準(zhǔn)配備”，因?yàn)閭鹘y(tǒng)的方法仍舊有效。“如果你可以從一個(gè)傳統(tǒng)、熟悉的方法得到很好的結(jié)果，又為什么要花時(shí)間和金錢(qián)改變成另一種模式？”
AI 究竟是什么？
對(duì)于專家和業(yè)界意見(jiàn)分歧的看法，《未來(lái)的犯罪》作者 Marc Goodman 認(rèn)為，這主要還是每個(gè)人對(duì) AI 定義的差別所導(dǎo)致，隨著技術(shù)持續(xù)發(fā)展，人們對(duì) AI 的概念也在持續(xù)改變。
從最根本來(lái)說(shuō)，AI 的 I 意味著代理者（無(wú)論是生物或機(jī)械）具備“解決復(fù)雜問(wèn)題的能力”，但其實(shí)人們已經(jīng)擁有許多具備這種功能的工具，只是因?yàn)槌钟械臅r(shí)間過(guò)長(zhǎng)，我們已將其視為理所當(dāng)然。
這就像是在幾個(gè)世紀(jì)以前計(jì)算機(jī)剛出現(xiàn)的時(shí)候，這個(gè)比人類運(yùn)算快上幾百萬(wàn)倍的機(jī)器被認(rèn)為是激進(jìn)的技術(shù)進(jìn)步，但現(xiàn)今已經(jīng)很少人會(huì)注意到它的特別；又或像是 1997 年擊敗世界棋王的 AI 深藍(lán)（Deep Blue），曾經(jīng)被視為人類智力的頂點(diǎn)標(biāo)準(zhǔn)。
而在今天，機(jī)器學(xué)習(xí)（machine learning）、自然語(yǔ)言處理、神經(jīng)網(wǎng)絡(luò)（neural networks）等多方發(fā)展之下，人們也同樣提升了對(duì)機(jī)器智慧的看法，像是語(yǔ)音助理 Siri、自駕車(chē)或疾病診斷功能，都已視為尋常事物。
更別提那些未來(lái)派科幻作品對(duì) AI 的描寫(xiě)，與如今現(xiàn)實(shí)中發(fā)展的應(yīng)用相去甚遠(yuǎn)。如果人們忽視這些工具的力量，那么也可能會(huì)忽略打算開(kāi)發(fā) AI 潛能做事的人，像是黑客。
“‘AI’一詞經(jīng)常被人誤解，談到 AI，許多人聯(lián)想到的都是魔鬼終結(jié)者，但那并非 AI 真正的意義。相反的，AI 是一個(gè)廣泛的命題，包含各種形式的學(xué)習(xí)技術(shù)──而這些智慧恰好是人工的。”
