如今，即使是像自動駕駛汽車那樣用有功能算力的智能系統(tǒng)，也可能被蒙騙，以至于把胡亂的涂鴉誤以為是火車、柵欄或校車。

 

　　人們普遍認(rèn)為，人們無法理解計算機(jī)怎么會被那些圖像騙過的，但在一項(xiàng)新的研究中，約翰霍普金斯大學(xué)的研究人員發(fā)現(xiàn)，實(shí)際上同樣的圖像很多人看到的跟計算機(jī)并無二致。

 

　　這些發(fā)現(xiàn)表明，現(xiàn)代計算機(jī)可能并沒有我們想象的那么不同于人類，同時也說明人工智能的進(jìn)步正在不斷縮小人類與機(jī)器在視覺能力上的差距。這項(xiàng)研究最近發(fā)表在《自然通訊》科學(xué)雜志上。

 

　　“大多數(shù)時候，我們這個領(lǐng)域的研究都是關(guān)于使得計算機(jī)像人一樣思考，”資深作者、約翰霍普金斯大學(xué)心理和腦科學(xué)系助理教授查茲·費(fèi)爾斯通（Chaz Firestone）說道，“我們的項(xiàng)目則恰恰相反——我們在問人們是否能像計算機(jī)一樣思考。”
 

 

　　四張抽象的圖片。你知道人工智能從中看出些什么嗎？從左到右，計算機(jī)將上面的四張圖分別誤以為是數(shù)字時鐘、縱橫拼字謎、國王企鵝和突擊步槍。

 

　　對人類來說輕而易舉的事情，對計算機(jī)來說往往是棘手的。長期以來，人工智能系統(tǒng)在做數(shù)學(xué)計算或記憶大量信息方面一直比人類出色，但幾十年來，人類在識別狗、貓、桌子或椅子等日常物體方面則一直占據(jù)優(yōu)勢。然而，最近，模仿大腦的“神經(jīng)網(wǎng)絡(luò)”已經(jīng)接近人類識別物體的能力，從而帶來了技術(shù)進(jìn)步，推動自動駕駛汽車、人臉識別程序以及幫助醫(yī)生發(fā)現(xiàn)放射掃描圖像中的異常狀況的人工智能系統(tǒng)的發(fā)展。

 

　　但即使有了這些技術(shù)進(jìn)步，也存在一個關(guān)鍵的盲點(diǎn)：圖像有可能被故意做手腳，使得神經(jīng)網(wǎng)絡(luò)無法正確識別。這些圖片，被稱為對抗性的或愚弄性的圖片，是一個大問題。它們不僅可能為黑客所利用，從而造成安全風(fēng)險，它們的存在也表明，同樣的圖像人類和機(jī)器實(shí)際上看到的東西卻全然不同。

 

　　在某些情況下，只需要重新配置一兩個像素，計算機(jī)就能把蘋果看成車輛。在其他的情況下，對于毫無意義的電視畫面，機(jī)器看到的卻是犰狳或百吉餅。

 

　　“這些機(jī)器如此錯誤識別物體，人類則似乎絕不會那么離譜。”費(fèi)爾斯通指出，“但令人驚訝的是，沒有人真正檢驗(yàn)過這一點(diǎn)。我們怎么知道人們看不出計算機(jī)看出的東西呢？”
 

 

　　四個抽象圖像。計算機(jī)以為上面的圖像(從左至右)分別是電吉他、非洲灰鸚鵡、草莓和孔雀。

 

　　為了檢驗(yàn)這一點(diǎn)，費(fèi)爾斯通和約翰霍普金斯大學(xué)認(rèn)知科學(xué)專業(yè)大四學(xué)生周正龍(Zhenglong Zhou音譯)讓人們“像機(jī)器一樣思考”。機(jī)器只有相對較小的詞匯量來描述圖像中的東西。因此，費(fèi)爾斯通和周正龍向人們展示了幾十張已經(jīng)騙過計算機(jī)的圖片，并給人們提供了與計算機(jī)一樣的標(biāo)簽選項(xiàng)。他們問人們，在兩種物體識別結(jié)果中計算機(jī)選定了哪一種——一種是計算機(jī)的真實(shí)結(jié)論，另一種是胡亂捏造的答案。圖片中那團(tuán)難以名狀的東西是面包圈還是風(fēng)車？事實(shí)證明，人們很大程度上都猜對了計算機(jī)做出的識別結(jié)果。

 

　　在75%的情況下，人們選擇的答案與計算機(jī)的識別結(jié)果一致?；蛟S更值得注意的是，98%的人傾向于像計算機(jī)那樣回答問題。

 

　　接下來，研究人員更進(jìn)一步，讓人們在計算機(jī)最喜歡的答案和它的次優(yōu)猜測之間做出選擇；例如，圖片中那團(tuán)難以名狀的東西是百吉餅還是脆餅干？人們再次驗(yàn)證了計算機(jī)的選擇，91%的受試者選到了計算機(jī)的第一選擇。

 

　　即便是研究人員讓人們在48個選項(xiàng)中猜測圖片中的物體是什么，而且這些圖片看起來像靜態(tài)的電視畫面，絕大多數(shù)的受試者也選擇了機(jī)器所選的選項(xiàng)。在不同的實(shí)驗(yàn)中，共有1800名受試者接受了測試。

 

　　“我們使用的神經(jīng)網(wǎng)絡(luò)模型可以很大程度上模仿人類的行為，但我們正在研究的現(xiàn)象被認(rèn)為是該模型的一個關(guān)鍵缺陷。”認(rèn)知科學(xué)與數(shù)學(xué)專業(yè)學(xué)生周正龍表示，“我們的研究能夠提供證據(jù)，證明這一缺陷可能并不像人們想象的那么糟糕。它提供了一個新的視角，以及一個可以探索的新的實(shí)驗(yàn)范式。”

 

　　周正龍打算在認(rèn)知神經(jīng)科學(xué)領(lǐng)域追求自己的事業(yè)，他從去年年初開始與費(fèi)爾斯通一起展開這項(xiàng)研究。他們共同設(shè)計了研究，改進(jìn)了方法，并為論文做了結(jié)果分析。

 

　　“約翰霍普金斯大學(xué)為本科生提供了大量的研究機(jī)會，但不同實(shí)驗(yàn)室的研究經(jīng)歷可能有所不同，這要看導(dǎo)師。”他說，“我的研究經(jīng)歷非常寶貴。通過單獨(dú)與費(fèi)爾斯通博士共事，我學(xué)到了很多東西——不僅僅是關(guān)于實(shí)驗(yàn)設(shè)計，還有論文發(fā)表過程，以及在學(xué)術(shù)環(huán)境中進(jìn)行完完整整的研究需要做些什么。”

 

　?。ㄟx自 hub 作者 Jill Rosen 編譯 樂邦 ）