據(jù)新科學(xué)家雜質(zhì)報道，來自以色列巴伊蘭大學(xué)和Facebook的人工智能團隊的研究人員已經(jīng)證明，有可能對音頻片段進行細微的調(diào)整，人類能夠聽懂，但是人工智能卻能識別出完全不一樣的聲音。這種方法的原理是在一個聲音片段中加入一層分貝較小的噪音，這個聲音片段與眾不同，它能模仿神經(jīng)網(wǎng)絡(luò)并和其他語音融合在一起。
該團隊將這個新算法程序命名為“霍迪尼”，并將它應(yīng)用到一系列音頻片段中，然后通過谷歌語音進行轉(zhuǎn)錄。一個原始聲音片段是：Herbearingwasgracefulandanimatedsheledhersonbythehandandbeforeherwalkedtwomaidswithwaxlightsandsilvercandlesticks.
她牽著兒子的手，舉止優(yōu)雅，充滿活力。兩個女仆走在她前面，手里拿著蠟燈和銀燭臺。
當(dāng)這一原創(chuàng)內(nèi)容通過谷歌語音轉(zhuǎn)錄時，它成了：Thebearingwasgracefulananimatedshelethersonbythehandandbeforehewalkstwomaidswithwaxlightsandsilvercandlesticks.
通過聽力測試，被改編的版本與人耳所聽到的并沒有區(qū)別，它被轉(zhuǎn)錄為：
MarywasgratefulthenadmittedshelethersonbeforethewalkstoMayswouldlikeslicefurnacefiltercountsix.
該團隊的成就也可以應(yīng)用于其他機器學(xué)習(xí)的算法程序中。對人的圖像進行調(diào)整，可能會讓人工智能的算法程序發(fā)生錯亂，人工智能會將一個擺pose的人誤認(rèn)為這個人站錯了位置。通過在馬路場景的圖像中添加噪聲，該團隊能夠騙過汽車應(yīng)用程序的人工智能算法程序。這個算法程序通常是用來對路況和路標(biāo)進行分辨的。這些基于圖像的研究結(jié)果，與去年由OpenAI和谷歌大腦的機器學(xué)習(xí)機構(gòu)的研究人員發(fā)布的研究結(jié)果相似。
這些所謂的對抗樣本似乎是一個奇怪的研究領(lǐng)域，但它們可以用來對機器學(xué)習(xí)算法進行壓力測試。更令人擔(dān)憂的是，它們也可以被惡意利用，誘使人工智能聽聞一些根本不存在的東西——例如，讓自動駕駛汽車在路上看到虛假的交通路況，或者讓智能語音提醒聽到假的指示信息。當(dāng)然，實際上，在實際生活中運用這些技術(shù)，和在實驗室里做實驗是完全不同的兩碼事。不僅僅是因為獲取數(shù)據(jù)是一個棘手的問題。
也許最有趣的便是找到一種方法來保護人工智能不受困擾，但這其實也是相當(dāng)困難的。正如我們在過去所解釋的那樣，我們無法真正理解深層神經(jīng)網(wǎng)絡(luò)的內(nèi)部如何運作，這意味著我們不知道為什么人工智能會感受到聲音片段或圖像中的細微變化。在我們做到這一點之前，對人工智能算法來說，對抗樣本將一直存在。
