Pomerleau手握一輛經(jīng)過特別改裝的悍馬軍車的方向盤在城市中行駛。當(dāng)時(shí)，他是美國卡內(nèi)基·梅隆大學(xué)機(jī)器人專業(yè)的研究生。而與他同行的是一臺經(jīng)過其編程的計(jì)算機(jī)，后者能通過攝像機(jī)查看路況，解讀交通狀況，并記下Pomerleau對各種狀況的應(yīng)對方式。Pomerleau希望這臺機(jī)器最終能自己掌握方向盤。

 

　　在每次行程中，Pomerleau都會先對系統(tǒng)做幾分鐘訓(xùn)練，然后讓它自行駕駛。一切似乎都進(jìn)展順利，直到有一天，悍馬在一座橋頭突然偏向一側(cè)。他敏捷地抓住了方向盤，避免了一場事故。

 

　　回到實(shí)驗(yàn)室，Pomerleau試圖弄清電腦哪里出錯(cuò)了。“我論文的部分內(nèi)容就是打開黑匣子，搞清楚電腦在想什么。”他解釋道。但該怎么做？他將計(jì)算機(jī)功能編程為“神經(jīng)網(wǎng)絡(luò)”—— 一種以大腦為原型的人工智能（AI），它有望比常規(guī)算法更適合應(yīng)對復(fù)雜的現(xiàn)實(shí)情況。

 

 

　　不幸的是，神經(jīng)網(wǎng)絡(luò)和大腦一樣是不透明的。它也沒有將學(xué)到的東西條理清晰地儲存在數(shù)字記憶中，而是以一種極難解的方式散布信息。在全面測試了軟件對各種視覺刺激的反應(yīng)后，Pomerleau才發(fā)現(xiàn)了問題：他的“神經(jīng)網(wǎng)絡(luò)”一直在使用長草的路沿作為道路方向的指示，因而被橋的出現(xiàn)所迷惑。

 

　　打開黑匣子

 

　　25年后，破解黑匣子的難度呈指數(shù)上升。但該AI技術(shù)本身的復(fù)雜性和應(yīng)用范圍也經(jīng)歷了爆炸式增長?，F(xiàn)在，Pomerleau在卡內(nèi)基·梅隆大學(xué)兼職教授機(jī)器人學(xué)，他說，比起今天計(jì)算機(jī)上的巨型神經(jīng)網(wǎng)絡(luò)，他的系統(tǒng)只能算是個(gè)簡陋的低配版。用海量數(shù)據(jù)訓(xùn)練AI深度學(xué)習(xí)的技術(shù)也已投入各種商業(yè)應(yīng)用，從自動駕駛汽車到根據(jù)用戶的瀏覽歷史推薦商品的網(wǎng)站，都能見到它的身影。

 

　　該技術(shù)還有望在科研中大顯身手。未來的射電天文臺也需要深度學(xué)習(xí)，尋找值得探測的信號，否則將無法處理海量信息；引力波探測器需要用它理解和排除最微弱的噪聲源；出版商將會用它檢索和標(biāo)記數(shù)以百萬計(jì)的研究論文和書籍。

 

　　一些研究者認(rèn)為，能進(jìn)行深度學(xué)習(xí)的計(jì)算機(jī)最終或能表現(xiàn)出想象力和創(chuàng)造力。“把數(shù)據(jù)交給機(jī)器，它便會推理出自然法則。”加州理工學(xué)院物理學(xué)家Jean-Roch Vlimant說。

 

　　但這些進(jìn)展只會讓黑匣子問題顯得更突出。例如，這些機(jī)器如何找到有價(jià)值的信號？人們怎樣才能確定機(jī)器是對的？人們對深度學(xué)習(xí)的信任應(yīng)到什么程度？

 

　　“在這些算法面前，我覺得我們正在丟失陣地。”哥倫比亞大學(xué)機(jī)器人專家Hod Lipson表示。他把這比作外星生物，它們不只看到紅、綠、藍(lán)三原色，還有第四種顏色，要想讓人類理解它們看世界的方式，或是讓外星人向人們解釋其方式都非常困難。計(jì)算機(jī)向人們解釋問題也面臨類似困難。“在某種程度上，這就像給狗解釋莎士比亞的作品一樣”。

 

　　面對這些挑戰(zhàn)，AI研究者采取了和Pomerleau一樣的應(yīng)對方式——打開黑匣子，用相當(dāng)于神經(jīng)科學(xué)研究的方式理解其中的網(wǎng)絡(luò)。但歐洲核子研究中心（CERN）物理學(xué)家Vincenzo Innocente表示，答案無法讓人豁然開朗。Innocente是在粒子物理學(xué)領(lǐng)域應(yīng)用人工智能的先鋒，他提到，“作為科學(xué)家，我對僅僅將小貓和小狗區(qū)分開來是不滿意的，科學(xué)家會希望能說出區(qū)別到底在哪里”。

 

　　卷起袖子做硬科學(xué)

 

　　歷史上第一個(gè)人工神經(jīng)網(wǎng)絡(luò)出現(xiàn)在上世紀(jì)50年代初，幾乎與有能力執(zhí)行算法的計(jì)算機(jī)同時(shí)產(chǎn)生。人工神經(jīng)網(wǎng)絡(luò)的思路是模擬排列成不同層次的小計(jì)算單元（也就是“神經(jīng)元”）與大量數(shù)字“突觸”相連。底層的單元會收集外部數(shù)據(jù)，然后將信息傳遞給下一層次的單元。這些單元隨后會根據(jù)簡單數(shù)學(xué)法則整合輸入的數(shù)據(jù)，然后將結(jié)果向上傳遞。頂層最終會給出答案，比如判斷圖形到底是貓還是狗。

 

　　這類網(wǎng)絡(luò)的優(yōu)勢在于其學(xué)習(xí)能力。有了附帶正確答案的訓(xùn)練數(shù)據(jù)集，該網(wǎng)絡(luò)便能調(diào)整每層連接的強(qiáng)度進(jìn)而提升其表現(xiàn)，直到頂層的輸出結(jié)果也是正確的。這一過程模擬了大腦通過強(qiáng)化或弱化突觸學(xué)習(xí)的過程，最終得到能成功歸類非訓(xùn)練集數(shù)據(jù)的網(wǎng)絡(luò)。

 

　　但這種學(xué)習(xí)方式也是網(wǎng)絡(luò)中信息分散的原因：就像人腦，記憶是在許多連接中編碼的，而非儲存在固定位置。“你手機(jī)號的第一位存在大腦的哪里？也許是在一堆突觸中，也許離存儲號碼其他數(shù)字的地方不遠(yuǎn)。”加州大學(xué)歐文分校機(jī)器學(xué)習(xí)專家Pierre Baldi說。

 

　　對需要在各自學(xué)科中處理大數(shù)據(jù)的科學(xué)家而言，這使得深度學(xué)習(xí)成了一種需謹(jǐn)慎使用的工具。為了理解原因，英國牛津大學(xué)計(jì)算機(jī)學(xué)家Andrea Vedaldi讓人們想象這樣的情景：在不久的將來，人們用乳房X光片訓(xùn)練深度學(xué)習(xí)網(wǎng)絡(luò)。經(jīng)過訓(xùn)練后，一位外表健康女性的乳腺組織在機(jī)器“看來”或許已經(jīng)有了患癌的跡象。“該網(wǎng)絡(luò)或許暗中學(xué)會了辨認(rèn)標(biāo)志物能預(yù)測癌癥。”他說。

 

　　但如果機(jī)器無法解釋它是怎么知道的，Vedaldi說，就會給醫(yī)生和病人帶來嚴(yán)重困擾。對女性來說，因?yàn)闀@著提升乳腺癌風(fēng)險(xiǎn)的遺傳變異而選擇乳房切除術(shù)已經(jīng)夠難了，但如果連風(fēng)險(xiǎn)因素是什么都不知道，做這樣的選擇就更困難了。

 

　　2012年，一些團(tuán)隊(duì)開始研究這類黑匣子問題。加拿大多倫多大學(xué)機(jī)器學(xué)習(xí)專家Geoffrey Hinton領(lǐng)導(dǎo)團(tuán)隊(duì)參加了一場計(jì)算機(jī)視覺競賽，他們首次表明，從含有120萬張圖像的數(shù)據(jù)庫中分類照片，深度學(xué)習(xí)法強(qiáng)于任何其他AI方法。

 

　　為了探索這一點(diǎn)是如何實(shí)現(xiàn)的，Vedaldi團(tuán)隊(duì)反向運(yùn)行了Hinton的算法，使用了事先經(jīng)過訓(xùn)練的網(wǎng)絡(luò)，試圖重建產(chǎn)生這些解讀的圖像。這有助于研究者識別出機(jī)器是如何表現(xiàn)不同特征的。這就好像是在詢問檢測癌癥的網(wǎng)絡(luò)：“你認(rèn)為這張乳房X光片上的哪個(gè)部分是癌癥風(fēng)險(xiǎn)的標(biāo)志物？”

 

　　不過2014年，懷俄明大學(xué)計(jì)算機(jī)科學(xué)家Jeff Clune團(tuán)隊(duì)使用了能放大所有神經(jīng)元而不僅僅是頂層神經(jīng)元反應(yīng)的方法，并發(fā)現(xiàn)黑匣子問題可能比人們之前所想的更為嚴(yán)重：神經(jīng)網(wǎng)絡(luò)很容易被在人類看來是隨機(jī)噪聲的圖像，或是抽象的幾何圖形愚弄。

 

　　研究者提出了一些方法解決愚弄問題，但目前還沒有找到通用方法。在現(xiàn)實(shí)生活中，這很可能潛藏著危險(xiǎn)。Clune說，尤為令人恐慌的是，黑客也能學(xué)會利用這些漏洞，他們可以讓自動駕駛汽車認(rèn)為廣告牌是公路而一頭撞上去。“我們得卷起袖子做硬科學(xué)研究，讓機(jī)器學(xué)習(xí)更強(qiáng)大、更智能。”Clune總結(jié)道。

 

　　放開雙手

 

　　去年，英國劍橋大學(xué)機(jī)器學(xué)習(xí)研究者Zoubin Ghahramani發(fā)表了一種能將數(shù)據(jù)科學(xué)家工作自動化的算法——從檢查原始數(shù)據(jù)到寫論文都能完成。該軟件名叫自動統(tǒng)計(jì)學(xué)家，能發(fā)現(xiàn)數(shù)據(jù)集中的趨勢和異常，呈現(xiàn)結(jié)論，其中還包括對推論方式的詳細(xì)解釋。Ghahramani提到，這樣的透明度對科學(xué)應(yīng)用來說至關(guān)重要，對許多商業(yè)應(yīng)用也很重要。

 

　　但黑匣子也會引發(fā)擔(dān)憂。大數(shù)據(jù)公司Arundo Analytics的數(shù)據(jù)科學(xué)主管Ellie Dobson表示，許多機(jī)構(gòu)都有類似的關(guān)注。例如，如果調(diào)整英國利率造成了不好的后果，“英格蘭銀行總不能說，‘是黑匣子讓我這么干的’。”她說。

 

　　計(jì)算機(jī)科學(xué)家認(rèn)為，盡管存在種種擔(dān)憂，但開發(fā)透明AI應(yīng)被視為深度學(xué)習(xí)方法的補(bǔ)充，而不是替代。他們表示，一些透明方法或許適用于已經(jīng)被描述為一系列抽象事實(shí)的問題，但并不適用于感知，也就是從原始數(shù)據(jù)中提取事實(shí)。

 

　　無論如何，這些研究人員指出，機(jī)器學(xué)習(xí)給出的復(fù)雜答案是必不可少的科學(xué)工具，因?yàn)檎鎸?shí)世界就是非常復(fù)雜的。例如，對天氣或是股票市場來說，綜合、簡化的描述可能并不存在。“有一些事情是無法用語言描述的。”巴黎綜合理工學(xué)院應(yīng)用數(shù)學(xué)家Stéphane Mallat說，“如果你問醫(yī)生是如何做診斷的，醫(yī)生會告訴你一些理由，但人們?yōu)槭裁匆?0年才能成為優(yōu)秀的醫(yī)生呢？因?yàn)樾畔⒉粌H僅在書本中。”

 

　　Baldi認(rèn)為，科學(xué)家應(yīng)該擁抱深度學(xué)習(xí)技術(shù)，而不必太介意黑匣子問題。畢竟，所有人的腦袋里都有一個(gè)黑匣子。“人們一直在使用大腦，也始終相信大腦，但并不知道它是怎么工作的”。