提到谷歌大腦，一定會提到的就是它背后的“大腦”——Jeff Dean，他于1999年加入Google，帶領(lǐng)團(tuán)隊完成了一系列令人矚目的工作，如支持谷歌運行的超大規(guī)模計算框架MapReduce，以及你正在使用的TensorFlow等等。作為谷歌大腦的負(fù)責(zé)人，他仍在進(jìn)行著一系列開創(chuàng)性的研究工作。近日，Jeff Dean接受了Gigaom的訪問，談及了這些工作和未來的主攻方向，也分享了他個人對于通用人工智能、機器學(xué)習(xí)以及人工智能應(yīng)用的一些見解。
Jeff Dean與谷歌
問：能不能先和我們講一講你剛加入公司時的情形~
Jeff Dean：那時候公司很小，在Palo Alto一棟二層辦公室里。我們有一張乒乓球桌和吃不完的東西。在那興奮和充滿活力的日子里，我們懷著改變世界的心情研發(fā)一款如今人人都在用的搜索引擎，也為它傾注了無數(shù)的心血。
問：那么在過去的十七八年里，哪些是你認(rèn)為做過最棒的工作？
Jeff Dean：首先我為我們的廣告系統(tǒng)搭建了最早的框架，并進(jìn)一步改進(jìn)維護(hù)升級了它。 隨后幾年我和其他同事把主要的精力放在了核心搜索系統(tǒng)上。這一系統(tǒng)包含了從互聯(lián)網(wǎng)上爬取數(shù)據(jù)和頁面的抓取系統(tǒng)以及將這些數(shù)據(jù)整理成可以快速訪問的索引系統(tǒng)。
當(dāng)用戶詢問Google時，我們必須非常迅速的分析出哪一個頁面是與問題最為相關(guān)的，并為用戶返回一系列結(jié)果，就像今天我們訪問Google所看到的一樣。同時在后臺還有一整套服務(wù)系統(tǒng)，當(dāng)用戶詢問Google時，它需要來決定將問題分發(fā)給哪一臺計算機來解決，隨后將這些獨立的分析結(jié)果組合起來返還給用戶。在這些工作中，我主要負(fù)責(zé)核心搜索系統(tǒng)和索引系統(tǒng)。
問：介紹一下你目前領(lǐng)導(dǎo)的谷歌大腦計劃？
Jeff Dean：我們在其中投入了相當(dāng)大的研究精力來進(jìn)行機器學(xué)習(xí)和人工智能的研究，并利用這一系列研究成果來構(gòu)建智能系統(tǒng)。這些系統(tǒng)可能會實現(xiàn)產(chǎn)品化，并構(gòu)建出全新的產(chǎn)品形態(tài)。
同時我們也致力于將這些技術(shù)嵌入到現(xiàn)有的產(chǎn)品中去。我們經(jīng)常與Google不同的團(tuán)隊合作開發(fā)更加智能化的產(chǎn)品。同時我們也進(jìn)行一部分純粹的、沒有太清晰產(chǎn)品規(guī)劃的研究，目的是不斷增強和提高我們的系統(tǒng)能力。即使現(xiàn)在我們不知道這些技術(shù)和研究的應(yīng)用，但是未來它們一定會在這里或者那里發(fā)光發(fā)熱。
人工智能 vs. 通用人工智能
問：現(xiàn)在幾乎人人都在談人工智能，但對你而言什么是人工智能？AI對你來說意味著什么？能不能用簡單明了的語言告訴我們你認(rèn)為的人工智能是什么呢？
Jeff Dean：這是一個在計算機發(fā)展早期就提出的概念。我認(rèn)為它本質(zhì)上是構(gòu)建一個顯示出智能的系統(tǒng)（主體、結(jié)構(gòu)、程序…）。我們?nèi)祟惡推渌镏g的區(qū)別在于我們擁有高層次的智慧水平。我們可以彼此交流，吸收知識并且進(jìn)行高水平的理解和認(rèn)知。
我們可以通過（基于經(jīng)驗）想象認(rèn)識到現(xiàn)實世界中某些行為的后果。我們希望能夠構(gòu)建出一個盡可能多的表現(xiàn)出智能特征的系統(tǒng)。但對于狹義的人工智能來說，特指一些能夠處理特定任務(wù)的智能系統(tǒng)，這就需要十分特定的智能。
但是在我們心底依舊想要構(gòu)建出一套足夠靈活、可以處理不同事物的智能系統(tǒng)。我認(rèn)為在狹義人工智能的領(lǐng)域我們已經(jīng)取得了一系列重要的進(jìn)展，但對于更開放的靈活的智能問題至今仍然面臨著巨大的挑戰(zhàn)，還需要很多的研究人員投入無數(shù)的精力為之奮斗。
問：你一直在強調(diào)“舉止很智能（behave intelligently）”或者“看起來智能（appear intelligent）”，那么你是否認(rèn)為人工智能就像人造草皮并不是真正皮革那樣，一些系統(tǒng)也并不是真正的智能，而是在模擬智能？
Jeff Dean：我的意思是我認(rèn)為的人工智能會展現(xiàn)出一系列我們?nèi)祟愓J(rèn)為是智能的特征。雖然生物學(xué)和硅基智能有不同的優(yōu)劣，但是我們真正關(guān)心的是：“這一系統(tǒng)是否真正有用，是否能拓展增強人類的智能水平呢？”
問：對于通用人工智能，目前人們對于這一技術(shù)出現(xiàn)的估計從5年后到500年后都有，你認(rèn)為為什么大家的估計會相差如此之大？
Jeff Dean：我認(rèn)為這主要是由于我們對自己真正的需求還不確定造成的。我們目前對于人類如何處理信息的方式還不甚了解，對于人腦和智能系統(tǒng)的完全沒有深入的理解，所以我們真的無從知曉要構(gòu)架一個相似的系統(tǒng)需要花費多少時間精力。所以一些人認(rèn)為這即將來臨，另一些人認(rèn)為還有漫長的路要走。而我的觀點應(yīng)該比較中庸。近五到十年來我們獲得了巨大的進(jìn)步，按照這樣的進(jìn)度估計，我認(rèn)為二三十年后可能出現(xiàn)擁有很多智能特征的系統(tǒng)，但是我對我的期待保留很高的誤差。
問：你似乎認(rèn)為通用人工智能會由現(xiàn)在進(jìn)行的工作不斷演進(jìn)而成，而相反的觀點是那會是完全不同的一個領(lǐng)域，我們現(xiàn)在甚至還沒有開始這方面的研究。請問你同意這樣的說法嗎？
Jeff Dean：我們今天的工作已經(jīng)觸及到了構(gòu)建通用人工智能系統(tǒng)，我承認(rèn)還有很多的問題我們沒有解決，還有大量的問題我們不了解，但我認(rèn)為我們今天所從事的研究將會成為未來通用人工智能的一部分。
問：你認(rèn)為你能見證通用人工智能的到來嗎？
Jeff Dean：哈哈，人生充滿了意外，但我們想一想不遠(yuǎn)的十五年或者二十年后，世界上會出現(xiàn)很多很多現(xiàn)在還無法想象、我們所沒有的東西，時間將為我們呈現(xiàn)出我們從未見過的未來。
問：你怎么看待機器的意識或者人工智能會產(chǎn)生意識這件事的？
Jeff Dean：我不知道，我平常都會避免卷入這樣的哲學(xué)爭論中去。于我而言，意識就是生物系統(tǒng)的一系列神經(jīng)元的電脈沖活動，并讓其意識到自我和因果等等。從這個角度看，意識并不是什么特殊的東西，它只是智能系統(tǒng)所展現(xiàn)出的多個特征中的一個而已。
問：那么你覺得未來的世界將會怎樣呢？我們會不會產(chǎn)生不斷解決人共通用智能的機器？那時的世界將會怎樣？于人類是好是壞呢？
Jeff Dean：我認(rèn)為這會是人類社會的一大進(jìn)步。讓我們回想一下從前的一次次變革，在古代我們需要99%的人類來勞作才能獲得足夠的事物，但在工業(yè)革命后很少的一部分人就可以養(yǎng)活絕大多數(shù)人群，從而讓這些人可以專心從事其他的工作，不斷推動社會的進(jìn)步。我認(rèn)為人工智能智能將會應(yīng)用在生活的方方面面，可能不是那么偉大的地方，但是確確實實會從每一個地方改變我們的世界，推動人類社會。
我一直在想如果現(xiàn)在我要處理一個問題，我需要花9-10個小時的時間來思考，查閱論文并總結(jié)，隨后開始通過其中的信息來幫助我解決問題。那么如果在未來，這一切的工作可以用一句“幫我找到某某領(lǐng)域的文章并總結(jié)給我”，可能只需要20秒就能完成，這樣的人工智能一定會對我們的工作產(chǎn)生巨大的幫助。
讓機器學(xué)會學(xué)習(xí)
問：那么對于目前我們所面臨的挑戰(zhàn)你有什么看法呢？
Jeff Dean：今天如果我們需要解決一個機器學(xué)習(xí)的相關(guān)問題，我們傾向于讓人類機器學(xué)習(xí)專家介入。我們擁有巨量的數(shù)據(jù)，龐大的計算能力和機器學(xué)習(xí)專家來為問題尋找解決的方向。我們的系統(tǒng)可以自己從觀察中學(xué)習(xí)，如何完善這一任務(wù)。
這是建立機器學(xué)習(xí)系統(tǒng)常用的方法，也是視覺和語音在幾年來綻放出光彩的原因，也是如今機器翻譯越用越準(zhǔn)確的原因。
雖然這一系統(tǒng)可以在某一領(lǐng)域做得十分完美，但我們需要的是可以應(yīng)對多種任務(wù)的通用人工智能，可以處理成千上萬的事物，甚至是從未遇到過事情。我們希望它可以從自身的經(jīng)驗學(xué)習(xí)，將上百種事物的經(jīng)驗迅速移植推廣到上千種不同的事物上去。
這最后將會稱為元學(xué)習(xí)，在不需要人類機器學(xué)習(xí)專家的幫助下學(xué)會很多的工作。它可以隨著時間不斷改進(jìn)自己的能力，并基于已有的經(jīng)驗拓展新的能力。
問：這聽起來像是遷移學(xué)習(xí)？這是一個全新的領(lǐng)域還以一個由來已久的方向呢？
Jeff Dean：人們對于這一問題思考了很長時間了，主要內(nèi)容是這樣的，如果我有一堆任務(wù)需要完成，那么我先學(xué)會其中的三個任務(wù)，隨后利用這三個任務(wù)的學(xué)習(xí)結(jié)果和更少量的數(shù)據(jù)來學(xué)習(xí)第四個任務(wù)，一步一步進(jìn)行下去我們就能得到一個不依靠人類幫助的學(xué)習(xí)系統(tǒng)了，它可以自己學(xué)習(xí)處理新的任務(wù)。
多任務(wù)學(xué)習(xí)和遷移學(xué)習(xí)已經(jīng)在小規(guī)模上成功，但我們需要在更大規(guī)模上驗證它的有效性并實現(xiàn)它。
還有一件事情特別值得注意，就是學(xué)會學(xué)習(xí)（learning to learn）。這意味這一個系統(tǒng)可以依賴于經(jīng)驗自己學(xué)習(xí)去解決一個全新的任務(wù)，甚至為了解決新任務(wù)而進(jìn)行一系列實驗。
問：很多人認(rèn)為人工智能的發(fā)展會損害人們的工作機會。如果機器能比人類更快的學(xué)習(xí)，那么有的人群就會被排除在經(jīng)濟(jì)生產(chǎn)之外了。你是如何看待這個問題的呢？
Jeff Dean：我認(rèn)為在某些行業(yè)自動化的確會逐漸取代很多工作崗位，而且這是每個時代都會發(fā)生的事情，就像工業(yè)革命對農(nóng)業(yè)和手工業(yè)造成的沖擊一樣。
但是人們總能發(fā)現(xiàn)新的工作機會，或者總會有新的工作等待著人們?nèi)ヌ幚?。政治家和決策者們應(yīng)該認(rèn)真考慮過計算機自動化變革后社會結(jié)構(gòu)的形態(tài)和今后的發(fā)展，這是一個政策問題。我認(rèn)為計算機和自動化會取代目前人類從事的重復(fù)性，低水平的勞動，但對于復(fù)雜的活動計算機還遠(yuǎn)遠(yuǎn)沒有那個能力去取代人類的工作。
問：你不擔(dān)心技術(shù)帶來的失業(yè)問題嗎？
Jeff Dean：我承認(rèn)一定會有很多人在這一大潮中失去工作，這很不公平。很多工作將被自動化更好的完成。我想指出的是，最容易被自動化代替的是日復(fù)一日的重復(fù)勞動，而那些每天都面臨不同挑戰(zhàn)或者復(fù)雜繁多事物的工作是不會那么輕易被取代的。
問：那么現(xiàn)在你在AI方面主要的工作是什么呢？
Jeff Dean：我們團(tuán)隊作為一個整體在做很多方面的工作。我主要為團(tuán)隊指明前進(jìn)的方向。對于個人來說，我參與研究了一些醫(yī)療健康方面的問題，我認(rèn)為機器學(xué)習(xí)可以為健康領(lǐng)域帶來不一樣的改變。
同時我還致力于如何構(gòu)建出適合于機器學(xué)習(xí)的計算機軟硬件系統(tǒng)，可以為我們提供快速實現(xiàn)驗證機器學(xué)習(xí)想法，并可以大規(guī)模應(yīng)用。我需要和硬件團(tuán)隊一起確定適合機器學(xué)習(xí)的硬件架構(gòu)。TensorFlow是我們團(tuán)隊出品的一個開源機器學(xué)習(xí)框架，在其中涵蓋了我們的研究成果，并利用它訓(xùn)練我們自己的產(chǎn)品。同樣全球各地的開發(fā)者也在利用它創(chuàng)建自己的機器學(xué)習(xí)系統(tǒng)，并不斷完善它的性能。
我現(xiàn)在還在“Learning to learn”的方向上進(jìn)行研究，因為我認(rèn)為這將會成為一個十分重要的領(lǐng)域。
問：很多人覺得如果我們構(gòu)架出了通用人工智能，那將會出現(xiàn)下一個像Google一樣的公司？
Jeff Dean：我認(rèn)為它可能出現(xiàn)在任何地方。我們在這個領(lǐng)域做了相當(dāng)廣闊的努力，這是一個十分重要的領(lǐng)域值得我們不斷推進(jìn)。但通用人工智能是一個十分長期的目標(biāo)呢。
問：你身體里有幾十億個細(xì)胞，但是它們卻不知道你是誰，但合起來就是你。你知道你的細(xì)胞沒有幽默感但是你有。這意味著在一定程度上，一個整體會擁有個體所不具備的特征。當(dāng)我們開始關(guān)注數(shù)量時，就像人腦中神經(jīng)元的連接，我們在數(shù)字世界中也見到過同樣的量級，這是否會意味著量變帶來的質(zhì)變呢？
Jeff Dean：我認(rèn)為我們目前還遠(yuǎn)遠(yuǎn)沒有達(dá)到人類大腦的量級，無論是什么樣算力的計算機，現(xiàn)在大概和蠑螈差不多吧。但是要建立更加智能的系統(tǒng)，就需要更強的計算能力，那么整個系統(tǒng)的算力也就會越強！
機器學(xué)習(xí)的發(fā)展和未來
問：這幾年，隨著這兩年GPU的崛起，加上不斷完善的算法、更豐富的數(shù)據(jù)庫以及更先進(jìn)的訓(xùn)練集和摩爾定律，人工智能取得了巨大的成功。除了這些因素的綜合影響，你覺得還有沒有其他標(biāo)志性的事件發(fā)生，帶來了這一波人工智能的復(fù)興？
Jeff Dean：在我看來，我們今天使用的很多算法年其實在20年到25年前就已經(jīng)開發(fā)出來了，當(dāng)時的人們就對尤其是神經(jīng)網(wǎng)絡(luò)等機器學(xué)習(xí)模型抱有很大的興趣。那為什么到今天它才大放異彩，就是因為當(dāng)時我們?nèi)狈ψ屗\行起來解決大型問題的計算能力。
所以，如果你從20年前光速移動到08、09年，我們逐漸有了足夠強大的計算能力和足夠大的有意思的數(shù)據(jù)集，可以支撐神經(jīng)網(wǎng)絡(luò)去解決實際生活中有趣的問題，比如計算機視覺、語音識別等。事實上，神經(jīng)網(wǎng)絡(luò)也確實成為了解決這些問題的最佳方式。在過去的十年里，我們也做了大量的研究工作，來增加早年間用新技術(shù)開發(fā)出來的基礎(chǔ)算法。
GPU確實是很重要的一點，但我認(rèn)為最根本的還是我們認(rèn)識到了神經(jīng)網(wǎng)絡(luò)等機器學(xué)習(xí)模型與現(xiàn)在在計算機上運行的大多數(shù)代碼實際上具有不同的計算特性。 這些特點是他們基本上主要做線性代數(shù)類型的操作：矩陣乘法向量操作，并且它們對精度降低也有很大的容忍度。所以當(dāng)你做一個神經(jīng)網(wǎng)絡(luò)的計算時，不再需要精確的六位或七位數(shù)字，所需要的精度數(shù)字要少得多。
這兩個因素結(jié)合在一起，使得我們可以為非常低精度的線性代數(shù)構(gòu)建專門的硬件，這就增強了我們在這些問題上應(yīng)用更多計算的能力。除了GPU，我們谷歌也開發(fā)了一種新的定制芯片——TPU，它的精度比GPU更低，并具有顯著的性能優(yōu)勢。我認(rèn)為這是一個具有爆發(fā)性的領(lǐng)域，因為之前當(dāng)你在構(gòu)建專門針對某一子集的特定硬件時，而不是像CPU那樣采取非常普遍的計算方式，你就會面臨這樣的風(fēng)險，即特定的子集只是你在計算系統(tǒng)中想要做的事情的一小部分。
但是，現(xiàn)今神經(jīng)網(wǎng)絡(luò)和機器學(xué)習(xí)模型適用于非常廣泛的領(lǐng)域，比如語音識別、機器翻譯、計算機視覺、醫(yī)藥和機器人等。所有這些東西都可以使用相同的基礎(chǔ)元素來加速線性代數(shù)去實現(xiàn)完全不同的事情。因此，我們可以開發(fā)適用于許多不同場景的專用硬件。
問：最后，請你分享一些你近期工作中一些令人振奮的成果好嗎？
Jeff Dean：我想我有很多成果想和大家分享，來列舉其中代表性的幾個：
我認(rèn)為機器學(xué)習(xí)在藥物和醫(yī)療領(lǐng)域的應(yīng)用是非常重要的。對于醫(yī)生和其他醫(yī)護(hù)人員來說，這將是一個巨大的幫助，讓他們可以快速的獲取病人的確切的病理信息，什么對病人是最有效的。還有對醫(yī)學(xué)影像的解讀，并基于此提出建設(shè)性的意見。
另外，我對機器人的發(fā)展也很感興趣。我認(rèn)為專門針對機器人的機器學(xué)習(xí)將在未來五到十年成為一個非常有意思的新興領(lǐng)域。我認(rèn)為，這種“學(xué)會去學(xué)習(xí)”的工作將會帶來更靈活的系統(tǒng)，在不需要太多機器學(xué)習(xí)技能的情況下，它們可以學(xué)習(xí)做新任務(wù)。我認(rèn)為這將是一件非常有趣的事情，因為它會不斷進(jìn)步。
還有就是在所有的機器學(xué)習(xí)工作之下，為特定的機器學(xué)習(xí)模型定制個性化的硬件也就會在未來五年成為一個很有意思的方向。
最后的最后，我認(rèn)為機器學(xué)習(xí)的領(lǐng)域不僅涉及計算機科學(xué)，還能涉及很多人們正在鉆研的領(lǐng)域。因此，我覺得目前的發(fā)展真的很令人振奮。因為我們意識到了機器學(xué)習(xí)的光明前景，開始愿意花大力去學(xué)習(xí)和做機器學(xué)習(xí)研究，并理解機器學(xué)習(xí)在不同科學(xué)領(lǐng)域或不同應(yīng)用領(lǐng)域的意義。
這也正是在過去的五到八年時間里，我們特別開心地看到，越來越多來自不同背景的人們都加入了這個領(lǐng)域的研究，在這其中做著自己酷炫的事情。
