谷歌 CEO Sundar Pichai 曾說過谷歌將會變成一家人工智能優(yōu)先的公司；作為系統(tǒng)和基礎設施組（Systems and Infrastructure Group）的高級成員，Dean 及其團隊對實現(xiàn)這樣的目標至關重要。在這個涉及范圍廣泛的訪談中，Dean 描述了他在谷歌的多種角色、該公司的人工智能愿景、他對谷歌如何在作為科技巨頭的同時保持創(chuàng)業(yè)精神的想法，以及其它許多主題。

 

　　Peter High：Jeff Dean，你 1999 年加入谷歌，見證了該公司大部分歷史。請給我們簡要描述一下你這 17 年來在該公司所扮演的角色的發(fā)展。

 

　　Jeff Dean：當我加入的時候，谷歌還相當小。我們都擠在帕洛阿爾托大學路（University Avenue）上的一間小辦公司里。我的第一個主要工作是創(chuàng)建我們的第一個廣告系統(tǒng)。然后我用了四五年的時間來開發(fā)在谷歌上的每次查詢都會用到的檢索、索引和搜索系統(tǒng)。在那之后，我基本上在和 Sanjay Ghemawat 等一些同事一起開發(fā)谷歌用來存儲和處理大型數(shù)據(jù)集與做構建搜索索引或處理衛(wèi)星圖像等事情的軟件基礎設施。最近一段時間，我一直在開發(fā)研究機器學習系統(tǒng)。

 

　　High：鑒于你的涉及范圍和角色是如此地廣泛，我想你可能沒有‘平常的一天（average day）’。你如何確定與公司內外的什么人進行交流？我很想知道你如何在你所從事的不同事情上分配時間。

 

　　Dean：我沒什么典型的一天。在開始的十四或十五年里，我沒有任何管理上的工作，那給了我更多自由時間來專注編寫代碼。過去幾年，我管理了一些機器學習上的工作，這對我來說是一件有趣而新穎的學習經歷。因為我在該公司的這段歷史里做過很多事情，而且我喜歡這些不同的項目進展保持關注，我常常收到很多郵件。我在處理電子郵件上花了很多時間，大部分是刪除或略讀它們以了解事情的進展。在任何時候，我都有幾個技術項目要做，所以我需要在各種會議和設計審查這些事情之中找到花費我每天時間的方法。

 

　　High：盡管谷歌實現(xiàn)了急速的成長，但谷歌一直是創(chuàng)新的典范。它的雄心和創(chuàng)新精神看起來就好像它還是一家小公司一樣，但它現(xiàn)在已經擁有了人力和財力上的資源，是科技行業(yè)的龐然大物。谷歌這家企業(yè)是如何打敗繁文縟節(jié)和官僚主義，從而使其保持與其體量不相稱的靈活性的？

 

　　Dean：自我加入公司以來，谷歌基本上就一直在不斷成長。早些年的時候，我們的員工數(shù)量每年都在翻番。在百分比上，我們現(xiàn)在已經放緩了；但在絕對數(shù)量上，我們仍然有相當顯著的增長，員工的數(shù)量每年都會增長大概 10% 到 20% 的樣子。公司體量的每一次倍增都會迫使我們重新思考該在公司內部如何完成事情。在 X 人時有效的做法，人數(shù)擴增到兩倍時已經行不通了，我們必須搞清楚如何適應我們的風格、我們的工程開發(fā)、組織架構、團隊動態(tài)等等以適應新的公司規(guī)模。

 

　　我認為在增長中對我們有所助益的一件事情是我們往往會分支到許多不同的領域，這些領域在某種程度上獨立于谷歌的其它部門的工作。創(chuàng)造用于接入互聯(lián)網的高空氣球的部門與提供搜索查詢的部門只有相對適中的互動。和我們核心業(yè)務中的項目不一樣，我們許多不同活躍項目都不需要那么多的交流，這讓我們可以實現(xiàn)規(guī)模和效率。

 

　　High：我理解谷歌/Alphabet 分離的部分原因是因為要將不同類型的活動分開以保持敏捷。這是一個合理的評價嗎？

 

　　Dean：我認為是的。我認為這能讓 Alphabet 旗下的其它實體能更獨立地運作。對于規(guī)模的倍增，我想說通過一些有趣的轉變，我們從所有人都在一個建筑里工作變成了現(xiàn)在不再同一個建筑里。

 

　　后來，我們的工程開發(fā)工作也從山景城擴散到了蘇黎世、紐約、東京和西雅圖。我們這五處辦公室已經有一段時間了，而且這些辦公室現(xiàn)在已經發(fā)展得相當大了。再后來，在短短幾年之內，我們工程開發(fā)的辦公室數(shù)量就從五個增加到了三十五個，因為我們覺得在世界各地尋找優(yōu)秀人才并圍繞他們開設辦公室是非常好的。這讓我們不得不重新思考我們該如何去組織大量的工程開發(fā)工作。如果你有一個小辦公室，它就可能不應該做一百件事；它應該只做少數(shù)幾件事，并專心將它們做好。一些小公司采用的模式是看山景城的其他人怎么做，他們看到別人正在做一百件事，所以他們認為自己也應該做一百件事。我們慢慢找到了一種使用分布在世界各地的工程辦公室中所有人的更好的方式。

 

　　High：谷歌 CEO Sundar Pichai 曾經說過，從長遠來看設備將逐漸消失，計算將從移動優(yōu)先（mobile first ）進化到人工智能優(yōu)先（AI first）。請你描述一下谷歌的人工智能優(yōu)先的愿景。

 

　　Dean：我認為我們已經從桌面計算移到了移動計算，每個人都隨身帶有一個‘計算設備’。隨著設備繼續(xù)縮小，語音識別和其它類型的可替代的用戶接口變得更實用，這將改變我們與計算設備交互的方式。它們可能隱入背后，并圍繞著我們，讓我們能夠像與可信賴的伴侶一樣和它們交流。它們將協(xié)助我們獲取想要的信息，或者幫助我們完成各種各樣的任務。我認為這是向前推動機器學習的一個主要目標：在提供建議上擁有能夠像人類伙伴那樣智慧的計算機、當需要的時候它們能夠尋找到更多的信息等這種事情。我認為接下來五到十年將會是一段令人激動的時間段。

 

　　High：因為取得了一些進展，人工智能的不同目的也完成了一些，看起來一些人不再將這些成就視為真正的人工智能。也就是，人工智能似乎總是以未來時的語氣在討論。你將如何定義人工智能的范圍呢？

 

　　Dean：我認為真正的通用人工智能是能夠表現(xiàn)出人類水平的推理、理解和完成復雜任務能力的系統(tǒng)。很明顯，我們還未達到這一步，但你說已經有了很多的進展是正確的。 五年前，計算機接收一張圖片然后生成人類水平的語句描述圖片還是不可能的。現(xiàn)在，一臺計算機生成的句子可能會說：‘這張圖片是一個正拿著網球拍站在網球場上的男人。’同時，一個人可能會說：‘這張圖片是一個網球員正要發(fā)球。’人類的描述更為精細，但事實上計算機已經能夠產生看起來幾乎是人寫的描述語句，這已經是一個相當大的進步了。在過去五六年中，隨著人們應用的一些更為復雜的機器學習模型，我們取得很多進展，這只是其中的一個例子。因為他們使用更大的數(shù)據(jù)集和更多的計算能力運行這些模型，結果也已經變得更好了。

 

 

　　Dean：這取決于你問的是誰，不同的人會給出不同的估計。我不想妄加猜測，只能給出一個寬泛的估計。我認為我們還需要 15 到 50 年——可能接近這個范圍的更低的一端。

 

　　High：你之前提到，語言是諸多關鍵要素中的一種，而且谷歌的許多人工智能計劃也是圍繞著語言，比如閱讀、理解網頁上的所有內容或者智能化地交流和理解上下文語境。你能談一下讓機器更好地理解語言的途徑嗎？為了邁向（如果尚未完成）通用人工智能，你預見的發(fā)展道路是怎樣的？你在這方面做著哪些工作？

 

　　Dean：我認為一件有趣的事是信息檢索領域，這是谷歌早期工作的基礎。傳統(tǒng)上看，這并沒有試圖真正理解用戶在點擊搜索時到底想要什么。它更像是查找包含用戶所輸入詞的文件或意思接近這些單詞的內容。有趣的是，在最近的四五年里，我們已經開始研發(fā)出可以更好地理解‘車’這個詞的本質的技術。知道‘一輛車（ car ）’、‘一些車（ cars ）’、‘汽車（ automobile ）’、‘客車（ passenger car ）’和‘小型運貨車（pickup truck ）’在某種意義上是相關的，而且能以這種更流利的方式匹配文件，促成了在許多語言理解任務中的更好表現(xiàn)。

 

　　我們不僅能理解詞匯，還能抓住要點，理解兩個相互釋義的句子在某種意義上有相同的意思。機器開始達到我們人類理解語言的水平，我們將能夠以更多機器學習的方式推動機器理解更長篇幅的文本。

 

　　接下來幾年我們的目標是讓機器系統(tǒng)吸收成百上千份文件，然后能談論文件里的內容。也許系統(tǒng)將總結這些文件，針對文件內容提出或者回答問題。我認為這就是要真正表現(xiàn)出高水平語言理解所需的理解水平。

 

　　High：你和你的團隊取得的一些進展似乎已經用于谷歌的各種產品：谷歌助理——谷歌新的虛擬語音助手；Google Home——你們對亞馬遜 Echo 的回應；還有 Allo ——一款提供獲取谷歌服務的對話接口的消息應用 。你怎么看待這些最近發(fā)布的新產品和谷歌內部的試用產品？

 

　　Dean：我那時領導的研究團隊叫做谷歌大腦（Google Brain）。我們專注于構建大規(guī)模的機器學習計算系統(tǒng)和研究高級的機器學習技術。有這兩種不同技能的人們聚集在一起共同解決難題，取得了明顯的進步，而只具有機器學習技能或大規(guī)模計算技能的人通常不能獨自獲此成就。在我們能將這些問題在多大程度上扔給計算機程序和我們如何訓練出強大的模型解決我們關心的問題上，我認為這是讓我們團隊在兩個領域內都取得相當大的成功并推動了技術向前發(fā)展的其中一個原因。

 

　　在做長期研究時我們一直是相當機會主義的，我們懂得什么時候我們的一些研究成果可以用于改善谷歌現(xiàn)在的產品。我們將和產品團隊一起工作，我們會說：‘嘿，我們認為這項機器學習研究在你的產品中是有用的。’有時這是一個完全不能干涉的事情。而有時我們這個團隊和產品團隊又會深度合作，讓研究成果在產品中實現(xiàn)其價值。

 

　　我們團隊中的一些研究人員開發(fā)了一個模型，叫‘序列到序列學習（sequence-to-sequence learning）’。這個模型的核心想法是你用一個輸入序列來預測某些輸出結果序列。聽起來有點抽象，但可以映射到許多你想要解決的真正問題。他們發(fā)表的這個研究論文最初是語言翻譯背景下的應用。輸入序列可以是一個句子的英文單詞，一次一個。該模型被訓練去輸出對應的法國單詞來創(chuàng)建一個法語句子，意思與輸入的英語句子相同。這不同于其他機器翻譯系統(tǒng)，別的機器翻譯系統(tǒng)往往是代碼和子件（sub-piece）的問題——也許使用了機器學習或統(tǒng)計模型將它拼接在一起。相比之下，這個系統(tǒng)是一個完全的機器學習的端到端系統(tǒng)，在這個系統(tǒng)中你投進成對的在不同語言中表達同一個意思的句子，然后系統(tǒng)就能學會將一種語言翻譯另一種語言。

 

　　這個通用模型在其他環(huán)境中也很有用。Gmail 團隊將它用作了一個名叫‘智能回復’的功能的基礎，這里面的輸入序列是一個傳入的電子郵件，生成序列是根據(jù)這個郵件的內容預測出的可能回復。比如，你收到一封這樣的郵件：‘嗨，我們想邀請你來吃感恩節(jié)晚餐。請告訴我們你能不能來。’這個生成的回復可能是‘好的，我們會來。我們能帶點什么過來嗎？’或者是‘對不起，我們來不了了，’或者是其他對應語境的類似回復。用的是相同的基本模型，只是訓練的數(shù)據(jù)集不同。

 

　　High：谷歌大腦的這個研究在谷歌其他更多的傳統(tǒng)產品分支中有什么潛在的應用和突破？

 

　　Dean：我們已經開始將這個流程變得規(guī)范一點。五年前，當我們最初創(chuàng)建機器學習研究團隊以調查海量計算和深度神經網絡如何解決問題時，公司里還沒有太多人使用這些方法。我們發(fā)現(xiàn)了一些用它們可以有效處理的領域，包括語音識別系統(tǒng)，所以我們與語音識別團隊的人密切協(xié)作，從而將深度神經網絡配置為了語音識別系統(tǒng)的一部分，并且在識別準確率上取得了實質性進展。然后我們和各種計算機視覺相關團隊合作，比如圖片搜索和一些街景服務團隊，從而訓練模型在給定的各種圖片的原始像素下做有趣的事情——從圖片中提取文本或者理解圖片內容是什么（美洲豹、垃圾車等等）。

 

　　有趣的是，隨著時間的推移，越來越多的團隊開始采用這些方法，因為他們總會聽說另一個團隊用這些方法取得了好結果。我們會幫助這樣兩種團隊建立聯(lián)系，或者，提供一些關于在特定的問題情境中如何使用這些方法的基本建議。后來我們將此流程規(guī)范了一些，所以現(xiàn)在我們有一個專門的團隊負責外聯(lián)。這是為正在產品中嘗試這些機器學習模型的團隊建立聯(lián)系的第一點。他們會描述他們的問題，然后外聯(lián)團隊會告訴他們：‘噢，聽起來很像另外這個團隊的問題，這個解決方案會幫到您，試試并記得給我們反饋哦。’這種外聯(lián)團隊的數(shù)量正在急劇增長——從 2011 年、2012 年的幾個團隊增長到現(xiàn)在的 200 多個團隊，并且可能已有幾千人用我們團隊的軟件訓練過這種模型了。

 

　　High： 你也是谷歌開源機器學習庫——TensorFlow 的創(chuàng)始人之一。像其他幾家公司一樣，谷歌正關注開源人工智能技術的開發(fā)。請談談你對使用開源人工智能技術的理論基礎及優(yōu)勢的看法。

 

　　Dean： 有許多不同的構架來表達不同的開源機器學習算法。我認為有更多的選擇總是好的，但如果我們可以開發(fā)出能獲得機器學習社區(qū)支持，大家一起來改進的東西的話，也很好。其他許多人都在嘗試著相似的工作，所以如果我們能將重復工作的成果放在一起，構成一個許多人都會采用的庫就會非常方便。原因是這會使機器學習想法的表達變得更簡單。傳統(tǒng)的方式是人們寫一篇論文，談談他們有了一個想法，然后開始探索，做一些實驗，但通常他們并不會公開代碼，其他人便沒法重復這些實驗。作為一個研究者，你正在看某人的論文，并嘗試將你自己的技術與其對比。通常，因為論文中沒有代碼，你只能猜測那些代碼會是什么。并不是作者有意隱瞞，而是論文的屬性決定了其會省略大量細節(jié)。論文中可能會有像‘我們使用了低的學習率’一樣的描述，然而你關心的可能是他們是否使用了 。0001 的學習率，在一萬步后將其降低到更小值。所以建立一個軟件架構，讓人們可以以代碼的形式表達機器學習想法并將這些研究模型和想法以可執(zhí)行形式發(fā)布到這個構架中，這使得想法的交流更加通暢。

 

　　對于我們自己而言，這也使得我們與谷歌公司以外的人的合作更簡單。通常我們會招暑期實習生，在過去，他們幾乎快完成實習項目的時候，仍然在寫關于他們工作的論文。但后來他們離開了谷歌，沒法再接入谷歌的電腦了，這使得他們很難繼續(xù)完成他們的論文或者進行更多的實驗?，F(xiàn)在他們可以辦到了，只需要使用開放源或者 TensorFlow，然后熟悉如何用 TensorFlow 表達機器學習想法的人就可能會過來幫忙。TensorFlow 正作為基礎教學工具，幫助我們教授許多谷歌工程師機器學習的知識。

 

　　2015 年 11 月 9 日，倫敦時任市長 Boris Johnson 在探訪谷歌位于以色列特拉維夫市的辦公室期間佩戴虛擬現(xiàn)實眼鏡。

 

　　High：谷歌的一個優(yōu)勢是在人工智能和機器學習上擁有大量人才。你們的研究部門負責人 Peter Norvig 曾估計說谷歌在機器學習領域擁有世界上 5% 的頂尖專家。谷歌是如何變得對人才有如此吸引力的？而鑒于人工智能位于許多不同學科（計算機科學、工程學、神經科學、生物學、數(shù)學等）的交叉領域，你認為應該怎樣將人才和技能組合到一起，以確保你能在正確的位置上安置合適的人才？

 

　　Dean：因為我們涉足的領域很多，所以我們需要擁有多種專業(yè)知識的人。我發(fā)現(xiàn)，當你把具有不同專業(yè)知識的人聚在一起去解決問題時，你會發(fā)現(xiàn)最終得到結果比那些只具備一種專業(yè)知識的一大群人一起做出來的要好?？偟膩碚f，你最終做的事情，沒有人可以單獨做出來。我們的機器學習團隊是一個很好的例子。我們有像我一樣在建設大規(guī)模計算系統(tǒng)方面有很多的經驗人，然后我們也有世界級的機器學習研究人員。把這些類型的人結合起來是一個非常強大的團隊。機器學習正在接觸很多不同的領域。我們正在做的工作涉及醫(yī)療、機器人和計算機科學里的一大堆領域，這非常的好。在我們團隊中有數(shù)位神經科學專家。

 

　　很快我們將開始一個有趣的實驗，它被稱為‘谷歌大腦培訓項目（Google Brain Residency Program）’。我們正在招人到谷歌和我們的團隊一起工作一年，基本上是學習如何做機器學習研究。我們有大量的申請者，這個項目最終會留下 28 個人。他們來自不同的背景，處在事業(yè)生涯的不同階段，有人剛剛完成本科學習，有些人則讀完了博士，還有些人剛要結束他們的博士后階段，另一些人已經在不同的行業(yè)干一段時間工作。但他們也帶來了計算機科學、統(tǒng)計學、數(shù)學、生物學、物理學的背景。我認為這將會是一個很好的組合，在解決很多問題時都有綜合不同的觀點。

 

　　High：我很好奇，有很多不以技術為中心的傳統(tǒng)公司也會使用人工智能和機器學習，你會在多大程度上與更多傳統(tǒng)公司工作和交流嗎？你如何看待公司對人工智能技術的采納曲線？顯然這涉及了不同公司甚至是不同行業(yè)。但也有一些領先的傳統(tǒng)行業(yè)開始利用人工智能，包括醫(yī)療、金融服務公司、有大量非結構化數(shù)據(jù)需要處理的公司。你是否曾經有機會與傳統(tǒng)行業(yè)的公司互動或者談論他們在更加傳統(tǒng)的環(huán)境中走向人工智能的過程？

 

　　Dean：其他行業(yè)的大多數(shù)公司可能沒有像谷歌或者其他技術公司那樣應用機器學習。我認為，隨著時間的推移，最終大多數(shù)公司將采用越來越多的機器學習。因為機器學習會逐漸強大到為他們的業(yè)務帶來革新。我們已經與一些大型的醫(yī)療機構討論了建立合作伙伴關系，看看什么機器學習可以為該領域的特定類型的問題做些什么。我們最近推出了一個云機器學習產品，可以讓人們在谷歌的云基礎設施上運行機器學習算法，顯然有許多公司有興趣了解在他們的業(yè)務的環(huán)境中怎么使用該產品。

 

　　我認為這種轉變會發(fā)生的途徑之一是通過幾個層次，在這些層次中，你可以使用人工智能技術和機器學習的方法來解決問題。在一些領域，了解圖像中有什么東西對很多行業(yè)來說是普遍有用的。谷歌和其他公司正在提供使用起來比較簡單的接口，在那里你不需要知道任何機器學習。你可以只給出一個圖像，然后說‘跟我說說這個圖像’，并且任何沒有機器學習專業(yè)知識的軟件工程師都可以使用，他們得到的信息會像是‘照片上有個體育場，人們在那里打棒球，而且圖像中還有一堆文字，文字是。。。。。。’即使沒有應用機器學習，這也會是非常有用的。

 

　　然后將會有已經開發(fā)好的模型，可以用公司的數(shù)據(jù)重復訓練這個模型來得到一個定制化的解決方案，而無需做核心機器學習研究來開發(fā)一個全新的模型。一個很好的例子是序列到序列的工作，現(xiàn)在已經應用到谷歌的六七個不同的問題中。另一個很好的例子是一個采集圖像的模型，它能發(fā)現(xiàn)該圖像中有趣的部分。這個通用模型的一個應用是檢測街道視野圖像中的文本在什么位置。你想能閱讀所有的文本，但是首先你必須能在店面前，路牌上等這類地方找到它們。這種通用模型在醫(yī)療環(huán)境中也有用，比如在診斷糖尿病性視網膜病變時，你有一個視網膜的掃描圖像，你想找到該掃描圖像上的疾病指標，這時你就能用上這個模型了。用的是相同的模型結構，你只不過是在不同的數(shù)據(jù)中指出病變。你不是在用文本高亮顯示的街道視圖圖像，而是在醫(yī)生已經圈好病變部位的視網膜圖像上指出它。我認為通用模型的方法能很好地解決很多不同類型的問題。

 

　　High：在 3 月份，你至少是首次看到了 Alpha Go 在韓國取得的首場勝利。親身見證取得如此進展感覺如何？對此次如同世界博覽會一樣的展示你有什么看法？在人工智能廣泛應用于日常生活上，這對抓住人們的想象力、激起好奇心方面又什么更廣泛的影響？

 

　　Dean：首場比賽我在現(xiàn)場，比賽日程中的一半時間我也一直在韓國。難以相信當時是多么的激動。當時，中國有 3 億人觀看了首場比賽直播，他們有 18 個頻道在播送這場比賽，每個頻道都有不同的專業(yè)評論員。韓國也有類似的興奮。就像馬戲團一樣。

 

　　我認為這種高調的事件展示了在人工智能相關的各類問題上取得的重大進展。我需要指出的是，Alpha Go 的大部分工作是由 DeepMind 團隊在倫敦完成的。在項目的初始階段我們給了他們一些協(xié)助，他們也使用了我們的機器學習軟件訓練 Alpha Go 的一些模型。他們也使用了一個 Tensor 處理單元（Tensor Processing Unit，TPU），這是谷歌設計的定制版機器學習硬件芯片，在某種程度上它也是這場比賽的‘秘密武器’。人們正在注意到這樣一個事實，計算機有著它們四五年前還不具備的能力，這讓人很激動。全球入學計算機科學系，學習機器學習課程的學生人數(shù)也在突飛猛漲。我認為這是一件偉大的事，它不僅影響了計算機科學，還有公司以及產業(yè)內的所有事。有越多聰明的人思考這類問題，社會就會得到進步。

 

　　High：有一些人高調地發(fā)出關于人工智能安全憂慮的警告，比如 Elon Musk、比爾蓋茨、霍金。你如何看待這種風險？當你繼續(xù)思考人工智能相關進程時，你如何將此考慮到你的規(guī)劃中？

 

　　Dean：我想我不太深信你提到的那些人擔心的末日情境。我不認為這會成為現(xiàn)實。我認為人工智能會導致社會變遷，這是之前難以實現(xiàn)的自動化中的最大的一個方面，這關乎到大量的勞動力。這些事情中有一些將被自動化，即使可能不是完全的自動化。計算機將能夠以各種方式提供協(xié)助，比如閱讀醫(yī)療圖像數(shù)據(jù)，這是一個非常狹窄卻需要高技能的領域。我認為計算機在不久之后會非常擅長做這個，更不要說是計算機做自動駕駛的能力了。我不確定政府是否正在謹慎的考慮這些技術帶來的影響，以及大體上它們對社會意味著什么。我想這才是更為急切的憂慮。確認政策制定者正在認真考慮這些問題是非常重要的一步。