谷歌AI研究員、Keras創(chuàng)建者 Francois Chollet 的一篇有關(guān)人工智能發(fā)展的文章引起了熱議。簡(jiǎn)單來說，他認(rèn)為可能導(dǎo)致奇點(diǎn)產(chǎn)生的智能爆炸是不可能不發(fā)生的。因?yàn)橹悄艿陌l(fā)展要受到很多環(huán)境因素的制約，使得其發(fā)展趨勢(shì)只能接近于線性的速度，并且用跟智能最接近的科學(xué)的發(fā)展軌跡作為佐證。這篇文章以文明作為智能載體等立論觀點(diǎn)十分新穎，給人留下了深刻印象。但是也有人提出了不同的意見，比方說Uber軟件工程師Florent Crivello就是其中的一位。他反對(duì)的理由主要是1）我們的發(fā)展已經(jīng)呈指數(shù)性；2）推動(dòng)歷史向前的是個(gè)人；3）大腦是智能發(fā)展的瓶頸；4）AI的擴(kuò)張方式是人沒法做到的。按照這樣推斷，AI的爆炸是有可能發(fā)生的。你以為如何呢？
Fran?ois Chollet寫了一篇《智能不會(huì)爆炸》。以下是那篇文章的摘要，不過我鼓勵(lì)你真的應(yīng)該全文通讀一遍：
智能是情景化的——并不存在一般智能這樣的東西。你的大腦是一個(gè)更大的系統(tǒng)的一部分，這個(gè)系統(tǒng)包括了你的軀體、環(huán)境、其他人以及整個(gè)文化。
沒有系統(tǒng)可以存在于真空之中；任何個(gè)體智能總要被其存在的上下文、被環(huán)境所定義和約束。目前制約我們智能的瓶頸是我們的環(huán)境而不是大腦。
人類智能基本上是外化的，主要不是包含在我們的大腦而是在我們的文明當(dāng)中。我們是我們的工具——我們的大腦是比我們本身大得多的認(rèn)知系統(tǒng)的模塊。這個(gè)系統(tǒng)已經(jīng)在自我改進(jìn)，而且已經(jīng)進(jìn)行了很長(zhǎng)的時(shí)間。
遞歸自我改進(jìn)系統(tǒng)，因?yàn)樗嬖诘母蠓懂牭纳舷挛目赡軙?huì)出現(xiàn)瓶頸、收益遞減、以及逆反作用，實(shí)際上無法取得指數(shù)性的發(fā)展。從經(jīng)驗(yàn)來看，這種發(fā)展往往呈線性或者S曲線式的改進(jìn)?？茖W(xué)進(jìn)步尤其是這樣——而科學(xué)也許是跟我們觀察的遞歸自我改進(jìn)系統(tǒng)最接近的一個(gè)了。
遞歸智能拓展已經(jīng)在發(fā)生——不過是在我們的文明這個(gè)層面上進(jìn)行的。這個(gè)進(jìn)程會(huì)在AI時(shí)代繼續(xù)，而且是以大致線性的節(jié)奏進(jìn)行的。
我認(rèn)為那篇文章有好幾個(gè)觀點(diǎn)都非常出色——我很喜歡“文明作為外部腦皮層”的想法——但是其中的一些觀點(diǎn)我有不同看法，或者認(rèn)為那些情況仍然允許未來智能爆炸的可能性存在。以下是我的看法。
1、我們的發(fā)展已經(jīng)呈指數(shù)式
Franois Chollet 寫道：
這種情況下你也許會(huì)問，難道文明本身不是自我改進(jìn)大腦的逃逸手段嗎？我們的文明難道沒有出現(xiàn)智能爆發(fā)嗎？沒有，關(guān)鍵是文明級(jí)的智能改進(jìn)循環(huán)僅僅導(dǎo)致了我們的問題解決能力的，可測(cè)量的、線性的進(jìn)展。并沒有出現(xiàn)爆發(fā)的現(xiàn)象。
這個(gè)我不同意，我認(rèn)為我們的發(fā)展已經(jīng)呈現(xiàn)出指數(shù)性了，在很多指標(biāo)上都是。
下面這張圖反映的是全球的歷史人口發(fā)展情況（盡管有人會(huì)說這個(gè)很快就會(huì)變成S曲線，因?yàn)槿虻膵雰撼备叻迤谝堰^）：
下面這張是全球人均GDP的歷史沿革，按1990年代美元匯率換算：
記住，這可是人均值，所以這條曲線代表的是生產(chǎn)力本身的增長(zhǎng)情況而不是人口的發(fā)展情況。而且這個(gè)時(shí)間跨度是很小的！相對(duì)于超過1萬年的人類文明史，500年的時(shí)間并不算長(zhǎng)。
而這僅僅局限在人類身上，而人類在宇宙的宏偉計(jì)劃中還是一個(gè)非常新的現(xiàn)象。你可能已經(jīng)聽說過Carl Sagan的“宇宙歷”，它把宇宙的年表從138億年壓縮到了一年。在這條時(shí)間線上，生命直到9月21號(hào)才出現(xiàn)，而12月5號(hào)才出現(xiàn)多細(xì)胞生物，到了12月31日晚上11:52之前才有了解剖學(xué)意義上的現(xiàn)代人。被許多歷史學(xué)家認(rèn)為是人類文明開始的農(nóng)業(yè)，直到晚上11點(diǎn)59分32秒才開始。
在《量化宏觀史（quantitative macrohistory）》中，Luke Muehlhauser寫道：
我對(duì)有記錄的人類史的一句話概括就是：很長(zhǎng)一段時(shí)間內(nèi)的一切都非常糟糕，然后就發(fā)生了工業(yè)革命。
在“宇宙歷”中，工業(yè)革命直到午夜降臨的570毫秒之后才開始。
所以，當(dāng)然了，如果你是從個(gè)人的時(shí)間尺度上來看待這一切的話，事情的發(fā)展速度似乎非常緩慢。但是，請(qǐng)記?。何覀兛吹接腥魏蔚陌l(fā)展都是奇跡！如果一個(gè)人可以穿越并且能夠表現(xiàn)正常的話，你會(huì)看到在人類的大部分歷史當(dāng)中上下100年間幾乎都沒有什么差別（除了那些朋克系頭發(fā)用的是2根而不是3根骨頭）。
總結(jié)一下：在宇宙這個(gè)宏大的時(shí)間尺度上，在很長(zhǎng)一段時(shí)間內(nèi)都沒有發(fā)生任何事情，然后突然之間，生命形成了。從這一點(diǎn)開始按照宇宙的尺度就已經(jīng)很難區(qū)分事件了，所以我們需要把這細(xì)小的時(shí)間條放大。放大后我們可以再次可以看到并沒有太多的事情發(fā)生，然后突然之間，包括猿猴在內(nèi)的哺乳動(dòng)物出現(xiàn)了。進(jìn)一步放大，還是沒有太多的事情發(fā)生，然后人類文明出現(xiàn)了！再放大，事情也還不多，然后就冒出了工業(yè)革命！
知道我想說什么了吧：我不僅認(rèn)為會(huì)出現(xiàn)奇點(diǎn)，而且認(rèn)為我們已經(jīng)生活在奇點(diǎn)里面了。
如果有那么一個(gè)計(jì)算的奇點(diǎn)的話，那么對(duì)我們而言的幾千年時(shí)間對(duì)于那些機(jī)器而言就好像是幾個(gè)納秒而已，那么它們不僅會(huì)把我們的人類史，甚至我們的現(xiàn)代史都總結(jié)為“沒什么事情發(fā)生，然后種子AI出現(xiàn)了”。我們的“你能想象地球在形成任何生命前居然活了六億年嗎？”將會(huì)是他們的“你能想象他們?cè)?jīng)每天睡8個(gè)小時(shí)嗎？”，8小時(shí)對(duì)他們來說就已經(jīng)是漫長(zhǎng)得不可估量的，就好像有6億年對(duì)我們而言是地老天荒一樣。
（我意識(shí)到自己已經(jīng)把我們完全陌生的實(shí)體過于人格化了，但這是有趣的做法，你明白我的意思就行了。）
2、推動(dòng)歷史向前的是個(gè)人
Chollet寫道（粗體是我的強(qiáng)調(diào)）：
個(gè)人本身并沒有太多的用處——再?gòu)?qiáng)調(diào)一次，人不過是用雙腳走路的猿罷了。是幾千年以來不斷積累的知識(shí)和外部系統(tǒng)，也就是所謂的“文明”，讓我們超越了動(dòng)物性。當(dāng)科學(xué)家取得突破時(shí)，其大腦進(jìn)行的思考過程只不過是方程式的一小部分罷了——研究人員把大量的問題解決過程都交給了計(jì)算機(jī)、其他研究人員、論文筆記、以及數(shù)學(xué)符號(hào)等。他們之所以能夠取得成功，是因?yàn)樗麄冋驹诹司奕说募绨蛏稀Ｋ麄冏约旱墓ぷ鞑贿^是成千上萬人在幾十年的時(shí)間跨度內(nèi)進(jìn)行的問題解決過程的最后一個(gè)子程序罷了。他們自己的認(rèn)知工作的重要性可能并不比芯片上的一個(gè)晶體管的工作大多少。
我對(duì)“站在巨人的肩膀上”的觀點(diǎn)不是很認(rèn)同，尤其是在被用來淡化個(gè)人的重要性的時(shí)候。從某種程度上來說這是對(duì)的：我們利用了之前文明所取得的進(jìn)展，從而可以繼續(xù)推動(dòng)文明的進(jìn)步。
但是，我們大家都是站在巨人的肩膀上，為什么我們當(dāng)中卻沒有幾個(gè)人取得了任何值得注意的成就呢？難道這只是跟運(yùn)氣和環(huán)境有關(guān)，或者正好“在合適的時(shí)間處在了合適的地點(diǎn)”嗎？
我認(rèn)為環(huán)境固然重要，但卻不是主要因素。再次地，當(dāng)科學(xué)家取得其中一些最偉大的發(fā)現(xiàn)時(shí)，很多人無疑也是處在合適的環(huán)境下的，而且往往比最終取得突破的研究人員所處的環(huán)境還要好得多。愛因斯坦就是典型例子：呆在瑞士專利局的一個(gè)小職員怎么會(huì)是那個(gè)發(fā)現(xiàn)狹義相對(duì)論的人呢？要知道當(dāng)時(shí)拿到終身任期、有更多的時(shí)間來思考這個(gè)問題，能獲得更多的內(nèi)容、可以接觸更多的智囊進(jìn)行交流，有時(shí)候還可以支配整個(gè)團(tuán)隊(duì)和實(shí)驗(yàn)室的人多了開去了，為什么是他發(fā)現(xiàn)了相對(duì)論呢？
牛頓也有著著名的“奇跡之年”，當(dāng)他發(fā)現(xiàn)引力定理并且發(fā)明了微積分時(shí)，為了避免鼠疫肆虐，他還被困在父母所在的鄉(xiāng)下呢。
如果說有什么區(qū)別的話，似乎有時(shí)候取得任何影響的唯一辦法是知道什么時(shí)候不去站在巨人的肩膀上，然后開始做你自己的事情，就像那兩個(gè)例子的研究人員所做的是一樣。畢竟，這些肩膀不知道頂在哪里：你可以把你的整整一生都奉獻(xiàn)給一個(gè)領(lǐng)域，卻連那些已經(jīng)做出的發(fā)現(xiàn)都不能研究完。用Richard Hamming的話說：
貝爾實(shí)驗(yàn)室有個(gè)家伙非常非常的聰明。他總是呆在實(shí)驗(yàn)室里，他博覽群書閱讀一切。但在形成這些理論時(shí)，我得出了一個(gè)看法：從長(zhǎng)期看不會(huì)有什么效應(yīng)會(huì)以他的名字命名。他后來當(dāng)上了副教授，現(xiàn)在他已經(jīng)從貝爾實(shí)驗(yàn)室退休，。他非常有價(jià)值，這一點(diǎn)我不會(huì)質(zhì)疑。他寫出了一些非常好的物理評(píng)論文章；但不會(huì)有以他名字命名的效應(yīng)，因?yàn)樗x得太多了。
我同意之前的文明所完成的工作是很重要，但個(gè)人的重要性似乎被大多數(shù)人低估了。只需要有一個(gè)人往前比別人多邁出一步，就能夠?yàn)樗腥税堰吔缤舛嗤七M(jìn)一層。從這個(gè)意義上來說，文明的進(jìn)步速度其實(shí)跟它的最快成員是一樣的。我們只需要一個(gè)哥倫布就能發(fā)現(xiàn)一個(gè)全新的大陸，只需要一個(gè)愛因斯坦就能獲得必要的洞察去發(fā)明激光與核能，只需要一個(gè)達(dá)爾文就能對(duì)生活產(chǎn)生全新的感悟。
?。槺阏f一下，這種要想產(chǎn)生任何影響力所需的“對(duì)行動(dòng)的偏愛”，似乎是美國(guó)人的最大優(yōu)勢(shì)之一。毫無目的地在知識(shí)的大海中遨游很容易就會(huì)迷失自我，在光假想“如果…會(huì)怎么樣”和“我們可能錯(cuò)過了……”而不行動(dòng)中被凍結(jié)住。而有著“先開槍后提問”這種氣質(zhì)的美國(guó)人，似乎對(duì)在別人完全理解之前先動(dòng)手做十分欣賞。）
3、大腦是瓶頸
Fran?ois Chollet繼續(xù)說：
但是問題解決目前的瓶頸是表現(xiàn)出來的智能，而不是潛在的認(rèn)知能力本身。瓶頸是我們的環(huán)境。決定了我們的智能表現(xiàn)如何的環(huán)境，對(duì)我們的大腦能夠做什么施加了嚴(yán)格的約束——它限制著我們長(zhǎng)大有聰明，限制著我們能夠如何有效地利用我們形成的智能，限制著我們能解決什么問題。所有的證據(jù)都表明，我們現(xiàn)在的環(huán)境，就像此前20萬年前的人類歷史和史前史一樣，并不允許高智商的人充分發(fā)揮和利用他們的認(rèn)知潛能。一萬年前的一個(gè)潛力巨大的人可能是在一個(gè)低復(fù)雜度的環(huán)境中被撫養(yǎng)成人的，他可能只會(huì)說一門語言，其單詞量不超過5000，一輩子可能都沒人教他書寫，能接觸的知識(shí)非常有限，幾乎不會(huì)遇到什么認(rèn)知挑戰(zhàn)。對(duì)于大多數(shù)現(xiàn)代人來說目前情況要好一些，但是沒有跡象表明我們的環(huán)境機(jī)會(huì)目前超過了我們的認(rèn)知潛能。
這一點(diǎn)我同意，但對(duì)前沿的說法不敢茍同。如果你把智能泛泛地定義為實(shí)體控制環(huán)境的能力的話，總體而言，一個(gè)人的智能是體現(xiàn)在大腦以外的：一個(gè)人控制環(huán)境的能力99%取決于他們拿到的那張“你出生在哪個(gè)世紀(jì)？”的彩票，只有不到1%是由他們的之上決定。
但文明首先是由個(gè)體建設(shè)和塑造的，就像反過來這些個(gè)體也為文明所塑造一樣。說到推進(jìn)前沿，以及重新定義下一個(gè)世紀(jì)對(duì)于生活在那個(gè)世紀(jì)的幾代人意味著什么，瓶頸是這些個(gè)體。在此，我想附和一下Peter Thiel對(duì)技術(shù)決定論的摒棄，按照他的說法，“無論如何，進(jìn)步總會(huì)發(fā)生”。我想，不管怎樣，無論當(dāng)前的文化發(fā)展勢(shì)頭如何，世界的命運(yùn)仍然掌握在一個(gè)個(gè)人手上，仍然取決于他們做出的行動(dòng)和決策。
從更具體更“微觀”的角度看，你可以問問創(chuàng)業(yè)者目前制約其公司發(fā)展的瓶頸是什么。有人會(huì)說是市場(chǎng)采用，或者資金，這證明Chollet強(qiáng)調(diào)環(huán)境因素是對(duì)的。但在AI領(lǐng)域，幾乎所有人都會(huì)說是缺頭腦：人才根本不夠用，很多文章都說只要找到稍微合適的人才成堆的錢就找上門來了，7位數(shù)的報(bào)酬是常態(tài)。
就像查理點(diǎn)芒格所說那樣：
我喜歡人工智能，因?yàn)槲覀兲鄙僬鏂|西了。
4、AI的擴(kuò)張方式是人沒法做到的
還是Chollet的文章：
大量證據(jù)表明，個(gè)人大腦本身無法設(shè)計(jì)出超越自身的更強(qiáng)智能。這個(gè)說法純粹是出于經(jīng)驗(yàn)主義：在出現(xiàn)又消失的幾十億人腦當(dāng)中，并沒有哪一個(gè)做到過。顯然，一個(gè)人的智能一輩子也無法設(shè)計(jì)出智能，否則的話，經(jīng)過數(shù)十億次的試驗(yàn)之后這件事早就應(yīng)該可以了。
但是當(dāng)然了，一切事情都從來沒有發(fā)生過，直到它第一次發(fā)生。你一樣也可以說“這是一項(xiàng)經(jīng)驗(yàn)觀察，沒人能在10秒內(nèi)跑完100米，因?yàn)橹皬膩矶紱]有人做到過”，直到博爾特出現(xiàn)。
Chollet繼續(xù)說：
在經(jīng)過幾個(gè)世紀(jì)的共同發(fā)展后，未來的超人AI是否有能力發(fā)展出比自己更強(qiáng)的AI來呢？不能，我們當(dāng)中沒有一個(gè)人可以。
但一旦我們得到了那個(gè)種子AI，沒人說只造一個(gè)啊。人工智能的特點(diǎn)在于，它跟相對(duì)應(yīng)的自然人不一樣，它是可以擴(kuò)充的，不僅水平可擴(kuò)而且垂直可擴(kuò)。AlphaGo贏下圍棋世界冠軍李世石時(shí)，很多人迅速指出：
分布式的AlphaGo系統(tǒng)用了大約1兆瓦特的能量，相比之下人腦的消耗只有20瓦。
按照那些觀察者的說法，這使得這種比較不公平起來了。然而，就像Benedict Evans所說那樣，“不公平比較是最重要的一種比較。”游戲不在乎你的能效有多高：要么勝，要么敗。如果非要討論的話，這似乎還為AlphaGo爭(zhēng)取到更多的點(diǎn)數(shù)：在AI方面，一旦我們找到某樣有效的東西之后，我們就可以投入一堆的芯片和能源，然后看著它變得越來越好。經(jīng)常有人指出今天的這股AI復(fù)興，比方說梯度下降、卷積神經(jīng)網(wǎng)絡(luò)或者深度學(xué)習(xí)等，其實(shí)早就已經(jīng)有了，只是在計(jì)算能力足夠強(qiáng)之后才開始變得高效起來。
或者我們換個(gè)角度來看，你覺得總共消耗1兆瓦的5萬個(gè)人加起來跟一個(gè)AlphaGo下棋的結(jié)果會(huì)怎樣？我能想到的跟這種設(shè)想最接近的是Twitch玩Pokemon的實(shí)驗(yàn)，120萬玩家用了394小時(shí)才完成了一個(gè)小孩只用25小時(shí)就能完成的游戲。
?。ㄠ嵵芈暶鳎何也⒉徽J(rèn)為出現(xiàn)奇點(diǎn)所需要的就只有更多的計(jì)算能力而已。我們也許需要大量更多的理論突破才能實(shí)現(xiàn)。我想說的是這個(gè)：一旦我們?nèi)サ哪切┩黄疲⑶以斐?ldquo;種子AI”，我們就能扳動(dòng)開關(guān)，再造出100萬臺(tái)這樣的AI，而你找到了一位真正聰明的人之后是沒有辦法這樣操作的。）
概括一下：
從足夠大的時(shí)間尺度上審視歷史的話，顯然宇宙的復(fù)雜性已經(jīng)呈指數(shù)性爆炸——從亞原子粒子，到原子，再到份子，乃至于生命、有機(jī)體以及文明。智能爆炸也會(huì)跟這一現(xiàn)象保持一致。
推動(dòng)文明進(jìn)步的是個(gè)人，盡管個(gè)人也利用之前文明所取得的進(jìn)步。文明往往跟它速度最快的成員發(fā)展得一樣快，因?yàn)檫@些個(gè)人中只需要一個(gè)人取得突破就能為所有人開拓。
因此，頭腦的數(shù)量，尤其是質(zhì)量是妨礙進(jìn)步的瓶頸……
……而第一個(gè)超越人類智能的AI將會(huì)清除這些瓶頸，引發(fā)智能的爆炸。
