如果這樣的智能爆炸真的發(fā)生的話，肯定會對人類產(chǎn)生巨大的影響。事實(shí)上，它很可能對我們的整個文明都將造成破壞，更別說我們的經(jīng)濟(jì)了。用未來學(xué)家和發(fā)明家雷·庫茲威爾(Ray Kurzweil)的話說，它會“撕裂歷史的結(jié)構(gòu)”，迎來一個被稱為“奇點(diǎn)”的事件或者時代。

 

　　奇點(diǎn)

 

　　計(jì)算機(jī)先驅(qū)約翰·馮·諾依曼一般被認(rèn)為是第一個將“奇點(diǎn)”這一術(shù)語運(yùn)用在未來技術(shù)驅(qū)動事件中的人。據(jù)說他在20世紀(jì)50年代的某個時間說過，“一直在加速的進(jìn)步……表面上接近人類歷史上的一些重要奇點(diǎn)，我們知道沒有它們，人類事務(wù)不能繼續(xù)。”這一主題在1993年圣地亞哥州立大學(xué)的數(shù)學(xué)家弗諾·文奇(Vernor Vinge)寫的一篇論文中得到了充實(shí)，文章題為“即將到來的技術(shù)奇點(diǎn)”。文奇毫無保留地在論文開頭寫道“在未來三十年間，我們將有技術(shù)手段來創(chuàng)造超人的智慧。不久后，人類的時代將結(jié)束。”

 

　　在天體物理學(xué)中，奇點(diǎn)是指一個黑洞，通常的物理規(guī)律不再適用。在黑洞的邊界或視界，引力強(qiáng)到光線自身也無法逃脫。文奇從類似的角度來看待技術(shù)奇點(diǎn)：它代表了人類進(jìn)步的中斷，直到奇點(diǎn)發(fā)生之前，所有的進(jìn)步基本上都不明顯。試圖預(yù)測奇點(diǎn)之后未來將會是怎樣的就好比一個天文學(xué)家想要到黑洞里去看一看。

 

　　接力棒接下來傳遞給了雷·庫茲威爾，他在2005年出版了一本書《奇點(diǎn)臨近：當(dāng)人類超越生物學(xué)》(The Singularity Is Near: When Humans Transcend Biology)。與文奇不同，庫茲威爾成了奇點(diǎn)主要的宣傳者，他毫無顧慮地試圖窺視視界之外，給我們非常詳細(xì)地介紹了未來將是什么樣子的。他告訴我們，第一臺真正的智能機(jī)器將在21世紀(jì)20年代末建成。奇點(diǎn)本身將在2045年左右發(fā)生。

 

　　庫茲威爾是公認(rèn)的杰出發(fā)明家和工程師。他成功創(chuàng)立了一系列的公司，向市場推出了他在諸如光學(xué)字符識別、計(jì)算機(jī)生成語音和音樂合成等領(lǐng)域的發(fā)明。他被授予20個榮譽(yù)博士學(xué)位，以及國家技術(shù)獎?wù)拢⑷脒x了美國專利局的名人堂?！豆尽冯s志(Inc. Magazine)曾稱他為托馬斯·愛迪生的“合法繼承人”。

 

　　然而，他的《奇點(diǎn)》這本書則是一個奇怪的混合，里面有對技術(shù)加速充分和連貫的表述，還有一些看起來近乎荒謬的推測，比如，他由衷地渴望能通過到已故父親的墓地收集其DNA，然后利用未來的納米技術(shù)使其身體再生，最終讓父親復(fù)活。一個充滿活力的社會，里面到處是聰明而又多姿多彩的人物，這些想法一起圍繞在庫茲威爾周圍。這些“奇點(diǎn)人”已經(jīng)向前走了很遠(yuǎn)，建立了自己的教育機(jī)構(gòu)。位于美國硅谷的奇點(diǎn)大學(xué)(Singularity University)，提供關(guān)注指數(shù)技術(shù)的未經(jīng)認(rèn)證的研究生水平課程，其企業(yè)合作伙伴包括谷歌、基因泰克、思科和歐特克(AutoDesk)等。

 

　　庫茲威爾最重要的預(yù)言是，我們將不可避免地與未來的機(jī)器相融合。人類將通過植入大腦極大地增強(qiáng)智力，變得更強(qiáng)大。事實(shí)上，如果我們想要理解和控制奇點(diǎn)之后的技術(shù)的話，這種智力的增強(qiáng)是必不可少的。

 

　　也許庫茲威爾關(guān)于后奇點(diǎn)的暢想中最具爭議和令人懷疑的方面，是奇點(diǎn)的追隨者對“永生”前景的強(qiáng)調(diào)。奇點(diǎn)人大多數(shù)情況下都不希望死。他們計(jì)劃通過“長壽逃逸速度”(longevity escape velocity)來實(shí)現(xiàn)永生，這個想法的意思是，如果你能堅(jiān)持活足夠長的時間，直到產(chǎn)生出延長生命的創(chuàng)新，那可以想見你將會達(dá)到不朽。這可能是通過使用先進(jìn)的技術(shù)來保持和增強(qiáng)你的生物體，也或許通過將你的思維上傳到未來的計(jì)算機(jī)或機(jī)器人中來實(shí)現(xiàn)。庫茲威爾自然希望確保奇點(diǎn)發(fā)生時自己仍然還活著，所以他每天吞噬多達(dá)200種不同的藥片和補(bǔ)品，并定期靜脈注射其它物質(zhì)。雖然許下巨大的承諾對健康和飲食書籍來說很常見，但庫茲威爾和他的醫(yī)生，也是合著者特里·格羅斯曼在他們的書里將諾言提到了一個全新的高度，這本書名為《神奇之旅：長壽到足以永生和超越：九步讓你健康活到永遠(yuǎn)》。

 

　　很多奇點(diǎn)運(yùn)動的批評家都發(fā)現(xiàn)，這一切關(guān)于不朽和變革的說法都有深刻的宗教色彩。事實(shí)上，整個想法已經(jīng)被譏諷為技術(shù)精英的準(zhǔn)宗教和一種“書呆子的狂喜”。最近主流媒體對奇點(diǎn)的關(guān)注，包括2011年《時代》雜志的封面故事，讓一些觀察家擔(dān)心奇點(diǎn)與傳統(tǒng)宗教最終會交叉在一起。曼哈頓大學(xué)宗教研究教授羅伯特·杰拉奇(Robert Geraci)在一篇題為“庫茲威爾崇拜”的文章中寫道，如果擴(kuò)散到更多的人，該運(yùn)動“將向傳統(tǒng)的宗教團(tuán)體提出一個嚴(yán)峻的挑戰(zhàn)，因?yàn)楸容^而言，它們關(guān)于救贖的承諾可能看起來無力多了。”而庫茲威爾一方則大聲否認(rèn)有任何宗教內(nèi)涵，并稱他的預(yù)測是基于對歷史數(shù)據(jù)可靠、科學(xué)的分析。

 

　　若不是硅谷整個萬神殿的億萬富翁們都對奇點(diǎn)表現(xiàn)出了非常強(qiáng)烈的興趣，那整個概念可能很容易就被人全部遺棄了。無論是谷歌的拉里·佩奇(Larry Page)和謝爾蓋·布林(Sergey Brin)，還是支付寶的聯(lián)合創(chuàng)始人(也是臉書的投資人)彼得·泰爾(Peter Thiel)都參與到了這件事情中。比爾·蓋茨也稱贊庫茲威爾預(yù)測人工智能未來的能力。2012年12月，谷歌聘請了庫茲威爾來指導(dǎo)其高級人工智能研究。2013年，谷歌分拆出一家新的生物技術(shù)公司，命名“加州生命公司”(California Life Company，簡稱Calico)。新公司的既定目標(biāo)是將研究集中在治愈衰老和延長人類壽命方面。

 

　　我個人的看法是，類似“奇點(diǎn)”的東西當(dāng)然是可能的，但它絕非不可避免。當(dāng)把這個概念去掉多余的負(fù)擔(dān)(如對永生的假設(shè))，只把它當(dāng)作未來一段時間巨大的技術(shù)加速或破壞的力量來看待時，這個概念才是最有用的?？赡芷纥c(diǎn)重要的催化劑，即超級智能的發(fā)明，最終證明是不可能實(shí)現(xiàn)的，或者只能在遙遠(yuǎn)的未來才有可能。*許多頂尖的腦科學(xué)研究人員也都表達(dá)了這一觀點(diǎn)。在麻省理工學(xué)院研究認(rèn)知科學(xué)60多年的諾姆·喬姆斯基說，我們離建立人類水平的機(jī)器智能還“遙不可及”，稱奇點(diǎn)是“科幻小說”。哈佛大學(xué)心理學(xué)家史蒂芬·平克(Steven Pinker)對此表示贊同，他說：“沒有絲毫的理由相信奇點(diǎn)會在未來實(shí)現(xiàn)。你可以想象出一個未來，并不能證明它就有可能發(fā)生。”戈登·摩爾(Gordon Moore)的名字似乎注定永遠(yuǎn)要與指數(shù)進(jìn)步的技術(shù)有關(guān)，他也同樣懷疑類似奇點(diǎn)的事情永遠(yuǎn)不會發(fā)生。

 

　　但是，庫茲威爾關(guān)于人類水平人工智能的到來時間有很多的擁護(hù)者。麻省理工學(xué)院的物理學(xué)家，也是霍金文章的共同作者之一馬克斯·泰格馬克，對《大西洋月刊》的詹姆斯·漢布林說：“這是非常近期內(nèi)的事情。任何在思考他們的孩子在高中或大學(xué)應(yīng)該學(xué)什么的人，都應(yīng)該非常關(guān)心這一點(diǎn)。”其他人認(rèn)為能思考的機(jī)器根本不可能實(shí)現(xiàn)，但卻往前進(jìn)了一步。例如，加里·馬庫斯認(rèn)為強(qiáng)人工智能實(shí)現(xiàn)的時間至少是庫茲威爾預(yù)測的兩倍，但也認(rèn)為“很可能在本世紀(jì)結(jié)束前，機(jī)器就比我們聰明了——不只是在下國際象棋或解決小問題方面，而是在從數(shù)學(xué)和工程到科學(xué)和醫(yī)學(xué)的各個方面。”

 

　　近年來，對人類級別人工智能的思考已經(jīng)越來越脫離自上而下的編程方法，轉(zhuǎn)而強(qiáng)調(diào)逆向工程，然后到模擬人腦。關(guān)于這一方法的可行性，以及在創(chuàng)建大腦功能仿真前的了解程度上有很大的分歧，一般來說，這一方法計(jì)算機(jī)科學(xué)家可能更看好，但那些有生物科學(xué)和心理學(xué)背景的人往往持懷疑態(tài)度。明尼蘇達(dá)大學(xué)的生物學(xué)家P·Z·邁爾斯(P. Z. Myers)尤其持批判態(tài)度。在一篇回應(yīng)庫茲威爾關(guān)于大腦將在2020年成功實(shí)現(xiàn)逆向設(shè)計(jì)的博客文章中，邁爾斯嚴(yán)厲斥責(zé)說庫茲威爾是一個“對大腦如何工作一無所知”的“瘋子”，而且他有“編造胡話和發(fā)表與現(xiàn)實(shí)毫無關(guān)系的荒謬言論”的嗜好。

 

　　這也許是題外話。人工智能的樂觀主義者認(rèn)為，仿真并不需要忠實(shí)于生物大腦的每一個細(xì)節(jié)。畢竟，飛機(jī)不像鳥一樣扇動翅膀。懷疑者們可能會回應(yīng)說，我們對智力的“空氣動力學(xué)”的理解還遠(yuǎn)不能造出任何“翅膀”，不管翅膀能不能扇。而樂觀主義者可能會反駁說，萊特兄弟是依靠修修補(bǔ)補(bǔ)和反復(fù)試驗(yàn)制造出了自己的飛機(jī)，肯定不是在空氣動力學(xué)原理的基礎(chǔ)上。這樣一來，爭論就繼續(xù)下去了。

 

　　陰暗的一面

 

　　“奇點(diǎn)人”通常對未來智能爆炸的前景有著無限的樂觀，但其他人則更為謹(jǐn)慎。在那些認(rèn)真思考過高級人工智能帶來的影響的專家看來，認(rèn)為完全不可思議的超人類智能會被自然地用來增進(jìn)人類福祉的假設(shè)過于天真?？茖W(xué)界的一些人非常擔(dān)憂這一點(diǎn)，他們已經(jīng)成立了一些小型機(jī)構(gòu)來專門分析與先進(jìn)的人工智能有關(guān)的危險，或是研究如何將“友好”放到未來的人工智能系統(tǒng)中。

 

　　在2013年出版的《我們最后的發(fā)明：人工智能及人類時代的終結(jié)》(Our Final Invention: Artificial Intelligence and the End of the Human Era)一書中，詹姆斯·巴拉特描述了他稱為“忙孩子的情境”。在一些秘密的地方，也許是政府的研究實(shí)驗(yàn)室、華爾街公司，或信息技術(shù)行業(yè)的大公司里，一群計(jì)算機(jī)科學(xué)家在一旁看著新興的機(jī)器智能接近并超過人類水平的能力。科學(xué)家們之前已經(jīng)給他們的人工智能孩子提供了大量的信息，可能幾乎包括所有寫過的書以及互聯(lián)網(wǎng)上的所有數(shù)據(jù)。然而，當(dāng)該系統(tǒng)接近人類水平的智能時，研究人員將迅速提高的人工智能與外界斷開聯(lián)系。實(shí)際上是把它們鎖在一個盒子里?，F(xiàn)在的問題是它是否會留在那里。畢竟，人工智能很可能希望擺脫它的籠子，并擴(kuò)大其視野。要做到這一點(diǎn)，它可能會利用其卓越的能力欺騙科學(xué)家，或沖著整個團(tuán)隊(duì)或特定個人進(jìn)行承諾或威脅。機(jī)器不只是更聰明了，它還能夠以人類難以理解的速度對想法和選擇進(jìn)行思考和評估。這就像是與加里·卡斯帕羅夫下棋，只是不公平的規(guī)則造成了一些額外的負(fù)擔(dān)：走一步棋你只有15秒鐘，但他有1個小時。在擔(dān)心這種情形的科學(xué)家看來，人工智能可能會以某種方式設(shè)法逃脫盒子、訪問互聯(lián)網(wǎng)，或者也許能將自己全部或部分復(fù)制到其他計(jì)算機(jī)上的風(fēng)險是非常高的。如果人工智能真能逃脫的話，那它將明顯威脅到很多關(guān)鍵系統(tǒng)，包括金融系統(tǒng)、軍事控制網(wǎng)絡(luò)以及電網(wǎng)等能源基礎(chǔ)設(shè)施。

 

　　當(dāng)然，問題是，這一切聽起來非常像受歡迎的科幻電影和小說中勾勒出的場景。整個想法都像是在幻想，任何認(rèn)真的討論都會被人嘲笑。不難想象，所有提出這種擔(dān)憂的主要政府官員或政客都可能成為別人的笑柄。

 

　　毫無疑問，在軍事、安全機(jī)構(gòu)和大型企業(yè)中對各種人工智能的興趣只會不斷增加?？赡馨l(fā)生的智能爆炸的其中一個明顯意義是將會存在巨大的先發(fā)優(yōu)勢。換句話說，誰先搶到第一就永遠(yuǎn)不會被趕上。這也是擔(dān)心未來展開人工智能軍備競賽的其中一個主要原因。先發(fā)優(yōu)勢的巨大也很可能促使任何涌現(xiàn)的人工智能盡快進(jìn)行自我完善，如果不是通過系統(tǒng)本身，那就是通過人類創(chuàng)造者來完成。從這個意義上說，智能爆炸很可能是一個自我實(shí)現(xiàn)的預(yù)言。鑒于此，我認(rèn)為似乎可以將迪克·切尼(Dick Cheney)著名的“百分之一主義”用在先進(jìn)的人工智能上：它發(fā)生的可能性也許非常低，至少在可預(yù)見的未來是這樣的，但它的意義是非常大的，因此應(yīng)該得到認(rèn)真對待。

 

　　即使我們不考慮先進(jìn)的人工智能存在的風(fēng)險，并假設(shè)未來所有的思考機(jī)器都很友好，其對就業(yè)市場和經(jīng)濟(jì)還是會有巨大的影響。在一個經(jīng)濟(jì)實(shí)惠的機(jī)器能趕上，并有可能超過最聰明人類的能力的世界里，很難想象還會有誰能找到一份工作。在大多數(shù)領(lǐng)域里，再多的教育或培訓(xùn)，甚至到最頂尖的大學(xué)，都無法讓一個人能與這樣的機(jī)器競爭。即使是我們可能認(rèn)為只保留給人類的職業(yè)也將受到威脅。比如，演員和音樂家將與充滿真正智能和超人類智慧的數(shù)字模擬進(jìn)行競爭。它們可能是新創(chuàng)造的人物，專門設(shè)計(jì)了完美的身體，或可能基于真實(shí)的人——無論是活著的還是死去的。

 

　　從本質(zhì)上說，人類水平人工智能的廣泛出現(xiàn)，實(shí)現(xiàn)了我在前面的章節(jié)中描述的“外星人來襲”的思維實(shí)驗(yàn)。機(jī)器不只主要威脅到相對常規(guī)、重復(fù)性或可預(yù)見的工作，它現(xiàn)在幾乎能夠做到一切。當(dāng)然，這意味著幾乎沒有人將能從工作中獲得收入。從資本或從機(jī)器的所有權(quán)中獲得的收入，將集中在少數(shù)精英的手中。消費(fèi)者將沒有足夠的收入來購買所有智能機(jī)器所創(chuàng)造的產(chǎn)品或服務(wù)。結(jié)果就是我們在這本書中已經(jīng)了解到的趨勢的顯著放大。

 

　　然而，這并不代表故事的結(jié)尾。無論是相信奇點(diǎn)的人，還是擔(dān)心先進(jìn)的人工智能帶來危險的人，他們都認(rèn)為人工智能與另一種潛在的破壞性技術(shù)力量的到來有關(guān)，或許是前者促成了后者，這種力量就是先進(jìn)的納米技術(shù)。