近年來(lái)圖像識(shí)別突破、Waymo無(wú)人車上路、Alphago戰(zhàn)勝人類冠軍等AI的一些標(biāo)志性事件讓人工智能又走上了炒作的高峰。于是各種有關(guān)AI的預(yù)測(cè)鋪天蓋地，有說(shuō)未來(lái)一片光明的，有說(shuō)AI會(huì)給人類造成生存威脅的。但這些說(shuō)法究竟有多靠譜呢？如何才能理性辨別這些說(shuō)法的真?zhèn)文?？著名機(jī)器人制造專家、包容體系結(jié)構(gòu)的發(fā)明者，MIT AI Lab、CSAIL負(fù)責(zé)人Rodney Brooks專門寫(xiě)了一篇詳盡的文章，剖析了有關(guān)AI預(yù)測(cè)的這個(gè)主題與7大陷阱，希望能讓大家擦亮眼睛，看清楚觀點(diǎn)的虛實(shí)。這幾乎是最近有關(guān)AI預(yù)測(cè)方面最冷靜最理性最靠譜的一篇文章了。就像之前對(duì)新興技術(shù)炒作周期曲線的復(fù)盤總結(jié)一樣，人類其實(shí)真的非常不擅于預(yù)測(cè)。
我們都被有關(guān)人工智能和機(jī)器人的未來(lái)的歇斯底里包圍了。這種歇斯底里體現(xiàn)在它們會(huì)多快變得有多強(qiáng)大上，以及它們會(huì)對(duì)工作造成什么影響上。
比方說(shuō)Market Watch近日出了一篇文章，其結(jié)論危言聳聽(tīng)，說(shuō)在10到20年內(nèi)機(jī)器人將奪走目前一半的工作。它甚至還有有一張圖來(lái)證明這些數(shù)字。
這種主張是滑稽的。比方說(shuō)，它假設(shè)說(shuō)美國(guó)的地面維護(hù)工人在10到20年的時(shí)間里將會(huì)從100萬(wàn)人縮減到只用5萬(wàn)人。這些領(lǐng)域目前有多少機(jī)器人在用呢？零。機(jī)器人在這些領(lǐng)域應(yīng)用的實(shí)際展示案例有多少呢？零。類似的故事適用于上圖的所有其他的工作類別（其結(jié)論認(rèn)為目前需要人力的工作當(dāng)中90%甚至97%都會(huì)被大規(guī)模顛覆）。
錯(cuò)誤的預(yù)測(cè)會(huì)導(dǎo)致大家對(duì)不會(huì)發(fā)生的事情感到恐懼。為什么在人工智能和機(jī)器人的預(yù)測(cè)上總有人不斷犯錯(cuò)呢？
以下我概括出了7種導(dǎo)致錯(cuò)誤預(yù)測(cè)機(jī)器人于人工智能未來(lái)的思維方式。我們?cè)诤芏嘤嘘P(guān)AI未來(lái)的預(yù)測(cè)中都發(fā)現(xiàn)了這些思維方式的影子。我首先會(huì)列出注意到的4個(gè)一般的主題領(lǐng)域，然后就其現(xiàn)狀給出我的簡(jiǎn)要判斷。
A、一般人工智能（AGI）。對(duì)AGI的研究是將思維實(shí)體從機(jī)器學(xué)習(xí)等當(dāng)前AI技術(shù)中分離出來(lái)的一次嘗試。其想法是我們可以開(kāi)發(fā)出運(yùn)作非常類似這個(gè)世界上的生命的自動(dòng)代理。不過(guò)AI近期取得的成功根本就不是這樣的。
一些人認(rèn)為所有的AI都是AGI的一個(gè)實(shí)例，但是“一般”這個(gè)詞意味著AGI的通用性必須要比目前的AI通用得多。把目前的AI解釋成AGI的實(shí)例會(huì)給人一種現(xiàn)在的AI都這么先進(jìn)的感覺(jué)。
但其實(shí)目前的AGI研究無(wú)論從通用性或者成為持續(xù)存在的獨(dú)立實(shí)體來(lái)說(shuō)根本就做得不好。目前AGI基本上還陷入在50年前遭遇的同樣的推理和常識(shí)問(wèn)題上。像人工生命、模擬適應(yīng)性行為等替代領(lǐng)域在上世紀(jì)80、90年代的確取得了一些進(jìn)展，但現(xiàn)在已經(jīng)止步不前了。
對(duì)此我的觀點(diǎn)是從原則上來(lái)說(shuō)這當(dāng)然是可能的。但是可能我們?nèi)祟愡€沒(méi)有聰明到找出怎么做到的辦法。哪怕可能性存在我個(gè)人也認(rèn)為目前距離弄清楚如何做出AGI還非常非常遠(yuǎn)。
B、奇點(diǎn)。奇點(diǎn)是指最終會(huì)有那么一刻，一個(gè)基于AI有自己目的和目標(biāo)的智能實(shí)體在進(jìn)行AI研究方面要比我們?nèi)祟惐憩F(xiàn)還要出色。然后，在摩爾定律的不斷作用下，計(jì)算機(jī)會(huì)跑得越來(lái)越快，使得人工智能可以自行發(fā)展下去，就像物理學(xué)中穿越黑洞的奇點(diǎn)一樣，我們也完全不知道另一頭會(huì)發(fā)生什么事情。
“相信”奇點(diǎn)的人樂(lè)于賦予后奇點(diǎn)的AI不可思議的能力，反正此后會(huì)發(fā)生什么是相當(dāng)難以預(yù)測(cè)的。我之所以給這種相信加上加重引號(hào)，是因?yàn)閷?duì)奇點(diǎn)的信念往往會(huì)被當(dāng)成一種宗教信仰。對(duì)于一些人來(lái)說(shuō)這種信念還有額外的福利，那就是可以將自己的思想上傳到一臺(tái)智能計(jì)算機(jī)上，這樣既可以獲得永生又沒(méi)有必須相信存在超自然的上帝的不便。永遠(yuǎn)強(qiáng)大的技術(shù)性的AI對(duì)他們而言就是新的上帝。技術(shù)宗教！
一些人對(duì)于拯救日何時(shí)到來(lái)有著特別的信念——某位特別的奇點(diǎn)先知（注：應(yīng)該是指庫(kù)茲韋爾）的信徒認(rèn)為這一天會(huì)在2029年到來(lái)。
這種錯(cuò)誤的預(yù)測(cè)很大程度上是受到了指數(shù)論的推動(dòng)。這個(gè)后面我會(huì)繼續(xù)討論，這屬于AI預(yù)測(cè)方面的七宗罪之一。
即便計(jì)算機(jī)能力已經(jīng)很強(qiáng)但這并不意味著我們接近于擁有可以進(jìn)行人工智能研究，并且還不斷改編自身代碼從而變得越來(lái)越好的程序。
能夠理解計(jì)算機(jī)代碼的程序現(xiàn)狀如何呢？目前我們還沒(méi)有能夠像剛上了一個(gè)月的課的計(jì)算機(jī)科學(xué)專業(yè)新生那樣理解一頁(yè)程序的程序。AI系統(tǒng)要想寫(xiě)出比人寫(xiě)的更好的AI系統(tǒng)還有很長(zhǎng)一段路要走。
在神經(jīng)層面模仿大腦是奇點(diǎn)崇拜者經(jīng)常提到的另一種方法論。我們大概用了30年的時(shí)間完全弄清楚了秀麗線蟲(chóng)302個(gè)神經(jīng)元的“接線圖”以及其間的7000個(gè)連接。這對(duì)于理解行為與神經(jīng)元之間的關(guān)聯(lián)方式極其有用。但這是數(shù)百人長(zhǎng)達(dá)30年的研究成果。而據(jù)試圖模仿秀麗線蟲(chóng)的OpenWorm項(xiàng)目介紹，他們目前的工作還沒(méi)有做到一半。要想模仿?lián)碛?000億神經(jīng)元以及海量連接的人腦要走的魯還很遠(yuǎn)很遠(yuǎn)。所以如果你指望靠奇點(diǎn)上傳你自己到仿真大腦的話，我寧肯再拖幾百年再死。
C、價(jià)值觀背離。第三種情況是基于人工智能的機(jī)器非常擅長(zhǎng)執(zhí)行任務(wù)，這使得AI在這個(gè)復(fù)雜的世界里表現(xiàn)得像個(gè)超人一樣。但它們跟人類沒(méi)有共同的價(jià)值觀會(huì)導(dǎo)致各種各樣的問(wèn)題。
如果我最近購(gòu)買過(guò)去某城市的機(jī)票，突然之間我瀏覽的所有要廣告獲得收入的網(wǎng)頁(yè)上都會(huì)出現(xiàn)去往同一城市的機(jī)票廣告。但我不會(huì)視之為超級(jí)智能，相反，這說(shuō)明廣告安排算法設(shè)計(jì)得很糟糕。
不過(guò)以下是這種觀點(diǎn)的一位支持者的話：
知名的回形針案例是個(gè)合適的例子：如果機(jī)器唯一的目標(biāo)是讓回形針數(shù)量最大化的話，它可能會(huì)發(fā)明出不可思議的技術(shù)，因?yàn)樗鼤?huì)為此將可達(dá)宇宙的一切物質(zhì)都轉(zhuǎn)化為回形針；但它的決定仍然是啞的（plain dumb，或者說(shuō)愚蠢）的。
（注：牛津大學(xué)人類未來(lái)研究院院長(zhǎng)、《超級(jí)智能：道路、危險(xiǎn)和策略》作者Bostrom層提出過(guò)一個(gè)思想實(shí)驗(yàn)：“回形針最大機(jī)”。假如有一臺(tái)生產(chǎn)回形針的機(jī)器具備了超級(jí)智能，其所有智力就會(huì)投入到更好更快更多地制造回形針當(dāng)中，而最終將是整個(gè)地球都變成回形針。它的道德體系就是圍繞制造回形針而存在的，它并不愛(ài)你也不恨你，它只是把你看做是一坨可供制造回形針的原子而已。Bostrom用這個(gè)例子說(shuō)明機(jī)器能夠脫離人類控制而自己獨(dú)立運(yùn)行。）
好吧，但在現(xiàn)實(shí)世界里我們永遠(yuǎn)也不會(huì)出現(xiàn)這樣的程序。一個(gè)足夠聰明的程序，會(huì)發(fā)明出推翻人類社會(huì)給它制定的目標(biāo)的手段，但是它并不需要理解這些手段會(huì)不會(huì)給人類造成問(wèn)題。考慮到技術(shù)可能會(huì)按照這種方式演進(jìn)也一樣是plain dumb，而且要靠后面討論的七宗罪中的多個(gè)錯(cuò)誤才會(huì)出現(xiàn)這種情況。
同一位作者反復(fù)提出我們需要研究出在數(shù)學(xué)上驗(yàn)證人工智能系統(tǒng)的目標(biāo)跟人類目標(biāo)一致的手段……
我認(rèn)為研究人員提出的這個(gè)C問(wèn)題看到了一個(gè)有趣的知性研究問(wèn)題，然后發(fā)出了他們有力的聲音來(lái)引起大家的緊迫感。AI的奉承者接受了這個(gè)問(wèn)題，并將之變成了一個(gè)人類的存在問(wèn)題。
順便說(shuō)一下，我認(rèn)為尋求（價(jià)值觀一致的）數(shù)學(xué)可證性是徒勞無(wú)功的。大型團(tuán)隊(duì)幾年的努力都沒(méi)有辦法證明1000行的程序不會(huì)被外部黑客攻破，那么規(guī)模大得多的AI系統(tǒng)的價(jià)值觀一致性自然就更加無(wú)法證實(shí)了。好消息是數(shù)千年來(lái)我們?nèi)祟惸軌虺晒Φ嘏c本身也是自動(dòng)化代理、有著自己的渴望以及超人力量的馬共存，甚至按照我們的目的去利用后者。但我們對(duì)于馬還沒(méi)有發(fā)現(xiàn)一條定理。至今都沒(méi)有！
D、真正邪惡、恐怖、骯臟、滅絕人性的人工智能實(shí)體。最后這一類跟C很像，但這種AI驅(qū)動(dòng)的機(jī)器會(huì)反感人類，并且決定消滅后者。
至少?gòu)?960年代末開(kāi)始，好萊塢就熱衷于做起了白日夢(mèng)：比如說(shuō)電影《2001：太空漫游（2001: A Space Odyssey ）》（1968年，設(shè)定場(chǎng)景為2001年），說(shuō)的是造成了大肆；破壞的機(jī)器被緊閉在一艘太空船上；電影《巨人：福賓計(jì)劃（Colossus: The Forbin Project）》（1970年，背景是當(dāng)時(shí)）的破壞程度更是達(dá)到了行星級(jí)規(guī)模。這些年來(lái)該主題經(jīng)久不衰，最近的電影《我，機(jī)器人》（2004年，場(chǎng)景設(shè)定為2035年）中邪惡機(jī)器人計(jì)算機(jī)VIKI通過(guò)新的人形機(jī)器人NS-5接管了世界。
可是這種想法甚至比C錯(cuò)得還要厲害。我認(rèn)為這必然會(huì)引起大家在聯(lián)想到這些恐怖的危險(xiǎn)時(shí)產(chǎn)生刺痛的感覺(jué)……
在本文當(dāng)中，我將會(huì)談?wù)勡娛職⑹謾C(jī)器人的問(wèn)題——媒體往往會(huì)將其與問(wèn)題D混淆在一起，但其實(shí)這是非常不一樣的問(wèn)題。此外，我認(rèn)為有關(guān)此類軍事機(jī)器人的許多看法都被誤導(dǎo)了，但這方面的問(wèn)題需要另開(kāi)一篇文章才能說(shuō)清楚。
現(xiàn)在來(lái)談?wù)劥蠹医?jīng)常犯的7個(gè)錯(cuò)誤。這7個(gè)錯(cuò)誤都會(huì)影響到有關(guān)場(chǎng)景A、B、CD的出現(xiàn)可能性和時(shí)間尺度的判斷。但其中一些的錯(cuò)估我認(rèn)為會(huì)比另外一些更加嚴(yán)重。為此我會(huì)在7個(gè)錯(cuò)誤的小節(jié)標(biāo)題標(biāo)注出來(lái)。而第一個(gè)錯(cuò)誤會(huì)對(duì)所有地方都產(chǎn)生不同程度的破壞！
1. [A、B、C、D]高估或者低估
Roy Amara是一位未來(lái)學(xué)家以及未來(lái)研究所（Institute For The Future）的聯(lián)合創(chuàng)始人兼總裁，風(fēng)投家，也是硅谷的智慧大腦。他最著名的是他的格言——Amara定律：
我們往往會(huì)高估技術(shù)的短期影響而又低估了它的長(zhǎng)期影響
這寥寥的幾個(gè)字可以短到用一條推特發(fā)布出去，同時(shí)也可以從不同的角度進(jìn)行詮釋。樂(lè)觀主義者可以這樣解讀，悲觀主義者也可以那樣解讀。這應(yīng)該會(huì)讓一些樂(lè)觀主義者稍微悲觀一點(diǎn)，讓悲觀主義者稍微樂(lè)觀一點(diǎn)，至少是一陣子，然后再恢復(fù)常態(tài)。
Amara定理的兩面性有一個(gè)很好的例子，那就是過(guò)去30年對(duì)美國(guó)的GPS看法。自從1978年以來(lái)一個(gè)有24（含備件的話是30顆）顆衛(wèi)星組成的星群被放置到了軌道上面。地面站同時(shí)可以看到其中的4顆，然后計(jì)算其經(jīng)緯度以及海拔高度。在科羅拉多州施里弗空軍基地（Schriever Air Force Base）的運(yùn)營(yíng)中心會(huì)不斷監(jiān)控衛(wèi)星的精確軌道位置以及原子鐘的準(zhǔn)確性，然后上傳細(xì)微且連續(xù)的調(diào)整參數(shù)給對(duì)方。如果那些更新停止的話，1、2周之后GPS就無(wú)法準(zhǔn)確地引導(dǎo)你在道路上行駛，然后過(guò)來(lái)幾個(gè)月后甚至?xí)`導(dǎo)你跑到另一個(gè)城鎮(zhèn)去。
GPS的目標(biāo)是為了給美軍的炸彈提供精確制導(dǎo)。這方面的第一次運(yùn)用是在1991年沙漠風(fēng)暴行動(dòng)期間，GPS果然不辱使命。但在1990年代對(duì)GPS還是有著很大的不信任，因?yàn)镚PS并沒(méi)有兌現(xiàn)其早期承諾，直到2000年初時(shí)GPS的實(shí)用性才得到了美國(guó)軍方的認(rèn)可。在實(shí)現(xiàn)早期對(duì)其的期望方面GPS經(jīng)歷過(guò)一段艱難的日子，整個(gè)計(jì)劃一次又一次地幾乎面臨夭折。
今天的GPS已經(jīng)算是處在長(zhǎng)期之后，而它在今天的應(yīng)用是當(dāng)年不敢想象的。我的Apple Watch Series 2在我外出跑步時(shí)會(huì)利用GPS記錄我的位置，而且可以精確到看清楚我在路的哪一邊。接收器尺寸之小、價(jià)格之低對(duì)于早期GPS的工程師來(lái)說(shuō)是不可思議的。GPS現(xiàn)在已經(jīng)被那么多的東西使用，很多是設(shè)計(jì)師從來(lái)都未曾想過(guò)的。它同步著全球的物理實(shí)驗(yàn)，現(xiàn)在是同步美國(guó)電網(wǎng)保持其運(yùn)轉(zhuǎn)的關(guān)鍵部件，甚至還能使得真正控制股市的高頻交易商基本不會(huì)陷入災(zāi)難性的計(jì)時(shí)錯(cuò)誤中。所有的飛機(jī)無(wú)論大小都要用GPS來(lái)導(dǎo)航，它被用于跟蹤保釋出獄的煩人，決定著應(yīng)該在全球的哪一塊地種植哪一個(gè)種子變種。它跟蹤我們的卡車隊(duì)并匯報(bào)司機(jī)的表現(xiàn)，而地面的反射信號(hào)被用于確定地面的水分情況如何，然后確定灌溉的計(jì)劃。
GPS從一個(gè)目標(biāo)開(kāi)始但讓它達(dá)到原先期望的效果卻需要一個(gè)漫長(zhǎng)而艱辛的過(guò)程。現(xiàn)在它已經(jīng)滲透到我們?nèi)粘Ｉ畹姆椒矫婷?，如果沒(méi)有它的話我們不僅會(huì)走丟，還會(huì)挨冷挨餓甚至可能都活不了。
過(guò)去30年里我們?cè)谄渌夹g(shù)身上也目睹了類似的模式。一開(kāi)始是很大的預(yù)期，然后慢慢地加大信心，超出了我們?cè)鹊念A(yù)計(jì)。區(qū)塊鏈（比特幣是第一個(gè)應(yīng)用）、人類基因組測(cè)序、太陽(yáng)能、風(fēng)能甚至日用百貨的送貨上門等都是這樣。
也許最引人注目的例子就是計(jì)算本身。1950年代當(dāng)?shù)谝慌_(tái)商用計(jì)算機(jī)部署起來(lái)時(shí)，對(duì)它會(huì)奪走所有工作的恐懼在不斷擴(kuò)散（可見(jiàn)1957年的電影《Desk Set》）。但在接下來(lái)的30年時(shí)間里，計(jì)算機(jī)幾乎沒(méi)有對(duì)大家的生活產(chǎn)生直接影響，甚至到1987年的時(shí)候消費(fèi)者設(shè)備也幾乎沒(méi)有任何的微處理器。不過(guò)在隨后30年的第二波浪潮里一切都變了，現(xiàn)在我們隨身都攜帶這計(jì)算機(jī)、我們的車子、屋子里都滿是它們。
要想看清楚計(jì)算機(jī)的長(zhǎng)期影響力是如何被不斷低估的，你只需要回到過(guò)去看看它們?cè)谂f的科幻電影或者電視節(jié)目中有關(guān)未來(lái)計(jì)算機(jī)的形象就知道了。1966年《星際迷航》（TOS）里面那臺(tái)300年后的太空飛船計(jì)算機(jī)在30年后就變得很可笑，更不要說(shuō)3個(gè)世紀(jì)后了。而這《銀河飛龍（Star Trek The Next Generation）》以及《銀河前哨（Star Trek Deep Space Nine）》這兩部時(shí)間跨度從1986到1999的系列科幻電影里面，由于無(wú)法通過(guò)網(wǎng)絡(luò)（類似彼時(shí)的AOL）傳送，大型文件仍然需要手工從遙遠(yuǎn)未來(lái)的宇宙飛船或者太空站攜帶過(guò)去。而可供大家搜索的數(shù)據(jù)庫(kù)的Web之前的設(shè)計(jì)完全是缺乏生氣的。
大多數(shù)技術(shù)在短期內(nèi)都被高估了。它們是耀眼的新生事物。人工智能不斷經(jīng)歷著成為耀眼新食物和被高估的過(guò)程，1960年代如此，1980年代如此，我們認(rèn)為現(xiàn)在有再次重演。（大型公司有關(guān)其AI產(chǎn)品的一些營(yíng)銷語(yǔ)言其實(shí)都是妄想，可能會(huì)在不就得將來(lái)對(duì)他們形成反作用）
就長(zhǎng)期而言，并非所有的技術(shù)都會(huì)被低估，但AI很可能是這樣。問(wèn)題是多久才算長(zhǎng)期。接下來(lái)要討論的6個(gè)錯(cuò)誤有助于解釋未來(lái)AI的長(zhǎng)期性被嚴(yán)重低估了。
2. [B、C、D]想象有魔法出現(xiàn)
我還小的時(shí)候，Arthur C. Clarke是科幻小說(shuō)家的“三巨頭”之一（另兩位是Robert Heinlein和阿西莫夫）。但Clarke不僅是一位科幻小說(shuō)家，他還是發(fā)明家、科學(xué)作家以及未來(lái)學(xué)家。
1945年，他寫(xiě)了一封信給《Wireless World》，里面談了有關(guān)英語(yǔ)研究的地球同步衛(wèi)星的想法，當(dāng)年10月，他發(fā)表了一篇論文概括了如何用于提供全球無(wú)線電覆蓋的辦法。1948年，他寫(xiě)了一篇短篇小說(shuō)《The Sentinel 》，這成為了Stanley Kubrick的AI電影巨作《2001：太空漫游》的核心想法，電影制作的同時(shí)Clarke還寫(xiě)了一篇同名的書(shū)，解釋了許多觀眾感到迷惑的問(wèn)題。
1962到1973年間，Clarke提出了三條格言，也就是后來(lái)所謂的Clarke三定律（他說(shuō)牛頓也只有3條定律，所以3條對(duì)于他來(lái)說(shuō)也足夠了）：
定律一：如果一個(gè)年高德劭的杰出科學(xué)家說(shuō)，某件事情是可能的，那他可能是正確的。但如果他說(shuō)，某件事情是不可能的，那他也許是非常錯(cuò)誤的；
定律二：要發(fā)現(xiàn)某件事情是否可能的界限，唯一的途徑是跨越這個(gè)界限，從不可能跑到可能中去；
定律三：任何非常先進(jìn)的技術(shù)，初看都與魔法無(wú)異。
個(gè)人而言我會(huì)對(duì)他的第一條定律的第二句話比較提防，因?yàn)閷?duì)于AI的發(fā)展速度我要比其他人保守得多。不過(guò)目前我先來(lái)講講第三定律。
想象我們有一臺(tái)時(shí)光機(jī)（這本身就是強(qiáng)悍的魔術(shù)……），可以把牛頓從17世紀(jì)末帶到劍橋大學(xué)的三一學(xué)院禮拜堂。他在那里的時(shí)候那個(gè)禮拜堂已經(jīng)有100年的歷史了，所以在沒(méi)有意識(shí)到當(dāng)前的日期的情況下他大概不會(huì)對(duì)自己出現(xiàn)在里面感到非常震驚。
現(xiàn)在給牛頓看樣?xùn)|西。從你兜里掏出一部iPhone，開(kāi)機(jī)，屏幕亮了起來(lái)，然后把布滿圖標(biāo)的手機(jī)交給他。這個(gè)通過(guò)棱鏡揭示了白光是如何由不同色光的成分構(gòu)成的科學(xué)家無(wú)疑會(huì)對(duì)如此小的一個(gè)東西能在禮拜堂產(chǎn)生如此豐富的顏色感到驚奇?，F(xiàn)在再播放一部英國(guó)鄉(xiāng)村的風(fēng)景電影，可能再加上一些他熟悉的動(dòng)物——內(nèi)容里面不會(huì)出現(xiàn)任何揭示未來(lái)的東西。然后再播放一些他熟悉的教堂音樂(lè)。再給他看500多頁(yè)他的巨著《自然哲學(xué)的數(shù)學(xué)原理》的個(gè)人注釋副本，教他如何利用手勢(shì)操作來(lái)放大文字。
牛頓能不能開(kāi)始解釋這小小的設(shè)備究竟是怎么做到這些的呢？雖然他發(fā)明了微積分并且對(duì)光學(xué)和重力做出了解釋，但牛頓永遠(yuǎn)也無(wú)法分辨化學(xué)與煉金術(shù)。所以我認(rèn)為他會(huì)感到困惑，對(duì)這臺(tái)設(shè)備究竟是什么東西哪怕連一點(diǎn)思路都沒(méi)有頭緒。對(duì)于他來(lái)說(shuō)這設(shè)備跟神秘學(xué)（牛頓晚年癡迷）的化身無(wú)異。對(duì)于他來(lái)說(shuō)這跟魔法沒(méi)有區(qū)別。記住，牛頓可是非常聰明的家伙。
如果某個(gè)東西是魔法的話就很難知道它的局限是什么了。假設(shè)我們進(jìn)一步給牛頓看到它是如何照亮黑暗、如何拍照和拍電影并且記錄聲音的，如何被用作放大鏡以及鏡子的。然后再給他炫一下其算術(shù)運(yùn)算速度有多快，可以精確到小數(shù)點(diǎn)后多少位的。我們甚至還可以給他看看他的走路步數(shù)是多少。
牛頓還會(huì)把猜測(cè)面前的這個(gè)東西會(huì)做哪些事情呢？他會(huì)不會(huì)猜可以用這個(gè)東西把人馬上帶到世界任何一個(gè)地方？棱鏡可以永遠(yuǎn)工作下去。他會(huì)不會(huì)猜測(cè)iPhone也能一直工作下去，而不會(huì)理解這個(gè)玩意兒需要充電（記住，我們逮住他的時(shí)候距離法拉第誕生還有100年，電的概念還沒(méi)有出現(xiàn)）？如果沒(méi)有火它也能成為光源，那是不是也能變出金來(lái)？
在想象未來(lái)技術(shù)的時(shí)候我們都會(huì)出現(xiàn)這樣的問(wèn)題。如果它距離我們今天能夠理解的技術(shù)太遙遠(yuǎn)的話，那么我們是無(wú)法知道該技術(shù)的局限性的。這時(shí)候它開(kāi)始變得與魔法無(wú)異。
當(dāng)一項(xiàng)技術(shù)超越了這條魔法線之后，一個(gè)人說(shuō)的任何東西都不再可以證偽，因?yàn)樗悄Хā?/div>
在試圖跟人爭(zhēng)論我們是否應(yīng)該對(duì)純粹的AGI（且不說(shuō)上述C、D情況）感到恐懼時(shí)，我經(jīng)常會(huì)遇到這樣的問(wèn)題。我被告知我并不理解它有多強(qiáng)大。這不是一個(gè)論據(jù)。我們甚至都不知道這樣的東西是否存在。我看到的一切跡象均表明我們對(duì)怎么造這樣的東西毫無(wú)頭緒。所以它的屬性是完全未知的，在修辭上它就迅速變成了魔法和超級(jí)強(qiáng)大。沒(méi)有限制。
要小心哪些有關(guān)具有魔力的未來(lái)科技的論據(jù)。因?yàn)檫@些論據(jù)你永遠(yuǎn)也無(wú)法反駁。因?yàn)樗孕拍顬榛A(chǔ)，而不是科學(xué)依據(jù)。
3. [A、B、C]表現(xiàn)與能力
估測(cè)與我們互動(dòng)的個(gè)人的能力是我們大家都會(huì)的社會(huì)技能之一。誠(chéng)然，有時(shí)候“脫離群體”的問(wèn)題往往會(huì)超出我們的預(yù)計(jì)，而這些就是種族主義、性別歧視、階層歧視的根源。不過(guò)就一般而言，我們會(huì)利用一個(gè)人執(zhí)行特定任務(wù)的表現(xiàn)作為線索來(lái)估計(jì)他們執(zhí)行不同任務(wù)的表現(xiàn)。我們能夠通過(guò)觀察執(zhí)行一項(xiàng)任務(wù)的表現(xiàn)來(lái)進(jìn)行歸納，猜測(cè)其是否勝任其他范圍大得多的任務(wù)。我們憑直覺(jué)來(lái)理解如何從一個(gè)人的表現(xiàn)水平去歸納出他們?cè)谙嚓P(guān)領(lǐng)域的能力。
當(dāng)我身處外國(guó)城市時(shí)我們?cè)诮值郎险夷吧藛?wèn)路時(shí)，我自信地用我們使用的語(yǔ)言回答并且給出似乎有道理的方向指示，我們認(rèn)為把我們的幸運(yùn)往前推進(jìn)一步是值得的，然后再詢問(wèn)當(dāng)?shù)氐闹Ц断到y(tǒng)在哪里因?yàn)槲覀兿氪罟坏教幾咦摺?/div>
如果我們的小孩能配置自己的游戲機(jī)連上家庭wifi我們就會(huì)猜測(cè)如果激勵(lì)手段足夠的話他們還會(huì)幫我們把新的平板電腦也連上相同的網(wǎng)絡(luò)。如果我們注意到某人會(huì)開(kāi)手動(dòng)擋的車，我們就會(huì)相當(dāng)肯定他們一樣也能開(kāi)自動(dòng)擋的。
如果我們走進(jìn)一家大型硬件商店詢問(wèn)一位員工特定物品放在什么地方，比方說(shuō)家庭電氣安裝用具放在哪里，而那個(gè)人卻帶我們?nèi)サ綀@林工具通道，我們下次大概不會(huì)再問(wèn)同一個(gè)人去哪找某個(gè)浴室設(shè)施。我們會(huì)估計(jì)他們不僅不知道電氣安裝用具放在哪里，而且連整個(gè)商品布局都不清楚，所以我們會(huì)另外找一個(gè)人去問(wèn)位置。
現(xiàn)在我們?cè)賮?lái)看看更接近今日AI系統(tǒng)表現(xiàn)的另一個(gè)例子。
假設(shè)有個(gè)人告訴我們一張照片是有人在玩飛盤，然后我們自然會(huì)假設(shè)他們能夠回答類似“飛盤是什么樣的？”，“一個(gè)人大概能扔多遠(yuǎn)？”，“人可以吃飛盤嗎？”，“一次大概有幾個(gè)人在玩飛盤？”，“今天的天氣適合玩飛盤嗎？”這樣的問(wèn)題。我們不會(huì)預(yù)期會(huì)說(shuō)自己不知道圖片中發(fā)生了什么的、來(lái)自不同文化的人能夠回答所有那些問(wèn)題。今天的圖片標(biāo)記系統(tǒng)通?？梢越o網(wǎng)上的照片出正確的標(biāo)簽，比如“人在公園玩飛盤”，但是不可能回答出那些問(wèn)題。它們能做的只是可以給更多圖像打標(biāo)簽，根本不能回答問(wèn)題。此外，它們對(duì)人是什么，公園往往是在戶外，人有年紀(jì)，天氣不僅僅是決定照片的樣子等東西都一無(wú)所知。
不過(guò)這并不意味著那些系統(tǒng)就一無(wú)是處。它們對(duì)搜索引擎公司具有極大價(jià)值。光是把圖像標(biāo)記好了就能讓搜索引擎填補(bǔ)從搜索文字到搜索圖片的鴻溝。還要注意搜索引擎對(duì)任何查詢往往都會(huì)提供多個(gè)回答然后讓人對(duì)前面幾個(gè)回答進(jìn)行審核確定哪些是實(shí)際相關(guān)的。搜索引擎公司努力想要提高自身系統(tǒng)的表現(xiàn)，拿到最好的回答放到排名前5左右。但這需要人類用戶的認(rèn)知能力，所以他們不需要每次都先得到最好的回答。如果他們只得到一個(gè)回答，無(wú)論是搜索“巴黎的好酒店”，還是只提供“有趣的領(lǐng)帶”一張可選圖片的電子商務(wù)網(wǎng)站，其用處就沒(méi)那么大了。
問(wèn)題出在哪里呢？大家聽(tīng)說(shuō)某個(gè)機(jī)器人或者AI系統(tǒng)已經(jīng)能執(zhí)行某種任務(wù)了。然后他們就從那種表現(xiàn)歸納出一種認(rèn)知性相同任務(wù)預(yù)計(jì)具備的一般能力。然后他們?cè)侔堰@種泛化到機(jī)器人或AI系統(tǒng)。
今天的機(jī)器人和AI系統(tǒng)相對(duì)于我們能做的事情在能力上是極其狹隘的。人類的那種概括根本就不具備。而做出這種概括的人就錯(cuò)得太離譜了。
4. [A、B]手提箱單詞（Suitcase words）
我在我的一片解釋機(jī)器學(xué)習(xí)機(jī)制的文章中簡(jiǎn)單提到過(guò)手提箱單詞（suitcase words，Marvin Minsky杜撰的詞，意思是說(shuō)一個(gè)單詞包含有很多含義，就像手提箱打開(kāi)后里面有很多東西一樣）。在那篇文章中我討論了“學(xué)習(xí)”這個(gè)詞應(yīng)用到人的身上可以有很多種類型的學(xué)習(xí)。正如我所說(shuō)那樣，人類用于學(xué)習(xí)不同類型的學(xué)習(xí)當(dāng)然會(huì)有不同的機(jī)制。學(xué)習(xí)使用筷子跟學(xué)習(xí)新歌的調(diào)子當(dāng)然是非常不同的體驗(yàn)。學(xué)習(xí)編寫(xiě)代碼跟學(xué)習(xí)在特定城市穿行也會(huì)有很大的不同。
當(dāng)大家聽(tīng)說(shuō)機(jī)器學(xué)習(xí)取得了突飛猛進(jìn)時(shí)，他們會(huì)考慮在一些新領(lǐng)域的機(jī)器學(xué)習(xí)，他們往往將人學(xué)習(xí)該新領(lǐng)域的心智模式套用過(guò)去。然而，機(jī)器學(xué)習(xí)是非常脆弱的，每一個(gè)新的問(wèn)題領(lǐng)域需要研究人員或者工程師的大量準(zhǔn)備，要有特定目的的編碼來(lái)處理輸入數(shù)據(jù)，需要特殊用途的訓(xùn)練數(shù)據(jù)，以及定制的學(xué)習(xí)結(jié)構(gòu)。今天計(jì)算機(jī)的機(jī)器學(xué)習(xí)根本就不是像人類的那種海綿式的吸收，可以無(wú)需進(jìn)行手術(shù)般篡改或者有目的開(kāi)發(fā)的基礎(chǔ)上就能在新的領(lǐng)域取得快速進(jìn)展。
類似的，當(dāng)大家聽(tīng)說(shuō)計(jì)算機(jī)現(xiàn)在可以擊敗世界國(guó)際象棋冠軍（1997年）或者圍棋世界冠軍（2016年）時(shí)，他們往往認(rèn)為機(jī)器就像人一樣在“下”棋。當(dāng)然在現(xiàn)實(shí)中這些程序?qū)τ螒蚴鞘裁礃右约白约旱南路ㄆ鋵?shí)是一無(wú)所知的。就像那篇大西洋月刊的文章指出那樣，李世石只需要12盎司的咖啡就能思路敏捷，而AI程序Alphago作為分布式應(yīng)用卻需要大量的機(jī)器部署，并且要有超過(guò)100位科學(xué)家的背后支撐。
人在比賽的時(shí)候規(guī)則的一點(diǎn)小改動(dòng)并不會(huì)讓他們迷惑——好的玩家懂得適應(yīng)。但Alphago或者1997年擊敗卡斯帕羅夫的深藍(lán)就不行。
手提箱單詞導(dǎo)致大家在理解機(jī)器執(zhí)行人類能做的事情有多好時(shí)會(huì)誤入歧途。而另一方面，AI研究人員，更糟的是其所在機(jī)構(gòu)的新聞處則渴望宣稱自己所取得的進(jìn)展就是手提箱單詞之于人類的一個(gè)例子。這里重要的是“一個(gè)例子”。無(wú)論研究人員再怎么小心（不幸的是并不是所有人都那么小心），只要研究結(jié)果傳到了新聞辦公室再傳到外部媒體那里，細(xì)節(jié)很快就被弄丟了。新聞?lì)^條開(kāi)始吹噓那個(gè)手提箱單詞，并且誤導(dǎo)對(duì)AI的一般理解，以及距離實(shí)現(xiàn)更多還有多近。
還有，我們甚至還沒(méi)怎么談到Minsky列舉的許多有關(guān)AI系統(tǒng)的手提箱單詞；比如意識(shí)、經(jīng)歷或者思考等。對(duì)我們?nèi)祟悂?lái)說(shuō)在沒(méi)有意識(shí)、或者沒(méi)有下棋經(jīng)驗(yàn)，或者思考走法的情況下，下棋是很難想象的。迄今為止，在實(shí)現(xiàn)手提箱單詞所代表的靈活性方面，我們的AI系統(tǒng)還沒(méi)有一個(gè)提升到入門級(jí)的水平。而當(dāng)我們的確開(kāi)始可以在特定AI系統(tǒng)運(yùn)用其中一些單詞時(shí)，媒體和大多數(shù)人可能又會(huì)再度把這種能力過(guò)度一般化了。
我擔(dān)心的是這些單詞的部分含義哪怕只是在非常狹隘的一方面得到了證明大家也會(huì)過(guò)度一般化，以為機(jī)器在具備智能的這些方面已經(jīng)接近類似人類能力的大門。
用語(yǔ)很重要，但只要我們用一個(gè)詞語(yǔ)描述有關(guān)AI系統(tǒng)的某個(gè)東西時(shí)，如果這個(gè)詞也適用于人的話，我們發(fā)現(xiàn)大家就會(huì)高估其含義。迄今為止大多數(shù)適用人類的單詞在用到機(jī)器身上時(shí)，都不過(guò)是用在人身上含義的萬(wàn)千之一而已。
以下是一些應(yīng)用到機(jī)器身上，但在能力方面完全不像人類的的動(dòng)詞：
預(yù)期（anticipate）、擊?。╞eat）、 分類（classify）、 描述（describe）、 估計(jì)（estimate）、 解釋（explain）、 產(chǎn)生幻覺(jué)（hallucinate）、 聽(tīng)（hear）、想象（imagine）、 企圖（intend）、 學(xué)習(xí)（learn）、 建模（model）、計(jì)劃（plan）、 玩（play）、 認(rèn)識(shí)（recognize）、讀（read）、 推理（reason）、 反映（reflect）、 看（see）、 理解（understand）、走（walk）、寫(xiě)（write）
這導(dǎo)致大家會(huì)誤解然后高估了今天的人工智能的能力。
5. [A、B、B、B……]指數(shù)性
很多人都遭受過(guò)所謂的“指數(shù)論”之苦。
每個(gè)人對(duì)摩爾定律都有自己的想法，至少知道計(jì)算機(jī)會(huì)像發(fā)條般精確地變得越來(lái)越快。
其實(shí)摩爾的說(shuō)法是芯片可容納的元件數(shù)量每年都會(huì)翻番。我曾經(jīng)寫(xiě)過(guò)一篇文章說(shuō)明這個(gè)規(guī)律在見(jiàn)效了50年之后終于要走到頭了。1965年摩爾做出預(yù)測(cè)的時(shí)候所用的下面這張圖只有4個(gè)數(shù)據(jù)點(diǎn)：
他的推斷只有10年時(shí)間，但是規(guī)律延續(xù)了50年，盡管時(shí)間常數(shù)逐步從1年延長(zhǎng)到2年，而現(xiàn)在它終于走到了盡頭。
把芯片的元件數(shù)翻番使得計(jì)算機(jī)速度也加倍。而且還使得內(nèi)存芯片每2年容量變成之前的4倍。這還導(dǎo)致了數(shù)字照相機(jī)分辨率越來(lái)越高，LCD屏幕像素呈指數(shù)增長(zhǎng)。
摩爾定律見(jiàn)效的原因在于它適用于真/假的數(shù)字化抽象。存在電荷或者電壓?jiǎn)?？?dāng)電子數(shù)減半再減半時(shí)答案還是一樣的。但當(dāng)減半到只剩下幾個(gè)電荷時(shí)量子效應(yīng)就開(kāi)始發(fā)揮主導(dǎo)作用，而我們的硅晶芯片技術(shù)現(xiàn)在就走到這個(gè)關(guān)節(jié)點(diǎn)上。
摩爾定律，以及像摩爾定律這樣的指數(shù)定律會(huì)因?yàn)槿齻€(gè)不同的原因失效：
1）達(dá)到物理極限，使得減半/加倍的過(guò)程不再見(jiàn)效。
2）市場(chǎng)需求達(dá)到飽和，使得定律繼續(xù)的經(jīng)濟(jì)驅(qū)動(dòng)力消失
3）一開(kāi)始可能就不是指數(shù)性過(guò)程。
當(dāng)一個(gè)人受到指數(shù)論影響時(shí)，他們可能就會(huì)無(wú)視上述任何一個(gè)原因，并且認(rèn)為他們用來(lái)證明自己論點(diǎn)的指數(shù)性還會(huì)繼續(xù)。
在第一個(gè)原因的作用下摩爾定律現(xiàn)在已經(jīng)步履蹣跚，但正是因?yàn)槟柖?0年的作用才導(dǎo)致了技術(shù)業(yè)的不斷創(chuàng)新和硅谷、風(fēng)投的崛起，讓一批極客成為全世界最富有的人，這也導(dǎo)致太多的人認(rèn)為包括AI在內(nèi)的技術(shù)的一切都是呈指數(shù)性發(fā)展的。
很多指數(shù)性過(guò)程其實(shí)只是“S曲線”的一部分，這一點(diǎn)很多人都應(yīng)該知道，也就是說(shuō)到了一定時(shí)候超級(jí)高速的增長(zhǎng)就會(huì)放緩。諸如Facebook、Twitter等社交平臺(tái)用戶數(shù)的指數(shù)性增長(zhǎng)最終必將變成S曲線，因?yàn)榭勺兂尚掠脩舻娜藬?shù)是有限的，所以指數(shù)性增長(zhǎng)不可能一直持續(xù)下去。這就是上面第二個(gè)原因的例子。
但還不止這些。有時(shí)候僅是來(lái)自個(gè)人用戶的需求有一陣子看起來(lái)也像是指數(shù)性的，但隨后就變得飽和了。
回到本世紀(jì)初時(shí)我正在管理著MIT一家很大的實(shí)驗(yàn)室（CSAIL），需要給超過(guò)90家研究小組籌集研究經(jīng)費(fèi)，我試圖向贊助商表明iPod的內(nèi)存增長(zhǎng)有多快。跟摩爾不一樣的是我有5個(gè)數(shù)據(jù)點(diǎn)！數(shù)據(jù)是關(guān)于400美元可以給iPod提供多大存儲(chǔ)。數(shù)據(jù)如下：
數(shù)據(jù)呈現(xiàn)出完美的指數(shù)性。然后，我再向外推幾年詢問(wèn)兜里這些內(nèi)存都可以用來(lái)做什么。
如果外推到現(xiàn)在預(yù)計(jì)400美元的iPod應(yīng)該有160000GB（或者160TB）的內(nèi)存。但是今天最高配的iPhone（售價(jià)超過(guò)400美元）也只有256GB的內(nèi)存，還不到2007年的iPod的2倍，而最高配的iPod也只有128GB，相對(duì)于10年前的型號(hào)內(nèi)存反而還下降了。
當(dāng)內(nèi)存容量大到可以容納任何理性之人的完整音樂(lè)庫(kù)時(shí)，這個(gè)特別的指數(shù)性就會(huì)突然之間崩塌。當(dāng)客戶需求不再時(shí)指數(shù)性也會(huì)停止。
繼續(xù)，由于深度學(xué)習(xí)的成功我們已經(jīng)目睹了AI系統(tǒng)突然有了很好的表現(xiàn)。很多人似乎認(rèn)為這意味著AI相當(dāng)于乘數(shù)效應(yīng)的性能提升會(huì)繼續(xù)常態(tài)化進(jìn)行下去。但其實(shí)深度學(xué)習(xí)的成功是30年不懈努力的結(jié)果，沒(méi)人能夠預(yù)測(cè)到這一點(diǎn)。這只是個(gè)孤立事件。
這并不意味著不會(huì)有更多的孤立事件，也就是一潭死水似的AI研究突然會(huì)給許多AI應(yīng)用插上翅膀。但是這種情況的發(fā)生頻率如何并沒(méi)有“定律”可循。這里面并沒(méi)有物理過(guò)程，就像摩爾定律里面的大量材料那樣為AI的創(chuàng)新提供動(dòng)力。這就是上面的第三個(gè)原因的例子。
所以當(dāng)你看到有人把指數(shù)性增長(zhǎng)作為AI發(fā)展的判斷依據(jù)時(shí)，記住并不是所有所謂的指數(shù)性一開(kāi)始都是真的具備指數(shù)性特征的，而有的在達(dá)到物理極限或者缺少更多的經(jīng)濟(jì)影響時(shí)時(shí)就會(huì)崩塌。
6.[C、D]好萊塢場(chǎng)景
很多好萊塢科幻電影的情節(jié)都是這樣的：世界跟今天的還是一樣，除了一個(gè)轉(zhuǎn)折。當(dāng)然對(duì)于電影來(lái)說(shuō)外星人入侵地球是講得通的。一切都像往常一樣，但隨后有一天外星人突然就出現(xiàn)了。
這類世界的單個(gè)變化對(duì)外星人來(lái)說(shuō)是具有邏輯意義的，但對(duì)于新技術(shù)來(lái)說(shuō)如何呢？在現(xiàn)實(shí)生活當(dāng)中很多新技術(shù)多多少少是同時(shí)發(fā)生的。
有時(shí)候在好萊塢的現(xiàn)實(shí)里面對(duì)于為什么在人類的技術(shù)世界里面會(huì)出現(xiàn)單個(gè)的顛覆（其他都沒(méi)有變化）有著一定的合理性解釋。比方說(shuō)《未來(lái)終結(jié)者》里面就有通過(guò)時(shí)間旅行穿越的來(lái)自未來(lái)的超級(jí)技術(shù)，所以施瓦辛格扮演的超級(jí)機(jī)器人的出現(xiàn)不需要一個(gè)積累的過(guò)程。
但在其他一些電影里面情況似乎有點(diǎn)愚蠢。
在《機(jī)器管家》里面，有一幕是Sam Neill扮演的Richard Martin坐下來(lái)由Robin Williams扮演的人性機(jī)器人服侍吃早餐。他一邊吃早餐一邊拿起一份報(bào)紙來(lái)看。報(bào)紙！印刷的報(bào)紙。而不是平板電腦，或者類似Amazon Echo這樣的設(shè)備播放播客，這種設(shè)定跟互聯(lián)網(wǎng)并沒(méi)有直接的神經(jīng)連接。
在《銀翼殺手》中，哈里森·福特扮演的Rick Deckard想要接觸Sean Young扮演的機(jī)器人Rachael。故事中Rachael跟人是難以分辨的。Deckard是怎么跟她接頭的呢？通過(guò)投幣式公用電話。你得往里面塞進(jìn)硬幣。這種玩意相信本文的許多讀者從來(lái)都沒(méi)見(jiàn)過(guò)。
這就是好萊塢電影的兩個(gè)例子，在這些例子當(dāng)中作家、導(dǎo)演、制片想象會(huì)有一個(gè)人形機(jī)器人，它能夠看、聽(tīng)、說(shuō)，并且像人一樣行動(dòng)——幾乎就是AGI了。其中涉及的神乎其神的材料和機(jī)制姑且就不管了。但那些創(chuàng)意人才卻缺乏想象，或者意愿去考慮世界的其他方面可能也會(huì)隨著該技術(shù)的形成而改變。
結(jié)果證明，很多AI研究人員和AI權(quán)威，尤其是那些沉溺于預(yù)測(cè)C、D的悲觀主義者，其想象力也類似地受到挑戰(zhàn)。
除了許多C、D的時(shí)間尺度預(yù)測(cè)錯(cuò)了以外，他們還忽視了一個(gè)事實(shí)，那就是入股我們最終能夠開(kāi)發(fā)出那么聰明的設(shè)備的話，那時(shí)候的世界跟我們現(xiàn)在的那個(gè)一定會(huì)有顯著的不同。我們不會(huì)突然被此類超級(jí)智能的出現(xiàn)給嚇到。它們會(huì)在技術(shù)上逐漸演進(jìn)，我們的世界會(huì)變得不一樣，會(huì)充斥著許多其他的智能，而且我早已經(jīng)有了很多體驗(yàn)。
比方說(shuō)，在D（想要干掉我們的邪惡超級(jí)智能）的出現(xiàn)很久之前，我們會(huì)看到不那么聰明和好戰(zhàn)的機(jī)器出現(xiàn)。在此之前會(huì)是脾氣真的很暴躁的機(jī)器。再往前則是相當(dāng)乏味的機(jī)器。而在它們之前則是自大討厭的機(jī)器。
這一路上我們會(huì)改變我們的世界，既要為了新技術(shù)調(diào)整環(huán)境，也要對(duì)新技術(shù)本身進(jìn)行調(diào)整。我不是說(shuō)可能不會(huì)有挑戰(zhàn)。而是說(shuō)未必回想很多人以為那樣是突然的、意料之外的。關(guān)于令人震驚場(chǎng)合的天馬行空的想象是沒(méi)有幫助的——這些永遠(yuǎn)都是錯(cuò)的，或者甚至連接近都算不上。
“好萊塢場(chǎng)景”是很好的論證手段，但通常跟未來(lái)現(xiàn)實(shí)并沒(méi)有任何關(guān)聯(lián)。
7. [B、C、D]部署速度
隨著這個(gè)世界變成了軟件，新版本的部署頻率在一些行業(yè)已經(jīng)變得非常高。像Facebook這樣的平臺(tái)的新功能幾乎是按小時(shí)為周期部署的。對(duì)于許多新功能來(lái)說(shuō)，只要通過(guò)了集成測(cè)試，如果現(xiàn)場(chǎng)出現(xiàn)問(wèn)題需要回退到舊版本的話經(jīng)濟(jì)的負(fù)面影響是非常小的——我經(jīng)常發(fā)現(xiàn)在此類平臺(tái)上使用的功能突然失效1小時(shí)左右，我認(rèn)為算是部署失敗。對(duì)于產(chǎn)生收入的組件，比如廣告投放組件來(lái)說(shuō)，需要更加小心一點(diǎn)，而發(fā)生的頻率是以周計(jì)算的。
這屬于硅谷和Web軟件開(kāi)發(fā)者早已習(xí)以為常的節(jié)奏。這種節(jié)奏有效是因?yàn)樾虏渴鸫a的邊際成本非常非常接近于0。
但硬件的邊際成本就很高。我們?cè)谌粘Ｉ罹湍芨惺艿健Ｎ覀兘裉熨?gòu)買的很多汽車都不是自動(dòng)駕駛的，大多數(shù)也都不是軟件使能的，到2040年的時(shí)候可能還會(huì)在道路上出現(xiàn)。這就給我們的車多快變成自動(dòng)駕駛增加了天然的限制。如果我們今天要建個(gè)新家，我們的預(yù)計(jì)是它應(yīng)該能頂100年左右。我現(xiàn)在住的建筑是在1904年建造的，在我的鄰居里面還遠(yuǎn)算不上最古老的建筑。
資本成本讓物理硬件存活很長(zhǎng)一段時(shí)間，即便有了高科技的出現(xiàn)，即便它還有存在主義使命要履行。
美國(guó)空軍的B-52轟炸機(jī)仍然在服役。該版飛機(jī)是在1961年引進(jìn)的，至今已經(jīng)56年。最后一架是在1963年建造的，大概也已經(jīng)有54年了。現(xiàn)在這批飛機(jī)預(yù)計(jì)要服役到2040年，可能還要更久——有討論要把它們的壽命延長(zhǎng)到100年。
美國(guó)的路基洲際彈道導(dǎo)彈（ICBM）是民兵-III的變種，1970年引進(jìn)。數(shù)量一共有450。其發(fā)射系統(tǒng)要靠8英寸的軟盤驅(qū)動(dòng)器，發(fā)射過(guò)程中的一些數(shù)字通信是通過(guò)模擬電話線進(jìn)行的。
我在世界各地的工廠里經(jīng)?？吹綆资甑睦显O(shè)備。我甚至見(jiàn)過(guò)工廠里運(yùn)行Windows 3.0（1990年推出）的PC。其思維模式是“如果沒(méi)壞就不要修”。那些PC和軟件已經(jīng)可靠地運(yùn)行同一個(gè)軟件執(zhí)行同樣的任務(wù)超過(guò)20年了。
歐美中日韓的工廠，包括全新的工廠，其主要的控制機(jī)制都是基于可編程邏輯控制器（PLC）的。這是在1968年引入來(lái)取代繼電器的。“線圈”仍然是目前使用的主要抽象單元，PLC的編程方式也像是存在一個(gè)24V繼電器網(wǎng)絡(luò)一樣。盡管如此，一些直連線已經(jīng)被以太網(wǎng)電纜取代。它們模擬的是基于RS485 8位串行字符協(xié)議的更古老網(wǎng)絡(luò)，后者攜帶的是模仿24V DC電流開(kāi)關(guān)。而以太網(wǎng)電纜并不是開(kāi)放網(wǎng)絡(luò)的一部分，相反，一根根獨(dú)立的電纜都是點(diǎn)對(duì)點(diǎn)連接的，體現(xiàn)的是這些嶄新的古老知道控制器的控制流。當(dāng)你想要改變信息流或者控制流時(shí)，全球大多數(shù)工廠都需要找來(lái)顧問(wèn)用數(shù)周的時(shí)間弄清楚上面有什么，設(shè)計(jì)新的重新配置，然后一群商人隊(duì)伍再進(jìn)行重新布線，對(duì)硬件進(jìn)行重新配置。這種設(shè)備的一家主要制造商最近告訴我說(shuō)他們的節(jié)奏是每20年更新3次軟件。
原則來(lái)說(shuō)這事兒可以換種做法。但在實(shí)踐上不可行。我在討論的可不僅僅是技術(shù)停滯的地方。就在這個(gè)時(shí)候我還在看著職位需求列表，就在今天，Tesla的工廠還試圖招聘全職的PLC技術(shù)人員。通過(guò)繼電器仿真來(lái)對(duì)當(dāng)今最先進(jìn)的AI軟件驅(qū)動(dòng)的汽車生產(chǎn)進(jìn)行自動(dòng)化。
很多的AI研究人員和權(quán)威想象這個(gè)世界已經(jīng)是數(shù)字化了，只需要把新的AI系統(tǒng)引進(jìn)來(lái)就能馬上給現(xiàn)場(chǎng)、供應(yīng)鏈、車間、產(chǎn)品設(shè)計(jì)帶來(lái)運(yùn)營(yíng)方面的改變。
這跟事實(shí)完全是南轅北轍。
自動(dòng)化重新配置的阻抗實(shí)在是驚人的、令人錯(cuò)愕的不靈活。
這一領(lǐng)域你很難給出一個(gè)好點(diǎn)子。改變實(shí)在是太慢了。制造回形針的AI系統(tǒng)決定動(dòng)用一切資源以其他人類需求為代價(jià)生產(chǎn)出越來(lái)越多的回形針的例子其實(shí)只是個(gè)怪異的白日夢(mèng)。未來(lái)幾十年內(nèi)在這個(gè)循環(huán)里面都會(huì)有關(guān)心布線問(wèn)題的人的參與。
幾乎所有機(jī)器人和AI方面的創(chuàng)新都需要很長(zhǎng)很長(zhǎng)的時(shí)間才能廣泛部署，所需時(shí)間之長(zhǎng)要超出圈子內(nèi)外的人的想象。無(wú)人車就是個(gè)例子。突然之間每個(gè)人都認(rèn)識(shí)了這個(gè)東西，以為很快就會(huì)部署。但這所需的時(shí)間比想象得要長(zhǎng)得多。它需要幾十年，而不是幾年。如果你認(rèn)為這種想法有點(diǎn)悲觀的話你應(yīng)該意識(shí)到自從第一輛無(wú)人車路演至今已經(jīng)30年過(guò)去但還是沒(méi)有部署。1987年Ernst Dickmanns和他的團(tuán)隊(duì)在慕尼黑聯(lián)邦國(guó)防軍大學(xué)已經(jīng)能讓他們的無(wú)人車以90公里的時(shí)速在高速路上行駛了20公里。1995年7月，由Chuck Thorpe和Takeo Kanade領(lǐng)銜的CMU團(tuán)隊(duì)研發(fā)的第一輛不用手握方向盤腳踩踏板的廂式旅行車實(shí)現(xiàn)了橫穿美國(guó)東西海岸的壯舉。Google/Waymo做無(wú)人車已經(jīng)有8年了，但是大規(guī)模部署仍然遙遙無(wú)期。從1987年算起，可能需要40、50或者60年我們才能有無(wú)人車的真正部署。
機(jī)器人和AI的新想法也需要很長(zhǎng)很長(zhǎng)的時(shí)間才能變成現(xiàn)實(shí)、部署起來(lái)。
結(jié)語(yǔ)
當(dāng)你看到權(quán)威對(duì)將來(lái)的機(jī)器人和人工智能奇跡或者恐怖提出警告時(shí)，我建議你仔細(xì)對(duì)他們的觀點(diǎn)進(jìn)行評(píng)估，看看有沒(méi)有陷入這7個(gè)陷阱。根據(jù)我的經(jīng)驗(yàn)，從他們的論點(diǎn)里面你總能找到2、3或者4個(gè)這樣的漏洞。
預(yù)測(cè)未來(lái)真的很難，尤其是提前預(yù)測(cè)更是難上加難。
聲明：凡資訊來(lái)源注明為其他媒體來(lái)源的信息，均為轉(zhuǎn)載自其他媒體，并不代表本網(wǎng)站贊同其觀點(diǎn)，也不代表本網(wǎng)站對(duì)其真實(shí)性負(fù)責(zé)。您若對(duì)該文章內(nèi)容有任何疑問(wèn)或質(zhì)疑，請(qǐng)立即與中國(guó)機(jī)器人網(wǎng)(www.baoxianwx.cn)聯(lián)系，本網(wǎng)站將迅速給您回應(yīng)并做處理。
電話：021-39553798-8007
電話：021-39553798-8007
更多>相關(guān)專題
0 條相關(guān)評(píng)論
推薦圖文
推薦專題
- 中國(guó)機(jī)器人發(fā)展哪座城市最強(qiáng)？
- 會(huì)當(dāng)凌絕頂，一覽眾山小——埃夫特科創(chuàng)板上市之路
- 疫情下不得不看，關(guān)于中國(guó)未來(lái)十年的政治經(jīng)濟(jì)分析（深度雄文）
- 服務(wù)機(jī)器人成風(fēng)口，疫情過(guò)后還能否起飛？
- 中國(guó)機(jī)器人抗疫的經(jīng)驗(yàn)，外國(guó)人怎么看？又學(xué)去了多少？
- 誰(shuí)來(lái)破解口罩機(jī)困境？
- 蘋果公司為什么做了一個(gè)機(jī)器人？
- 大疆“無(wú)人車”新專利圖曝光 這是個(gè)不會(huì)飛的無(wú)人機(jī)
- 從協(xié)作機(jī)器人到協(xié)作應(yīng)用？自動(dòng)化應(yīng)用的新拐點(diǎn)來(lái)了！
- 性愛(ài)機(jī)器人竟如此栩栩如生？
點(diǎn)擊排行
