人工智能正在以令人害怕的步伐發(fā)展，它將導(dǎo)致人類走向最終的滅亡。這一言論是由英國理論天體物理學(xué)家馬丁·里斯(Martin Rees)提出的，他認(rèn)為人類正面臨著“無生物的后人類時代”。他估計，這一發(fā)展將在未來25年內(nèi)開始，隨著機器人開始獲得可以與人類智能相比擬的智能。
馬丁是世界上最杰出的天文學(xué)家之一，他認(rèn)為雖然地球已經(jīng)存在了4500萬個世紀(jì)，但本世紀(jì)非常特殊。在幾乎整個地球歷史里，威脅都來自自然界，但從現(xiàn)在開始，最大的危險來自我們自身——尤其是人工智能。
馬丁表示，無論是哪種對“思考”的定義，有機人類類型的大腦送能進(jìn)行的思考的量和強度在未來都將被人類智能的智能所淹沒。“有機大腦的大小和處理能力受到了化學(xué)和新陳代謝的限制。也許人類已經(jīng)非常接近這些極限了。但基于硅的電腦卻沒有這樣的限制。”
“基于這些原因，隨著從單細(xì)胞有機物進(jìn)化到人類，進(jìn)一步發(fā)展的潛力可能是巨大的。”而人工智能不受到地球生物圈限制這一事實使得它成為更加致命的威脅。“當(dāng)這些機器制造者具有最大的建造能力時，太陽系內(nèi)和星際空間將成為它們的理想舞臺。”而這個領(lǐng)域的創(chuàng)新正快速的向前發(fā)展。
里斯爵士表示谷歌擁有的、位于倫敦的人工智能公司DeepMind近期創(chuàng)造出一個機器，后者無需人類的干預(yù)即參透了古老的雅達(dá)利游戲(Atari游戲)的規(guī)則。此外，72歲的里斯還對無人駕駛車輛以及它們區(qū)分道路上的物體的能力表示擔(dān)憂。“那么自動駕駛的無人機是否可以為軍方所用呢？我們是否可以信任它們尋找目標(biāo)個體，或者決定是否部署武器？” 里斯爵士建議超級智能的機器人應(yīng)該是人類的最后發(fā)明。
一旦機器超過了人類的能力，它們可能會設(shè)計和裝配新一代更強大的機器。“在遙遠(yuǎn)的未來，完全理解宇宙的將不是人類的大腦，而是機器的大腦。”
里斯爵士的擔(dān)憂與上周英國物理學(xué)家斯蒂芬· 霍金（ Stephen Hawking）在倫敦舉行的2015年Zeitgeist大會上發(fā)表的言論不謀而合，后者認(rèn)為人類需要擔(dān)心的不是誰將控制人工智能，而是人工智能是否可以被控制。在此之前他曾警告人工智能可能導(dǎo)致人類的終結(jié)。
今年早期，霍金與Space-X和特斯拉公司CEO埃隆·馬斯克（Elon Musk）一起簽署了一封公開信，表示人工智能不應(yīng)任由其不受控制的發(fā)展。這封信認(rèn)為如果不對智能機器加以防護(hù)，人類很可能走向一個黑暗的未來。今年11月馬斯克警告人們?nèi)斯ぶ悄芩鶎?dǎo)致“極其危險的事將發(fā)生”的風(fēng)險，這類極其威脅的事最早可能發(fā)生在未來五年。他之前認(rèn)為發(fā)展自主會思考的機器是“召喚惡魔”。
