我曾多次對(duì)朋友說(shuō)，假如有一天世界上出現(xiàn)了這樣的機(jī)器人——它們完全擺脫了人類的控制，能夠自由自在地行動(dòng)，并且能夠自己研究和生產(chǎn)更先進(jìn)的機(jī)器人——那人類就可能完全受機(jī)器人控制，成為機(jī)器人的奴隸，甚至被機(jī)器人關(guān)進(jìn)籠子，供它們解剖做實(shí)驗(yàn)用或供它們觀賞。
朋友總是充滿自信，他認(rèn)為機(jī)器人是人類研制的，當(dāng)然會(huì)受到人類的控制。他說(shuō)的雖然有道理，但還是說(shuō)服不了我，因?yàn)槲矣X(jué)得有很多種可能性導(dǎo)致人類控制不了機(jī)器人：按照設(shè)計(jì)，本來(lái)是能控制某種機(jī)器人的，但可能由于設(shè)計(jì)中有錯(cuò)誤或沒(méi)有完全按設(shè)計(jì)生產(chǎn)，結(jié)果生產(chǎn)出來(lái)的機(jī)器人不被人類所控制；設(shè)計(jì)人員本來(lái)是能控制某種機(jī)器人的，但由于設(shè)計(jì)人員出了意外，就無(wú)人能控制機(jī)器人了……
原本以為只有像我這樣知識(shí)貧乏的人才會(huì)有如此荒唐的想法，誰(shuí)知大科學(xué)家霍金教授也這么說(shuō)。在前不久的倫敦“谷歌時(shí)代精神”大會(huì)上，他平靜地描述了人類的命運(yùn)：“在未來(lái)100年內(nèi)，結(jié)合人工智能的計(jì)算機(jī)將會(huì)變得比人類更聰明。”這位大科學(xué)家認(rèn)為，屆時(shí)，人類將被機(jī)器控制。為了讓人信服，他還講了一個(gè)故事：“世上真的有上帝嗎？”科學(xué)家用顫抖的聲音問(wèn)道。“現(xiàn)在有了。”世界上最聰明的人工智能電腦回答。說(shuō)完，一道電光閃過(guò)它的電源插頭——人們?cè)僖碴P(guān)不掉它了。微軟創(chuàng)始人比爾·蓋茨、特斯拉汽車(chē)公司與美國(guó)太空探索技術(shù)公司CEO伊隆·馬斯克的名字也赫然在列。在他們看來(lái)，飛速發(fā)展的人工智能已經(jīng)成為“我們現(xiàn)存的最大威脅”。甚至，有學(xué)者描繪了人類完全被機(jī)器人“脾氣”主宰的悲涼命運(yùn)——它若殘暴，我們可能被屠殺；它若人道，我們的出生率可能被逐漸降低，自然滅絕；若它們當(dāng)中有善良的自由主義者，我們將被馴化。
除了計(jì)算機(jī)，人類還可能以其他方式消滅自己。比如，是不是哪天會(huì)出現(xiàn)這樣先進(jìn)的武器：只須扔出去一枚，就能將地球毀了？如果出現(xiàn)這樣的武器，又恰巧遇上一個(gè)狂人，人類的未來(lái)就著實(shí)讓人擔(dān)憂了。我們今天說(shuō)某種科技成果對(duì)人類無(wú)害，有可能只是一時(shí)沒(méi)有發(fā)現(xiàn)它對(duì)人類的潛在危害，但到了幾百年之后，它的危害可能顯露出來(lái)，而那時(shí)人類可能對(duì)它已經(jīng)束手無(wú)策了，只能眼睜睜看著它傷害人類。
我們發(fā)展科學(xué)，本來(lái)是為了人類的生活更加美好，可是由于某種原因，科技發(fā)展的成果在某些領(lǐng)域和時(shí)刻卻給人類帶來(lái)了滅亡。當(dāng)然，這說(shuō)的可能還是比較極端的情形，此外，還可能有某些發(fā)展雖不足以讓人類滅亡，但也給人類帶來(lái)巨大傷害，這種傷害有顯性的，也有隱性和長(zhǎng)久的。
我們要看到科學(xué)發(fā)展所帶來(lái)的好處，但也要警惕它可能給人類帶來(lái)的某種危害，警惕短視而自私的人類只看到它的好處卻忽視它的潛在危害?？萍嫉陌l(fā)展不是越快越好，計(jì)算機(jī)不是越先進(jìn)越好，動(dòng)車(chē)不是跑得越快越好，人類還是多一點(diǎn)辯證思維好。
