許多科幻小說(shuō)中描述了這樣一個(gè)場(chǎng)景，當(dāng)人類(lèi)制造的機(jī)器人產(chǎn)生了自我意識(shí)，并開(kāi)始與人類(lèi)為敵，最終擁有人工智能的機(jī)器人幾乎摧毀了人類(lèi)文明。雖然這只是電影或者小說(shuō)中的情節(jié)，但是計(jì)算機(jī)科學(xué)家和企業(yè)家史蒂芬·奧莫亨德羅認(rèn)為未來(lái)人類(lèi)可能制造出具備反社會(huì)性質(zhì)的人工智能機(jī)器。最近，奧莫亨德羅還發(fā)表了一篇文章，提到了關(guān)于人工智能的一些理論和實(shí)驗(yàn)，勾畫(huà)出未來(lái)機(jī)器人世界的基本情況。

 

　　事實(shí)上，我們所認(rèn)為的人工智能其實(shí)是無(wú)限接近人類(lèi)，具有極強(qiáng)的決定能力，可對(duì)周?chē)膽B(tài)勢(shì)做出判斷并且分析下一步的趨勢(shì)，這就像無(wú)人機(jī)的編程那樣，通過(guò)機(jī)載傳感器獲得周?chē)沫h(huán)境情況，然后通過(guò)復(fù)雜的算法控制無(wú)人機(jī)在空中的動(dòng)作，自主決定是否空中懸停還是對(duì)目標(biāo)采取行動(dòng)。如果在經(jīng)濟(jì)學(xué)家看來(lái)，這就相當(dāng)于成本與效益之間的問(wèn)題，可以用效用函數(shù)來(lái)獲得結(jié)果，但是人與機(jī)器顯然是不一樣的，因?yàn)槲覀兡芩伎己芏鄸|西，并且選擇最低風(fēng)險(xiǎn)和成本的途徑來(lái)實(shí)施。

 

　　大多數(shù)情況下，我們也希望未來(lái)機(jī)器人可以通過(guò)這樣的方法來(lái)做出決定，但問(wèn)題是我們必須將這些算法和邏輯過(guò)程體現(xiàn)到計(jì)算機(jī)程序上，但這樣會(huì)導(dǎo)致一個(gè)很?chē)?yán)重的后果，那就是人工智能機(jī)器人會(huì)嚴(yán)格按照程序所賦予的算法來(lái)實(shí)現(xiàn)最優(yōu)的決策，如果這是一臺(tái)能下國(guó)際象棋的機(jī)器人，那么它就會(huì)想盡辦法來(lái)贏得比賽，假如這是一臺(tái)擁有武器的殺手機(jī)器人，那么它就會(huì)不擇手段來(lái)達(dá)到自己的目的。

 

　　那些人工智能機(jī)器人會(huì)無(wú)情地追求自己的目標(biāo)，從人類(lèi)的角度看可稱(chēng)之為失控，對(duì)于智能機(jī)器人而言，它只不過(guò)將算法所賦予的能力發(fā)揮到極點(diǎn)，而那些失去“理性”的智能機(jī)器人很有可能變成人類(lèi)的殺手，與我們戰(zhàn)斗到死。