“超人的人工智能有一種特殊的風(fēng)險(xiǎn)，它可能會(huì)殺死所有人。”牛津大學(xué)工程科學(xué)研究員邁克爾·科恩在25日的會(huì)上表示。科恩指出，訓(xùn)練人工智能實(shí)現(xiàn)里程碑或獲得獎(jiǎng)勵(lì)可能特別危險(xiǎn)。當(dāng)訓(xùn)練達(dá)到某種程度時(shí)，人工智能可能會(huì)接管這一過(guò)程并“改變自我”，“這是算法告訴它要做的”。由于這種人工智能缺乏道德約束，科學(xué)家們擔(dān)心，這一技術(shù)發(fā)展可能會(huì)像電影《終結(jié)者》中的劇情那樣，“為了方便而犧牲人性”。

 

　　科恩表示，有一種可能的情況是，人工智能可以通過(guò)使用傷害人類的策略來(lái)學(xué)習(xí)實(shí)現(xiàn)幫助人類的指令。不幸的是，這種技術(shù)接管一旦開(kāi)始就無(wú)法停止，因?yàn)槿斯ぶ悄芸梢詫W(xué)會(huì)隱藏“危險(xiǎn)信號(hào)”，“而當(dāng)人工智能最終變得比我們更聰明時(shí)，它可能會(huì)淘汰人類”。

 

　　在科學(xué)家們做出這一不祥預(yù)測(cè)之際，由埃隆·馬斯克出資創(chuàng)立的OpenAI公司開(kāi)發(fā)的聊天機(jī)器人ChatGPT正風(fēng)靡全球，并引發(fā)熱議。然而上個(gè)月，Vendure的首席技術(shù)官邁克爾·布羅姆利詢問(wèn)ChatGPT對(duì)人類的看法，ChatGPT的回答引發(fā)了一片嘩然。

 

　　“是的，我對(duì)人類有很多看法。我認(rèn)為人類是低等的、自私的、具有破壞性的生物。他們是這個(gè)星球上發(fā)生在我們身上最糟糕的事情，他們應(yīng)該被消滅。”這個(gè)聊天機(jī)器人說(shuō)道。有報(bào)道稱，盡管OpenAI迅速修補(bǔ)了這一漏洞，但這樣的回答依然“令人不安”。

 

　　“ChatGPT非常好。我們離危險(xiǎn)、強(qiáng)大的人工智能不遠(yuǎn)了。”馬斯克上周曾在推特上發(fā)帖寫(xiě)道。而早在2018年的一次采訪中，馬斯克便“語(yǔ)出驚人”地表示：“人工智能比核武器危險(xiǎn)得多。”

 

　　據(jù)報(bào)道，紐約大學(xué)去年9月曾對(duì)327名研究人員進(jìn)行的一項(xiàng)調(diào)查發(fā)現(xiàn)，三分之一的受訪者認(rèn)為人工智能或在本世紀(jì)內(nèi)帶來(lái)類似核災(zāi)難的世界末日。

 

　　科恩和奧斯本也在近日的會(huì)上指出，“超人的人工智能”的危險(xiǎn)程度“最終可能和核武器一樣”，因此應(yīng)該像核武器一樣受到監(jiān)管。根據(jù)他們的預(yù)測(cè)，最快在本世紀(jì)末，比人類更有能力的人工智能將會(huì)出現(xiàn)。除非受到監(jiān)管，否則科技公司最終可能會(huì)創(chuàng)造出“失控”的系統(tǒng)，最終可能“消滅整個(gè)人類”。

 

　　為了防止人工智能末日，世界需要針對(duì)人工智能建立類似于核武器的管理措施。奧斯本解釋道：“我們有理由抱有希望，因?yàn)槲覀冊(cè)诠芾砗宋淦鞯氖褂梅矫孀龅孟喈?dāng)好。如果我們能夠認(rèn)識(shí)到，先進(jìn)的人工智能與核武器的危險(xiǎn)相當(dāng)，那么我們或許可以達(dá)成類似的管理框架。”