11月9日消息，據(jù)CNBC報道，了解人工智能（AI）潛力的科學(xué)家對殺手機(jī)器人（也被稱為自主武器）深感恐懼。今年8月份，包括特斯拉電動汽車公司（Tesla）和美國太空探索技術(shù)公司SpaceX首席執(zhí)行官伊隆·馬斯克（Elon Musk）在內(nèi)的100多名科技界領(lǐng)袖簽署了一封公開信，呼吁聯(lián)合國禁止開發(fā)和使用人工智能武器。馬斯克也數(shù)次在推特上強(qiáng)調(diào)，他擔(dān)心AI全球軍備競賽會導(dǎo)致第三次世界大戰(zhàn)。
圖：2009年3月18日，在日本東京舉行的Terminator Exhibition展覽上，電影《終結(jié)者2》（terminator 2）中出現(xiàn)的機(jī)器人T-800全尺寸圖像
不久前，著名物理學(xué)家斯蒂芬·霍金（Stephen Hawking）也發(fā)出警告，強(qiáng)調(diào)監(jiān)管AI的重要性。他在里斯本舉行的網(wǎng)絡(luò)峰會上說：“除非我們學(xué)會如何為應(yīng)對和避免潛在風(fēng)險做好準(zhǔn)備，否則AI可能是人類文明歷史上最糟糕的事件。它帶來了危險，比如強(qiáng)大的自主武器，或者是少數(shù)人壓迫絕大多數(shù)人的新方法。”
11月2日，來自加拿大和澳大利亞的數(shù)百名AI專家加入了馬斯克和霍金的行列，向各自的政府提交了公開信，敦促他們支持聯(lián)合國禁止自主武器的行動。加拿大社區(qū)給加拿大總理賈斯汀·特魯多（Justin Trudeau）的信中寫道：“正如你所知道的，AI研究（包括研發(fā)能夠執(zhí)行智能任務(wù)機(jī)器的嘗試）在過去十年里取得了驚人的進(jìn)步。傳統(tǒng)AI得益于機(jī)器學(xué)習(xí)的迅速發(fā)展，使AI社區(qū)的雄心重新燃起，它們希望制造出能夠在人類監(jiān)督或干預(yù)下進(jìn)行復(fù)雜操作的機(jī)器。”
這封信指出，AI技術(shù)的發(fā)展有可能在許多領(lǐng)域幫助社會進(jìn)步，包括交通、教育、衛(wèi)生、藝術(shù)、軍事以及醫(yī)學(xué)等。但同樣的技術(shù)被應(yīng)用于武器上，可能產(chǎn)生令人恐怖的后果。信中寫道：“AI具有革命性的意義。這些轉(zhuǎn)變（無論是實際還是潛在情況下）要求我們的理解，以及越來越多的道德關(guān)注。正是出于這些原因，加拿大AI研究團(tuán)體呼吁你和你的政府讓加拿大成為世界上第20個反對AI武器化的國家。致命的自主武器系統(tǒng)，從決定目標(biāo)的合法性和部署致命武力的角度，都在消除有意義的人類控制，這顯然違背了我們的道德底線。”
澳大利亞AI社區(qū)在給國家領(lǐng)導(dǎo)人的公開信中，也以類似的語氣和措辭表達(dá)了同樣的擔(dān)憂。信中稱：“正如許多AI和機(jī)器人公司（包括澳大利亞公司）最近敦促的那樣，自主武器系統(tǒng)可能會成為戰(zhàn)爭的第三次革命。如果它們發(fā)展起來，將會導(dǎo)致武裝沖突的規(guī)模以比以往任何時候都更大，而且在時間上比人類能理解得更快。致命的后果是，機(jī)器（而不是人類）將決定目標(biāo)的生死。澳大利亞AI社區(qū)無法容忍AI被用于這種用途，我們只是想要研究、創(chuàng)造和促進(jìn)其有益的用途。”
