來自29個國家的57位科學(xué)家日前呼吁聯(lián)合抵制一所韓國大學(xué)，因為設(shè)立在該校的一個新的中心旨在利用人工智能強(qiáng)化國家安全。人工智能科學(xué)家表示，該大學(xué)正在開發(fā)自主武器，又稱“殺手機(jī)器人”，而該大學(xué)官員則表示，這項研究的目標(biāo)是改善現(xiàn)有的防御系統(tǒng)。
2月20日，位于大田的韓國先進(jìn)科學(xué)技術(shù)研究院（KAIST）慶祝其新的國防和人工智能融合研究中心成立。一個已經(jīng)被該校刪除的網(wǎng)頁宣稱，將與韓國韓華系統(tǒng)公司聯(lián)合運營該中心，其目標(biāo)是“基于人工智能的命令和決策系統(tǒng)，為海底大規(guī)模無人駕駛機(jī)器人提供組合導(dǎo)航算法，基于人工智能的飛機(jī)訓(xùn)練系統(tǒng)，和基于人工智能的對象跟蹤與識別技術(shù)”。
人工智能迅速發(fā)展給社會各個領(lǐng)域帶來深遠(yuǎn)影響，對軍事作戰(zhàn)系統(tǒng)研發(fā)也帶來全新理念。然而，人工智能界的專家學(xué)者及防務(wù)分析人士認(rèn)為，機(jī)器人暴動僅是科幻小說式的終極噩夢，軍事機(jī)器人革命帶來的倫理、法律及政策等問題，尤其是自主武器能否自行判斷殺敵與否，才是人們亟須擔(dān)憂和討論的現(xiàn)實問題。
澳大利亞悉尼新南威爾士大學(xué)計算機(jī)科學(xué)家Toby Walsh發(fā)起了這次抵制活動，他擔(dān)心這項研究將被應(yīng)用于自主武器，包括無人駕駛飛機(jī)或潛艇、巡航導(dǎo)彈、自主操作的防衛(wèi)機(jī)槍或戰(zhàn)場機(jī)器人。
“令人遺憾的是，像KAIST這樣的知名機(jī)構(gòu)似乎在加速軍備競賽，以開發(fā)這種武器。”抗議者在一封公開信中這樣表示，“因此，我們公開宣布，我們將抵制與KAIST的任何部門進(jìn)行合作，直到KAIST的院長作出保證——我們一直在尋求但沒有得到，該中心將不會開發(fā)缺乏有意義的人類控制的自主武器。”
KAIST院長Sung-Chul Shin準(zhǔn)備了一份聲明，排除了開展此類活動的可能性。他說：“我很難過地聽到有人宣布因為要研制殺手機(jī)器人而抵制KAIST。我想重申，KAIST并不打算參與開發(fā)致命的自主武器系統(tǒng)和殺手機(jī)器人。在應(yīng)用包括人工智能在內(nèi)的所有技術(shù)方面，KAIST都清楚地意識到倫理問題。”
這封抗議信并沒有定義何為“有意義的人類控制”，但這句話經(jīng)常被解釋為把扳機(jī)放在一個人的手里。聯(lián)合國《特定常規(guī)武器公約》政府專家小組4月9日在瑞士日內(nèi)瓦召開會議，預(yù)定討論致命自主武器系統(tǒng)研發(fā)，也就是常說的“殺手機(jī)器人”可能帶來的影響。
Walsh說，他對Shin的聲明感到振奮。“很高興看到KAIST首次公開承諾進(jìn)行有意義的人類控制。這將增加聯(lián)合國討論的分量。”
新美國基金會研究人員、防務(wù)政策分析人士辛格在其著作《連線戰(zhàn)爭：21世紀(jì)機(jī)器人革命和沖突》中指出，地緣政治、知識前沿領(lǐng)域不斷前進(jìn)的動力甚至是追求利益的科技企業(yè)，都是人工智能發(fā)展不可阻擋的力量。簡單來說，大部分人現(xiàn)在最感到恐懼的是該不該讓能夠“思考”的人工智能系統(tǒng)決定是否殺人。
新美國安全中心技術(shù)和國家安全項目主管沙雷表示，自主武器系統(tǒng)可能因代碼問題或黑客攻擊而失靈，機(jī)器人攻擊人類部隊，人類無法作出反應(yīng)或局部局勢迅速升級的情況都有可能發(fā)生。
美國亞特蘭大市佐治亞理工學(xué)院計算機(jī)科學(xué)家Ronald Arkin說，由于在一個實驗室里可能發(fā)生的研究而抵制整個大學(xué)在我看來似乎“有點極端”。
同時，一封公開信已在美國谷歌公司內(nèi)部流傳數(shù)周，超過3000名谷歌員工簽名要求公司退出一項美國五角大樓人工智能軍事計劃。
美國五角大樓“梅文計劃”始于2017年，旨在找到加速軍方應(yīng)用最新人工智能技術(shù)的方式。盡管五角大樓和谷歌都表示，谷歌的產(chǎn)品不會創(chuàng)造出無須人類操作者就能開火的自主武器系統(tǒng)，但谷歌員工在公開信中說，參與“梅文計劃”將對谷歌的品牌和人才吸引力造成不可挽回的傷害，谷歌不應(yīng)被卷入戰(zhàn)爭，谷歌及其合約商永遠(yuǎn)不應(yīng)該發(fā)展戰(zhàn)爭科技。
