如果你的使命是：說服全球軍事工業(yè)園區(qū)放棄可能會(huì)改變21世紀(jì)戰(zhàn)爭(zhēng)的一種武器。你會(huì)認(rèn)為這是堂吉訶德式的想法？Noel Sharkey卻不這么認(rèn)為。在2007年《衛(wèi)報(bào)》上的一篇充滿挑釁性的專欄文章中，這位英國謝菲爾德大學(xué)的計(jì)算機(jī)科學(xué)家寫道，不久以后，機(jī)器人武器將擁有決定哪些人是被殺害目標(biāo)的權(quán)利。對(duì)許多人來說，該警告也許只會(huì)使他們想到小說中的機(jī)器人，但是對(duì)于一些人工智能專家來說，它體現(xiàn)了對(duì)那種只依靠算法區(qū)分戰(zhàn)士與平民的自動(dòng)武器的真實(shí)恐懼。

　　由于Sharkey和其他科學(xué)家的努力，自主殺人機(jī)器人的到來可能會(huì)被阻止。上個(gè)月在瑞士日內(nèi)瓦召開的會(huì)議上，簽署《特定常規(guī)武器公約》（CCW）的117國成員同意檢查針對(duì)自動(dòng)武器的相關(guān)規(guī)定。CCW已經(jīng)在規(guī)定中禁止或約束埋布地雷、燃燒彈、集束彈藥和致盲激光。將機(jī)器人武器加入到該名單“已經(jīng)不再是幻想”，擔(dān)任非政府間團(tuán)體國際機(jī)器人武器控制委員會(huì)（ICRAC）主席的Sharkey如是說：“在阻止這些可憎武器的部署方面，我們已經(jīng)邁出了重大一步。”

　　就像坦克、潛艇和原子彈重寫了20世紀(jì)戰(zhàn)爭(zhēng)規(guī)則一樣，自動(dòng)武器系統(tǒng)是少數(shù)被稱為21世紀(jì)戰(zhàn)爭(zhēng)規(guī)則改變者的技術(shù)之一。“軍隊(duì)正在研發(fā)更多的自動(dòng)系統(tǒng)，并不是因?yàn)樗鼈冹`巧或者冷酷，而是因?yàn)槿藗兛吹搅怂鼈冊(cè)趹?zhàn)場(chǎng)上的優(yōu)勢(shì)。”美國華盛頓布魯金斯學(xué)會(huì)21世紀(jì)安全和情報(bào)中心負(fù)責(zé)人Peter Singer表示。

　　政府的縱容

　　美國國防部（DOD）在2007年12月的一份報(bào)告中，提出了無人系統(tǒng)未來25年的發(fā)展愿景，其中包括呼吁開發(fā)機(jī)器人的自主定位和摧毀目標(biāo)功能。令Sharkey和同事感到擔(dān)憂的是，DOD在2012年11月發(fā)布了一項(xiàng)政策指令，不僅確認(rèn)了機(jī)器人武器可能會(huì)針對(duì)“物資目標(biāo)”，還暗示如果國防部高層官員簽署“正式開發(fā)指令”，人也會(huì)成為其目標(biāo)。

　　“這件事并不高調(diào)，但世界因此有了第一份公開宣布開發(fā)殺手機(jī)器人的國家政策。”ICRAC的Mark Gubrud在9月20日的《原子科學(xué)家公報(bào)》中寫道，Gubrud是普林斯頓大學(xué)科學(xué)與全球安全項(xiàng)目的前研究員。2002年，Gubrud和其他觀察人士首次提出警告，他和其同事——德國多特蒙德科技大學(xué)的物理學(xué)家Jürgen Altmann呼吁推出針對(duì)殺手機(jī)器人的禁令，以防止未來的軍備競(jìng)賽。Gubrud寫道：“DOD的2012年指令實(shí)際上根本沒有顧及到長(zhǎng)期以來存在軍隊(duì)內(nèi)部的阻力，并向開發(fā)商和供應(yīng)商釋放了五角大樓在認(rèn)真對(duì)待自動(dòng)武器的信號(hào)。”

　　美國和其他國家長(zhǎng)期以來都支持無人系統(tǒng)，比如無人機(jī)，DOD和中央情報(bào)局（CIA）在數(shù)以百計(jì)的任務(wù)中利用它殺死塔利班、基地組織和其他恐怖組織的成員。不過，到目前為止，在大多數(shù)情況下，還是人類操作員起決定作用，而國防部對(duì)于允許機(jī)器人作殺人決定的問題一直持不冷不熱的態(tài)度。

　　一個(gè)關(guān)鍵的反對(duì)意見是，在武裝沖突法（LOAC）的條款中，致命的自動(dòng)武器是不可接受的。LOAC植根于古老的傳統(tǒng)，并在第二次世界大戰(zhàn)的平民屠殺后得到加強(qiáng)，它要求武裝部隊(duì)須限制關(guān)于軍事必需品的活動(dòng)，并區(qū)分戰(zhàn)斗人員和非戰(zhàn)斗人員。軍事律師擔(dān)心，能夠自動(dòng)殺害婦女和兒童的機(jī)器人會(huì)使美國違反LOAC。但是他們沒有看到那些以物品為目標(biāo)的機(jī)器人也面臨同樣的問題。以人為目標(biāo)的地雷和那些以坦克為目標(biāo)的地雷也存在這種區(qū)別。只有前者被1997年的《渥太華條約》所禁止，理由是其是直接針對(duì)人進(jìn)行攻擊。

　　Gubrud警告稱，DOD的指令批準(zhǔn)開發(fā)那些被其稱為“半自動(dòng)”但有完全自主定位能力的武器，包括“射后鎖定”導(dǎo)彈。例如，美國海軍的遠(yuǎn)程反艦導(dǎo)彈會(huì)自動(dòng)搜索并攻擊距發(fā)射點(diǎn)數(shù)百公里的船只。即便如此，五角大樓的一名官員今年早些時(shí)候告訴Gubrud：“有些非完全自動(dòng)的系統(tǒng)正在考慮之中。”

　　科學(xué)家的努力

　　對(duì)Sharkey來說，軍隊(duì)使用致命自動(dòng)武器的愿望因?yàn)樗?年前在《科學(xué)》雜志上表述的倫理問題而擱淺：“沒有計(jì)算系統(tǒng)可以在近距離接觸的戰(zhàn)爭(zhēng)中，區(qū)分戰(zhàn)斗人士和非戰(zhàn)斗人士。計(jì)算機(jī)程序需要對(duì)非戰(zhàn)斗人士進(jìn)行明確定義，但是目前沒有可用的定義。”一些計(jì)算機(jī)專家斷言，未來復(fù)雜的人工智能系統(tǒng)也許有一天會(huì)等同或超過人類的能力。Gubrud聲稱，其風(fēng)險(xiǎn)在于人類將失去對(duì)其的控制。“愚蠢的機(jī)器人是危險(xiǎn)的，但是聰明的機(jī)器人更危險(xiǎn)。”他說，“最危險(xiǎn)的莫過于介于兩者之間的機(jī)器人。”

　　科學(xué)家對(duì)自動(dòng)武器的反對(duì)源自2009年9月，當(dāng)時(shí)Sharkey、Altmann和兩位哲學(xué)家建立了ICRAC。該組織的使命聲明宣稱：“機(jī)器不應(yīng)該被允許作出殺人的決定。”機(jī)器人、人工智能倫理和法律方面的專家都因?yàn)樵撛蚨尤隝CRAC。因1998年到2004年主持流行的英國廣播公司系列節(jié)目《機(jī)器人戰(zhàn)爭(zhēng)》而聞名英國的Sharkey開始全心投入ICRAC的活動(dòng)。

　　今年4月，ICRAC與人權(quán)觀察組織和其他組織（目前包括來自22個(gè)國家的47個(gè)組織）聯(lián)合進(jìn)行“停止殺手機(jī)器人活動(dòng)”。幾周后，聯(lián)合國法外、即審或任意處決特別報(bào)告員Christof Heyns呼吁聯(lián)合國人權(quán)理事會(huì)“敦促所有國家在管理框架形成之前，對(duì)致命自主機(jī)器人的測(cè)試、生產(chǎn)、組裝、轉(zhuǎn)讓、收購和部署實(shí)施延期”。

　　同時(shí)，Sharkey和同事開始說服CCW簽署國采取相關(guān)行動(dòng)。Sharkey稱，美國是關(guān)鍵，而他有理由對(duì)此持樂觀態(tài)度。他表示，美國軍方尊重ICRAC的地位。“我們只是反對(duì)其殺死人的功能。”Sharkey稱。10月18日，聯(lián)合國美國代表團(tuán)告訴Sharkey和同事，他們會(huì)支持CCW對(duì)研究自動(dòng)武器的要求。

　　在上個(gè)月的CCW會(huì)議中，Sharkey在一個(gè)擁擠的房間中發(fā)表了一篇關(guān)于自動(dòng)武器危險(xiǎn)性的充滿激情的演講。117個(gè)代表團(tuán)中的任何一個(gè)都可能否決他的提議。“這令人緊張。”Sharkey稱。第二天，即11月15日，CCW各方一致同意在5月召開評(píng)審會(huì)議。

　　“這是一個(gè)令各國關(guān)注該問題和相關(guān)禁令的重要機(jī)會(huì)。”丹佛大學(xué)政治理論家Heather Roff在CCW決定后如是說。Sharkey稱，明年，他和其他科學(xué)活動(dòng)家將會(huì)試圖說服各國采納CCW關(guān)于禁止全自動(dòng)武器開發(fā)、生產(chǎn)和使用的協(xié)議。

責(zé)任編輯：蔡陳
電話：021-39553798