如果選定目標(biāo)時(shí)無需人類決策，我們的世界將變得危險(xiǎn)叢生。機(jī)器人會脫離人類的控制，自己做出生死攸關(guān)的決定。但有些國家已經(jīng)開始在戰(zhàn)場上使用無人武器了。

 

　　機(jī)器人無法真正理解人類生命的價(jià)值，因此賦予它們決定權(quán)會損傷人類的尊嚴(yán)。圖為 Foster-Miller公司生產(chǎn)的TALON SWORDS作戰(zhàn)機(jī)器人，配備了多種武器。

 

 

　　據(jù)國外媒體報(bào)道，參與《特定常規(guī)武器公約》的一百多個(gè)國家將于明年圍繞禁止“殺手機(jī)器人”這一議題展開討論?！≡诮沼谌諆?nèi)瓦舉辦的、五年一度的審查大會上，《特定常規(guī)武器公約》的123個(gè)成員國商定，將于明年正式開始著手解決由無需人類操控便可自動選擇并攻擊目標(biāo)的武器系統(tǒng)所帶來的挑戰(zhàn)。此前專家曾警告稱，我們能對這一技術(shù)加以控制的“時(shí)間已經(jīng)不多了”。

 

　　“參與此次日內(nèi)瓦會議的各國政府在遏制殺手機(jī)器人的研發(fā)方面取得了重大進(jìn)展，但我們的時(shí)間已經(jīng)所剩無幾。”人權(quán)觀察組織（Human Rights Watch）的武器部主任、“阻止殺手機(jī)器人”運(yùn)動的共同發(fā)起人史蒂夫·古斯指出。“一旦這些武器被研發(fā)出來，我們就無力阻止了。我們必須趁現(xiàn)在發(fā)布禁令，才能先發(fā)制人。”

 

　　在第五屆聯(lián)合國特定常規(guī)武器公約審查大會上，世界各國一致同意，將在明年的聯(lián)合國大會上圍繞禁止致命性自主武器的議題展開為期兩周的正式討論。會談將于明年4月或8月進(jìn)行，已有88個(gè)國家同意出席。這些武器尚未問世，但武器技術(shù)正朝著自動化的方向迅速發(fā)展。越來越多的人擔(dān)心，新技術(shù)會導(dǎo)致人類放松對使用致命性武器的管控。

 

 

　　“隨著人工智能技術(shù)不斷進(jìn)步，機(jī)器人能夠自主選擇并攻擊目標(biāo)的可能性也在迅速增加。”人權(quán)觀察組織研究院邦妮·多徹蒂指出，“全自主武器，又名‘殺手機(jī)器人’，正在迅速變成現(xiàn)實(shí)。這些武器可以用于海陸空作戰(zhàn)，將對武裝沖突和執(zhí)法造成嚴(yán)重的威脅。支持者認(rèn)為殺手機(jī)器人的出現(xiàn)必不可少，因?yàn)楝F(xiàn)代作戰(zhàn)需要快速移動，并且如果用機(jī)器人代替人類參戰(zhàn)，就能減少士兵與警方傷亡。但殺手機(jī)器人對人類的威脅將大大超過為軍事或執(zhí)法行動帶來的好處。如果選定目標(biāo)時(shí)無需人類決策，我們的世界將變得危險(xiǎn)叢生。機(jī)器人會脫離人類的控制，自己做出生死攸關(guān)的決定。造成巨大傷害和平民傷亡的可能性也會因此增加。且無人會為此負(fù)責(zé)。使用全自主武器會帶來巨大的道德、法律和責(zé)任風(fēng)險(xiǎn)，因此我們必須提前禁止它們的研發(fā)、生產(chǎn)和使用。最好的方法便是以國際法的形式，禁止研發(fā)缺少人類必要控制的武器。”

 

　　機(jī)器人無法真正理解人類生命的價(jià)值，因此賦予它們決定權(quán)會損傷人類的尊嚴(yán)。圖為MQ-9“收割者”號偵察機(jī)。

 

　　《鋼鐵俠2》中的作戰(zhàn)機(jī)器人也許不日便將成為現(xiàn)實(shí)。專家表示，各成員國同意在2017年圍繞致命性自主武器系統(tǒng)開展正式會談具有至關(guān)重要的意義。在加強(qiáng)人類對武器的管控問題上，裁軍法已有先例在前。

 

　　按照現(xiàn)有的國際刑法，人類操控員在大多數(shù)情況下將無需為武器自主運(yùn)行時(shí)造成的傷害承擔(dān)責(zé)任。除非此人存心用全自主武器犯案，否則讓其負(fù)責(zé)就是不公平的，在法律上也不成立，因?yàn)椴倏貑T無法預(yù)防機(jī)器人的行為，也無法對其進(jìn)行懲罰。而向全自主武器的編程人員和制造商追責(zé)也是困難重重，因?yàn)樗麄兛梢陨显V稱，這些武器被別人用在了錯(cuò)誤的地方。

 

　　例如，美國規(guī)定大多數(shù)武器制造商無需負(fù)法律責(zé)任。要想證明某個(gè)產(chǎn)品存在需要制造商負(fù)責(zé)的嚴(yán)重缺陷，也需要達(dá)到很高的標(biāo)準(zhǔn)。此外，其它國家的受害者通常缺少起訴國外公司的渠道和資金，這也將降低對犯罪行為的震懾力度。

 

　　在4月于日內(nèi)瓦舉辦的聯(lián)合國大會上，94個(gè)國家提議針對“致命性自主武器系統(tǒng)”開展正式會談，討論《特定常規(guī)武器公約》是否該對此類武器系統(tǒng)加以限制。在12月舉辦的審查大會上，公約成員國共同商定了接下來的工作日程。各成員國同意在2017年圍繞致命性自主武器系統(tǒng)開展正式會談具有至關(guān)重要的意義。

 

　　在加強(qiáng)人類對武器的管控問題上，裁軍法已有先例在前。例如，國際社會已經(jīng)廣泛接受了禁止使用生化武器和地雷的公約，因?yàn)槿祟悷o法有效控制這些武器造成的后果。而世界各國如今也應(yīng)當(dāng)禁止全自主武器的使用，因?yàn)榇祟愇淦饕矔o人類帶來類似的、甚至更加嚴(yán)重的威脅。

 

　　各國應(yīng)圍繞解決全自主武器的問題展開談判，締結(jié)新的國際合約，把大家一致關(guān)心的問題落實(shí)為實(shí)際行動。為取得實(shí)質(zhì)性的商議結(jié)果，至少應(yīng)留足幾周時(shí)間進(jìn)行談判。雖然新國際法的誕生往往經(jīng)年累月，但各國應(yīng)加快步伐，應(yīng)對自主武器帶來的威脅。我們必須好好利用此次審查大會提供的機(jī)會，否則后果將難以承受：給予機(jī)器人高度自主權(quán)，將使人類陷入前所未有的嚴(yán)重危機(jī)。