目前不少國(guó)家開(kāi)發(fā)了智能戰(zhàn)場(chǎng)機(jī)器人，這些機(jī)器人殺手讓人們擔(dān)心《圣經(jīng)》中描述的審判之日已經(jīng)離我們不遠(yuǎn)。出于對(duì)戰(zhàn)場(chǎng)機(jī)器人的顧慮，不少政府開(kāi)始更加關(guān)注對(duì)戰(zhàn)場(chǎng)機(jī)器人問(wèn)題，至少距離完全禁止生產(chǎn)機(jī)器人殺手邁出了第一步，當(dāng)然，是在機(jī)器人殺手被造出來(lái)之前。
今年11月，CCW(《特定常規(guī)武器公約》)的成員國(guó)同意明年在日內(nèi)瓦舉辦會(huì)議討論“致命自主武器”的議題。這個(gè)名字是官方的叫法，抗議者們稱之為“機(jī)器人殺手”。
機(jī)器人對(duì)軍方而言優(yōu)勢(shì)太大：無(wú)需報(bào)酬、不吃不喝不睡覺(jué)、自主執(zhí)行上級(jí)命令、不會(huì)害怕、憤怒，也不會(huì)痛苦。還有，即便機(jī)器人在戰(zhàn)場(chǎng)上轟成渣，也不會(huì)造成國(guó)內(nèi)悲痛。
從第一輛坦克投入戰(zhàn)場(chǎng)到以色列研制的大衛(wèi)的投石索飛彈，技術(shù)改變戰(zhàn)爭(zhēng)的例子不勝枚舉。近來(lái)備受爭(zhēng)議的戰(zhàn)爭(zhēng)用無(wú)人機(jī)便是例子，但是即便如此，無(wú)人機(jī)也需要人遠(yuǎn)程控制。無(wú)論是鎖定目標(biāo)還是發(fā)射導(dǎo)彈，做決定的都是人。
無(wú)數(shù)專家關(guān)心的其實(shí)是下一代機(jī)器人武器：可以自行決定目標(biāo)并殺死目標(biāo)的武器。
禁止制造機(jī)器人殺手
“明年開(kāi)始全球國(guó)家將對(duì)機(jī)器人武器進(jìn)行討論，這對(duì)禁止制造機(jī)器人武器是一個(gè)巨大的進(jìn)步，”人權(quán)觀察的武器負(fù)責(zé)人Steve Goose說(shuō)，“各國(guó)政府已經(jīng)意識(shí)到全自動(dòng)化武器帶來(lái)巨大的立法壓力和道德壓力，問(wèn)題已經(jīng)刻不容緩。”
目前完全自主機(jī)器人武器部署到戰(zhàn)場(chǎng)可能還需要等上20-30年，但由學(xué)者和專家組成的國(guó)際機(jī)器人控制委員會(huì)(ICRAC)擔(dān)心可能發(fā)生的機(jī)器人武器軍備競(jìng)賽，認(rèn)為有必要禁止研發(fā)和使用自主武器系統(tǒng)。委員會(huì)指出：“機(jī)器不能做出謀殺人類的決定。”
目前還沒(méi)有那個(gè)國(guó)家制造出自主武器，但是這個(gè)提議絕非只是紙上談兵。今年下半年美國(guó)國(guó)防部(DOD)發(fā)布了如何使用自主武器以及如何在戰(zhàn)場(chǎng)部署自主武器的規(guī)劃書。書中規(guī)定了如何操作自主武器，然而卻沒(méi)有只字提到禁止使用。
國(guó)防部指導(dǎo)中寫到：“自主和半自主武器應(yīng)該能夠聽(tīng)得懂指揮官或操作人員下令開(kāi)火的合適命令。”規(guī)劃中要求武器要做到“足夠機(jī)動(dòng)靈活，盡量避免執(zhí)行計(jì)劃外行動(dòng)或讓未授權(quán)使用者操控機(jī)器。”
但是指導(dǎo)似乎的的確確放棄人工智能武器，而選用人類精確定位目標(biāo)：“有人監(jiān)控自主武器系統(tǒng)可以用于選擇目標(biāo)并向目標(biāo)開(kāi)火，但目標(biāo)不可為人類，以應(yīng)對(duì)攔截美國(guó)國(guó)內(nèi)可能發(fā)生的襲擊行動(dòng)，這些行動(dòng)經(jīng)常是時(shí)敏目標(biāo)或密集目標(biāo)。”
英國(guó)政府的態(tài)度則與美國(guó)相反，英國(guó)并不打算采用全自主武器。今年初英國(guó)外交部部長(zhǎng)Alistair Burt向國(guó)會(huì)做陳述說(shuō)：“英國(guó)軍隊(duì)的武器控制權(quán)始終掌握在人類手中，以此保證武器由人類監(jiān)督由人類掌管，并由人類負(fù)責(zé)使用武器。”
但是隨后Burt的言辭又讓人尋味：“英國(guó)單方面做出承諾目前階段絕不部署致命自助武器系統(tǒng)，但是這不表明英國(guó)會(huì)簽署暫緩研發(fā)和使用自主機(jī)器人武器的條約。”
ICRAC主席Norl Sharker是英國(guó)謝菲爾德大學(xué)研究人工智能和機(jī)器人的一名教授。這位教授看過(guò)了自主武器的軍方計(jì)劃書后大為震驚，因?yàn)?ldquo;軍方顯然完全過(guò)分預(yù)估了這項(xiàng)技術(shù)，他們對(duì)自主機(jī)器人的看法更像是科幻小說(shuō)的描寫”。
ICRAC提議禁止研發(fā)和制造自主機(jī)器人武器的目的并不是抵抗自主機(jī)器人。“我家里用的吸塵器機(jī)器人就是自主機(jī)器人，我研究自主機(jī)器人的開(kāi)發(fā)已經(jīng)有30個(gè)年頭了。”
ICRAC真正希望是禁止機(jī)器人擁有“殺戮功能”。自主機(jī)器人一旦運(yùn)行，就會(huì)自主尋找目標(biāo)并打擊目標(biāo)。Sharkey說(shuō)：“打擊目標(biāo)的意思是指殺死目標(biāo)。把機(jī)器人設(shè)計(jì)成自己選擇自己認(rèn)為合適的目標(biāo)進(jìn)行打擊，這就是ICRAC要阻止的。”
對(duì)Sharkey來(lái)說(shuō)，機(jī)器人根本不會(huì)遵循基本的戰(zhàn)爭(zhēng)法。機(jī)器人無(wú)法區(qū)分戰(zhàn)斗人員和平民，也無(wú)法分辨出哪些人是傷兵或者那些建筑是符合戰(zhàn)爭(zhēng)法中規(guī)定的可打擊目標(biāo)。“沒(méi)有任何人工智能機(jī)器人武器可以做到完全分辨目標(biāo)，根本不可能。”
Sharkey博士指著英國(guó)制造的可以區(qū)分人和汽車的機(jī)器人說(shuō)：“這太機(jī)器人可以分辨人和汽車，但卻分不清對(duì)面站著的是一只跳舞的狗熊還是一條兩條后腿站立的狗。”
機(jī)器人武器也不能判斷利弊。他說(shuō)，機(jī)器人無(wú)法判斷某次攻擊行為造成的軍事打擊和平民傷亡孰重孰輕。“機(jī)器人怎么可能知道？軍事打擊獲得的戰(zhàn)爭(zhēng)優(yōu)勢(shì)都可以讓博士們發(fā)表好幾篇論文了，戰(zhàn)場(chǎng)上有太多變數(shù)，只有身經(jīng)百戰(zhàn)的指揮官身臨戰(zhàn)場(chǎng)才能做出判斷。”
