當(dāng)?shù)貢r(shí)間8月20日，包括特斯拉CEO馬斯克（Elon Musck）和谷歌Deep Mind聯(lián)合創(chuàng)始人蘇萊曼（Mustafa Suleyman）在內(nèi)的116名AI界專家，發(fā)布公開信呼吁全面禁止自動(dòng)化武器。他們將自動(dòng)化武器稱作“殺人機(jī)器人”，但在其他人的眼里，自動(dòng)化武器是新一代的高級(jí)軍備力量。人工智能不斷發(fā)展的當(dāng)下，自動(dòng)化武器真的會(huì)展現(xiàn)其可怕的一面嗎？

自動(dòng)化武器的殺傷力到底有多大？

馬斯克等眾多專家都出面后，自動(dòng)化武器的問題終于又一次引發(fā)了討論。自動(dòng)化武器，作為軍備力量，對(duì)于將投入使用的國(guó)家來說，可以節(jié)省士兵資源，避免人類士兵的傷亡。但馬斯克等專家的擔(dān)憂在于自動(dòng)化武器可能遭到濫用，將會(huì)對(duì)人類生命安全產(chǎn)生威脅。聯(lián)合國(guó)人權(quán)理事會(huì)特別調(diào)查員海因斯（Christof Heyns）早前曾表示，戰(zhàn)場(chǎng)上局勢(shì)復(fù)雜，不能確保自動(dòng)化武器信息傳遞及時(shí)與否；據(jù)其調(diào)查結(jié)果顯示美國(guó)無人機(jī)在打擊恐怖分子時(shí)曾出現(xiàn)誤傷平民的情況。

同時(shí)馬斯克等專家也擔(dān)心國(guó)家間自動(dòng)化武器軍備力量的惡性競(jìng)爭(zhēng)，將導(dǎo)致繼火藥、核武器之后的“第三次革命”。早在2012年國(guó)際組織人權(quán)觀察站（Human Rights Watch）便公布了一份具有致命性殺傷力的自動(dòng)化武器清單，時(shí)至今日也有多國(guó)已進(jìn)入自動(dòng)化武器的開發(fā)進(jìn)程：

1.韓國(guó)哨兵機(jī)器人

▼

韓國(guó)三星集團(tuán)研發(fā)的SGR-A1哨兵機(jī)器人被部署在三八線附近，雖然SGR-A1與3歲小孩的個(gè)頭相當(dāng)，但其擁有自主射擊的能力。該哨兵機(jī)器人的設(shè)置主要是為了打擊非法入侵者，它可以通過內(nèi)置的攝像頭及運(yùn)動(dòng)傳感器等進(jìn)行工作，且可以追蹤多個(gè)目標(biāo)。據(jù)說，該機(jī)器人一旦檢測(cè)到闖入者，則會(huì)向人類管理員匯報(bào)，由管理員決定是否將闖入者射殺。

2.英國(guó)雷神無人機(jī)

▼

由英國(guó)航太系統(tǒng)公司開發(fā)的雷神無人機(jī)（BAE Systems Taranis）擁有充分的自主權(quán)，能夠攜帶空對(duì)空及空對(duì)地彈藥，具有遠(yuǎn)程攻擊能力。因其獨(dú)特的設(shè)計(jì)，該架無人機(jī)還具有“隱身”功能，大大降低了被敵軍雷達(dá)偵測(cè)到的可能。2013年該架無人機(jī)進(jìn)行了首次試飛，預(yù)計(jì)將在2030年投入使用，并且很有可能替代“狂風(fēng)”（Tornado）GR4戰(zhàn)斗機(jī)。

3.俄羅斯多功能無人戰(zhàn)車

▼

美俄等國(guó)近期更著重于研發(fā)既可遠(yuǎn)程控制也可以自主操作的地面作戰(zhàn)用途機(jī)器人。這些項(xiàng)目包括俄羅斯的“天王星-9”（Uran-9）多功能無人戰(zhàn)車，主要用于對(duì)步兵班組的火力支援。“天王星-9”可裝30毫米炮與反坦克導(dǎo)彈，導(dǎo)彈射程估計(jì)在8千米左右，可以消滅坦克或低空直升機(jī)。

4.美國(guó)無人駕駛軍艦

▼

美國(guó)國(guó)防部高級(jí)研究計(jì)劃局（DARPA）主導(dǎo)研發(fā)的無人駕駛軍艦“海上獵人”（Sea Hunter），2016年已進(jìn)行了海上測(cè)試。“海上獵人”主要擔(dān)當(dāng)反潛任務(wù)，在執(zhí)行任務(wù)時(shí)，這種無人船一旦發(fā)現(xiàn)敵方潛艇，便可持續(xù)跟蹤，并通過衛(wèi)星向附近的水面艦船發(fā)射潛艇的實(shí)時(shí)坐標(biāo)，以引導(dǎo)打擊行動(dòng)。

自動(dòng)化武器如何使用，政策并不能說清

除了許多國(guó)家在研發(fā)自動(dòng)化武器，Rytheon、Dassault、MiG等公司已經(jīng)掌握或正在開發(fā)自動(dòng)化武器的相關(guān)技術(shù)。自動(dòng)化武器的殺傷力如此大，且很有可能被恐怖分子所利用，因此專家的擔(dān)憂并不是沒有道理，但頒布相關(guān)使用政策的國(guó)家卻很少。2012年，美國(guó)國(guó)防部曾發(fā)布關(guān)于自動(dòng)化武器的使用政策，但這項(xiàng)政策界限較為模糊，沒有明確定義哪種行動(dòng)是不被允許的，若自動(dòng)化武器發(fā)出致命性行動(dòng)，這是否會(huì)被禁止我們不得而知。

馬斯克等專家此次發(fā)布的公開信也表示，希望聯(lián)合國(guó)將自動(dòng)化武器加入到《特定常規(guī)武器公約》中。該公約旨在限制在戰(zhàn)爭(zhēng)中使用某些被認(rèn)為具有過分傷害力或?yàn)E殺濫傷作用的常規(guī)武器，包括地雷、致盲性武器等。美國(guó)軍事評(píng)論網(wǎng)則表示，伴隨著人工智能的發(fā)展，自動(dòng)化武器的出現(xiàn)不可避免，但可以禁止“一旦發(fā)射就無法召回、任務(wù)不能終止的完全自動(dòng)化武器”。

最終背“鍋”的還是人類管理員

1944年，著名科幻大師阿西莫夫（Isaac Asimov）在科幻小說《環(huán)舞》（Runaroud）中，首次提出了“機(jī)器人三大法則”，其中第一條就是“機(jī)器人不得傷害人類”，但近些年機(jī)器人是否會(huì)“背叛”人類的話題不絕于耳。

2015年，在同樣的商討禁止發(fā)展“殺人機(jī)器人”的會(huì)議上，英國(guó)公開反對(duì)禁止發(fā)展“殺人機(jī)器人”，其原因是英國(guó)研發(fā)的自動(dòng)化武器均是有人類監(jiān)控的。《衛(wèi)報(bào)》對(duì)此也表示，機(jī)器人凌駕于道德之上，只是在進(jìn)行著系統(tǒng)工作，最終控制系統(tǒng)的還是人類。