在戰(zhàn)場上投入機器人作戰(zhàn)可以保護士兵們的生命安全，然而“人權觀察”組織和哈佛大學法學院國際人權研究所日前在一份研究報告中指出，基于人工智能技術的“殺手機器人”帶來的威脅要比幫助更大。
業(yè)內人士認為，利用人工智能技術，不久之后機器人即可獨立選擇目標并開火，成為完全自動化的武器。這樣的設想即將從科幻小說成為現(xiàn)實。殺手機器人能覆蓋地面、空中和海上，從而顛覆我們對于武裝沖突和執(zhí)法的認識。然而，這樣的顛覆應當引起警惕。
支持者認為，殺手機器人是必要的，因為現(xiàn)代化的戰(zhàn)爭瞬息萬變，而機器人的應用將有助于保護士兵和軍官的安全。然而，如果將選擇攻擊目標的流程完全交給機器人，那么世界將變得非常危險。換句話說，在沒有人工控制的情況下，機器將掌握生殺大權。因此，一旦機器發(fā)生錯誤，那么普通人就可能遭到機器的攻擊，而沒有任何人將為此負責。
完全自動化的武器系統(tǒng)將帶來道德、法律和責任危機，而控制這種危機的最佳方式就是通過國際法律禁令，禁止使用無人控制的武器。至少20個國家已在聯(lián)合國會議上對此表示支持，即攻擊目標的選擇應當由人類來完成。
由人類來控制武器具有道德上的重要意義。人類具有感情，因此在做出傷害他人的決定時將承受感情壓力，從而更加審慎。然而機器人則缺乏真實的感情。實際上，機器人并不能理解人類生命的價值，因此讓機器人去做出這些決定是對人類尊嚴的破壞。
與此同時，讓人類來操控武器是符合國際法的做法。例如，戰(zhàn)爭法禁止在超出軍事意義范疇外過度的殺傷和破壞。關于這樣的國際法，人類可以根據(jù)過往經(jīng)驗和道德考量，基于不同情況來做出判斷。這是自動化的武器所不具備的，自動化武器不可能通過編程來考慮所有不同狀況。因此，這樣的武器不可能成為“理性的指揮官”。
在今年4月的聯(lián)合國會議上，94個國家建議對“致命的自動化武器系統(tǒng)”展開正式討論。這一討論將考慮，這些系統(tǒng)是否應當根據(jù)《特定常規(guī)武器公約》受到限制。目前受這一公約限制的包括燃燒武器和致盲激光。
簽署這一公約的國家將于今年12月再次舉行會議，設定未來的工作日程。專家認為，關于致命的自動化武器系統(tǒng)的正式流程應當從2017年啟動。
