英國(guó)《衛(wèi)報(bào)》網(wǎng)站近日刊發(fā)題為《“機(jī)器執(zhí)行任務(wù)冷酷無(wú)情”：以色列用人工智能識(shí)別3.7萬(wàn)個(gè)哈馬斯目標(biāo)》的報(bào)道，記者是貝唐·麥克南和哈里·戴維斯。報(bào)道稱，在巴以戰(zhàn)爭(zhēng)的最初幾周和幾個(gè)月里，以色列情報(bào)部門一直在用強(qiáng)大的人工智能系統(tǒng)識(shí)別潛在打擊對(duì)象。全文摘編如下：
據(jù)參與巴以戰(zhàn)爭(zhēng)的以色列情報(bào)部門消息人士說(shuō)，以色列軍方轟炸加沙時(shí)使用了一個(gè)此前從未公開的人工智能數(shù)據(jù)庫(kù)，該數(shù)據(jù)庫(kù)根據(jù)目標(biāo)與哈馬斯的明顯聯(lián)系確定了3.7萬(wàn)個(gè)潛在打擊對(duì)象。
除了這個(gè)被稱為“薰衣草”的人工智能系統(tǒng)外，消息人士還說(shuō)，以色列軍方允許大量巴勒斯坦平民被殺，尤其是在沖突的最初幾周和幾個(gè)月里。
他們異常坦誠(chéng)的證詞使外界難得一窺以色列情報(bào)官員的親身經(jīng)歷，他們?cè)谝呀?jīng)歷時(shí)半年的戰(zhàn)爭(zhēng)中一直使用機(jī)器學(xué)習(xí)系統(tǒng)幫助確定襲擊目標(biāo)。
“用系統(tǒng)鎖定目標(biāo)只用20秒”
以色列在對(duì)哈馬斯的戰(zhàn)爭(zhēng)中使用強(qiáng)大的人工智能系統(tǒng)，從而進(jìn)入一個(gè)此前無(wú)人踏足的先進(jìn)戰(zhàn)爭(zhēng)領(lǐng)域，引發(fā)一系列法律和道德問(wèn)題，并改變軍人和機(jī)器之間的關(guān)系。
一名使用過(guò)“薰衣草”系統(tǒng)的情報(bào)官員說(shuō)：“據(jù)我所知，沒(méi)有能與之匹敵的系統(tǒng)。”他還說(shuō)，與一名意志消沉的士兵相比，他們更相信“統(tǒng)計(jì)系統(tǒng)”，“機(jī)器執(zhí)行任務(wù)冷酷無(wú)情，完成任務(wù)變得更加容易”。
另一名“薰衣草”系統(tǒng)的使用者還對(duì)人類在選擇過(guò)程中的作用表示懷疑。他說(shuō)：“我用系統(tǒng)鎖定目標(biāo)只用20秒，每天幾十次。在這個(gè)過(guò)程中，我作為一個(gè)人的作用只是按下批準(zhǔn)鍵，沒(méi)有提供任何附加值。這省了很多時(shí)間。”
提供證詞的這6名情報(bào)官員都使用過(guò)人工智能系統(tǒng)識(shí)別哈馬斯或巴勒斯坦伊斯蘭圣戰(zhàn)組織成員。
這6人都說(shuō)，該系統(tǒng)在戰(zhàn)爭(zhēng)中發(fā)揮了核心作用，處理了大量數(shù)據(jù)，以迅速識(shí)別潛在目標(biāo)。其中4人說(shuō)，在戰(zhàn)爭(zhēng)初期，該系統(tǒng)列出多達(dá)3.7萬(wàn)名與哈馬斯或巴勒斯坦伊斯蘭圣戰(zhàn)組織有關(guān)的巴勒斯坦男子。
“薰衣草”系統(tǒng)是由以色列國(guó)防軍精銳8200部隊(duì)研發(fā)的，該部門相當(dāng)于美國(guó)國(guó)家安全局。
“笨炸彈”造成平民死亡
其中幾名消息人士還說(shuō)，針對(duì)某一類目標(biāo)，以色列國(guó)防軍在授權(quán)打擊前對(duì)可能會(huì)被打死的平民人數(shù)進(jìn)行預(yù)判并允許平民被殺。
有兩名消息人士說(shuō)，在戰(zhàn)爭(zhēng)初期，他們獲準(zhǔn)在對(duì)低級(jí)別武裝分子的空襲中可以有15名或20名平民死亡。他們說(shuō)，打擊此類目標(biāo)通常使用被稱作“笨炸彈”的非制導(dǎo)武器，一般會(huì)摧毀整座房屋，殺死里邊所有人。
一名情報(bào)官員說(shuō)：“你不想把昂貴的炸彈浪費(fèi)在不重要的人身上——這類彈藥(指制導(dǎo)武器)對(duì)國(guó)家來(lái)說(shuō)非常昂貴，而且非常短缺。”另一名官員說(shuō)，他們面臨的主要問(wèn)題是能否允許對(duì)平民造成“連帶損害”。
他說(shuō)：“因?yàn)槲覀兺ǔＳ梅侵茖?dǎo)炸彈發(fā)動(dòng)襲擊，這意味著把整棟房子里的人都悶在里面。但你不會(huì)在乎，而是立即瞄準(zhǔn)下一個(gè)目標(biāo)。由于系統(tǒng)的存在，目標(biāo)是打不完的。”
沖突專家們認(rèn)為，如果以色列一直在使用非制導(dǎo)武器夷平成千上萬(wàn)巴勒斯坦人的家園，就可以解釋為何這場(chǎng)戰(zhàn)爭(zhēng)造成如此令人吃驚的死亡人數(shù)。
加沙衛(wèi)生部門說(shuō)，在過(guò)去6個(gè)月里，已有3.3萬(wàn)名巴勒斯坦人在沖突中喪生。聯(lián)合國(guó)數(shù)據(jù)顯示，僅在戰(zhàn)爭(zhēng)的第一個(gè)月，就有1340個(gè)家庭遭受多重?fù)p失。
嚴(yán)重依賴“薰衣草”系統(tǒng)
針對(duì)這些情報(bào)人員的證詞，以色列國(guó)防軍在一份聲明中回應(yīng)說(shuō)，以軍的行動(dòng)符合國(guó)際法規(guī)定的傷亡比例，非制導(dǎo)武器是以色列國(guó)防軍使用的“標(biāo)準(zhǔn)武器”，飛行員在打擊目標(biāo)時(shí)也盡可能保證“高精度”。
聲明稱，“薰衣草”系統(tǒng)是一個(gè)數(shù)據(jù)庫(kù)，用于“交叉參考情報(bào)來(lái)源，以便提供有關(guān)恐怖組織軍事行動(dòng)的最新信息，那不是一份確認(rèn)襲擊目標(biāo)的名單”。
聲明還說(shuō)：“以色列國(guó)防軍沒(méi)有使用人工智能系統(tǒng)識(shí)別恐怖分子或試圖預(yù)測(cè)恐怖分子。這個(gè)信息系統(tǒng)只是分析人員識(shí)別打擊目標(biāo)的工具。”
在以色列國(guó)防軍早期軍事行動(dòng)中，識(shí)別打擊目標(biāo)是一個(gè)非常耗費(fèi)勞動(dòng)力的過(guò)程。多名消息人士曾向本報(bào)描述，在以前的戰(zhàn)爭(zhēng)中，確定某人為合法打擊目標(biāo)需要經(jīng)過(guò)一番討論并由法律顧問(wèn)簽字批準(zhǔn)。
這些消息人士說(shuō)，在去年10月7日之后的幾周和幾個(gè)月里，批準(zhǔn)打擊人類目標(biāo)的速度大大加快。他們說(shuō)，隨著以色列國(guó)防軍對(duì)加沙的轟炸加劇，指揮官們要求情報(bào)部門持續(xù)向他們輸送打擊目標(biāo)。
一名情報(bào)官員說(shuō)：“我們持續(xù)承受壓力，他們的確向我們大喊大叫，‘給我們更多目標(biāo)’。我們被告知，現(xiàn)在我們已經(jīng)受夠了哈馬斯，不管付出什么代價(jià)。只要可以，就轟炸。”
為滿足前方要求，以色列國(guó)防軍的情報(bào)機(jī)構(gòu)開始嚴(yán)重依賴“薰衣草”系統(tǒng)生成的數(shù)據(jù)庫(kù)，判定與哈馬斯或巴勒斯坦伊斯蘭圣戰(zhàn)組織有關(guān)的個(gè)人。
有關(guān)用來(lái)訓(xùn)練“薰衣草”系統(tǒng)算法的數(shù)據(jù)細(xì)節(jié)，或者系統(tǒng)如何得出結(jié)論的細(xì)節(jié)，都沒(méi)有包含在所公布的證詞中。不過(guò)，這些消息人士說(shuō)，在戰(zhàn)爭(zhēng)開始后的最初幾周，8200部隊(duì)改進(jìn)了“薰衣草”系統(tǒng)的算法，并對(duì)其搜索參數(shù)進(jìn)行了微調(diào)。
他們說(shuō)，經(jīng)過(guò)隨機(jī)抽樣和對(duì)預(yù)測(cè)結(jié)果反復(fù)核實(shí)后，研發(fā)部門認(rèn)為“薰衣草”系統(tǒng)的準(zhǔn)確率已達(dá)90%，促使以色列國(guó)防軍批準(zhǔn)將其廣泛作為預(yù)測(cè)打擊目標(biāo)的工具。
他們說(shuō)，“薰衣草”系統(tǒng)還創(chuàng)建了一個(gè)有數(shù)萬(wàn)人的數(shù)據(jù)庫(kù)，這些人被標(biāo)注為哈馬斯的低級(jí)別成員。此外，還有另一個(gè)基于人工智能的決策支持系統(tǒng)，該系統(tǒng)的建議目標(biāo)是建筑物和其他設(shè)施，不是針對(duì)人。
這些情報(bào)人員的證詞還包括如何與“薰衣草”系統(tǒng)協(xié)調(diào)合作，以及如何調(diào)整“薰衣草”系統(tǒng)的覆蓋范圍。其中一名消息人士說(shuō)：“在高峰期，該系統(tǒng)成功將3.7萬(wàn)人作為潛在打擊目標(biāo)。但這個(gè)數(shù)字一直在變化，因?yàn)檫@取決于你設(shè)定的標(biāo)準(zhǔn)。”（編譯/潘曉燕）
