【網(wǎng)易智能訊7月22日消息】包括谷歌旗下DeepMind的聯(lián)合創(chuàng)始人和SpaceX的首席執(zhí)行官在內(nèi)的2400名人工智能科研人員簽署宣言，承諾阻止致命的人工智能武器。
數(shù)千名專攻人工智能（AI）的科學(xué)家已經(jīng)宣布，他們將不會參與開發(fā)或制造在自主狀態(tài)下具備識別和攻擊行為的人工智能機(jī)器人。谷歌DeepMind的杰米斯？哈薩比斯（Demis Hassabis）和美國火箭公司SpaceX的埃??？馬斯克（Elon Musk）都在這項承諾的2400多名簽署者之列。該承諾旨在阻止軍事公司和國家執(zhí)法機(jī)構(gòu)建造致命的自動武器系統(tǒng)。
這一宣言的簽署是人工智能領(lǐng)域的組織和科學(xué)家的最新舉措，旨在強(qiáng)調(diào)將生死的決定權(quán)交給人工智能機(jī)器的危險。同時呼吁相關(guān)人士要未雨綢繆，禁止技術(shù)濫用，因為這可能會催生出新一代大規(guī)模殺傷性武器。
兩千名AI專家承諾抵制殺手機(jī)器人，馬斯克積極響應(yīng)
這一承諾是由波士頓的“生命未來研究所（Future of Life Institute）”組織策劃的，它呼吁各國政府商定規(guī)范、法律和法規(guī)，這些規(guī)范、法律和法規(guī)將扼殺和有效禁止殺手機(jī)器人的發(fā)展。
在今天沒有此類措施的情況下，簽署者承諾“既不參與也不支持發(fā)展、制造、貿(mào)易或使用致命的自主武器”。超過150個與人工智能相關(guān)的公司和組織也加入了簽署者的行列，這一承諾在前幾日于瑞典斯德哥爾摩舉行的國際人工智能聯(lián)合會議（International Joint Conference）上宣布。
蒙特利爾學(xué)習(xí)算法研究所的人工智能先驅(qū)Yoshua Bengio在接受衛(wèi)報采訪時表示，如果這一承諾能夠讓那些制造自主武器的公司和軍事組織蒙羞，公眾輿論就會反對他們。“由于國際條約和公開羞辱，這種方法實際上適用于地雷，盡管像美國這樣的主要國家沒有簽署禁止地雷的條約。美國公司已經(jīng)停止制造地雷，”他說。Bengio也簽署了承諾，表達(dá)了他對“致命的自主武器的強(qiáng)烈關(guān)注”。
軍方是人工智能技術(shù)的最大資助者和采用者之一。有了先進(jìn)的計算機(jī)系統(tǒng)，機(jī)器人可以在惡劣的地形上空飛行，在地面上航行，在海底巡邏。更先進(jìn)的武器系統(tǒng)正在醞釀之中。周一，英國國防大臣加文·威廉姆森（Gavin Williamson）公布了一項20億英鎊的計劃，計劃購買一架新的英國皇家空軍戰(zhàn)斗機(jī)——暴風(fēng)雨（Tempest），它將能夠在沒有飛行員的情況下飛行。
兩千名AI專家承諾抵制殺手機(jī)器人，馬斯克積極響應(yīng)
英國的大臣們表示，英國并沒有發(fā)展出致命的自主武器系統(tǒng)，而且英國軍隊將永遠(yuǎn)對其部署的武器進(jìn)行監(jiān)督和控制。但活動人士警告說，人工智能和其他領(lǐng)域的快速發(fā)展意味著，現(xiàn)在可以制造出先進(jìn)的武器，在未經(jīng)人類控制者同意的情況下，識別、跟蹤和射擊人類目標(biāo)。對許多研究人員來說，讓機(jī)器來決定人類的生存和死亡，這超越了道德底線。
“我們需要把自主武器不被接受作為國際準(zhǔn)則。人類必須永遠(yuǎn)擁有控制權(quán)，”悉尼新南威爾士大學(xué)的人工智能教授Toby Walsh說。“我們不能阻止一個意志堅定的人制造自主武器，就像我們不能阻止一個意志堅定的人制造化學(xué)武器一樣，”他補(bǔ)充說，“但如果我們不希望流氓國家或恐怖分子輕易獲得自主武器，我們必須確保武器公司不會公開出售這些武器。”
研究人員可以選擇不去研究自主武器，但是其他人在他們發(fā)表的突破性進(jìn)展上所拓展的事情實際上超出了他們的控制范圍。英國蘭卡斯特大學(xué)的另一位簽署者、科學(xué)與技術(shù)人類學(xué)教授Lucy Suchman表示，盡管研究人員不能完全控制他們的工作成果如何被使用，但當(dāng)他們有顧慮時，他們可以參與并進(jìn)行干預(yù)。
她說：“如果我是一名簽署了承諾的機(jī)器視覺研究人員，我將首先承諾追蹤我的技術(shù)的后續(xù)使用，并公開反對他們的應(yīng)用程序來實現(xiàn)自動化目標(biāo)識別；其次，我會拒絕參與任何建議或直接幫助將這項技術(shù)整合到自主武器系統(tǒng)中。”
?。ㄟx自：The Guardian 編譯：網(wǎng)易智能 參與：李擎）
