AI事件
作者：蘿卜兔
人類歷史上出現(xiàn)了第一次動(dòng)用無(wú)人機(jī)刺殺一國(guó)元首。
這似乎像是好萊塢大片中的情節(jié)：委內(nèi)瑞拉的總統(tǒng)馬杜羅在首都加拉加斯出席軍隊(duì)紀(jì)念活動(dòng)演講時(shí)，突然遭遇無(wú)人機(jī)的攻擊。
這次刺殺一共有三架無(wú)人機(jī)參與其中，每架無(wú)人機(jī)負(fù)載1公斤的C4炸藥。第一架無(wú)人機(jī)在總統(tǒng)看臺(tái)對(duì)面爆炸，另一架起飛后在看臺(tái)右側(cè)爆炸，最后一架是在看臺(tái)以南的建筑附近爆炸。
總統(tǒng)沒(méi)有受傷，6名犯罪嫌疑人已經(jīng)落網(wǎng)。委內(nèi)瑞拉地下組織宣布對(duì)此事負(fù)責(zé)，美國(guó)國(guó)家安全顧問(wèn)表示：“這跟我們沒(méi)關(guān)系....”
雖然此次刺殺并未成功，并且技術(shù)含量不高，不過(guò)隨著科技的進(jìn)步，作惡的手段也會(huì)進(jìn)步。
“殺人蜂”的出現(xiàn)
2017年11月，無(wú)人機(jī)公司StratoEnergytics發(fā)布了一款微型無(wú)人機(jī)武器，該武器很小，自帶一顆小型炸彈，搭載攝像頭進(jìn)行人臉識(shí)別確認(rèn)目標(biāo)，實(shí)施精準(zhǔn)爆頭打擊。如果此次暗殺采用的是這種“殺人蜂”，結(jié)果恐怕不好說(shuō)...
幾年前，美國(guó)大片出現(xiàn)這種武器的時(shí)候，還感覺(jué)神奇無(wú)比，完全不曾想過(guò)它們很快就出現(xiàn)在了現(xiàn)實(shí)世界中。此時(shí)此刻，我不由得生出一絲恐懼。
誰(shuí)來(lái)保證不研發(fā)AI武器？
3月Google與美國(guó)國(guó)防部一起合作一個(gè)“Project Maven”的軍事項(xiàng)目，利用圖像識(shí)別技術(shù)分析無(wú)人機(jī)拍攝的影像，以更好的實(shí)現(xiàn)精確打擊。這遭到了Google員工的強(qiáng)烈抵制，超過(guò)3000名Google員工聯(lián)名發(fā)布公開(kāi)信。
隨后，Google不得不發(fā)布聲明，宣布使用人工智能的7項(xiàng)原則以及4條底線。這7項(xiàng)原則是：
1、對(duì)社會(huì)有益。
2、避免制造或者加深不公平的偏見(jiàn)。
3、在開(kāi)發(fā)中進(jìn)行測(cè)試以確保安全。
4、對(duì)人類負(fù)責(zé)。
5、隱私原則。
6、堅(jiān)持對(duì)卓越科學(xué)的追求。
7、在使用中考慮首要用途、技術(shù)的獨(dú)特性及適用性、使用的規(guī)模這三個(gè)因素。
4條底線：1、對(duì)于那些將產(chǎn)生或者導(dǎo)致傷害的整體性技術(shù)，我們會(huì)確保其利大于弊，并將做好確保安全的相關(guān)限制。
2、不會(huì)將AI用于制造武器及其它會(huì)對(duì)人類產(chǎn)生傷害的產(chǎn)品。
3、不會(huì)將AI用于收集或使用用戶信息，以進(jìn)行違反國(guó)際公認(rèn)規(guī)范的監(jiān)視。
4、不會(huì)將AI用于違反國(guó)際法和人權(quán)的技術(shù)開(kāi)發(fā)。
對(duì)于Google員工的反對(duì)以及大眾的質(zhì)疑，Goolge給出了這一份回復(fù)，但是和五角大樓的合作仍在進(jìn)行。都說(shuō)戰(zhàn)爭(zhēng)是充滿謊言的，誰(shuí)能夠保證自己不研發(fā)AI武器？電影中各種勢(shì)力珠胎暗結(jié)，現(xiàn)實(shí)恐怕比片中還更加荒誕可怕。
前段時(shí)間，馬斯克、DeepMind創(chuàng)始人以及116位科學(xué)家聯(lián)名寫(xiě)信給聯(lián)合國(guó)，表示：“老鐵，必須要謹(jǐn)慎對(duì)待AI武器??！你得管管”。強(qiáng)烈建議各個(gè)國(guó)家能夠制定相應(yīng)的法律法規(guī)，監(jiān)管AI武器的研發(fā)。
然而，從國(guó)家的角度來(lái)說(shuō)，對(duì)于武器，比如核武器：可以不用，但是不能沒(méi)有。
另一個(gè)問(wèn)題是能不能Hold??？
核武的主動(dòng)權(quán)尚在人類手中，AI武器的主動(dòng)權(quán)在誰(shuí)手中？完全擁有自主意識(shí)的強(qiáng)人工智能，自主權(quán)當(dāng)然不會(huì)再存在于人類手上，它們會(huì)不會(huì)出現(xiàn)，何時(shí)會(huì)出現(xiàn)，不得而知?？墒且坏┏霈F(xiàn)，局面就很難掌控了。
現(xiàn)階段，我們還在弱人工智能的探究中，但是掌控它們似乎也不是一件容易的事情。比如Twitter曾經(jīng)上線的聊天機(jī)器人出現(xiàn)了種族歧視；很多聊天機(jī)器人都出現(xiàn)了性別歧視的傾向，而這些并不是研發(fā)者的初衷。它們太可能被數(shù)據(jù)、環(huán)境、病毒所左右...
還有一點(diǎn)，當(dāng)無(wú)人機(jī)代替人類執(zhí)行殲滅任務(wù)的時(shí)候，它的目標(biāo)是殲滅敵人...它將毫無(wú)人性的執(zhí)行所接收到的命令，完全沒(méi)有人道主義精神可言。它們完成的結(jié)果可能并不是我們想要的。
AI其實(shí)也很“痛苦”
在廣泛研究探索AI技術(shù)的今天，AI倫理被抬上了桌面。著名小說(shuō)家阿西莫夫提出的“機(jī)器人學(xué)三定律”想必大家都很熟悉：
- 機(jī)器人不能傷害人類，或因不運(yùn)動(dòng)而使人類受到傷害；
- 機(jī)器人必須執(zhí)行人類的命令，除非這些命令與第一條定律相抵觸；
- 在不違背第一、二條定律的前提下，機(jī)器人必須保護(hù)自己不受傷害。
這樣看上去好像是能解決人們利用機(jī)器人作惡的問(wèn)題，但如果不是你死就是我亡呢？自動(dòng)駕駛是現(xiàn)在很火的研究方向，而關(guān)于自動(dòng)駕駛就有一個(gè)很著名的“電車悖論”問(wèn)題。
遇到交通意外的時(shí)候，無(wú)人駕駛汽車到底是應(yīng)該盡力保護(hù)車?yán)锏某丝瓦€是路上的行人？這真的是一個(gè)不亞于親媽和親老婆同時(shí)落水的世紀(jì)難題，作為AI也表示相當(dāng)為難，但是作為一個(gè)智能體，能夠考慮多種選擇，作出當(dāng)下情況的最優(yōu)解——將可能的傷害降到最低。
但素！通過(guò)調(diào)查發(fā)現(xiàn)，超過(guò)80%以上的人類表示：我會(huì)購(gòu)買盡最大可能保障車內(nèi)乘客安全的車。無(wú)人車表示：我看不懂你們?nèi)祟悾?/span>我們每一個(gè)人都很理解這種出于本能的自我保護(hù)愿望，每個(gè)人的生命都是平等的，在萬(wàn)不得已的情況下?tīng)奚约夯蛘呤撬硕际乔橛锌稍?。可是，一旦AI接受了“最大可能保障車內(nèi)乘客的安全”這個(gè)信息，那么很有可能就會(huì)致路人于死地...想想都不寒而栗。
是時(shí)候了
到底要不要研發(fā)武器，如何管制AI武器，全球應(yīng)該達(dá)成怎樣的共識(shí)？無(wú)人機(jī)，無(wú)人車，智能機(jī)器人發(fā)生事故，導(dǎo)致人類死亡，如何界定責(zé)任呢？有人說(shuō)，現(xiàn)在人工智能才發(fā)展到什么階段，不必杞人憂天。但是全球來(lái)看這一塊都是缺失的，是時(shí)候探討一下關(guān)于發(fā)展AI我們會(huì)面臨的一系列倫理、道德以及威脅人類生存的問(wèn)題了。
如果不研發(fā)AI武器，如何保障全球內(nèi)不會(huì)有別有用心的組織偷偷研發(fā)？如果可以研發(fā)AI武器，如何保障不肆意亂用，人類擁有絕對(duì)的控制權(quán)利？
AI倫理由誰(shuí)站在誰(shuí)的立場(chǎng)來(lái)制定？誰(shuí)按照什么原則來(lái)執(zhí)行AI倫理呢？
