2月7日，下一任中情局局長候選人約翰·布倫南出現(xiàn)在美國國會參議院的聽證會上，議員們關(guān)注的焦點(diǎn)集中于一個(gè)問題：派遣無人機(jī)追殺恐怖嫌犯的決定是怎樣做出的？
如何對無人機(jī)下達(dá)攻擊命令及其具體決策機(jī)制，在公眾眼中仍是個(gè)謎團(tuán)。但至少有一點(diǎn)很明確，即此類決定出自活生生的人。但是，如果有朝一日人類退出這個(gè)決策過程，生死攸關(guān)的決定是由塞滿了海量數(shù)據(jù)且效率更高的機(jī)器人戰(zhàn)士做出，戰(zhàn)爭會變得更加冷酷、莫測嗎？
當(dāng)人工智能面臨兩難抉擇
盡管科幻電影《終結(jié)者》里的場面不會很快成為現(xiàn)實(shí)，毫無疑問的是，隨著機(jī)器人變得更加智能化且擁有更多自主權(quán)，它們上位的關(guān)鍵環(huán)節(jié)在于：具備“講道德”的能力。
這并非狂言妄語。最近，《紐約客》雜志專欄作家加里·馬庫斯，撰文描繪了谷歌的無人駕駛汽車可能面臨的兩難抉擇：“你的車正以80公里時(shí)速行駛，載有40名孩子的校車錯(cuò)誤地闖了紅燈。你的車是否可以為了避免事故而急轉(zhuǎn)彎，不惜危及主人的生命；還是繼續(xù)行駛，置孩子們的安危于不顧？決定必須在瞬間做出，而電腦不會撥打求援電話。”
如果把主角換成未來戰(zhàn)場上的機(jī)器人士兵，情況又會變成什么樣？如果明知一座堡壘內(nèi)有無辜平民，無人機(jī)能否學(xué)會不向可疑目標(biāo)開火？我們能否教會機(jī)器人遵守國際沖突的規(guī)則？佐治亞理工學(xué)院的計(jì)算機(jī)學(xué)和機(jī)器人專家羅納德·阿金相信這是必須的，他正在開發(fā)名為“道德總督”的軟件系統(tǒng)，意在讓機(jī)器人自主決定何時(shí)應(yīng)該開火、何時(shí)不開火。
做到這點(diǎn)可能得耗費(fèi)數(shù)十年，但只要堅(jiān)持下去，機(jī)器人有望在身體和道德上雙雙超越人類，不受變態(tài)復(fù)仇等負(fù)面情感的左右。阿金教授表示，他并不想建立清一色的機(jī)器人大軍，而是想讓機(jī)器人和人類一道工作，承擔(dān)高風(fēng)險(xiǎn)的任務(wù)，并在壓力下做出妥當(dāng)?shù)膽?yīng)對。
機(jī)器的道德能比人更高尚？
當(dāng)然，也有人覺得，趁著還沒走火入魔，我們應(yīng)該果斷摒棄對戰(zhàn)爭機(jī)器的幻想。去年年底，人權(quán)觀察組織和哈佛法學(xué)院的人權(quán)研究所共同發(fā)布了題為《失去人性：起訴殺手機(jī)器人》的報(bào)告，呼吁各國政府禁止所有自律武器，因?yàn)樗鼈儠?ldquo;在武裝沖突中增加平民的傷亡”。
大約同一時(shí)間，一群劍橋大學(xué)的學(xué)者宣布，計(jì)劃成立“生存風(fēng)險(xiǎn)研究中心”。今年晚些時(shí)候開業(yè)后，該中心將對“若機(jī)器人的智能超過人類，會出現(xiàn)什么情況”的課題加以認(rèn)真研究。
令人不安的跡象比比皆是。在五角大樓贊助的許多實(shí)驗(yàn)室里，軍備專家在對機(jī)器人進(jìn)行編程，以便增強(qiáng)它們耍弄陰謀詭計(jì)的本領(lǐng)。他們還考慮教機(jī)器人模仿某些生物的行為。譬如，灰松鼠會把堅(jiān)果藏起來，一旦其他松鼠或捕食者出現(xiàn)，松鼠就會到以前藏匿堅(jiān)果的地方轉(zhuǎn)轉(zhuǎn)，以引開競爭對手。機(jī)器人遵循類似策略編程后，甚至能誘騙人類走進(jìn)陷阱。
人力成本的提高和人體機(jī)能的限制，讓機(jī)器人戰(zhàn)士走進(jìn)現(xiàn)實(shí)的步伐越來越快。既然潮流不可避免，人類似乎應(yīng)該即刻開始對機(jī)器人的行為制定規(guī)范。“潘多拉的盒子已經(jīng)開啟，”羅納德·阿金在接受采訪時(shí)表示，“我始終認(rèn)為，有了這些智能機(jī)器人，潛在的非戰(zhàn)斗人員傷亡會減少；但對如何使用之而不是隨意投放到戰(zhàn)場上，我們必須慎之又慎。”
加里·馬庫斯在《紐約客》上寫道，“諷刺的是，人類自身的道德并不完美。許多情形（譬如幫別人自殺）仍然缺乏明確的規(guī)范，更不用提古代——那個(gè)時(shí)候，人類的所作所為比今天的戰(zhàn)斗機(jī)器更糟（如奴隸制和種族隔離）。我們真正想要的是可以更進(jìn)一步的機(jī)器，不僅賦予其健全的道德規(guī)范，而且讓機(jī)器自身能不斷進(jìn)化，乃至超越人類固有的道德觀念。”
倘若智能機(jī)器主宰未來戰(zhàn)爭不可避免，人類是否應(yīng)該教會它們“講道德”？
2月7日，下一任中情局局長候選人約翰·布倫南出現(xiàn)在美國國會參議院的聽證會上，議員們關(guān)注的焦點(diǎn)集中于一個(gè)問題：派遣無人機(jī)追殺恐怖嫌犯的決定是怎樣做出的？
如何對無人機(jī)下達(dá)攻擊命令及其具體決策機(jī)制，在公眾眼中仍是個(gè)謎團(tuán)。但至少有一點(diǎn)很明確，即此類決定出自活生生的人。但是，如果有朝一日人類退出這個(gè)決策過程，生死攸關(guān)的決定是由塞滿了海量數(shù)據(jù)且效率更高的機(jī)器人戰(zhàn)士做出，戰(zhàn)爭會變得更加冷酷、莫測嗎？
當(dāng)人工智能面臨兩難抉擇
盡管科幻電影《終結(jié)者》里的場面不會很快成為現(xiàn)實(shí)，毫無疑問的是，隨著機(jī)器人變得更加智能化且擁有更多自主權(quán)，它們上位的關(guān)鍵環(huán)節(jié)在于：具備“講道德”的能力。
這并非狂言妄語。最近，《紐約客》雜志專欄作家加里·馬庫斯，撰文描繪了谷歌的無人駕駛汽車可能面臨的兩難抉擇：“你的車正以80公里時(shí)速行駛，載有40名孩子的校車錯(cuò)誤地闖了紅燈。你的車是否可以為了避免事故而急轉(zhuǎn)彎，不惜危及主人的生命；還是繼續(xù)行駛，置孩子們的安危于不顧？決定必須在瞬間做出，而電腦不會撥打求援電話。”
如果把主角換成未來戰(zhàn)場上的機(jī)器人士兵，情況又會變成什么樣？如果明知一座堡壘內(nèi)有無辜平民，無人機(jī)能否學(xué)會不向可疑目標(biāo)開火？我們能否教會機(jī)器人遵守國際沖突的規(guī)則？佐治亞理工學(xué)院的計(jì)算機(jī)學(xué)和機(jī)器人專家羅納德·阿金相信這是必須的，他正在開發(fā)名為“道德總督”的軟件系統(tǒng)，意在讓機(jī)器人自主決定何時(shí)應(yīng)該開火、何時(shí)不開火。
做到這點(diǎn)可能得耗費(fèi)數(shù)十年，但只要堅(jiān)持下去，機(jī)器人有望在身體和道德上雙雙超越人類，不受變態(tài)復(fù)仇等負(fù)面情感的左右。阿金教授表示，他并不想建立清一色的機(jī)器人大軍，而是想讓機(jī)器人和人類一道工作，承擔(dān)高風(fēng)險(xiǎn)的任務(wù)，并在壓力下做出妥當(dāng)?shù)膽?yīng)對。
機(jī)器的道德能比人更高尚？
當(dāng)然，也有人覺得，趁著還沒走火入魔，我們應(yīng)該果斷摒棄對戰(zhàn)爭機(jī)器的幻想。去年年底，人權(quán)觀察組織和哈佛法學(xué)院的人權(quán)研究所共同發(fā)布了題為《失去人性：起訴殺手機(jī)器人》的報(bào)告，呼吁各國政府禁止所有自律武器，因?yàn)樗鼈儠?ldquo;在武裝沖突中增加平民的傷亡”。
大約同一時(shí)間，一群劍橋大學(xué)的學(xué)者宣布，計(jì)劃成立“生存風(fēng)險(xiǎn)研究中心”。今年晚些時(shí)候開業(yè)后，該中心將對“若機(jī)器人的智能超過人類，會出現(xiàn)什么情況”的課題加以認(rèn)真研究。
令人不安的跡象比比皆是。在五角大樓贊助的許多實(shí)驗(yàn)室里，軍備專家在對機(jī)器人進(jìn)行編程，以便增強(qiáng)它們耍弄陰謀詭計(jì)的本領(lǐng)。他們還考慮教機(jī)器人模仿某些生物的行為。譬如，灰松鼠會把堅(jiān)果藏起來，一旦其他松鼠或捕食者出現(xiàn)，松鼠就會到以前藏匿堅(jiān)果的地方轉(zhuǎn)轉(zhuǎn)，以引開競爭對手。機(jī)器人遵循類似策略編程后，甚至能誘騙人類走進(jìn)陷阱。
人力成本的提高和人體機(jī)能的限制，讓機(jī)器人戰(zhàn)士走進(jìn)現(xiàn)實(shí)的步伐越來越快。既然潮流不可避免，人類似乎應(yīng)該即刻開始對機(jī)器人的行為制定規(guī)范。“潘多拉的盒子已經(jīng)開啟，”羅納德·阿金在接受采訪時(shí)表示，“我始終認(rèn)為，有了這些智能機(jī)器人，潛在的非戰(zhàn)斗人員傷亡會減少；但對如何使用之而不是隨意投放到戰(zhàn)場上，我們必須慎之又慎。”
加里·馬庫斯在《紐約客》上寫道，“諷刺的是，人類自身的道德并不完美。許多情形（譬如幫別人自殺）仍然缺乏明確的規(guī)范，更不用提古代——那個(gè)時(shí)候，人類的所作所為比今天的戰(zhàn)斗機(jī)器更糟（如奴隸制和種族隔離）。我們真正想要的是可以更進(jìn)一步的機(jī)器，不僅賦予其健全的道德規(guī)范，而且讓機(jī)器自身能不斷進(jìn)化，乃至超越人類固有的道德觀念。”
