機(jī)器人在現(xiàn)代社會(huì)中正在扮演著越來越重要的角色。從藝術(shù)家到教育者，從陪護(hù)員到劊子手，從公共的生產(chǎn)生活領(lǐng)域到私人的隱秘情感空間，機(jī)器人不再被簡單地視為人類的替代品和無法獨(dú)立思考與行動(dòng)的工具，其已成為與人類共同進(jìn)化和發(fā)展的“新物種”?！度祟惡喪贰纷髡哂韧郀?middot;赫拉利甚至斷言，隨著人工智能和其他認(rèn)知技術(shù)的飛速發(fā)展，人機(jī)融合將在本世紀(jì)完全實(shí)現(xiàn)，機(jī)器將比人更了解人自己。過去的30年間，正如摩爾定律預(yù)測的那樣，機(jī)器人技術(shù)發(fā)展的蓬勃之勢既令人欣喜若狂又令人不安。機(jī)器人行業(yè)指數(shù)級(jí)增長的同時(shí)，也面臨著一系列迫切的道德和社會(huì)挑戰(zhàn)。
跨學(xué)科成果：實(shí)時(shí)對(duì)新興技術(shù)提出倫理創(chuàng)新
如果機(jī)器人也需要遵守某些道德準(zhǔn)則，那么這些道德準(zhǔn)則會(huì)是怎樣的？人與機(jī)器一旦形成情感關(guān)系，將潛藏著哪些風(fēng)險(xiǎn)？倫理約束和社會(huì)政策如何能改變和影響機(jī)器人學(xué)的方向？美國哲學(xué)家帕特里克·林、凱斯·阿布尼以及計(jì)算機(jī)科學(xué)家喬治·貝基共同編撰的《機(jī)器人倫理學(xué)》，將來自哲學(xué)、人文社會(huì)科學(xué)的著名學(xué)者和計(jì)算機(jī)、人工智能科學(xué)家、工程師的重要成果匯編成冊(cè)。倫理學(xué)往往滯后于技術(shù)的發(fā)展，但機(jī)器人倫理學(xué)為我們的技術(shù)時(shí)代傳達(dá)了一個(gè)重要的啟示：我們必須實(shí)時(shí)對(duì)新興技術(shù)提出倫理創(chuàng)新。因此，此書填補(bǔ)了理論層面的學(xué)術(shù)討論和現(xiàn)實(shí)層面政策制定之間的鴻溝。
《機(jī)器人倫理學(xué)》，[美]帕特里克·林、凱斯·阿布尼、喬治·A.貝基主編，薛少華、仵婷譯，人民郵電出版社出版
當(dāng)您翻開《機(jī)器人倫理學(xué)》時(shí)，可以想象的場景是幾十年后機(jī)器人將無處不在。機(jī)器人不是以人類終結(jié)者的方式摧毀我們，而是為我們清掃房間，照顧老幼病人，與我們的孩子玩耍，教育我們的后代，甚至與我們談情說愛。但對(duì)于這些機(jī)器人的設(shè)計(jì)及未來應(yīng)用，必須十分謹(jǐn)慎。《機(jī)器人倫理學(xué)》向我們呈現(xiàn)了與機(jī)器人技術(shù)密切相關(guān)的宗教、軍事、法律、心理、醫(yī)護(hù)、權(quán)利六大問題。
士兵可否用機(jī)器人代替并不讓他殺錯(cuò)人？
在探討宗教與機(jī)器人道德之間的關(guān)系時(shí)，詹姆斯·休斯（James Hughes）建設(shè)性的開放態(tài)度格外引人注目。他試圖從佛教框架中汲取教訓(xùn)，創(chuàng)造有意識(shí)、有自我意識(shí)、對(duì)道德負(fù)責(zé)的機(jī)器人。相比之下，塞爾默·布林斯約德（Selmer Bringsjord）和約書亞·泰勒（Joshua Taylor）用一種自然演算的證明理論討論“神命計(jì)算邏輯”如何對(duì)致命機(jī)器人進(jìn)行自上而下的道德控制。
隨著“捕食者無人機(jī)”“MAARS（模塊化先進(jìn)武裝機(jī)器人系統(tǒng)）”“SWORD（特種武器偵察探測系統(tǒng)）”，以及完全自主的機(jī)器人武器出現(xiàn)在世界各地的戰(zhàn)場上，軍用機(jī)器人的道德問題將變得極其敏感。無疑，機(jī)器人將改變戰(zhàn)爭的方式。夏基（Noel Sharkey）重點(diǎn)討論是否應(yīng)該允許機(jī)器人自主識(shí)別和殺死（疑似）敵方戰(zhàn)斗人員?；卮疬@一棘手的問題往往暗含內(nèi)在沖突。一方面，從不想看到同胞在戰(zhàn)斗中喪生的人的角度來看，機(jī)器人取代士兵的想法值得推廣；然而另一方面，機(jī)器人做出生死決定的想法似乎極具風(fēng)險(xiǎn)，特別是當(dāng)我們考慮到機(jī)器人犯錯(cuò)并殺死平民的倫理影響時(shí)。
我們?nèi)绾螌?dāng)前的法律法規(guī)擴(kuò)展到機(jī)器人，以便為機(jī)器人治理創(chuàng)建一個(gè)框架，解決它們?nèi)找鎻?fù)雜的問題？目前，一些重要的法律概念，如責(zé)任、過錯(cuò)、因果和意圖等，均無法適用于遠(yuǎn)程操作、半自主和完全自主的機(jī)器人。另外，由于我們生活中的機(jī)器人越來越多，很有可能為黑客竊取和攻擊我們的私人生活打開大門。機(jī)器人將會(huì)打開入侵人類隱私的“潘多拉魔盒”。
擁有人腦的機(jī)器人是否值得擁有人格？
機(jī)器人正在表演群舞。圖源：新華社
人類與機(jī)器人之間的情感和性愛關(guān)系，可能導(dǎo)致人類情感依賴甚至傷害的危險(xiǎn)。一些人機(jī)交互的實(shí)驗(yàn)表明，人類受到機(jī)器人存在的影響通常只由另一個(gè)人的存在引起。然而，在人機(jī)交互的情況下，情感紐帶是單向的?？膳碌氖牵@種情感關(guān)系可能被諸如制造機(jī)器人的公司利用。惠特比（BlayWhitby）考慮社會(huì)孤立如何驅(qū)使人們向機(jī)器人尋求愛和感情時(shí)，他直言：人與人之間和平甚至充滿愛的互動(dòng)，本身就是一種道德善。我們不應(yīng)該相信那些動(dòng)機(jī)——希望以一種傾向于替代人與人之間互動(dòng)的方式引入技術(shù)的人。
在全球范圍內(nèi)老齡化社會(huì)提前到來之時(shí)，機(jī)器人與人類之間以醫(yī)療和陪護(hù)的形式進(jìn)行的互動(dòng)在很大程度上是值得稱道的。機(jī)器人監(jiān)管可能導(dǎo)致隱私和自由的喪失，我們?nèi)绾伪苊鈾C(jī)器人護(hù)理變得過于嚴(yán)格甚至侵權(quán)？另一個(gè)問題，是機(jī)器人護(hù)理可能會(huì)減少或取代社會(huì)成員間的人際接觸，進(jìn)而使得這些弱勢群體變得更加邊緣。
有朝一日，我們是否會(huì)看到機(jī)器人權(quán)利的“解放宣言”？機(jī)器人帶來的最大道德難題可能是人類擬人化的傾向。在某種意義上，機(jī)器人是否可以是人，這將是保證它們是否獲得道德主體地位的關(guān)鍵。一個(gè)擁有人腦的機(jī)器人是否值得擁有人格？對(duì)于沃里克（Kevin Warwick）這樣的神經(jīng)科學(xué)家而言，答案是肯定的。在他看來，對(duì)人格的心理能力采取典型的物理主義和功能主義方法，是教條式錯(cuò)誤。與人格相關(guān)的心理能力可以被區(qū)分為不同的功能性神經(jīng)活動(dòng)，而不是與特定的生物狀態(tài)相關(guān)聯(lián)。
70年的擔(dān)憂正以技術(shù)與人類結(jié)合方式攻克
從人工智能和機(jī)器人技術(shù)誕生開始，作家和電影制作人就一直在積極預(yù)測，隨著更先進(jìn)技術(shù)的出現(xiàn)，未來會(huì)是什么樣子。1942年，薩克·阿西莫夫的“機(jī)器人三定律”首次出現(xiàn)在他的科幻小說《逃跑》中，至今仍廣為流傳。在1985年的《機(jī)器人與帝國》這本書中，阿西莫夫?qū)⑷蠓▌t擴(kuò)展為四大法則，即機(jī)器人不得傷害人類整體，或坐視人類整體受到傷害。阿西莫夫的科幻想象，主要強(qiáng)調(diào)了法則無法終極保護(hù)人類。從上世紀(jì)80年代開始，包括《終結(jié)者》《機(jī)械戰(zhàn)警》《黑客帝國》在內(nèi)的百余部影視作品，都在警告這類反烏托邦的未來世界的風(fēng)險(xiǎn)。目前，機(jī)器人專家正在以挑戰(zhàn)基本倫理和文化理念的方式將技術(shù)與人類相結(jié)合?，F(xiàn)在是考慮機(jī)器人整體道德問題的時(shí)候了。
電影《機(jī)械戰(zhàn)警》場景
