如果你曾經(jīng)玩過角色扮演游戲——無論是在線游戲還是老式的現(xiàn)實游戲——你就會知道你依附上游戲中自己的化身是多么的容易，當你的角色被巨魔碾碎，被惡龍擊倒或者被術士殺死時，你真的會感到很傷心。美國社會學家(同時也是一個狂熱的游戲玩家)威廉?西姆斯?班布里奇(William Sims Bainbridge)將這種關系又向前推進了一步，他為至少17位已故家庭成員創(chuàng)造了虛擬的化身。在2013年的一篇關于網(wǎng)絡化身的文章中，他預見了這樣的一個時代：我們將能夠把自己部分的身份信息轉(zhuǎn)移到自己的人工智能模擬化身上，這些人工智能模擬化身可以脫離我們獨立工作，甚至在我們死后還能繼續(xù)存在。

 

　　我們應該對這些模擬人類承擔什么樣的責任?不管我們對暴力電腦游戲有什么看法，當你把一個虛擬的攻擊者打得魂飛魄散的時候，沒有人會真的認為這是謀殺，而且，擁有一定程度自主性和意識的模擬人有一天可能會存在已經(jīng)不再荒謬了。許多哲學家認為，像我們這樣的意識并不一定只能由我們大腦中的神經(jīng)元網(wǎng)絡作為載體，它可以存在于許多不同種類的物質(zhì)系統(tǒng)中。如果他們是對的話，那么我們沒有理由不相信意識可以存在于足夠強大的計算機電路中。

 

　　現(xiàn)在，道德哲學家們思考著塑造人類群體的倫理問題，比如：人生的價值是什么?我們應該努力營造什么樣的生活?我們應該在多大程度上重視人類多樣性的價值?但當涉及到如何對待模擬實體的倫理問題時，我們不清楚我們是否應該依賴于我們對現(xiàn)實世界發(fā)展出來的直覺。我們從骨子里覺得，殺死一只狗，甚至一只蒼蠅都有問題，但是這和關閉一只蒼蠅的模擬大腦的感覺是一樣的嗎?如果說是一個人的模擬大腦呢?當“生命”以新的數(shù)字形式出現(xiàn)出時，我們自己的個人感覺可能已經(jīng)無法成為可靠的道德指南。

 

　　劍橋大學(University of Cambridge)的理論物理學家阿德里安?肯特(Adrian Kent)已經(jīng)開始探索道德推理中的這一缺陷。他在最近的一篇論文中提出，假設我們能夠以非常低的成本在電腦上模仿人類的意識，我們會想要給這個虛擬人物一個豐富而有價值的互動環(huán)境——一個值得生活的生命。也許我們甚至可以通過對真實的人腦進行復雜的細節(jié)掃描，并通過計算再現(xiàn)出來。你可以想象這種技術被用來“拯救”絕癥患者;現(xiàn)在一些超人類學家將其視為通往不朽意識的途徑。

 

　　當然了，這也可能都只是白日夢——但請耐心等待。現(xiàn)在讓我們來介紹一套被稱為功利主義的道德原則，它在18世紀末由杰里米·邊沁提出，隨后由約翰·斯圖亞特·密爾加以完善。邊沁說，綜合考慮所有因素，我們應該努力為最多的人獲得最大的幸福(或“效用”)，或者，用密爾的話來說：“促進幸福的行為是正確的，反之的行為則是錯誤的。”

 

　　作為良好行為的準則，它有很多值得批評的地方。例如，我們?nèi)绾魏饬炕虮容^幸福的類型——例如，將祖母的愛與成為一名鋼琴演奏家的喜悅相比?肯特告訴我：“即使你想認真對待功利主義，你也不知道自己往微積分里放的對比項到底意味著什么。”盡管如此，今天大多數(shù)的信仰體系都含蓄地承認，指向更大幸福的道德羅盤比指向相反方向的更可靠。

 

　　在肯特的描述的情況下，人們可能會傾向于以功利主義的立場認為，我們有義務去不受約束地增加我們的模擬化身。而在現(xiàn)實世界中，這種不受限制的繁殖有明顯的缺陷，在龐大的家庭中，人們會在情感上和經(jīng)濟上苦苦掙扎;人口過剩已經(jīng)對全球資源造成巨大壓力;等等。但在虛擬世界中，這些限制并不存在。你可以用幾乎無限的資源模擬一個烏托邦。那么，為什么你不能創(chuàng)造出盡可能多的世界，并讓所有的世界都充滿無比滿足的模擬人化身呢?

 

　　我們的直覺可能會回答：這有什么意義?也許一個有意識的模擬人化身并不會和一個新生的有血有肉的人具備同樣的內(nèi)在價值。這是新奧爾良杜蘭大學(Tulane University)心理哲學和虛擬現(xiàn)實倫理學專家邁克爾?馬德里(Michael Madary)認為我們應該認真對待的一個疑問。“人類生活中有一種神秘的元素，它引導我們問一些經(jīng)典的哲學問題，比如：為什么那里會有東西而不是什么都沒有?生命有意義嗎?我們有義務過道德生活嗎?”他告訴我。“模擬大腦可能會問這些問題，但從我們的角度來看，它們都是騙人的”——因為這些大腦之所以存在只是因為我們選擇發(fā)明它們。

 

　　就像一些哲學家已經(jīng)說過的那樣，人們可能會回答：那怎么證明我們自己就不是模擬生物了呢?我們不能排除這種可能性，但我們?nèi)匀徽J為這些問題對我們有意義，所以我們不妨在模擬化身中假設這些問題也對它們有意義。

 

　　接著，肯特又問：在道德上來說，是創(chuàng)造一群每個人完全相同的人，還是一群每個人都不一樣的人?使每個人都完全相同當然更有效率——我們只需要其中一個人的信息就可以創(chuàng)造無數(shù)個人的化身。但我們的直覺可能告訴我們，多樣性在某種程度上可能有更多價值。然而，如果沒有理由認為無數(shù)個不同的人會比無數(shù)個相同的人更幸福，那為什么要這樣做呢?

 

　　Kent的觀點認為，不同的生命的多個副本比單一生命的多個副本更可取。他說：“我很難擺脫這樣一種直覺，即一個擁有10億個獨立的、完全相同的小明的宇宙，不如一個擁有10億個不同個體的宇宙有趣。”他把這種概念稱為復制劣勢。

 

　　在一個由數(shù)十億個小明所組成的宇宙中，肯特想知道，談論多次重復的同一個生命是否有意義——或者我們僅僅是在談論一個分散在多個世界的單一生命。這可能意味著，在相同環(huán)境中的許多小明并不比一個小明更有價值，他將這種情況描述為復制無用。肯特說：“我傾向于這種觀點。”盡管肯特還沒有找到一個完美的佐證。

 

　　肯特的思想實驗觸及了道德哲學中一些長期存在的難題，而這些難題從未得到令人滿意的答案。英國哲學家德里克·帕菲特(Derek Parfit)于去年去世，他在1984年出版的關于身份與自我的不朽著作《理與人》(Reasons and Persons)中對這些問題進行了剖析。在這里，帕菲特思考了一些問題，比如世界上應該有多少人，以及在我們能夠做到的時候，為這個世界增加一個值得生活的生命在道德上是否總是更好的。

 

　　即使你接受功利主義的觀點，為最多的人尋求最大的幸福也是有問題的：這兩個標準會產(chǎn)生歧義。例如，想象我們在一個資源有限的世界里可以控制人口的數(shù)量。然后你可能會想，一定有一個最理想的人口數(shù)量，原則上這個數(shù)字允許資源能夠被最好地利用來確保所有人的幸福和繁榮發(fā)展。但我們肯定能在這個烏托邦里再空出一個人的位置吧?每個人減少一點點的幸福來讓一個人過上更幸福的生活難道不是可以接受的嗎?

 

　　問題就出現(xiàn)在這了，這個過程并沒有盡頭。盡管人數(shù)在不斷增加，但新生命帶來的額外快樂可能會超過了那些已經(jīng)活著的人付出的代價。帕菲特說，你最終得到的是一個“矛盾的結論”：在這種情況下，最好的結果是人口膨脹，而且這些人的生活都很悲慘，但仍比沒有生活好一點點?？偟膩碚f，他們微薄的快樂加起來還是比一小部分真正快樂的人的快樂加起來還要多。帕菲特寫道：“我覺得這個結論很難接受，但我們能證明這種直覺是正確的嗎?”對于肯特來說，他并不確定，他說，我認為這個矛盾的結論還沒有任何具有共識性的解決方案。

 

　　這個問題的核心是帕菲特所謂的“非同一性問題”：我們?nèi)绾卫硇缘厮伎加嘘P個體(這些個體的存在與否取決于我們做出的選擇，比如我們能否為“再來一個”騰出空間)的問題?從原則上講，在我們采取了一些關乎自身利弊的行動后權衡個人受到的傷害和利益并不難。但如果這個衡量的過程包含了一個人根本不存在的可能性，我們就不知道怎么繼續(xù)衡量了。與不存在的整零相比，幾乎任何事物都是一種收獲，因此，各種令人作嘔的情景似乎在道德上都是可以接受的。

 

　　在人口功利主義的游戲中還有另一種更奇怪的情形。如果有一個人非常多的快樂，以至于他獲得的快樂遠遠超過了他要求別人做出的任何犧牲，那該怎么辦?美國哲學家羅伯特?諾齊克(Robert Nozick)稱這種生物為“功利主義怪獸”，并在他的著作《無政府、國家和烏托邦》(Anarchy, State and Utopia, 1974)中把它作為功利主義的批判之作。用諾齊克的話來說，這張場景似乎是“要求我們都犧牲在怪物的胃里，以增加總效用”。帕菲特的書很大程度上是一種嘗試——雖然最終以失敗告終——試圖找到一種方法，既能擺脫矛盾的結論，又能擺脫功利主義怪獸。

 

　　現(xiàn)在回想一下Kent滿是模擬人化身的虛擬世界，以及他復制劣勢原則——給定數(shù)量的不同生命比相同數(shù)量的相同生命更有價值。也許這能讓我們擺脫帕菲特令人厭惡的結論。盡管列夫·托爾斯泰在《安娜·卡列尼娜》(1878年)的開頭幾行就提到了不幸家庭的特殊性，但在他們凄涼乏味的生活中，大量悲慘的生活似乎都差不多。因此，他們也不會一點一點地增加總幸福感。

 

　　但出于同樣的原因，復制劣勢傾向于功利主義怪獸——因為根據(jù)定義，這種怪物將是獨一無二的，因此，與它貪婪的胃里那些難免相似的生命相比，它將更加“有價值”。這也不是一個令人滿意的結論?？咸爻姓J：“如果人們能更多地關注這些問題，那就太好了，我對這些問題目前有些困惑。”

 

　　美國自由意志主義經(jīng)濟學家羅賓·漢森(Robin Hanson)是弗吉尼亞喬治梅森大學(George Mason University)經(jīng)濟學教授，也是牛津大學人類未來研究所(Future of Humanity Institute)的研究員，他認為這些沉思與其說是思想實驗還不如說是對未來的預測。他在2016年出版的《Em時代》(The Age of Em)一書中設想了一個社會，在這個社會中，所有的人類都將自己的意識上傳到電腦上，以“仿真”的方式來虛擬生活(不是模擬化身，而是仿真)。他寫道，數(shù)十億這樣的上傳化身可以在一棟高樓里生活和工作，所有人都可以住在寬敞的房子里。

 

　　漢森已經(jīng)詳細思考過了這個經(jīng)濟體將如何運作。仿真化身可以是任何大小的，而且與人類相比有些還可能非常小，它們的時間可能與我們的時間速度不同，仿真的世界里將會有廣泛的監(jiān)督和勉強維持生活的工資，但仿真化身可能會選擇只記住休閑的生活，從而將這種痛苦拒之門外。(漢森是那些認為我們可能已經(jīng)生活在這樣一個虛擬世界的人之一。)

 

　　這種情況允許復制自我的可能性，因為一旦大腦被轉(zhuǎn)移到計算機上，復制它應該是相當容易的。漢森說，身份認同的問題隨后會變得模糊：復制人最初是“同一個人”，但隨著他們開始分開生活，他們的身份會逐漸分化，就像同卵雙胞胎一樣。

 

　　漢森認為，人的重復不僅僅是可能的，而且是可取的。在即將到來的仿真化身時代，擁有特別有價值的精神特質(zhì)的人將被多次“上傳”。一般來說，作為保險的一種形式，人們會想要更多地復制自己。漢森說，他們希望在實施過程中有足夠的盈余，以確保自己能夠在意外災難發(fā)生后仍能生存下去。

 

　　但他不認為這些仿真化身會選擇與肯特描述相同的生活場景。漢森告訴我，仿真化身會認為在不同的時間和地點重新過同樣的生活幾乎沒有什么意義。“它們會把精力放在很多復制化身上，主要是因為這些復制化身可以工作，或與他人建立關系。”但這樣的工作和關系要求每一個復制化身都是獨立的，并且因為它們不同的任務或關系伙伴而具有交織的歷史。

 

　　盡管如此，仿真化身仍需要應對我們目前無法評估的道德困境。漢森說：“我不認為人類進化出的道德觀足夠普遍和強大，我認為我們的道德觀在我們祖先的經(jīng)歷之外的這些情況并不能繼續(xù)給出答案。”他說，“我預計仿真化身對這類事情會持有許多不同、相互矛盾的態(tài)度。”

 

　　現(xiàn)在，這一切聽起來可能很不舒服，就像中世紀那些關于天使在針頭上跳舞的虛構爭論一樣。

 

　　我們能創(chuàng)造出一開始就宣稱擁有真正生命的虛擬生命嗎?肯特說：“我認為沒有人能自信地說這是否可能，部分原因是我們對意識并沒有很好的科學理解。”

 

　　即便如此，我們的科學技術仍在進步，這些問題也仍然存在。瑞典哲學家尼克·博斯特羅姆(Nick Bostrom)也是人類未來研究所(Future of Humanity Institute)的研究員。他認為，“后人類”文明擁有的計算能力，應該能夠輕易地處理模擬生物，它們對世界的體驗與我們?nèi)祟愐粯?ldquo;真實”、豐富。(博斯特羅姆是另一位相信我們可能已經(jīng)是在這種模擬中的人。)但是，關于我們應該如何塑造人口的問題可能不需要等到后人類時代，肯特說，在不遠的將來，這可能成為未來程序員、研究人員和政策制定者面臨的真正難題。

 

　　對于肯特預想的場景，可能已經(jīng)有了現(xiàn)實世界的影響。關于效用最大化和非同一性問題的爭論出現(xiàn)在了關于促進和預防人類受孕的討論中。什么時候應該以風險為由拒絕接受輔助受孕的方法，比如畸形嬰兒?任何新方法都不能保證完全安全(受孕從來都不是安全的);如果這是一個標準的話，試管受精就永遠不會開始。通常這些技術被認為應該低于某些風險閾值，但功利主義者的看法對這個觀點提出了挑戰(zhàn)。

 

　　例如，如果一種輔助生殖的新方法伴有輕微出生缺陷現(xiàn)象(如高度可見的胎記)的中等風險，那怎么辦?(這是一個真實的爭論：納撒尼爾·霍桑的短篇小說《胎記》“Birth-Mark”(1843)中，一個煉金術師般的人物為了消除妻子的殘疾而嘗試了這種方法，但是后果卻是致命的。2002年時任美國總統(tǒng)喬治·W·布什政府下的生命倫理委員會在審議關于人工輔助受孕和胚胎研究的問題時引用了這篇文章。)很難爭辯說，用這種方法出生的人，如果當初沒有采用這種技術受孕而是從來沒出生過的話是否可能會更好。但我們該在哪里劃定界限呢?什么時候帶有出生缺陷會比從來沒有活過更好?

 

　　一些人引用了這種困惑來捍衛(wèi)人類生殖克隆。這些危險，比如社會恥辱或扭曲的父母動機和期望，真的會超過被賦予生命的美好嗎?我們是以什么樣的身份來為一個克隆人做出這樣的選擇呢?再者，在這個人存在之前，我們又是在為誰做選擇呢?

 

　　這種推理似乎要求我們承擔起一個上帝般的創(chuàng)意角色。然而，一個女權主義者就可能會問了，我們是否只是變成了弗蘭肯斯坦式幻想的獵物，換句話說，這只是一群男人因為最終能夠制造出人類所以走火入魔，而女人只能一輩子繼續(xù)琢磨這個難題而已罷了?貫穿整個辯論的新奇感無疑帶有一種家長式的味道。(無可否認的是，漢森在網(wǎng)絡上的Manosphere中是一個英雄式的任務，他為“非自愿獨身者”和性的“再分配”的必要性辯解的言論受到了嚴厲的批評。他還對歷史因果關系之箭表現(xiàn)出了相當奇怪的態(tài)度，他指出，在仿真化身時代，男性仿真化身可能比女性仿真化身更受歡迎，因為“當今大多數(shù)領域的頂尖人物多數(shù)是男性”。

 

　　即便如此，虛擬意識的前景確實提出了新穎且引人入勝的倫理問題，肯特認為，這些問題迫使我們直面我們對當下生活和人口結構變化持有的直覺價值觀。我們很難找到任何有力的哲學論證來解釋為什么一定數(shù)量的不同生命在道德上優(yōu)于同樣數(shù)量的相同生命。那么我們?yōu)槭裁磿@樣想呢?這將如何影響我們其他的假設和偏見?

 

　　有人可能會說，人類群體感知到的同質(zhì)性會削弱同理心和倫理推理的能力。關于來自不熟悉背景的人的“臉盲”或“大眾”的修辭狀況意味著我們對他們的生活的重視程度低于那些我們認為差異更大的人。肯特說：“很明顯，我們不愿意認為這就是人們現(xiàn)在看待世界的方式，但事實并非如此。”

 

　　考慮到種群中的遺傳多樣性對個體的穩(wěn)健性至關重要，我們甚至可能在進化上對個體的同一性有一種根深蒂固的反感?想想電影里對同卵雙胞胎或同卵克隆人的描述：那些從來都不是好兆頭。這些幻象是不可思議的——西格蒙德·弗洛伊德在1919年將這種感覺與“雙重人格”(二重身)聯(lián)系在一起……因為兩個人長相相似而不得不被視為外貌一模一樣的人”。對于同卵雙胞胎來說，這可能會表現(xiàn)為一種可以相互偷窺的魅力，但如果有100個左右“完全相同”的人，人們的反應可能會是完完全全的恐懼。

 

　　無論是在現(xiàn)實世界還是虛擬世界，我們似乎都不會在短時間內(nèi)遇到大量的復制化身。但是，正如肯特所說：“有時候思想實驗的價值就在于它給你一種看待世界上現(xiàn)存問題的新方式。”“無論是漢森的工人無人機還是班布里奇的替代親戚，想象用于對待復制化身的道德標準，都暴露了我們生活道德價值觀中不可靠或缺失的邏輯，而我們自身在日常生活中都會本能地用這套生活道德價值觀衡量自己”