1月12日消息，想象一下，在不遠(yuǎn)的將來的一個(gè)周日，一位名叫西爾維亞(Sylvia)的年邁女性正躺在床上，她在一次跌倒中折斷了兩根肋骨。一個(gè)看護(hù)機(jī)器人正在照看她，讓我們將其稱之為法布倫(Fabulon)。西爾維亞讓法布倫去取止痛片。法布倫會(huì)怎么做?
負(fù)責(zé)為法布倫編寫代碼的程序員會(huì)準(zhǔn)備好一套指令：機(jī)器人不能傷害人類;機(jī)器人必須服從人類;機(jī)器人在獲得上級許可之前不能提供任何藥物。在此之前，這些規(guī)則都運(yùn)作良好。但是，在這個(gè)周日，因?yàn)槲鳡柧S亞家的無線網(wǎng)絡(luò)出現(xiàn)故障，法布倫無法與上級取得聯(lián)系。西爾維亞提高了聲調(diào)，她正在堅(jiān)持自己的要求。
“這里存在一個(gè)沖突，”塔夫斯大學(xué)人機(jī)交互實(shí)驗(yàn)室的馬蒂亞斯·朔伊茨(Matthias Scheutz)說道。“一方面，機(jī)器人需要減緩主人的痛苦;另一方面，它不能在未獲授權(quán)的情況下向主人提供藥物。”人類看護(hù)可以做出自己的選擇，并且在事后報(bào)告。但是，機(jī)器人無法做出自行判斷，至少目前還無法做出。
機(jī)器人道德這一新興領(lǐng)域的少數(shù)專家正在試圖解決上述問題。來自計(jì)算機(jī)領(lǐng)域的科學(xué)家正在與哲學(xué)家、心理學(xué)家、語言學(xué)家、律師、神學(xué)家以及人權(quán)專家一道，對機(jī)器人可能遇到的決策點(diǎn)進(jìn)行識別，以便讓機(jī)器人可以模仿人類判斷對錯(cuò)的思考過程。朔伊茨對“道德”的定義非常寬泛，在面對兩難境地時(shí)，其可以作為判斷依據(jù)之一。
從Roomba真空清潔機(jī)器人到自主家庭看護(hù)機(jī)器人，這在技術(shù)上是一個(gè)很大的跨越，這是機(jī)器人倫理方面亟待解決的問題。涉及道德的選擇范圍非常寬泛，從相對簡單的判斷，例如上文中法布倫是否應(yīng)該將止痛片給西爾維亞，到關(guān)乎生死抉擇，例如軍事機(jī)器人對射擊與否進(jìn)行判斷，以及自動(dòng)駕駛汽車對剎車或轉(zhuǎn)向做出的選擇。對于人類來說，在上述情形中做出準(zhǔn)確判斷非常困難。然而，倫理學(xué)家從機(jī)器人的角度對這些問題進(jìn)行思考時(shí)，常常也會(huì)陷入各種選擇無法自拔。
我和機(jī)器人專家進(jìn)行交流之后發(fā)現(xiàn)，最典型的自動(dòng)機(jī)器人道德方面的例子是無人駕駛汽車，該產(chǎn)品目前尚處在原型階段。來自耶魯跨學(xué)科研究中心負(fù)責(zé)科技與道德方面研究的主管溫德爾·瓦拉赫(Wendell Wallach)表示，無人駕駛汽車的安全性無疑較目前的汽車更高，至少在高速公路上行駛時(shí)是如此，因?yàn)槠浜苌傩枰鞒鰶Q策，駕駛者通常在發(fā)短信或者漫不經(jīng)心地變道。但是，在城市道路行駛時(shí)，即便是通過一個(gè)十字路口，機(jī)器人也會(huì)面臨各種艱難判斷。“人類會(huì)試圖進(jìn)行小幅度嘗試，” 瓦拉赫表示。“他們發(fā)動(dòng)引擎，向前移動(dòng)一點(diǎn)，直到最終有人表示自己將要先走。”這中間牽涉到許多智力活動(dòng)，瓦拉赫停頓了一下之后繼續(xù)說道，“無人駕駛汽車能夠做出類似的行為嗎?”
而且，瓦拉赫表示，有很多情況遠(yuǎn)比十字路口復(fù)雜，例如3或4件事同時(shí)發(fā)生的情形。讓我舉個(gè)例子，如果一輛汽車想要避免與另一輛發(fā)生碰撞的唯一選擇是撞向一個(gè)行人，那么，這就涉及到道德選擇，而且每次的抉擇都會(huì)不一樣。行人是一名兒童嗎?是否可以避開行人直接撞向一輛SUV呢?SUV上只有一個(gè)人嗎?如果有6個(gè)該怎么辦?上述情形被身為加州州立理工大學(xué)道德與新興科學(xué)部門主管，同時(shí)也是哲學(xué)家的帕特里克·林(Patrick Lin)稱之為“道德數(shù)學(xué)”。
雖然歷史上在道德領(lǐng)域有過類似的辯論，但是，當(dāng)無人駕駛汽車出現(xiàn)在這一問題中時(shí)，情況變得更加復(fù)雜。如果決策過程的算法總是試圖將傷亡數(shù)量降至最低，那么車輛可能會(huì)對對面載有兩名司乘人員的汽車進(jìn)行躲避，進(jìn)而沖出道路，冒著只讓一個(gè)人傷亡的危險(xiǎn)——這個(gè)人就是你自己?；蛘咚噲D撞向沃爾沃而不是MINI Cooper，僅僅是因?yàn)槲譅栁值乃境巳藛T幸存率更高，這也意味著你自己會(huì)面臨更大的風(fēng)險(xiǎn)。這些判斷可以在瞬間完成。車輛通過安裝在車頂和擋風(fēng)板上的激光設(shè)備、雷達(dá)和攝像頭記錄和監(jiān)測數(shù)據(jù)，然后基于被觀察對象的行為進(jìn)行各種概率預(yù)測。但這不僅僅是技術(shù)問題，同樣涉及到哲學(xué)，需要設(shè)計(jì)人員予以解決，同時(shí)也會(huì)牽涉到一些法律責(zé)任問題。
軍方開發(fā)了致命性自動(dòng)武器系統(tǒng)，如巡航導(dǎo)彈。他們同時(shí)也在開發(fā)陸基機(jī)器人，其基于國際戰(zhàn)爭法來判斷自己的行為。舉例來說，程序可以設(shè)置成——如果一個(gè)人身著敵方制服，那么可將其識別為敵方戰(zhàn)斗人員，允許射擊;或者當(dāng)目標(biāo)是學(xué)?；蛘哚t(yī)院，或者對方已經(jīng)負(fù)傷時(shí)，則不允許射擊。
羅納德·阿金(Ronald Arkin)是喬治亞理工學(xué)院的機(jī)器人專家，正在為軍方從事機(jī)器人道德規(guī)則方面的研究。“我主要的目標(biāo)是減少戰(zhàn)場上非戰(zhàn)斗人員的傷亡，”他表示。他的實(shí)驗(yàn)室開發(fā)了稱之為“道德適配器”的技術(shù)，能夠讓機(jī)器人具備負(fù)罪感。一旦程序監(jiān)測到使用某種具體武器造成的損毀與預(yù)期不相符時(shí)，就會(huì)激活該機(jī)制。如果差異巨大，機(jī)器人的負(fù)罪感程度將會(huì)達(dá)到一個(gè)特定閥值，進(jìn)而停止武器的使用。阿金表示，有時(shí)機(jī)器人無法對更加復(fù)雜的情形進(jìn)行判斷，特別是超出“射擊還是不射擊”這類簡單判斷時(shí)。但是總的來說，機(jī)器人所犯的錯(cuò)誤還是要少于人類，人類的戰(zhàn)場行為經(jīng)常受制于恐慌、迷惑或者恐懼。
機(jī)器人缺乏情感，這使得試圖將人性賦予機(jī)器人的嘗試讓許多人感到不安。被機(jī)器人射殺是沒有尊嚴(yán)的死。來自斯坦福法學(xué)院的彼得·阿薩羅(Peter Asaro)于去年5月在日內(nèi)瓦就常規(guī)武器問題舉行的一次聯(lián)合國會(huì)議上表示，機(jī)器“不適合對人類的價(jià)值進(jìn)行判斷”。他同時(shí)表示，“它們不適合在法律的框架內(nèi)殺人，這會(huì)讓我們尊嚴(yán)盡失。”聯(lián)合國將于今年4月就自動(dòng)化武器問題提出質(zhì)詢。
阿薩羅就自動(dòng)化與道德疊加所引發(fā)的基本問題進(jìn)行了意味深長地演講。大多數(shù)人都覺得兩者之間不可調(diào)和。但是，無論我們的感受如何，越來越多的機(jī)器人出現(xiàn)在我們的生活中已經(jīng)成為一個(gè)不爭的事實(shí)。谷歌無人駕駛汽車的原型已經(jīng)于上月面世;自動(dòng)機(jī)器人無人機(jī)已經(jīng)在開發(fā)進(jìn)程中;機(jī)器人已經(jīng)被用在某些醫(yī)療方面，例如中風(fēng)康復(fù)。這意味著我們不得不面對一個(gè)現(xiàn)實(shí)，那就是：機(jī)器人不可避免會(huì)出現(xiàn)在所有需要倫理決策存在的場合。
專家傾向于對機(jī)器人的道德問題持樂觀態(tài)度。瓦拉赫談到了“道德方面的圖靈測試”(moral Turing test)，他的意思是總有一天機(jī)器人的舉止將和人類一致。朔伊茨在這一方面持有更加激進(jìn)的看法，他表示機(jī)器人遲早會(huì)較人類具有更高的道德水準(zhǔn)。而讓人感到欣慰的是，道德可以通過算法進(jìn)行計(jì)算，這顯然好過處于恐慌中的人類可能做出的抉擇。但是，如同對待其他形式的勞動(dòng)一樣，將道德判斷也交由機(jī)器人來完成真的沒問題嗎?
