隨著機器人越來越智能化，計算機控制的機器將面臨倫理決策的看法正在從科幻世界進入現(xiàn)實世界。人類社會要想辦法保證改善他們的裝備，不用做出HAL必須做的道德判斷。

 

　　毫不奇怪，在向自主型機器人目標挺進的隊伍中，軍事技術(shù)是急先鋒，其發(fā)展促進了各種機器人的誕生。“沙地跳蚤”（Sand Flea）可一邊拍攝一邊跳過窗戶或跳上房頂，然后利用輪子繼續(xù)滾動前進。有六條腿的蟑螂機器人“RiSE”可以翻墻。模樣像狗的機器人LS3可載重 180千克隨主人在崎嶇地帶通過。手提箱大小的機器人SUGV可在人群中識別出特定個人并尾隨。

 

　　機器人在民用領(lǐng)域也日益普遍，從飛機駕駛艙到手術(shù)室不一而足。客機很久以前便可自動降落。無人駕駛火車也很平常。沃爾沃的V40轎車在堵車時實際上可做到自動駕駛，當它感覺到即將撞車時會緊急剎車，福特的B-Max也可做到這一點。完全自動駕駛的汽車正在全球各地進行試驗。谷歌（微博）的無人駕駛汽車已在美國行進了25萬英里，內(nèi)華達州成為美國對公共道路無人駕駛立法的第一個州。幾天前在巴塞羅那，沃爾沃展示了一列自動駕駛汽車上路。

 

　　隨著機器人越來越智能和普遍，自動化機器終將在不可預(yù)知的情形下做出生死攸關(guān)的決定，從而具備——或至少表面上具備——道德主體資格。武器系統(tǒng)目前還有人類最后把關(guān)，但隨著系統(tǒng)進一步復(fù)雜化，很可能變?yōu)樽詣訄?zhí)行命令的設(shè)備。

 

　　當科技發(fā)展到這一天時，機器人將面臨倫理兩難處境。黃蜂機器人該向據(jù)信為軍事目標隱匿的建筑（同時也可能是民用避難所）開火嗎？無人駕駛汽車該避讓行人嗎？——如果這樣做意味著將損害其它車輛或給車內(nèi)人員帶來危險。搶險救災(zāi)的機器人該將現(xiàn)場的實情告訴大家嗎？——如果告知實情有可能造成公眾恐慌。這類問題導(dǎo)致了“機器倫理學(xué)”的興起，研究賦予機器人判斷對錯的能力，讓他們面臨上述兩難困境時能做出恰當?shù)倪x擇。

 

　　應(yīng)對這些難題的辦法之一是完全避免這些問題，禁止戰(zhàn)場上使用機器人、要求駕駛員隨時保持對所駕車的充分注意。國際機器人武器控制委員會 （International Committee for Robot Arms Control）等機構(gòu)反對增加遙控飛機的使用。不過機器人用于軍事可能會弊大于利。機器人戰(zhàn)士不會強奸、不會因發(fā)怒而焚燒村莊、不會因戰(zhàn)斗壓力搖擺不定。無人駕駛汽車很可能比普通汽車更安全，就像自動駕駛儀使飛機更安全一樣。谷歌無人駕駛技術(shù)專家Sebastian Thrun估計，這種技術(shù)每年可挽救100萬人的生命。

 

　　不過，人類社會須想辦法盡快應(yīng)對機器人的倫理問題。美國很多州相繼通過涉及無人駕駛汽車的法律。由于立法落后于技術(shù)，無人駕駛汽車一直在法律灰色地帶游走。

 

　　1942年，科幻作家阿西莫夫提出了著名的機器人倫理規(guī)范三準則，要求機器人首先要保護人類，其次為遵守命令，最后是保存自己。不幸的是，這些準則在現(xiàn)實時間沒多大用處。戰(zhàn)場上的機器人要破壞第一條準則。阿西莫夫的機器人科幻小說之所以有趣，恰恰在于小說凸現(xiàn)了機器人試圖遵守這些顯然明智的規(guī)則時遭遇到的意外困境。機器人的開發(fā)利用監(jiān)管要求一個更加復(fù)雜的框架，尤其需要在以下三大領(lǐng)域取得進展。

 

　　首先，須立法確定無人駕駛飛機打擊錯誤或無人駕駛汽車出車禍時機器人設(shè)計者、編程人員、制造商或操作員是否有責任。為了明晰責任，自動系統(tǒng)必須保持詳細記錄，用以解釋機器人決策的根據(jù)。這對系統(tǒng)設(shè)計具有重要意義：比如這可以排除在機器人設(shè)計中利用人工神經(jīng)網(wǎng)絡(luò)的做法，因為它是從經(jīng)驗中學(xué)習(xí)而不是遵守預(yù)先規(guī)定規(guī)則的決策系統(tǒng)。

 

　　其次，嵌入倫理系統(tǒng)的機器人所作的判斷必須符合大多數(shù)人的利益。對此實驗哲學(xué)技術(shù)，即研究人類如何對倫理兩難處境做出反應(yīng)的技術(shù)可提供幫助。最后也是最重要的一點，工程師、倫理學(xué)家、律師和決策者應(yīng)加強合作。倫理學(xué)家可通過教授機器人倫理而加深對本領(lǐng)域的理解，工程師要讓社會相信他們沒有走倫理捷徑。

 

　　技術(shù)推動了人類社會進步，但每一次進步都造成了棘手的新問題。機器人技術(shù)也不例外。由此造成的倫理問題回答得越快，人類享受這項技術(shù)也就越便利。