隨著機(jī)器人越來越智能化，計(jì)算機(jī)控制的機(jī)器將面臨倫理決策的看法正在從科幻世界進(jìn)入現(xiàn)實(shí)世界。人類社會(huì)要想辦法保證改善他們的裝備，不用做出HAL必須做的道德判斷。
毫不奇怪，在向自主型機(jī)器人目標(biāo)挺進(jìn)的隊(duì)伍中，軍事技術(shù)是急先鋒，其發(fā)展促進(jìn)了各種機(jī)器人的誕生。“沙地跳蚤”(Sand Flea)可一邊拍攝一邊跳過窗戶或跳上房頂，然后利用輪子繼續(xù)滾動(dòng)前進(jìn)。有六條腿的蟑螂機(jī)器人“RiSE”可以翻墻。模樣像狗的機(jī)器人LS3可載重 180千克隨主人在崎嶇地帶通過。手提箱大小的機(jī)器人SUGV可在人群中識(shí)別出特定個(gè)人并尾隨。
機(jī)器人在民用領(lǐng)域也日益普遍，從飛機(jī)駕駛艙到手術(shù)室不一而足?？蜋C(jī)很久以前便可自動(dòng)降落。無人駕駛火車也很平常。沃爾沃的V40轎車在堵車時(shí)實(shí)際上可做到自動(dòng)駕駛，當(dāng)它感覺到即將撞車時(shí)會(huì)緊急剎車，福特的B-Max也可做到這一點(diǎn)。完全自動(dòng)駕駛的汽車正在全球各地進(jìn)行試驗(yàn)。谷歌(微博)的無人駕駛汽車已在美國行進(jìn)了25萬英里，內(nèi)華達(dá)州成為美國對(duì)公共道路無人駕駛立法的第一個(gè)州。幾天前在巴塞羅那，沃爾沃展示了一列自動(dòng)駕駛汽車上路。
隨著機(jī)器人越來越智能和普遍，自動(dòng)化機(jī)器終將在不可預(yù)知的情形下做出生死攸關(guān)的決定，從而具備——或至少表面上具備——道德主體資格。武器系統(tǒng)目前還有人類最后把關(guān)，但隨著系統(tǒng)進(jìn)一步復(fù)雜化，很可能變?yōu)樽詣?dòng)執(zhí)行命令的設(shè)備。
當(dāng)科技發(fā)展到這一天時(shí)，機(jī)器人將面臨倫理兩難處境。黃蜂機(jī)器人該向據(jù)信為軍事目標(biāo)隱匿的建筑(同時(shí)也可能是民用避難所)開火嗎？無人駕駛汽車該避讓行人嗎？——如果這樣做意味著將損害其它車輛或給車內(nèi)人員帶來危險(xiǎn)。搶險(xiǎn)救災(zāi)的機(jī)器人該將現(xiàn)場的實(shí)情告訴大家嗎？——如果告知實(shí)情有可能造成公眾恐慌。這類問題導(dǎo)致了“機(jī)器倫理學(xué)”的興起，研究賦予機(jī)器人判斷對(duì)錯(cuò)的能力，讓他們面臨上述兩難困境時(shí)能做出恰當(dāng)?shù)倪x擇。
應(yīng)對(duì)這些難題的辦法之一是完全避免這些問題，禁止戰(zhàn)場上使用機(jī)器人、要求駕駛員隨時(shí)保持對(duì)所駕車的充分注意。國際機(jī)器人武器控制委員會(huì) (International Committee for Robot Arms Control)等機(jī)構(gòu)反對(duì)增加遙控飛機(jī)的使用。不過機(jī)器人用于軍事可能會(huì)弊大于利。機(jī)器人戰(zhàn)士不會(huì)強(qiáng)奸、不會(huì)因發(fā)怒而焚燒村莊、不會(huì)因戰(zhàn)斗壓力搖擺不定。無人駕駛汽車很可能比普通汽車更安全，就像自動(dòng)駕駛儀使飛機(jī)更安全一樣。谷歌無人駕駛技術(shù)專家Sebastian Thrun估計(jì)，這種技術(shù)每年可挽救100萬人的生命。
不過，人類社會(huì)須想辦法盡快應(yīng)對(duì)機(jī)器人的倫理問題。美國很多州相繼通過涉及無人駕駛汽車的法律。由于立法落后于技術(shù)，無人駕駛汽車一直在法律灰色地帶游走。
1942年，科幻作家阿西莫夫提出了著名的機(jī)器人倫理規(guī)范三準(zhǔn)則，要求機(jī)器人首先要保護(hù)人類，其次為遵守命令，最后是保存自己。不幸的是，這些準(zhǔn)則在現(xiàn)實(shí)時(shí)間沒多大用處。戰(zhàn)場上的機(jī)器人要破壞第一條準(zhǔn)則。阿西莫夫的機(jī)器人科幻小說之所以有趣，恰恰在于小說凸現(xiàn)了機(jī)器人試圖遵守這些顯然明智的規(guī)則時(shí)遭遇到的意外困境。機(jī)器人的開發(fā)利用監(jiān)管要求一個(gè)更加復(fù)雜的框架，尤其需要在以下三大領(lǐng)域取得進(jìn)展。
首先，須立法確定無人駕駛飛機(jī)打擊錯(cuò)誤或無人駕駛汽車出車禍時(shí)機(jī)器人設(shè)計(jì)者、編程人員、制造商或操作員是否有責(zé)任。為了明晰責(zé)任，自動(dòng)系統(tǒng)必須保持詳細(xì)記錄，用以解釋機(jī)器人決策的根據(jù)。這對(duì)系統(tǒng)設(shè)計(jì)具有重要意義：比如這可以排除在機(jī)器人設(shè)計(jì)中利用人工神經(jīng)網(wǎng)絡(luò)的做法，因?yàn)樗菑慕?jīng)驗(yàn)中學(xué)習(xí)而不是遵守預(yù)先規(guī)定規(guī)則的決策系統(tǒng)。
其次，嵌入倫理系統(tǒng)的機(jī)器人所作的判斷必須符合大多數(shù)人的利益。對(duì)此實(shí)驗(yàn)哲學(xué)技術(shù)，即研究人類如何對(duì)倫理兩難處境做出反應(yīng)的技術(shù)可提供幫助。最后也是最重要的一點(diǎn)，工程師、倫理學(xué)家、律師和決策者應(yīng)加強(qiáng)合作。倫理學(xué)家可通過教授機(jī)器人倫理而加深對(duì)本領(lǐng)域的理解，工程師要讓社會(huì)相信他們沒有走倫理捷徑。
技術(shù)推動(dòng)了人類社會(huì)進(jìn)步，但每一次進(jìn)步都造成了棘手的新問題。機(jī)器人技術(shù)也不例外。由此造成的倫理問題回答得越快，人類享受這項(xiàng)技術(shù)也就越便利。
