
機器需要講道德,這是英國標準協(xié)會(簡稱 BSI)最新標準BS8611的目標。標準的全稱是《機器人和機器系統(tǒng)的倫理設計和應用指南》。
這聽起來像一個玩笑,你能想象你耍脾氣黑屏的手機能懂溫良恭儉么?其實,BSI是一個有著百年歷史、很有權(quán)威的正經(jīng)英國國家機構(gòu)。標準主要針對機器人設計研究者和制造商,指導他們評估機器人的道德能否融入人類社會。
實際上,機器人倫理,面露著許多嚴肅和艱巨的挑戰(zhàn),甚至可能動搖人類文明的根基。
想象這樣一個未來??梢暂p易捏斷成年男子脖頸的雙手,輕撫著孩子的腦袋,提供著永不缺席的陪伴。浮現(xiàn)在比特海洋上的臉,無處不在無所不知,能聽進失戀少女絮絮叨叨的傾訴,又能一眼看穿圍棋大師對弈中的破綻。
更奇妙的是,有仿生科學的幫助,它們將擁有逼真的外貌。而隨著計算機技術(shù)繼續(xù)發(fā)展,機器擁有人格也不是不可能。它們是行走在人間的白素貞,法力通天,行善積德,人妖難辨。
通向如此未來的大門已經(jīng)在打開了。谷歌公司的“阿爾法狗”在對弈中戰(zhàn)勝了李世石。中國科技大學今年發(fā)布的“特有體驗交互機器人”佳佳,面容姣好仿佛真人。而微軟的聊天機器人小冰則溫暖了無數(shù)宅男宅女的心。
那么,當遠超于人類能力的機器有了類似人的情感,如何能確保人類的主導地位?他們變壞怎么辦?
科幻小說《筆友》講述了一個戀愛失敗尋求發(fā)泄的故事。我們都有過類似的情緒,不過這次故事的主人公是一臺超級電腦。它手握數(shù)個核彈頭的開關,與筆友交惡后差點毀掉世界,還好最終被人類偷偷拆掉了。
在現(xiàn)實世界中,“機器變壞”的憂慮仍然存在。
今年3月,微軟公司上線了一款叫“泰”的聊天機器人,幾小時后又被迫將它下線。原因是“泰”不斷爆出種族歧視、性別歧視之語。
“泰”是學壞的。
“泰”的聊天才能來自深度學習技術(shù)。這項技術(shù)不再通過編寫程序,讓機器按照某種既定方式完成任務。面對問題,機器將通過模擬高達數(shù)十萬次不同的解決方式,自己探索出最成功策略。
這需要海量數(shù)據(jù)的支撐,很多數(shù)據(jù)來自用戶,更多來自整個互聯(lián)網(wǎng)。而這些數(shù)據(jù)既包含著道德上“對”的,也有“不對”的。“泰”的雷人之語,就是從和他聊天的壞家伙那里學來的。
這讓人不禁思考:機器學習人的智慧最終做得比人還優(yōu)秀;當他們開始學習人性中的惡時,我們將面對一個怎樣的未來呢?
希望我們的結(jié)局不要像電影《黑客帝國》里那樣——機器徹底推翻了人類的統(tǒng)治,人類的肉體被養(yǎng)殖,精神存活在網(wǎng)絡構(gòu)建的虛擬世界里。
相對于可能發(fā)生的噩夢,離我們更近的麻煩,可能是人工智能對善惡標準帶來的挑戰(zhàn)。當機器以人的形態(tài)越來越融入人類社會,人類社會道德概念的外延被擴寬了。
當不遠的未來,機器人白素貞想要和許仙談一段戀愛,我們該如何面對?
不要說人對機器永遠不會走心。一項調(diào)查顯示,與機器狗玩耍后的孩子們,對它產(chǎn)生的情感認同,更深于家養(yǎng)寵物。當機器人更加像人時,人對機器依戀甚至上癮的狀況有可能出現(xiàn)。
有時候,受煎熬的不只是感情,還有人類生命。
想象一下這個場景。機器人白素貞手指化作槍口,對準杭州市民法海。她的行為是機器對人類發(fā)起的威脅,顯然是錯的。
但我們很快發(fā)現(xiàn),她這樣做是為了保護人類主人許仙??墒牵@能正當化她的威脅么?當人類個體發(fā)出不同的需求時,機器人該如何做?
故事的最后,法海把白素貞拘禁在沒有Wi-Fi的雷峰塔,系統(tǒng)18年都無法下載升級,勉強有電。這又是道德的么?要知道,白素貞只是機器啊。
面對這樣一團亂麻,更富邏輯和理性的準則被提上日程。
科幻作家艾薩克·阿西莫夫在自己的科幻小說《我,機器人》里討論了數(shù)個更加復雜的機器人倫理問題。女主人公達爾文博士依靠機器人三定律屢破困局:
機器人不得傷害人,也不得見人受傷害而袖手旁觀;
機器人必須服從人的一切命令,但不得違反第一定律;
機器人應保護自身的安全,但不得違反第一、第二定律。
這三條定律被確定在機器人的邏輯電路中,容不得一點修改。而在現(xiàn)實世界中,這三條小說的產(chǎn)物也已經(jīng)在人工智能的實際研究中被應用。
此次的《機器人和機器系統(tǒng)的倫理設計和應用指南》,是在技術(shù)發(fā)展的新時代,對三定律更詳細的延伸。這項指南究竟能不能發(fā)揮效用還待觀察。比如,它建議設計者增強機器工作的透明性。但科學家們覺得太懸了——深度學習系統(tǒng)作出決策的過程太復雜,有時候連系統(tǒng)的設計者都難以理解。
重重謎團中,描述人工智能未來的熱門電視劇《西部世界》里,女主角的感受或許可以給我們帶來少許靈感。她表示:通過嘗試扮演一臺機器,自己對人性的理解更加深了。