一個(gè)大型機(jī)器人從辦公室的郵件收發(fā)室出來(lái)，拿著一個(gè)標(biāo)有“急件”的包裹要送到樓上的老板辦公室。盡管用了最大的努力加快速度，但是在電梯口還是看到有些人已經(jīng)在等待電梯的到來(lái)，如果他們兩個(gè)不能同時(shí)擠進(jìn)這臺(tái)電梯,機(jī)器人會(huì)跟人商量一同搭乘這臺(tái)電梯嗎？這樣就可以履行緊急交貨的任務(wù)嗎?相反,如果有人坐在輪椅上已經(jīng)乘坐電梯呢?機(jī)器人應(yīng)該從電梯里問(wèn)這個(gè)人,為完成其交付的任務(wù)而讓他讓出一些空間嗎?

 

　　(a)新興的機(jī)器人領(lǐng)域涉及倫理、法律和社會(huì)問(wèn)題相關(guān)的機(jī)器人。關(guān)于特定主題的范圍從問(wèn)題的機(jī)器人應(yīng)用程序,如確定無(wú)人駕駛車(chē)輛應(yīng)如何依法監(jiān)管,抽象的概念意味著什么給機(jī)器人的權(quán)利在法律和哲學(xué)方面存在的意義。還有解決問(wèn)題的設(shè)計(jì)決策機(jī)器人,如機(jī)器人應(yīng)該做什么？怎樣做？

 

　　找出適當(dāng)?shù)男袨榈暮?jiǎn)單情況乘坐電梯，并沒(méi)有想到的第一件事當(dāng)人們聽(tīng)到“機(jī)器人道德”這個(gè)詞。(a)一起使用時(shí),“機(jī)器人”和“道德”這兩個(gè)詞往往讓人聯(lián)想起未來(lái)的機(jī)器人暴動(dòng)或質(zhì)疑的權(quán)利意識(shí),類(lèi)人機(jī)器人。但機(jī)械倫理學(xué)不是遙遠(yuǎn)的未來(lái)。這也是對(duì)解決今天設(shè)計(jì)機(jī)器人的技術(shù)和社會(huì)挑戰(zhàn)。

　　確定機(jī)器人應(yīng)該如何行動(dòng)和行為在不同的情況下研究人員旨在構(gòu)建機(jī)器人是一個(gè)設(shè)計(jì)的挑戰(zhàn),做一個(gè)有用的和積極的社會(huì)工作。我和其他的成員開(kāi)放Roboethics倡議(ORi)決定最好的方法之一來(lái)建立適當(dāng)?shù)男袨闇?zhǔn)則,機(jī)器人是涉及各利益相關(guān)者——行業(yè)成員,政府決策者、用戶(hù)和專(zhuān)家學(xué)者,在設(shè)計(jì)過(guò)程中。

 

　　(b)開(kāi)放和倡議機(jī)械倫理學(xué)智庫(kù),可以探索不同的方式匯集,讓機(jī)器人的利益相關(guān)者,他們的反饋可以通知的機(jī)器人過(guò)程。

 

　　設(shè)計(jì)和政策：通過(guò)將他們的觀點(diǎn)對(duì)機(jī)器人的行為納入到機(jī)器學(xué)習(xí)算法,我們的研究探索實(shí)證方法設(shè)計(jì)行為在倫理行動(dòng)機(jī)器人的情況下并不總是清楚。

 

　　“機(jī)器人究竟應(yīng)該做什么的問(wèn)題”？就像一個(gè)人應(yīng)該做什么,取決于你問(wèn)誰(shuí)和什么文化、宗教、和其他信仰的價(jià)值觀。這看起來(lái)不是最明確的接近給出機(jī)器人決策的答案。然而來(lái)自不同背景的人交流每天作為鄰居,同學(xué)和同事共享的社會(huì)框架內(nèi),讓他們?cè)竭^(guò)了對(duì)方的道德邊界。

 

　　我們使用調(diào)查結(jié)果在一個(gè)機(jī)器人應(yīng)該如何與人交互反映，例如這個(gè)機(jī)器人的等待電梯程序。

 

　　意見(jiàn)倫理機(jī)器人行為不僅被人不同,但同樣的情況。例如,等電梯的人,而不是匆忙當(dāng)機(jī)器人需要的空間提供一個(gè)緊急的方案可能容易讓機(jī)器人乘電梯。但是有人坐在輪椅上已經(jīng)在電梯里的人,不能走樓梯可能不覺(jué)得有義務(wù)為另一個(gè)人離開(kāi)電梯,更不用說(shuō)一個(gè)機(jī)器人!

 

　　作為一個(gè)試點(diǎn)研究探索研究如何在適當(dāng)?shù)臋C(jī)器人行為獲得的觀點(diǎn),我們要求8人考慮12版本的電梯場(chǎng)景在一個(gè)在線調(diào)查。1受訪者被要求排列在每個(gè)場(chǎng)景中機(jī)器人的行為的適當(dāng)性。機(jī)器人可以:說(shuō),“去吧。我將乘坐下一個(gè)。”或者什么也不做,站在電梯里,不屈服地說(shuō),“我有緊急郵件交付,需要乘坐電梯。請(qǐng)退出電梯”,乘電梯的人一旦退出,或參與對(duì)話,告訴它在緊急任務(wù)的人,問(wèn)他們是否匆忙。人在這種情況下可能是攜帶重物站在什么地方,或坐在輪椅上。他們也可能已經(jīng)在電梯門(mén)打開(kāi)或等電梯時(shí),機(jī)器人的方法。至于機(jī)器人,這是交付緊急或緊急的郵件。

 

　　從我們的受訪者使用排名,我們計(jì)算的四個(gè)行為人們找到最適合和最不適合每個(gè)可能的場(chǎng)景。

 

　　(c)機(jī)器學(xué)習(xí)是人工智能的一個(gè)子集,它使用的數(shù)據(jù)和反饋循環(huán)訓(xùn)練系統(tǒng)作出決定或預(yù)測(cè)。在這種情況下,我們的機(jī)器學(xué)習(xí)算法迭代試圖在應(yīng)對(duì)不同的場(chǎng)景,選擇不同的行為,給自己最大的積極或消極的獎(jiǎng)勵(lì)當(dāng)選擇行為匹配最或者至少調(diào)查顯示適當(dāng)?shù)男袨榉磻?yīng)。決策不斷試錯(cuò)的過(guò)程,直到它已經(jīng)學(xué)會(huì)了堅(jiān)持為每個(gè)場(chǎng)景中選擇最合適的行為。

 

　　機(jī)器人提供緊急的郵件時(shí),不管這個(gè)人是坐在輪椅上,攜帶重物,或內(nèi)部或外部電梯——選擇最適當(dāng)?shù)男袆?dòng)的機(jī)器人參與對(duì)話的人,和最適當(dāng)?shù)男袨椴扇∪魏涡袆?dòng)。當(dāng)機(jī)器人在一個(gè)緊急的交貨任務(wù),受訪者希望機(jī)器人屈服的人,不管他們是誰(shuí),并且拒絕被認(rèn)為是最合適的選項(xiàng)。

 

　　收集調(diào)查數(shù)據(jù)后,下一步是設(shè)計(jì)的結(jié)果合并到一個(gè)機(jī)器人的行為。我們把調(diào)查結(jié)果作為訓(xùn)練數(shù)據(jù)集,我們送入機(jī)器學(xué)習(xí)算法指導(dǎo)機(jī)器人在地圖上標(biāo)出其決策基于數(shù)據(jù)。(c)我們編程的“Willow Garage”的PR2機(jī)器人檢測(cè)場(chǎng)景最接近適用于目前的情況,然后選擇應(yīng)對(duì)這種情況,我們的調(diào)查受訪者大多數(shù)favorable.2發(fā)現(xiàn)這個(gè)“Willow Garage”的PR2機(jī)器人編程響應(yīng)情況下特定場(chǎng)景的行動(dòng)受訪者青睞。

 

　　我們的試驗(yàn)調(diào)查數(shù)據(jù)表明,對(duì)于人類(lèi)一樣,道德行為不僅僅是一套死板的規(guī)則,但高度依賴(lài)語(yǔ)境和與其他演員交流和互動(dòng)。重點(diǎn)調(diào)查對(duì)象參與對(duì)話表明,發(fā)展與倫理決策能力的機(jī)器人可能的關(guān)鍵不在于創(chuàng)建一組原則指導(dǎo)機(jī)器人進(jìn)行預(yù)定的決策,但在機(jī)器人的發(fā)展可以更好地溝通和與他們接觸的人談判達(dá)到互相認(rèn)可的結(jié)果。

 

　　機(jī)器人由作者設(shè)計(jì)了非語(yǔ)言線索表明猶豫來(lái)表示它知道當(dāng)與一個(gè)人的“欲望”發(fā)生沖突。

 

　　(d)電梯項(xiàng)目和猶豫項(xiàng)目進(jìn)行了英國(guó)合作大學(xué)的先進(jìn)機(jī)器人與智能系統(tǒng)實(shí)驗(yàn)室。

 

　　未來(lái)努力建設(shè)我們的研究可能涉及設(shè)計(jì)一個(gè)機(jī)器人,可以表達(dá)其內(nèi)部狀態(tài)為了闡明緊迫性的任務(wù)或多少希望或需要的東西。創(chuàng)建的機(jī)器人可以更像人類(lèi)交流也可能是有價(jià)值的。我目前開(kāi)發(fā)一個(gè)機(jī)器人,可以從事的各種非語(yǔ)言暗示人類(lèi)使用應(yīng)對(duì)迫在眉睫的沖突。3如果機(jī)器人發(fā)現(xiàn)自己伸手的同時(shí),一個(gè)人,它展示短,急促的動(dòng)作表明猶豫(就像人類(lèi)),表明它意識(shí)到“欲望”是在與別人的沖突。(d)

 

　　我們的研究證明了實(shí)證方法設(shè)計(jì)機(jī)器人行為基于人類(lèi)喜愛(ài)的規(guī)范。通過(guò)收集數(shù)據(jù)對(duì)人們的偏好有關(guān)機(jī)器人的行為,我們可以確定機(jī)器人應(yīng)該在特定的情況下,以及哪些變量(任務(wù)的緊迫性,圍繞人類(lèi)的需求,等等)問(wèn)題時(shí),確定合適的行動(dòng)一個(gè)機(jī)器人。類(lèi)似的方法收集信息的人,用它來(lái)計(jì)劃適當(dāng)?shù)牟僮鳈C(jī)器人可以應(yīng)用在各種各樣的環(huán)境中,人類(lèi)和機(jī)器人互動(dòng)。機(jī)械倫理學(xué)是設(shè)計(jì)的關(guān)鍵,可以與人交互的機(jī)器人在一個(gè)高效、友好,和有益的方式。

 

　　本文是一個(gè)系列的一部分機(jī)器人及其對(duì)社會(huì)的影響。首次出版后,這個(gè)故事被商業(yè)界看好。

 

　　AJung Moon是一個(gè)訪問(wèn)學(xué)者和博士生在英屬哥倫比亞大學(xué)的機(jī)械工程研究人機(jī)交互和機(jī)械倫理學(xué)。她專(zhuān)門(mén)設(shè)計(jì)的非言語(yǔ)交際線索,如手勢(shì)、目光暗示,為機(jī)器人人機(jī)協(xié)作上下文。目前,她是為人類(lèi)和機(jī)器人開(kāi)發(fā)方式“談判”使用非語(yǔ)言手勢(shì)快速解決資源沖突。她也是一個(gè)開(kāi)放的機(jī)械倫理學(xué)的共同創(chuàng)始人智庫(kù)集中在探索不同的涉眾的機(jī)器人技術(shù)可以一起工作來(lái)影響互動(dòng)機(jī)器人設(shè)計(jì)。