以機(jī)器人為代表的人工智能迅速發(fā)展，能讀懂人類語(yǔ)言、情感并且能與人交流、為人服務(wù)的機(jī)器人已經(jīng)走進(jìn)家庭。相關(guān)的一些問(wèn)題自然而生目前機(jī)器人的智能達(dá)到一個(gè)什么水平？智能越來(lái)越高的機(jī)器人服務(wù)于人類的同時(shí)，是否會(huì)“不聽(tīng)話”？能否如許多電影中描繪的那樣機(jī)器人“暴動(dòng)”、反人類？這個(gè)話題近日在一些媒體有所討論，我們請(qǐng)專家來(lái)科學(xué)解讀。
機(jī)器智能的進(jìn)化尚未擺脫人類單獨(dú)進(jìn)行
遼寧日?qǐng)?bào)：以機(jī)器人為代表和具體應(yīng)用的人工智能發(fā)展很快，許多文學(xué)作品中想象地描寫(xiě)了其機(jī)器人的智能超過(guò)了人類智能，那么，人工智能是人類智能的翻版嗎？
王志良：目前對(duì)“人工智能”還沒(méi)有嚴(yán)格的定義，一般的理解是用機(jī)器如計(jì)算機(jī)加上傳感器、機(jī)電設(shè)備等模擬人的智能的技術(shù)，又被稱為“機(jī)器智能”、“智能模擬”。目前隨著自動(dòng)化、網(wǎng)絡(luò)等發(fā)展水平的不斷提高，智能這個(gè)詞被泛化，比如智能社會(huì)，智慧城市，智能交通，都是基于智能程序的社會(huì)化應(yīng)用，指向更先進(jìn)的實(shí)現(xiàn)自動(dòng)化技術(shù)。說(shuō)起人工智能與人類智能的關(guān)系，人工智能的目標(biāo)是模擬人類的各種智能行為，諸如感知、記憶、情感、判斷、推理、證明、識(shí)別、理解、通信、設(shè)計(jì)、學(xué)習(xí)等思維活動(dòng)，但很顯然非有機(jī)體的機(jī)器，人類智能相應(yīng)的生命現(xiàn)象遺傳、變異、繁衍、生長(zhǎng)甚至思維本身的直覺(jué)、頓悟等在其身上還并不存在，在模擬中會(huì)有所取舍。
遼寧日?qǐng)?bào)：人工智能的發(fā)展給機(jī)器人帶來(lái)了怎樣的功能變化？
王志良：自上世紀(jì)60年代起，出現(xiàn)了第一代機(jī)器人工業(yè)機(jī)器人，如機(jī)械手，單一操作、自動(dòng)化水平不高，不懂得如何處理外界的信息；到了七八十年代，有了感知機(jī)器人作為第二代機(jī)器人具有多項(xiàng)能力，利用傳感器獲取的信息進(jìn)行初步判斷環(huán)境，控制其自身行動(dòng)的能力，進(jìn)入90年代，真正意義上的智能機(jī)器人大規(guī)模登場(chǎng)，它具有多種外部傳感器組成的感覺(jué)系統(tǒng)，可通過(guò)對(duì)外部環(huán)境信息的獲取、處理外部環(huán)境信息，能自主地完成某一項(xiàng)任務(wù)；本世紀(jì)以來(lái)，多種與人打交道、為人服務(wù)的機(jī)器人得到大量應(yīng)用，不僅能推理、判斷，而且可以進(jìn)行語(yǔ)音識(shí)別和情感識(shí)別。這種機(jī)器人在日本、歐洲被重點(diǎn)研究和推廣，準(zhǔn)備分擔(dān)起老齡化社會(huì)服務(wù)的重任。 可以看出，人工智能的發(fā)展使機(jī)器人的功能多樣、更高級(jí)類似人腦的功能被不斷開(kāi)發(fā)出來(lái)。
遼寧日?qǐng)?bào)：這個(gè)過(guò)程可以看做是人工智能在進(jìn)化嗎？
王志良：我認(rèn)為，作為機(jī)器智能用“進(jìn)化”一詞來(lái)說(shuō)明其發(fā)展并不準(zhǔn)確，至少對(duì)已有的機(jī)器人發(fā)展史來(lái)說(shuō)并不適用。機(jī)器人的智能都是人類賦予的，是人以科學(xué)技術(shù)的手段讓其智能發(fā)展的，即使未來(lái)計(jì)算機(jī)有了自學(xué)習(xí)的功能，也是在預(yù)先設(shè)定的范圍內(nèi)適應(yīng)環(huán)境，而無(wú)自主的突破，談不上進(jìn)化。
目前機(jī)器人的智能只有1歲多幼兒的水平
遼寧日?qǐng)?bào)：那么，機(jī)器人智能與人腦相比，目前模擬到什么程度？人工智能學(xué)家雷·庫(kù)茲韋爾預(yù)測(cè)在21世紀(jì)20年代末，電腦就能達(dá)到人腦智力水平。人工智能是否有可能全面模擬大腦？
王志良：大腦有數(shù)十億個(gè)神經(jīng)細(xì)胞，而每個(gè)神經(jīng)細(xì)胞又有數(shù)千到數(shù)萬(wàn)個(gè)突觸，也就是說(shuō)大腦信息處理采用的是數(shù)萬(wàn)到數(shù)億序列的并行運(yùn)算，而電子計(jì)算機(jī)卻只能處理串行運(yùn)算或者少的可憐的并行運(yùn)算。從這個(gè)角度看，計(jì)算機(jī)的存儲(chǔ)容量、信息組織方式以及使用方式，都遠(yuǎn)遠(yuǎn)落后于人類。人類智能包括感知、學(xué)習(xí)、推理、對(duì)策、決策、預(yù)測(cè)、直覺(jué)、聯(lián)想等多個(gè)方面，而現(xiàn)有的人工智能技術(shù)只能實(shí)現(xiàn)某一方面的初級(jí)功能或者說(shuō)一個(gè)功能點(diǎn)。人工智能是要模擬人的智能，但人智能的能動(dòng)性和創(chuàng)造性很難真正模擬，這正是計(jì)算機(jī)的分析判斷與人腦思維的本質(zhì)區(qū)別。用機(jī)器來(lái)重建大腦工作模型作為物質(zhì)基礎(chǔ)，幾乎是一件不可能的事情，只能是一個(gè)無(wú)限接近的過(guò)程。
遼寧日?qǐng)?bào)：那么從技術(shù)上說(shuō)，人工智能的發(fā)展趨勢(shì)是怎樣的？
王志良：模糊處理、并行化、神經(jīng)網(wǎng)絡(luò)、機(jī)器情感和自然語(yǔ)言處理等是未來(lái)人工智能重點(diǎn)的研究領(lǐng)域和發(fā)展方向，模糊處理技術(shù)是為了更好地實(shí)現(xiàn)判斷推理功能，并行化技術(shù)旨在實(shí)現(xiàn)快速?zèng)Q策 ，神經(jīng)網(wǎng)絡(luò)可以實(shí)現(xiàn)信息的分布式存儲(chǔ)和并行協(xié)同處理，語(yǔ)言識(shí)別及賦予機(jī)器可以以情感模式讓它更好地與人打交道、為人服務(wù)。目前在交互式人形機(jī)器人這個(gè)新興領(lǐng)域初步實(shí)現(xiàn)了情感表達(dá)、語(yǔ)言交流、語(yǔ)言感知、人臉識(shí)別等人工智能技術(shù)，服務(wù)機(jī)器人就可以識(shí)別人的聲音指示，甚至能學(xué)會(huì)對(duì)主人察言觀色，滿足主人的需求。
遼寧日?qǐng)?bào)：是否可以說(shuō)學(xué)習(xí)功能越強(qiáng)，人工智能的水平越高？
王志良：機(jī)器學(xué)習(xí)就是讓計(jì)算機(jī)能夠像人那樣自動(dòng)地獲取新知識(shí)，并在實(shí)踐中不斷地完善自我和增強(qiáng)能力。這是人工智能研究的核心課題，可以使機(jī)器能夠勝任一些通常需要人類智能才能完成的復(fù)雜工作。從某種程度上來(lái)說(shuō)，只有有了自學(xué)習(xí)和自適應(yīng)功能，才能算是真正有了智能。目前，機(jī)器學(xué)習(xí)的研究取得長(zhǎng)足發(fā)展，比如，日本的研究研究團(tuán)隊(duì)開(kāi)發(fā)出的系統(tǒng)名為“自組織增量學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)”（簡(jiǎn)稱SOINN）的人工智能，當(dāng)這類機(jī)器人遇到超出自己能力范圍的任務(wù)時(shí)，它懂得求助，如連接、搜索互聯(lián)網(wǎng)，并將求助過(guò)程中獲得的信息存儲(chǔ)下來(lái)用于未來(lái)的任務(wù)。
遼寧日?qǐng)?bào)：人工智能雖然還不能全面超過(guò)人腦，但是就某些方面來(lái)說(shuō)已經(jīng)有了超越人腦的能力，前幾年國(guó)際象棋世界冠軍敗給了計(jì)算機(jī)，就是一個(gè)很好的例子，那么，就是這些許許多多的方面加在一起，或者說(shuō)在某一特定方面與人競(jìng)爭(zhēng)，會(huì)不會(huì)出現(xiàn)對(duì)人不利的情況？
王志良：從計(jì)算機(jī)本身來(lái)說(shuō)，在某項(xiàng)智能所產(chǎn)生在行為、功能上要強(qiáng)過(guò)人類，比如比人走的更快、耐力比人更強(qiáng)，在邏輯運(yùn)算方面，電腦比人腦快等，這也正是人類發(fā)展機(jī)器人的原因，但就綜合思維能力來(lái)說(shuō)，離人類大腦差的很遠(yuǎn)，如果比較的話，目前最先進(jìn)的機(jī)器人的智能、認(rèn)知水平只有1歲多幼兒的水平，要想達(dá)到成人的智力水平還有很長(zhǎng)的路走，還是很遙遠(yuǎn)的事。在當(dāng)前的條件下人工智能很難跳出人類智能所及的范圍，依然被人類所掌控，不會(huì)向電影中描寫(xiě)的那樣威脅到人類整體，不過(guò)是在某些領(lǐng)域比人擁有更強(qiáng)大的計(jì)算能力而已，也就是有人說(shuō)的“部分超越 、整體上不及”。另一方面，因?yàn)?ldquo;部分超越”，而且自學(xué)習(xí)能力的逐步發(fā)展，可能會(huì)在應(yīng)用過(guò)程中出現(xiàn)一些問(wèn)題，這就要求我們未雨綢繆，制定準(zhǔn)則，讓它具有正能量，防止危險(xiǎn)的發(fā)生。
三條“鐵律”給機(jī)器人戴上“緊箍咒”
遼寧日?qǐng)?bào)：您說(shuō)的準(zhǔn)則是什么？是不是“機(jī)器人三定律”？
王志良：是的，又叫“三原則”。早在上世紀(jì)40年代，美國(guó)著名科幻作家阿西莫夫就提出了著名的“機(jī)器人三定律”。即第一法則：機(jī)器人不得傷害人類，或袖手旁觀坐視人類受到傷害；第二法則：機(jī)器人必須服從人類的一切命令，但不得違反第一定律；第三法則：機(jī)器人必須保護(hù)自身的安全，但不得違反第一、第二定律。從這類似“二十二條軍規(guī)”的法則中看得出，阿西莫夫當(dāng)年在寫(xiě)作的過(guò)程中一定經(jīng)過(guò)了縝密的思考，因?yàn)檫@一帶有預(yù)言性的小說(shuō)之言，往后竟成了人工智能研究過(guò)程中一定要遵循的“鐵律”。
遼寧日?qǐng)?bào)：隨著智能程度的提高，“機(jī)器人三定律”在未來(lái)的作用會(huì)越來(lái)越突出吧？日本和韓國(guó)人工智能技術(shù)很先進(jìn)，同時(shí)十分重視對(duì)機(jī)器人的約束，韓國(guó)已經(jīng)起草世界上第一份《機(jī)器人道德憲章》，以防止機(jī)器人“傷害”人類。更有人呼吁加強(qiáng)機(jī)器人倫理的建設(shè)，這個(gè)是否有必要？
王志良：因?yàn)闄C(jī)器人有了越來(lái)越多的 “過(guò)人之處”，社會(huì)應(yīng)用越來(lái)越廣，所以要確保智能機(jī)器人對(duì)人的安全性。這個(gè)也很好理解，即使普通機(jī)器的使用也要有一定的安全要求，更何況是智能的機(jī)器。一方面，由于自適應(yīng)技術(shù)上的不成熟，而盲目推出某項(xiàng)機(jī)器人，導(dǎo)致在實(shí)際應(yīng)用中不能適應(yīng)環(huán)境變化，結(jié)果給人帶來(lái)麻煩；另一方面，機(jī)器人則有可能被誤用、濫用。最明顯的例子就是無(wú)人機(jī)，這也是一種機(jī)器人，那么在用它進(jìn)行作戰(zhàn)轟炸的時(shí)候，它分不清目標(biāo)是軍隊(duì)還是平民。這就有必要通過(guò)倫理也好、立法也好等手段進(jìn)行規(guī)范和限制。這些都要求我們未雨綢繆，在“三定律”的基礎(chǔ)上制定更具體準(zhǔn)則，給機(jī)器人帶上“緊箍咒”，讓其具有正能量，防止危險(xiǎn)的發(fā)生。
遼寧日?qǐng)?bào)：這個(gè)“緊箍咒”應(yīng)該怎樣帶？
王志良：我想主要包括兩個(gè)方面，一是規(guī)范研發(fā)的行為，包括研制什么樣的機(jī)器人，這種類型的機(jī)器人技術(shù)是否成熟，對(duì)其研制出來(lái)后是否有著較大的潛在危害進(jìn)行考察，二是應(yīng)用，包括管理已經(jīng)生產(chǎn)出的機(jī)器人，其規(guī)范本身的智能行為，保證安全操作及不被濫用等。 本報(bào)記者／劉洪宇
專家檔案
王志良 博士。北京科技大學(xué)物聯(lián)網(wǎng)與電子信息系主任，教授，博士研究生導(dǎo)師。兼任中國(guó)人工智能學(xué)會(huì)常務(wù)理事，中國(guó)人工智能學(xué)會(huì)人工心理與人工情感專業(yè)委員會(huì)主任。研究領(lǐng)域包括人工心理與情感計(jì)算，個(gè)人機(jī)器人與數(shù)字人技術(shù)等。發(fā)表學(xué)術(shù)專著2部，學(xué)術(shù)論文70余篇，主持完成多項(xiàng)國(guó)家自然科學(xué)基金項(xiàng)目、國(guó)家攻關(guān)項(xiàng)目、教育部重點(diǎn)科研項(xiàng)目。
機(jī)器智能的進(jìn)化尚未擺脫人類單獨(dú)進(jìn)行
遼寧日?qǐng)?bào)：以機(jī)器人為代表和具體應(yīng)用的人工智能發(fā)展很快，許多文學(xué)作品中想象地描寫(xiě)了其機(jī)器人的智能超過(guò)了人類智能，那么，人工智能是人類智能的翻版嗎？
王志良：目前對(duì)“人工智能”還沒(méi)有嚴(yán)格的定義，一般的理解是用機(jī)器如計(jì)算機(jī)加上傳感器、機(jī)電設(shè)備等模擬人的智能的技術(shù)，又被稱為“機(jī)器智能”、“智能模擬”。目前隨著自動(dòng)化、網(wǎng)絡(luò)等發(fā)展水平的不斷提高，智能這個(gè)詞被泛化，比如智能社會(huì)，智慧城市，智能交通，都是基于智能程序的社會(huì)化應(yīng)用，指向更先進(jìn)的實(shí)現(xiàn)自動(dòng)化技術(shù)。說(shuō)起人工智能與人類智能的關(guān)系，人工智能的目標(biāo)是模擬人類的各種智能行為，諸如感知、記憶、情感、判斷、推理、證明、識(shí)別、理解、通信、設(shè)計(jì)、學(xué)習(xí)等思維活動(dòng)，但很顯然非有機(jī)體的機(jī)器，人類智能相應(yīng)的生命現(xiàn)象遺傳、變異、繁衍、生長(zhǎng)甚至思維本身的直覺(jué)、頓悟等在其身上還并不存在，在模擬中會(huì)有所取舍。
遼寧日?qǐng)?bào)：人工智能的發(fā)展給機(jī)器人帶來(lái)了怎樣的功能變化？
王志良：自上世紀(jì)60年代起，出現(xiàn)了第一代機(jī)器人工業(yè)機(jī)器人，如機(jī)械手，單一操作、自動(dòng)化水平不高，不懂得如何處理外界的信息；到了七八十年代，有了感知機(jī)器人作為第二代機(jī)器人具有多項(xiàng)能力，利用傳感器獲取的信息進(jìn)行初步判斷環(huán)境，控制其自身行動(dòng)的能力，進(jìn)入90年代，真正意義上的智能機(jī)器人大規(guī)模登場(chǎng)，它具有多種外部傳感器組成的感覺(jué)系統(tǒng)，可通過(guò)對(duì)外部環(huán)境信息的獲取、處理外部環(huán)境信息，能自主地完成某一項(xiàng)任務(wù)；本世紀(jì)以來(lái)，多種與人打交道、為人服務(wù)的機(jī)器人得到大量應(yīng)用，不僅能推理、判斷，而且可以進(jìn)行語(yǔ)音識(shí)別和情感識(shí)別。這種機(jī)器人在日本、歐洲被重點(diǎn)研究和推廣，準(zhǔn)備分擔(dān)起老齡化社會(huì)服務(wù)的重任。 可以看出，人工智能的發(fā)展使機(jī)器人的功能多樣、更高級(jí)類似人腦的功能被不斷開(kāi)發(fā)出來(lái)。
遼寧日?qǐng)?bào)：這個(gè)過(guò)程可以看做是人工智能在進(jìn)化嗎？
王志良：我認(rèn)為，作為機(jī)器智能用“進(jìn)化”一詞來(lái)說(shuō)明其發(fā)展并不準(zhǔn)確，至少對(duì)已有的機(jī)器人發(fā)展史來(lái)說(shuō)并不適用。機(jī)器人的智能都是人類賦予的，是人以科學(xué)技術(shù)的手段讓其智能發(fā)展的，即使未來(lái)計(jì)算機(jī)有了自學(xué)習(xí)的功能，也是在預(yù)先設(shè)定的范圍內(nèi)適應(yīng)環(huán)境，而無(wú)自主的突破，談不上進(jìn)化。
目前機(jī)器人的智能只有1歲多幼兒的水平
遼寧日?qǐng)?bào)：那么，機(jī)器人智能與人腦相比，目前模擬到什么程度？人工智能學(xué)家雷·庫(kù)茲韋爾預(yù)測(cè)在21世紀(jì)20年代末，電腦就能達(dá)到人腦智力水平。人工智能是否有可能全面模擬大腦？
王志良：大腦有數(shù)十億個(gè)神經(jīng)細(xì)胞，而每個(gè)神經(jīng)細(xì)胞又有數(shù)千到數(shù)萬(wàn)個(gè)突觸，也就是說(shuō)大腦信息處理采用的是數(shù)萬(wàn)到數(shù)億序列的并行運(yùn)算，而電子計(jì)算機(jī)卻只能處理串行運(yùn)算或者少的可憐的并行運(yùn)算。從這個(gè)角度看，計(jì)算機(jī)的存儲(chǔ)容量、信息組織方式以及使用方式，都遠(yuǎn)遠(yuǎn)落后于人類。人類智能包括感知、學(xué)習(xí)、推理、對(duì)策、決策、預(yù)測(cè)、直覺(jué)、聯(lián)想等多個(gè)方面，而現(xiàn)有的人工智能技術(shù)只能實(shí)現(xiàn)某一方面的初級(jí)功能或者說(shuō)一個(gè)功能點(diǎn)。人工智能是要模擬人的智能，但人智能的能動(dòng)性和創(chuàng)造性很難真正模擬，這正是計(jì)算機(jī)的分析判斷與人腦思維的本質(zhì)區(qū)別。用機(jī)器來(lái)重建大腦工作模型作為物質(zhì)基礎(chǔ)，幾乎是一件不可能的事情，只能是一個(gè)無(wú)限接近的過(guò)程。
遼寧日?qǐng)?bào)：那么從技術(shù)上說(shuō)，人工智能的發(fā)展趨勢(shì)是怎樣的？
王志良：模糊處理、并行化、神經(jīng)網(wǎng)絡(luò)、機(jī)器情感和自然語(yǔ)言處理等是未來(lái)人工智能重點(diǎn)的研究領(lǐng)域和發(fā)展方向，模糊處理技術(shù)是為了更好地實(shí)現(xiàn)判斷推理功能，并行化技術(shù)旨在實(shí)現(xiàn)快速?zèng)Q策 ，神經(jīng)網(wǎng)絡(luò)可以實(shí)現(xiàn)信息的分布式存儲(chǔ)和并行協(xié)同處理，語(yǔ)言識(shí)別及賦予機(jī)器可以以情感模式讓它更好地與人打交道、為人服務(wù)。目前在交互式人形機(jī)器人這個(gè)新興領(lǐng)域初步實(shí)現(xiàn)了情感表達(dá)、語(yǔ)言交流、語(yǔ)言感知、人臉識(shí)別等人工智能技術(shù)，服務(wù)機(jī)器人就可以識(shí)別人的聲音指示，甚至能學(xué)會(huì)對(duì)主人察言觀色，滿足主人的需求。
遼寧日?qǐng)?bào)：是否可以說(shuō)學(xué)習(xí)功能越強(qiáng)，人工智能的水平越高？
王志良：機(jī)器學(xué)習(xí)就是讓計(jì)算機(jī)能夠像人那樣自動(dòng)地獲取新知識(shí)，并在實(shí)踐中不斷地完善自我和增強(qiáng)能力。這是人工智能研究的核心課題，可以使機(jī)器能夠勝任一些通常需要人類智能才能完成的復(fù)雜工作。從某種程度上來(lái)說(shuō)，只有有了自學(xué)習(xí)和自適應(yīng)功能，才能算是真正有了智能。目前，機(jī)器學(xué)習(xí)的研究取得長(zhǎng)足發(fā)展，比如，日本的研究研究團(tuán)隊(duì)開(kāi)發(fā)出的系統(tǒng)名為“自組織增量學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)”（簡(jiǎn)稱SOINN）的人工智能，當(dāng)這類機(jī)器人遇到超出自己能力范圍的任務(wù)時(shí)，它懂得求助，如連接、搜索互聯(lián)網(wǎng)，并將求助過(guò)程中獲得的信息存儲(chǔ)下來(lái)用于未來(lái)的任務(wù)。
遼寧日?qǐng)?bào)：人工智能雖然還不能全面超過(guò)人腦，但是就某些方面來(lái)說(shuō)已經(jīng)有了超越人腦的能力，前幾年國(guó)際象棋世界冠軍敗給了計(jì)算機(jī)，就是一個(gè)很好的例子，那么，就是這些許許多多的方面加在一起，或者說(shuō)在某一特定方面與人競(jìng)爭(zhēng)，會(huì)不會(huì)出現(xiàn)對(duì)人不利的情況？
王志良：從計(jì)算機(jī)本身來(lái)說(shuō)，在某項(xiàng)智能所產(chǎn)生在行為、功能上要強(qiáng)過(guò)人類，比如比人走的更快、耐力比人更強(qiáng)，在邏輯運(yùn)算方面，電腦比人腦快等，這也正是人類發(fā)展機(jī)器人的原因，但就綜合思維能力來(lái)說(shuō)，離人類大腦差的很遠(yuǎn)，如果比較的話，目前最先進(jìn)的機(jī)器人的智能、認(rèn)知水平只有1歲多幼兒的水平，要想達(dá)到成人的智力水平還有很長(zhǎng)的路走，還是很遙遠(yuǎn)的事。在當(dāng)前的條件下人工智能很難跳出人類智能所及的范圍，依然被人類所掌控，不會(huì)向電影中描寫(xiě)的那樣威脅到人類整體，不過(guò)是在某些領(lǐng)域比人擁有更強(qiáng)大的計(jì)算能力而已，也就是有人說(shuō)的“部分超越 、整體上不及”。另一方面，因?yàn)?ldquo;部分超越”，而且自學(xué)習(xí)能力的逐步發(fā)展，可能會(huì)在應(yīng)用過(guò)程中出現(xiàn)一些問(wèn)題，這就要求我們未雨綢繆，制定準(zhǔn)則，讓它具有正能量，防止危險(xiǎn)的發(fā)生。
三條“鐵律”給機(jī)器人戴上“緊箍咒”
遼寧日?qǐng)?bào)：您說(shuō)的準(zhǔn)則是什么？是不是“機(jī)器人三定律”？
王志良：是的，又叫“三原則”。早在上世紀(jì)40年代，美國(guó)著名科幻作家阿西莫夫就提出了著名的“機(jī)器人三定律”。即第一法則：機(jī)器人不得傷害人類，或袖手旁觀坐視人類受到傷害；第二法則：機(jī)器人必須服從人類的一切命令，但不得違反第一定律；第三法則：機(jī)器人必須保護(hù)自身的安全，但不得違反第一、第二定律。從這類似“二十二條軍規(guī)”的法則中看得出，阿西莫夫當(dāng)年在寫(xiě)作的過(guò)程中一定經(jīng)過(guò)了縝密的思考，因?yàn)檫@一帶有預(yù)言性的小說(shuō)之言，往后竟成了人工智能研究過(guò)程中一定要遵循的“鐵律”。
遼寧日?qǐng)?bào)：隨著智能程度的提高，“機(jī)器人三定律”在未來(lái)的作用會(huì)越來(lái)越突出吧？日本和韓國(guó)人工智能技術(shù)很先進(jìn)，同時(shí)十分重視對(duì)機(jī)器人的約束，韓國(guó)已經(jīng)起草世界上第一份《機(jī)器人道德憲章》，以防止機(jī)器人“傷害”人類。更有人呼吁加強(qiáng)機(jī)器人倫理的建設(shè)，這個(gè)是否有必要？
王志良：因?yàn)闄C(jī)器人有了越來(lái)越多的 “過(guò)人之處”，社會(huì)應(yīng)用越來(lái)越廣，所以要確保智能機(jī)器人對(duì)人的安全性。這個(gè)也很好理解，即使普通機(jī)器的使用也要有一定的安全要求，更何況是智能的機(jī)器。一方面，由于自適應(yīng)技術(shù)上的不成熟，而盲目推出某項(xiàng)機(jī)器人，導(dǎo)致在實(shí)際應(yīng)用中不能適應(yīng)環(huán)境變化，結(jié)果給人帶來(lái)麻煩；另一方面，機(jī)器人則有可能被誤用、濫用。最明顯的例子就是無(wú)人機(jī)，這也是一種機(jī)器人，那么在用它進(jìn)行作戰(zhàn)轟炸的時(shí)候，它分不清目標(biāo)是軍隊(duì)還是平民。這就有必要通過(guò)倫理也好、立法也好等手段進(jìn)行規(guī)范和限制。這些都要求我們未雨綢繆，在“三定律”的基礎(chǔ)上制定更具體準(zhǔn)則，給機(jī)器人帶上“緊箍咒”，讓其具有正能量，防止危險(xiǎn)的發(fā)生。
遼寧日?qǐng)?bào)：這個(gè)“緊箍咒”應(yīng)該怎樣帶？
王志良：我想主要包括兩個(gè)方面，一是規(guī)范研發(fā)的行為，包括研制什么樣的機(jī)器人，這種類型的機(jī)器人技術(shù)是否成熟，對(duì)其研制出來(lái)后是否有著較大的潛在危害進(jìn)行考察，二是應(yīng)用，包括管理已經(jīng)生產(chǎn)出的機(jī)器人，其規(guī)范本身的智能行為，保證安全操作及不被濫用等。 本報(bào)記者／劉洪宇
專家檔案
王志良 博士。北京科技大學(xué)物聯(lián)網(wǎng)與電子信息系主任，教授，博士研究生導(dǎo)師。兼任中國(guó)人工智能學(xué)會(huì)常務(wù)理事，中國(guó)人工智能學(xué)會(huì)人工心理與人工情感專業(yè)委員會(huì)主任。研究領(lǐng)域包括人工心理與情感計(jì)算，個(gè)人機(jī)器人與數(shù)字人技術(shù)等。發(fā)表學(xué)術(shù)專著2部，學(xué)術(shù)論文70余篇，主持完成多項(xiàng)國(guó)家自然科學(xué)基金項(xiàng)目、國(guó)家攻關(guān)項(xiàng)目、教育部重點(diǎn)科研項(xiàng)目。
