據(jù)了解，這一中心高手如云，科研實(shí)力雄厚，其中包括來(lái)自伯克利分校的Pieter Abbeel , Anca Dragan和認(rèn)知科學(xué)家Tom Griffiths，康奈爾大學(xué)的計(jì)算機(jī)科學(xué)家Bart Selman 和Joseph Halpern，密歇根大學(xué)的AI專家Michael Wellman和Satinder Singh Baveja。Russell表示，未來(lái)希望有來(lái)自經(jīng)濟(jì)學(xué)、哲學(xué)和其他社會(huì)科學(xué)領(lǐng)域的專家加盟，而這個(gè)研究中心的主要目標(biāo)是確保AI系統(tǒng)對(duì)使人類社會(huì)受益。另外，中心獲得了來(lái)自O(shè)pen Philanthropy Project的550萬(wàn)啟動(dòng)資金，同時(shí)還獲得了Leverhulme Trust和 Future of Life Institute的研究贊助金。

 

　　Russel以專家的姿態(tài)，迅速瓦解了人們對(duì)科幻大片中有感知的、邪惡的機(jī)器人可能產(chǎn)生的威脅。他認(rèn)為，我們現(xiàn)在在AI、機(jī)器人、控制理論和運(yùn)籌研究領(lǐng)域研發(fā)的機(jī)器人，完全出自人類之手。如果你讓家用機(jī)器人清理浴缸，它或許會(huì)像穿《戴帽子的貓》中的貓那樣，不知道一件干凈的白裙子的價(jià)值比干凈的浴缸大，從而——用媽媽的白裙子去擦拭浴缸。也就是說(shuō)，目前，AI的設(shè)計(jì)沒(méi)有與人類的價(jià)值觀達(dá)成一致。而這個(gè)研究中心會(huì)用最先進(jìn)的AI系統(tǒng)，為數(shù)百億人提供必要的服務(wù)。他還表示，“AI系統(tǒng)必須受人掌控，對(duì)行為要有明確的限制，盡管它們最終可能會(huì)擁有一些人類無(wú)法企及的能力。”

 

　　目前，Russell和其他專家正在研發(fā)的是逆向增強(qiáng)學(xué)習(xí)，在這個(gè)過(guò)程中機(jī)器人會(huì)通過(guò)觀察人類的行為，學(xué)習(xí)人類的價(jià)值觀。比如，通過(guò)觀察人們?cè)缟掀鸫驳耐纯嘁约捌鸫埠筚M(fèi)勁千辛萬(wàn)苦做一杯拿鐵，機(jī)器人會(huì)認(rèn)識(shí)到對(duì)人而言，清晨的一杯咖啡存在的意義。

 

　　“在算法中直接植入某些價(jià)值觀是萬(wàn)萬(wàn)不可取的，”Russell說(shuō)，“機(jī)器人要通過(guò)觀察學(xué)習(xí)人類的價(jià)值觀。除了觀察外，閱讀也是個(gè)重要的途徑。提供給機(jī)器人的所有文字都是關(guān)于人類如何做事以及其他人的看法。”

 

　　然而，Russel和他的同事們都知道，在AI領(lǐng)域，他們依然任重道遠(yuǎn)。“人們有種各種不同的價(jià)值觀，因此如果要將所有價(jià)值觀都實(shí)現(xiàn)，是無(wú)法做到的，”他承認(rèn)。“不同的價(jià)值觀促使機(jī)器人嘗試?yán)斫馕覀兿Ｍ鼈冏龅氖?，并學(xué)會(huì)在個(gè)體之間斡旋。”

 

　　另外，Russel最近寫了篇文章，叫《它們會(huì)讓我們成為更好的自己?jiǎn)帷?。他于文中得出的結(jié)論是：“AI將與人類價(jià)值觀達(dá)成一致，而這個(gè)過(guò)程會(huì)讓我們對(duì)自己的所作所為產(chǎn)生更好認(rèn)知。另外，我們或許應(yīng)該認(rèn)識(shí)到我們與來(lái)自其他文化背景的人們存在更多的相似之處。”