據(jù)了解，這一中心高手如云，科研實力雄厚，其中包括來自伯克利分校的Pieter abbeel , Anca Dragan和認(rèn)知科學(xué)家Tom Griffiths，康奈爾大學(xué)的計算機科學(xué)家Bart Selman 和Joseph Halpern，密歇根大學(xué)的AI專家Michael Wellman和Satinder Singh Baveja。Russell表示，未來希望有來自經(jīng)濟學(xué)、哲學(xué)和其他社會科學(xué)領(lǐng)域的專家加盟，而這個研究中心的主要目標(biāo)是確保AI系統(tǒng)對使人類社會受益。另外，中心獲得了來自O(shè)pen Philanthropy Project的550萬啟動資金，同時還獲得了Leverhulme Trust和 Future of Life Institute的研究贊助金。

 

　　Russel以專家的姿態(tài)，迅速瓦解了人們對科幻大片中有感知的、邪惡的機器人可能產(chǎn)生的威脅。他認(rèn)為，我們現(xiàn)在在AI、機器人、控制理論和運籌研究領(lǐng)域研發(fā)的機器人，完全出自人類之手。如果你讓家用機器人清理浴缸，它或許會像穿《戴帽子的貓》中的貓那樣，不知道一件干凈的白裙子的價值比干凈的浴缸大，從而——用媽媽的白裙子去擦拭浴缸。也就是說，目前，AI的設(shè)計沒有與人類的價值觀達(dá)成一致。而這個研究中心會用最先進的AI系統(tǒng)，為數(shù)百億人提供必要的服務(wù)。他還表示，“AI系統(tǒng)必須受人掌控，對行為要有明確的限制，盡管它們最終可能會擁有一些人類無法企及的能力。”

 

　　目前，Russell和其他專家正在研發(fā)的是逆向增強學(xué)習(xí)，在這個過程中機器人會通過觀察人類的行為，學(xué)習(xí)人類的價值觀。比如，通過觀察人們早上起床的痛苦以及起床后費勁千辛萬苦做一杯拿鐵，機器人會認(rèn)識到對人而言，清晨的一杯咖啡存在的意義。

 

　　“在算法中直接植入某些價值觀是萬萬不可取的，”Russell說，“機器人要通過觀察學(xué)習(xí)人類的價值觀。除了觀察外，閱讀也是個重要的途徑。提供給機器人的所有文字都是關(guān)于人類如何做事以及其他人的看法。”

 

　　然而，Russel和他的同事們都知道，在AI領(lǐng)域，他們依然任重道遠(yuǎn)。“人們有種各種不同的價值觀，因此如果要將所有價值觀都實現(xiàn)，是無法做到的，”他承認(rèn)。“不同的價值觀促使機器人嘗試?yán)斫馕覀兿Ｍ鼈冏龅氖?，并學(xué)會在個體之間斡旋。”

 

　　另外，Russel最近寫了篇文章，叫《它們會讓我們成為更好的自己嗎》。他于文中得出的結(jié)論是：“AI將與人類價值觀達(dá)成一致，而這個過程會讓我們對自己的所作所為產(chǎn)生更好認(rèn)知。另外，我們或許應(yīng)該認(rèn)識到我們與來自其他文化背景的人們存在更多的相似之處。”