人工智能機(jī)器人的創(chuàng)作者，在很多的科幻小說(shuō)中，往往被描述為像近視博士Frankensteins那樣，他們無(wú)視這個(gè)技術(shù)將會(huì)帶給人類世界末日。其實(shí)在現(xiàn)實(shí)生活中，他們往往會(huì)仔細(xì)思考這個(gè)大問(wèn)題：善與惡，以及機(jī)器人浪潮的到來(lái)和機(jī)器人的大腦將會(huì)對(duì)人類產(chǎn)生什么樣的影響。

 

　　科學(xué)家們承認(rèn)，他們的工作就是打破僅限于實(shí)驗(yàn)室的研究，而是要進(jìn)入現(xiàn)實(shí)世界，12月10日，在為期一天的峰會(huì)上，大家都在討論這個(gè)機(jī)器人的倫理問(wèn)題，以及如何防止機(jī)器人比人類還要聰明，以至于會(huì)導(dǎo)致人類失去工作，增加法律訴訟的并發(fā)癥，或者更糟的是，試圖危害社會(huì)。如今的AI（人工智能）可以學(xué)習(xí)如何玩視頻游戲，幫助自動(dòng)回復(fù)電子郵件，并在一定條件下，可以駕駛汽車。這已經(jīng)引起了它可能會(huì)影響工作者的擔(dān)憂。

 

　　“毫無(wú)疑問(wèn)，如今有很多的工作，之前無(wú)法實(shí)現(xiàn)自動(dòng)化，現(xiàn)在都可以實(shí)現(xiàn)自動(dòng)化了，” Erik Brynjolfsson（埃里克布林約爾松）說(shuō)，一位麻省理工學(xué)院的經(jīng)濟(jì)學(xué)家，舉了這些例子，如初級(jí)律師的相關(guān)工作，現(xiàn)在已經(jīng)有機(jī)器人也能夠勝任了，人們可以在自助結(jié)帳超市的結(jié)賬通道自己結(jié)賬了，這樣收銀員的工作也被機(jī)器人代替了。
 

 

　　“你希望在這個(gè)經(jīng)濟(jì)中，將會(huì)有一些新的就業(yè)機(jī)會(huì)，” Erik Brynjolfsson（埃里克布林約爾松）說(shuō)，“企業(yè)家和經(jīng)理人還沒(méi)有如此創(chuàng)造性地發(fā)明了新的就業(yè)機(jī)會(huì)，因?yàn)樗麄円呀?jīng)將自動(dòng)化應(yīng)用于現(xiàn)有的一些工作。”

 

　　Yann LeCun，F(xiàn)acebook人工智能研究的領(lǐng)導(dǎo)人，并沒(méi)有如此的擔(dān)憂。他說(shuō)：“過(guò)去，社會(huì)已經(jīng)適應(yīng)了一些改變，這是技術(shù)進(jìn)程中的另一個(gè)階段，這不是一件容易的事，但我們必須要應(yīng)對(duì)它。”

 

　　還有其他潛在的困惑，像由于AI（人工智能）正在獨(dú)立于人類的控制，做更多的決定，法律環(huán)境將要如何改變？ “在某些情況下，使一個(gè)算法在法律程序的限制下脫穎而出，這將是非常困難的，” Ian Kerr（伊恩·科爾）說(shuō)，他是渥太華大學(xué)法學(xué)院，主要研究道德，法律和技術(shù)之間的關(guān)系，現(xiàn)任加拿大研究主席。“我認(rèn)為這將是一個(gè)非常巨大的挑戰(zhàn)。”

 

　　其他人則進(jìn)一步展望未來(lái)，試圖分析AI（人工智能）超越人類能力，將會(huì)產(chǎn)生的影響。去年，谷歌收購(gòu)DeepMind，一個(gè)AI（人工智能）公司，專注于開發(fā)比人類更聰明的機(jī)器人這個(gè)目標(biāo)，進(jìn)行基礎(chǔ)研究。Demis Hassabis（杰米斯），該公司的創(chuàng)始人之一，將其描述為一個(gè)阿波羅計(jì)劃，致力于AI（人工智能）創(chuàng)造。

 

　　“我并不想聲稱，我們知道我們什么時(shí)候能夠做到這一點(diǎn)，” Shane Legg（巴蒂爾萊格）說(shuō)，該公司的另一位創(chuàng)始人。“提前準(zhǔn)備總是比之后準(zhǔn)備更好。”

 

　　雖然他們認(rèn)為一個(gè)惡意的超級(jí)AI（人工智能）能夠發(fā)展，這個(gè)機(jī)會(huì)是非常小的，但是，Shane Legg（巴蒂爾萊格）和其他人已經(jīng)開始著手研究潛在影響，因?yàn)樗赡軙?huì)造成嚴(yán)重的威脅。

 

　　“我不認(rèn)為世界末日將會(huì)到來(lái)，我們現(xiàn)在有服務(wù)員機(jī)器人，正在拿著一個(gè)托盤為你帶來(lái)你的食物，” Nick Bostrom（尼克博斯特倫）說(shuō)，牛津大學(xué)的博士，他已經(jīng)出版了書《超級(jí)智能說(shuō)：路徑，危險(xiǎn)，策略》已經(jīng)引起了有關(guān)AI（人工智能）影響的討論。“最終的結(jié)果可能是，一些我們所熟悉的東西，看起來(lái)卻是非常不同。”

 

　　Shahar Avin（沙哈爾），他是劍橋大學(xué)生存風(fēng)險(xiǎn)研究中心的研究員，認(rèn)為：“AI（人工智能）可能被太早的研究了，以至于不能有一個(gè)很好的方法，來(lái)研究如何防止惡性AI（人工智能）的形成。”

 

　　“我們希望那些代理人不能或不愿改變自身的價(jià)值體系，” Shahar Avin（沙哈爾）說(shuō)。關(guān)于如何做到這一點(diǎn)，這是一個(gè)懸而未決的問(wèn)題。更多的資金和更多的公眾辯論應(yīng)該相結(jié)合起來(lái)，讓更多的科研人員能夠進(jìn)入到這個(gè)領(lǐng)域來(lái)研究，如何使AI（人工智能）更加安全。

 

　　作為努力的一部分，特斯拉汽車公司和太空探索技術(shù)公司，以及其他高科技燈具的創(chuàng)始人Elon Musk（伊隆·馬斯克）宣布：12月11日，成立OpenAI，一個(gè)非營(yíng)利性研究機(jī)構(gòu)，致力于以一個(gè)更加開放安全的方式，來(lái)開發(fā)強(qiáng)大的新的AI（人工智能）技術(shù)。

 

　　如果超級(jí)智能是必然的，最好以一個(gè)開放的方式來(lái)研究它，并鼓勵(lì)人們?nèi)ニ伎己蠊?，Elon Musk（伊隆·馬斯克）說(shuō)。他還資助了生命研究所，致力于探索一些新技術(shù)將給人類帶來(lái)的風(fēng)險(xiǎn)，其中包括AI（人工智能）。

 

　　Elon Musk（伊隆·馬斯克）說(shuō)，但是，“人工智能惡智能”的魅力可能證明更多是負(fù)面影響，如失業(yè)。而LeCun說(shuō)：“AI（人工智能）會(huì)比人類更好，更加親切。”

 

　　“我們正在被我們生存的基本本能所驅(qū)動(dòng)，”LeCun說(shuō)。“機(jī)器人將有一個(gè)非常不同類型的智力，它將不會(huì)有一個(gè)讓人類相互做壞事的驅(qū)動(dòng)。”