人工智能機(jī)器人的創(chuàng)作者，在很多的科幻小說中，往往被描述為像近視博士Frankensteins那樣，他們無視這個技術(shù)將會帶給人類世界末日。其實在現(xiàn)實生活中，他們往往會仔細(xì)思考這個大問題：善與惡，以及機(jī)器人浪潮的到來和機(jī)器人的大腦將會對人類產(chǎn)生什么樣的影響。
科學(xué)家們承認(rèn)，他們的工作就是打破僅限于實驗室的研究，而是要進(jìn)入現(xiàn)實世界，12月10日，在為期一天的峰會上，大家都在討論這個機(jī)器人的倫理問題，以及如何防止機(jī)器人比人類還要聰明，以至于會導(dǎo)致人類失去工作，增加法律訴訟的并發(fā)癥，或者更糟的是，試圖危害社會。如今的AI(人工智能)可以學(xué)習(xí)如何玩視頻游戲，幫助自動回復(fù)電子郵件，并在一定條件下，可以駕駛汽車。這已經(jīng)引起了它可能會影響工作者的擔(dān)憂。
“毫無疑問，如今有很多的工作，之前無法實現(xiàn)自動化，現(xiàn)在都可以實現(xiàn)自動化了，” Erik Brynjolfsson(埃里克布林約爾松)說，一位麻省理工學(xué)院的經(jīng)濟(jì)學(xué)家，舉了這些例子，如初級律師的相關(guān)工作，現(xiàn)在已經(jīng)有機(jī)器人也能夠勝任了，人們可以在自助結(jié)帳超市的結(jié)賬通道自己結(jié)賬了，這樣收銀員的工作也被機(jī)器人代替了。
“你希望在這個經(jīng)濟(jì)中，將會有一些新的就業(yè)機(jī)會，” Erik Brynjolfsson(埃里克布林約爾松)說，“企業(yè)家和經(jīng)理人還沒有如此創(chuàng)造性地發(fā)明了新的就業(yè)機(jī)會，因為他們已經(jīng)將自動化應(yīng)用于現(xiàn)有的一些工作。”
Yann LeCun，F(xiàn)acebook人工智能研究的領(lǐng)導(dǎo)人，并沒有如此的擔(dān)憂。他說：“過去，社會已經(jīng)適應(yīng)了一些改變，這是技術(shù)進(jìn)程中的另一個階段，這不是一件容易的事，但我們必須要應(yīng)對它。”
還有其他潛在的困惑，像由于AI(人工智能)正在獨(dú)立于人類的控制，做更多的決定，法律環(huán)境將要如何改變? “在某些情況下，使一個算法在法律程序的限制下脫穎而出，這將是非常困難的，” Ian Kerr(伊恩?科爾)說，他是渥太華大學(xué)法學(xué)院，主要研究道德，法律和技術(shù)之間的關(guān)系，現(xiàn)任加拿大研究主席。“我認(rèn)為這將是一個非常巨大的挑戰(zhàn)。”
其他人則進(jìn)一步展望未來，試圖分析AI(人工智能)超越人類能力，將會產(chǎn)生的影響。去年，谷歌收購DeepMind，一個AI(人工智能)公司，專注于開發(fā)比人類更聰明的機(jī)器人這個目標(biāo)，進(jìn)行基礎(chǔ)研究。Demis Hassabis(杰米斯)，該公司的創(chuàng)始人之一，將其描述為一個阿波羅計劃，致力于AI(人工智能)創(chuàng)造。
“我并不想聲稱，我們知道我們什么時候能夠做到這一點，” Shane Legg(巴蒂爾萊格)說，該公司的另一位創(chuàng)始人。“提前準(zhǔn)備總是比之后準(zhǔn)備更好。”
雖然他們認(rèn)為一個惡意的超級AI(人工智能)能夠發(fā)展，這個機(jī)會是非常小的，但是，Shane Legg(巴蒂爾萊格)和其他人已經(jīng)開始著手研究潛在影響，因為它可能會造成嚴(yán)重的威脅。
“我不認(rèn)為世界末日將會到來，我們現(xiàn)在有服務(wù)員機(jī)器人，正在拿著一個托盤為你帶來你的食物，” Nick Bostrom(尼克博斯特倫)說，牛津大學(xué)的博士，他已經(jīng)出版了書《超級智能說：路徑，危險，策略》已經(jīng)引起了有關(guān)AI(人工智能)影響的討論。“最終的結(jié)果可能是，一些我們所熟悉的東西，看起來卻是非常不同。”
Shahar Avin(沙哈爾)，他是劍橋大學(xué)生存風(fēng)險研究中心的研究員，認(rèn)為：“AI(人工智能)可能被太早的研究了，以至于不能有一個很好的方法，來研究如何防止惡性AI(人工智能)的形成。”
“我們希望那些代理人不能或不愿改變自身的價值體系，” Shahar Avin(沙哈爾)說。關(guān)于如何做到這一點，這是一個懸而未決的問題。更多的資金和更多的公眾辯論應(yīng)該相結(jié)合起來，讓更多的科研人員能夠進(jìn)入到這個領(lǐng)域來研究，如何使AI(人工智能)更加安全。
作為努力的一部分，特斯拉汽車公司和太空探索技術(shù)公司，以及其他高科技燈具的創(chuàng)始人Elon Musk(伊隆?馬斯克)宣布：12月11日，成立OpenAI，一個非營利性研究機(jī)構(gòu)，致力于以一個更加開放安全的方式，來開發(fā)強(qiáng)大的新的AI(人工智能)技術(shù)。
如果超級智能是必然的，最好以一個開放的方式來研究它，并鼓勵人們?nèi)ニ伎己蠊?，Elon Musk(伊隆?馬斯克)說。他還資助了生命研究所，致力于探索一些新技術(shù)將給人類帶來的風(fēng)險，其中包括AI(人工智能)。
Elon Musk(伊隆?馬斯克)說，但是，“人工智能惡智能”的魅力可能證明更多是負(fù)面影響，如失業(yè)。而LeCun說：“AI(人工智能)會比人類更好，更加親切。”
“我們正在被我們生存的基本本能所驅(qū)動，”LeCun說。“機(jī)器人將有一個非常不同類型的智力，它將不會有一個讓人類相互做壞事的驅(qū)動。”
