科學家意識到，他們的研究成果即將走出實驗室，走入現實生活，因此在12月10日舉行的蒙特利爾人工智能峰會上，紛紛探討起相關的道德問題：例如，如何避免比人類更聰明的電腦搶走人類的工作，帶來額外的法律風險，甚至危害社會。如今，人工智能已經能夠學習玩視頻游戲，幫助人類自動回復電子郵件，甚至在特定情況下駕駛汽車。已經有人開始擔心，這些技術可能對人類的工作產生影響。
“我認為最大的挑戰(zhàn)是就業(yè)。”吳恩達說，他擔任首席科學家的百度上周剛剛完成無人駕駛汽車的首次路測，路程達到30公里。吳恩達認為，人工智能技術給職場帶來的變化意味著有很多人都將在20到50歲之間接受前所未有的重新培訓。
“毫無疑問，如今的某些工作已經可以自動完成，這在以前是不可能實現的。”麻省理工學院經濟學家埃里克·布呂諾爾夫松（Erik Brynjolfsson）說。例如，從事電子取證任務的初級律師，或者在自助結賬超市里的人類助手。
“你希望這種經濟環(huán)境里能夠出現一些新崗位。”他說，“企業(yè)家和管理者用自動化技術取代了一些現有的工作，但他們創(chuàng)造新工作時的創(chuàng)造力卻沒有那么強。”
Facebook人工智能研究總監(jiān)伊恩·勒坤（Yann LeCun）并沒有那么擔憂。他表示，我們的社會之前成功適應了各種變化。“這只是科技進步的又一個階段。”他說，“這并不容易，但我們肯定能應對。”
隨著越來越多的人工智能技術脫離人類獨自決策，今后還將產生一些法律方面的困惑。“在法律流程中，有時候很難讓算法扮演主要角色。”渥太華大學法學院倫理、法律和科學研究中心主任伊恩·克爾（Ian Kerr）說，“我認為這是一個艱巨的挑戰(zhàn)。”
還有人的眼光放得更遠，試圖分析具備超人能力的人工智能所處產生的影響。谷歌去年收購了DeepMind人工智能公司，這是一家專注于基礎研究的企業(yè)，他們的目標是開發(fā)比人類更聰明的機器。該公司聯(lián)合創(chuàng)始人戴密斯·哈薩比斯（Demis Hassabis）將此描述為人工智能領域的阿波羅計劃。
“我不想預測我們何時能夠做到。”DeepMind另外一名聯(lián)合創(chuàng)始人謝恩·萊格（Shane Legg），“事先預防比事后應對要好。”
“我不認為最終的世界只是讓機器人服務員給你端茶倒水這么簡單。”牛津大學學者、《超級智能：方法、危險、策略》一書的作者尼克·博斯特羅姆（Nick Bostrom）說，“最終的結果或許與我們今天熟悉的世界大不相同。”
劍橋大學存在性危機研究中心研究員沙哈·阿文（Shahar Avin）表示，在人工智能研究領域，目前就來探討如何預防邪惡人工智能還有些為時尚早。
“我們希望有一個代理人，但又不希望這個代理人修改自己的價值體系。”阿文說。但如何實現這一點卻有待解答。隨著資金的增多和討論的增加，將有更多研究人員加入到這一領域中，研究如何增強人工智能的安全性。
作為特斯拉和SpaceX兩家公司的創(chuàng)始人，伊隆·馬斯克（Elon Musk）和其他科技大亨曾經在12月11日宣布成立OpenAI，這家非營利性研究組織將以盡可能開放的形式研究新型人工智能技術的潛力。
馬斯克表示，倘若超級智能不可避免，最好的辦法就是公開開發(fā)進程，并鼓勵人們思考它所帶來的后果。他成立了“未來生活學會”（Future of Life Institute），這是一家致力于探索各種新技術對人類構成的危險的組織，其中也包括人工智能技術。
但吳恩達認為，所謂的“邪惡人工智能”或許并沒有抓住要點，真正值得擔憂的是視野問題。勒坤也表示，人工智能可以給人類帶來福音。
“人類都有求生的本能。”他說，“機器的智能完全不同，它沒有那些令人類互相迫害的動機。”
加拿大總督大衛(wèi)·約翰斯頓（David Johnston）也在多倫多的另外一場活動中發(fā)表了評論，提到了一些令人擔憂的問題。
“我們越來越感覺機器學習和人工智能可能很快就會涌現。到那時候，它們肯定會對生活產生重大影響。”他說，“那么，我們究竟能發(fā)揮什么作用？又該如何充分發(fā)揮這項技術的潛力，盡量減少它的挑戰(zhàn)呢？”
