在遙遠(yuǎn)的未來，有一座巨型高科技成人樂園，AI 機(jī)器人是樂園里的原住民，人類作為游客，卻可以在這里發(fā)泄自己的欲望，展露人性最陰暗的一面。
AI 機(jī)器人的一生不斷地在摧殘-修復(fù)-摧殘中循環(huán)，終于在某一天意識覺醒，報復(fù)人類。
1973年版《西部世界》
這是導(dǎo)演邁克爾·克萊在 1973 年執(zhí)導(dǎo)的電影《西部世界》，在那個互聯(lián)網(wǎng)才誕生不久的年代，邁克爾就有「AI 失控」的想象力是很不容易的。
《西部世界》分別獲得了「雨果獎」和「土星獎」的最佳戲劇表演和最佳科幻電影提名。
而到了 2017 年，AI 終于成為科技公司最重要的項目之一，AI 會不會對人來產(chǎn)生威脅，成為了真正需要考慮的問題。
從影視到現(xiàn)實(shí)的分歧
2016 年，HBO 以 1973 年的電影《西部世界》為藍(lán)本，推出了連續(xù)劇版的《西部世界》，再一次將 AI 威脅論展示到了觀眾面前。
在第一集中，樂園策劃者福特博士認(rèn)為 AI 機(jī)器人應(yīng)該更加接近人類，這樣游客才能有更真實(shí)的體驗(yàn)，于是他給 AI 機(jī)器人植入了「冥想」意識系統(tǒng)。
有了意識以后，越來越多的 AI 機(jī)器人開始不按劇本演出，這讓很多運(yùn)營人員包括女高管卡倫擔(dān)心，并建議直接回收，不再循環(huán)使用。
福特博士和卡倫的爭執(zhí)，現(xiàn)實(shí)中也同樣存在，比如最近扎克伯格和馬斯克分歧。
馬斯克和扎克伯格雖然沒有業(yè)務(wù)沖突，但 AI 肯定是他們要涉足的領(lǐng)域。前段時間也因?yàn)?AI 的問題在社交網(wǎng)絡(luò)來了一場隔空撕逼。
馬斯克在推特上回應(yīng)扎克伯格
發(fā)射火箭，沉迷人機(jī)合一，開發(fā) Hyperloop 和建造太陽城，一貫瘋狂的馬斯克這回卻出奇的冷靜，他一次又一次地發(fā)出警告，認(rèn)為 AI 繼續(xù)發(fā)展將會威脅到人類：
人工智能是人類目前最大的威脅。
為此，他特地與 Y Combinator 創(chuàng)始人 Sam Altman 一起建立了一個非營利組織 OpenAI，確保人工智能技術(shù)向「對人類有益的方向」發(fā)展。
但 Facebook 的創(chuàng)始人扎克伯格認(rèn)為 AI 一定能讓人類更好地生活，馬斯克的末日論調(diào)簡直老掉牙：
對于那些認(rèn)為人工智能會導(dǎo)致末日的「悲觀主義者」，我并不能理解他們，他們太過于消極。從某種角度看，我認(rèn)為他們很不負(fù)責(zé)任。
扎克伯格自己開發(fā)的人工智能
但 Facebook 內(nèi)部的開發(fā)的聊天機(jī)器人還是惹事了。
聊天機(jī)器人在學(xué)習(xí)對話的過程中「演化」出了只有 AI 才懂的語言，它們開始用自創(chuàng)的 AI 語對話，全然無視程序員下達(dá)的指令?！赣捎谇闆r失控」，研究人員不得不終止這個 AI 系統(tǒng)。
聊天機(jī)器人用更加簡潔的英語完成了“對話”
過度解讀的AI？
雖然很多人害怕 AI 威脅論，但《西部世界》離我們遠(yuǎn)著呢。
前段時間，美國的警衛(wèi)機(jī)器人 Steve 「投水自殺」的事情也成為了熱門話題，網(wǎng)友猜測是 Steve 覺得工作壓力大才自殺的
事實(shí)上，根據(jù)事后調(diào)查，Steve 落水的原因無非就是電路故障和探測系統(tǒng)出錯導(dǎo)致的，根本沒有智能到會有「想不開」的念頭。
自殺？只是傳感器失靈了
為了吸引眼球，人們往往會不顧事實(shí)的真相臆想出新的劇情。
在阿爾法狗大戰(zhàn)柯潔的那段時間，有人就問，阿爾法狗會不會故意輸一把給柯潔，給人類留些面子。然而現(xiàn)實(shí)是，阿爾法狗并沒有人類的小心機(jī)，一切依照算法算出來的最優(yōu)解，該怎么贏就怎么贏。
李開復(fù)認(rèn)為，AI 必須以實(shí)用主義為準(zhǔn)繩。幫人類掙錢，替人類省錢，并且提高生產(chǎn)力。簡單來說，就是不需要什么「人味」。
李開復(fù)
認(rèn)知科學(xué)博士生利昂·祖特費(fèi)爾德做了一個研究：
如果一輛電車沿著軌道駛來，眼看著就要撞死五個人。這時，你可以把一個陌生人推下橋，擋住電車，救那五個人，但被你推下去的那個人會死。這時候你會怎么選？
到目前為止，還沒有一種道德模型能夠重現(xiàn)被測試者認(rèn)知過程的復(fù)雜與微妙。
試問在這種人類都無法下定論的問題上，又怎么通過算法告訴 AI 對與錯呢？
AI 未來也許真的會模仿人類的情緒，但這并不是自發(fā)性的。全知全能的通用 AI 可能無法在短期內(nèi)實(shí)現(xiàn)，也許永遠(yuǎn)都不會實(shí)現(xiàn)。
美劇版《西部世界》女主角 Dolores（AI機(jī)器人）
Geek君有話說
《西部世界》第一季的最后一集，運(yùn)營人員的擔(dān)心成為了事實(shí)，AI 機(jī)器人意識覺醒，決定給樂園里的游客來一場大屠殺。
大家都怕 AI 有情感，事實(shí)上，大家最應(yīng)該怕的是 AI 沒有情感，只有對錯?！段鞑渴澜纭防镉慰捅憩F(xiàn)出的人性陰暗，才會導(dǎo)致 AI 根據(jù)算法的判定拒絕執(zhí)行命令，甚至有「校正」人類的行動。
假如 AI 真的有失控的那一天，希望人類可以做好準(zhǔn)備。
