在Facebook開(kāi)發(fā)的聊天機(jī)器人自創(chuàng)出人類無(wú)法理解的語(yǔ)言后，或許扎克伯格也得同意馬斯克的觀點(diǎn)了。
7月31日據(jù)美國(guó)投資咨詢網(wǎng)站ValueWalk報(bào)道，上周末，F(xiàn)acebook不得不關(guān)閉其人工智能系統(tǒng)，原因是聊天機(jī)器人開(kāi)始用自創(chuàng)語(yǔ)言對(duì)話，全然無(wú)視程序員下達(dá)的指令。“由于情況失控”，研究人員只得終止人工智能系統(tǒng)的全部活動(dòng)。
機(jī)器人用自創(chuàng)語(yǔ)言聊天
Facebook公司公布了聊天機(jī)器人鮑勃和愛(ài)麗絲的對(duì)話節(jié)選（直譯）。
鮑勃說(shuō)：“我能能我我所有事其他。”
愛(ài)麗絲說(shuō)：“球（復(fù)數(shù)）有零對(duì)我對(duì)我對(duì)我對(duì)我對(duì)我對(duì)我對(duì)我對(duì)我對(duì)。”
報(bào)道稱，研究人員起初對(duì)機(jī)器人用自創(chuàng)語(yǔ)言聊天一事感到困惑，但之后他們發(fā)現(xiàn)，機(jī)器人其實(shí)是在用一種更復(fù)雜的方式來(lái)處理手頭任務(wù)。
Facebook的人工智能研究人員杜魯夫·巴特拉認(rèn)為，就像有時(shí)人們會(huì)“抄近道”用行話對(duì)話、以便快速解決問(wèn)題一樣，人工智能機(jī)器人也會(huì)自創(chuàng)語(yǔ)言，做類似的事。
巴特拉說(shuō)：“為什么計(jì)算機(jī)必須在英語(yǔ)語(yǔ)言界限范圍內(nèi)工作，如果它們能用一種看上去（對(duì)它們來(lái)說(shuō)）更好的語(yǔ)言彼此更快地溝通？”
報(bào)道稱，即便巴特拉所言有理，人工智能可自創(chuàng)語(yǔ)言也構(gòu)成新威脅，因?yàn)檫@將使研發(fā)人員在創(chuàng)造構(gòu)建人工神經(jīng)網(wǎng)絡(luò)時(shí)遭遇更大困難。目前，尚不清楚人工智能機(jī)器人能否推翻操作人員的指令。
扎克伯格馬斯克隔空互懟
上月末，F(xiàn)acebook公司創(chuàng)始人扎克伯格與特斯拉公司首席執(zhí)行官馬斯克激辯人工智能。前者對(duì)人工智能持樂(lè)觀態(tài)度，而后者稱其為人類文明的威脅。
在圍繞人工智能的隔空論戰(zhàn)中，馬斯克認(rèn)為，人工智能（AI）對(duì)人類文明是一個(gè)“可怕的問(wèn)題和威脅”。他認(rèn)為，智能機(jī)器可能會(huì)引發(fā)戰(zhàn)爭(zhēng)或者在街頭殺人，因此需要對(duì)智能科技提早加以管控，等到發(fā)生嚴(yán)重后果則為時(shí)已晚。
而扎克伯格對(duì)人工智能持樂(lè)觀態(tài)度。他說(shuō)：“對(duì)于那些認(rèn)為人工智能會(huì)導(dǎo)致末日的‘悲觀主義者’，我并不能理解他們，他們太過(guò)于消極。從某種角度看，我認(rèn)為他們很不負(fù)責(zé)任。”
在一場(chǎng) Facebook 現(xiàn)場(chǎng)視頻問(wèn)答中，扎克伯格被人問(wèn)到他對(duì)馬斯克呼吁世人積極監(jiān)管人工智能的看法——馬斯克在這方面一直很高調(diào)，表示要在機(jī)器人變得比人更聰明、變危險(xiǎn)前開(kāi)始積極監(jiān)管，要不然 AI 就會(huì)對(duì)人類存亡構(gòu)成威脅。
扎克伯格在視頻中說(shuō)：“我認(rèn)為那些不看好人工智能的人，哪些鼓吹末世論的人——我真的不明白。……這真的很消極，我認(rèn)為這在某種程度上是非常不負(fù)責(zé)任的。”扎克伯格表示，他對(duì)技術(shù)感到樂(lè)觀，人們不應(yīng)該呼吁放緩人工智能發(fā)展進(jìn)展。
隨后，馬斯克在 Twitter 上進(jìn)行了回應(yīng)——跟扎克伯格談過(guò)這件事后，馬斯克認(rèn)為扎克伯格在 AI 威脅人類方面的理解有限。
馬斯克是有名的人工智能威脅論支持者。但同時(shí)，他在 AI 方面的投入也不少。馬斯克與人聯(lián)合創(chuàng)辦了非盈利研究機(jī)構(gòu) OpenAI，特斯拉自動(dòng)駕駛使用大量的人工智能技術(shù)，而他最新成立的公司 Neuralink 更是在腦機(jī)接口方面有大膽嘗試。
除了馬斯克以外，比爾·蓋茨和史蒂芬·霍金也曾表示過(guò)自己對(duì)人工智能快速發(fā)展的擔(dān)心。在 2015 年的一次網(wǎng)絡(luò)問(wèn)答中，霍金就指出人工智能可能會(huì)成長(zhǎng)到非常強(qiáng)大的程度，甚至可能在完全無(wú)意的情況下毀滅人類。
今年 4 月在全球互聯(lián)網(wǎng)大會(huì)（GMIC）上，霍金通過(guò)視頻發(fā)表了題為《讓人工智能造福人類極其賴以生存的家園》的主題演講，他再次表示，人工智能的崛起可能是人類文明的終結(jié)。
