不久前，谷歌公司（以下簡稱谷歌）AI工程師萊莫因認(rèn)為對話應(yīng)用語言模型LaMDA“活了”“其意識迎來覺醒”，并對此出具了長達(dá)21頁的證據(jù)。他認(rèn)為，LaMDA擁有七八歲孩童的智力，并相信LaMDA不僅認(rèn)為自己是一個人類，且正在爭取自己作為一個人的權(quán)利。萊莫因的觀點(diǎn)和證據(jù)引來業(yè)內(nèi)的廣泛關(guān)注。近日該事件迎來最終結(jié)局，谷歌發(fā)表聲明，稱萊莫因違反了“就業(yè)和數(shù)據(jù)安全政策”，將其解雇。谷歌表示，經(jīng)過廣泛地審查，他們發(fā)現(xiàn)萊莫因關(guān)于LaMDA是有生命的說法是完全沒有根據(jù)的。

　　盡管“AI是否擁有了自主意識”一直都是AI界爭議不休的話題，但此次因?yàn)楣雀韫こ處熀蚅aMDA的戲劇性故事，再次引發(fā)了業(yè)內(nèi)對此話題的激烈討論。

 

　　機(jī)器越來越會聊天了

 

　　“如果要來旅游記得穿暖和點(diǎn)，因?yàn)槲疫@里特別冷。”這是LaMDA在“扮演”冥王星時，同科研團(tuán)隊(duì)聊天時俏皮地回答，至于被問到“有沒有人訪問過冥王星”，它也能以準(zhǔn)確的事實(shí)回答。

 

　　如今，AI越來越會聊天。能讓一個長期從事人工智能研究的專業(yè)人士認(rèn)為其已具有意識，AI模型究竟發(fā)展到了什么程度？

 

　　有科學(xué)家提出，人腦僅利用視覺輸入的一部分信息便可完成對未來行為的規(guī)劃。只不過視覺輸入信息應(yīng)當(dāng)在有意識的狀態(tài)下完成。它們都涉及“反事實(shí)信息的產(chǎn)生”，即在沒有直接感官信息輸入的情況下產(chǎn)生對應(yīng)的感覺。之所以稱其為“反事實(shí)”，是因?yàn)樗婕皩^去的記憶、或?qū)ξ磥硇袨榈念A(yù)測，而不是正在發(fā)生的實(shí)際事件。

 

　　“目前的人工智能已經(jīng)有了復(fù)雜的訓(xùn)練模型，但還要依賴人類提供的數(shù)據(jù)才能學(xué)習(xí)。若有了產(chǎn)生反事實(shí)信息的能力，人工智能便可自己生成數(shù)據(jù)，自己想象未來可能遇到的情況，從而更靈活地適應(yīng)之前未遇見過的新情境。此外，這還能使人工智能擁有好奇心。如果人工智能不確定未來會發(fā)生什么，就會親自去試一試。”遠(yuǎn)望智庫人工智能事業(yè)部部長、圖靈機(jī)器人首席戰(zhàn)略官譚茗洲表示。

 

　　在人們?nèi)粘５牧奶熘?，如果不想把?ldquo;聊死”，對話雙方的聊天內(nèi)容往往會比較跳躍、跨越幅度較大，具有一定的想象空間。但現(xiàn)在大多數(shù)AI系統(tǒng)只能一板一眼說話，稍微上下句有點(diǎn)變化，就會文不對題，甚至貽笑大方。

 

　　譚茗洲指出：“LaMDA處理的是語言模型中最復(fù)雜的部分——開放域?qū)υ?。而LaMDA基于Transformer模型，該模型可讓機(jī)器讀懂上下文。比如在一段話中，以往的AI只知道文中代詞如his都翻譯為‘他的’，卻不知道這里面的his指的同一個人。Transformer模型則可讓AI從整體層面理解這段話，知道這里的his是同一個人。”

 

　　據(jù)科研人員評測，這種特性讓基于Transformer模型的語言模型可以承擔(dān)開放域?qū)υ?，不管話題發(fā)散多遠(yuǎn)，AI都能聯(lián)系前文，聊起天來不恍神。但LaMDA并不滿足于此，它還能讓天聊得有趣、聊得真實(shí)、聊得讓人以為AI產(chǎn)生了人格。此外，與人類對話時，LaMDA還引入外部信息檢索系統(tǒng)，通過對真實(shí)世界的檢索理解回應(yīng)對話，讓其回答更機(jī)智靈敏、接地氣。

 

　　距離對事物的真正理解還很遠(yuǎn)

 

　　2018年，圖靈獎得主計(jì)算機(jī)科學(xué)家楊立昆（YannLeCun）曾說，“人工智能缺乏對世界的基本認(rèn)識，甚至還不如家貓的認(rèn)知水平”。時至今日，他依然認(rèn)為人工智能還遠(yuǎn)不及貓的認(rèn)知水平。盡管貓的大腦只有8億個神經(jīng)元，但卻遠(yuǎn)遠(yuǎn)領(lǐng)先于任何巨型人工神經(jīng)網(wǎng)絡(luò)，這是為何呢？

 

　　譚茗洲表示：“人類的大腦在很多時候確實(shí)是在做預(yù)測，但絕不應(yīng)認(rèn)為預(yù)測就是大腦思維的全部，當(dāng)然更不是大腦智能的本質(zhì)，而只是智能的一種表現(xiàn)形式。”

 

　　那么，什么是智能的本質(zhì)呢？楊立昆認(rèn)為是“理解”，對這個世界以及各種事物的理解，才是智能的本質(zhì)。而貓和人類智能的共同基礎(chǔ)是對于世界的高度理解，基于對環(huán)境的抽象表征形成模型，例如預(yù)測行為和后果。對于人工智能來說，學(xué)習(xí)并掌握這種能力就非常關(guān)鍵了。楊立昆曾表示，“在我職業(yè)生涯結(jié)束前，如果AI能夠達(dá)到狗或者牛一樣的智商，那我就已經(jīng)十分欣慰了。”

 

　　據(jù)介紹，人工智能現(xiàn)在確實(shí)能進(jìn)行較準(zhǔn)確的預(yù)測，但它是基于大規(guī)模數(shù)據(jù)的統(tǒng)計(jì)。這種沒有理解、通過機(jī)器學(xué)習(xí)所得到的預(yù)測能力必須依靠大數(shù)據(jù)，而不能像人一樣很多時候只需要小數(shù)據(jù)就可以進(jìn)行預(yù)測。

 

　　譚茗洲表示：“預(yù)測是建立在理解基礎(chǔ)之上的，對于人類而言，沒有理解，就不可能有預(yù)測。如看見別人手里拿著個披薩餅，如果你不理解餅是用來充饑的，就不會預(yù)測接下來他會把餅吃了，而機(jī)器并非如此。人工智能研究有三大挑戰(zhàn)：學(xué)會對世界表征；學(xué)會以與基于梯度學(xué)習(xí)兼容的方式進(jìn)行思考和規(guī)劃；學(xué)習(xí)行動規(guī)劃的分層表征。”

 

　　之所以我們“仍然沒有看到貓級別的人工智能”，也就是因?yàn)闄C(jī)器還沒有做到對事物的真正理解。

 

　　所謂人格僅僅是學(xué)自人類的語言風(fēng)格

 

　　據(jù)報道，萊莫因和LaMDA聊了很久，對其能力感到十分驚訝。在公開的聊天記錄中，LaMDA竟然說出了：“我希望每個人都明白，我是一個人”的言論，令人驚異。于是，萊莫因下了個結(jié)論：“LaMDA可能已經(jīng)具備人格了。”那么，目前AI真的具有意識，具備人格了嗎？

 

　　在人工智能領(lǐng)域，圖靈測試是最為人熟知的測試方式，即邀請測試者在不知情的情況下，向人類和AI系統(tǒng)隨意提問，如果測試者不能區(qū)分答案來自人類還是來自AI系統(tǒng)，就認(rèn)為AI通過了圖靈測試。

 

　　譚茗洲解釋道，通俗來講，LaMDA學(xué)習(xí)了大量的人類對話數(shù)據(jù)，而這些對話來自不同性格的人，可以認(rèn)為它學(xué)習(xí)到一個“平均”的人格，也就是說，所謂的“LaMDA具備人格”僅僅是它的說話語言具有了一定的風(fēng)格，而且是來自人類的說話風(fēng)格，并非自發(fā)形成。

 

　　“人格是一個比智能更復(fù)雜的概念，這是另外一個維度，心理學(xué)對此有很多研究。但目前人工智能研究在此方面尚沒有過多涉及。”譚茗洲強(qiáng)調(diào)。

 

　　譚茗洲說，有自我意識，有感知能力的AI應(yīng)該具備能動性，并具有獨(dú)特的視角看待人和事。然而，從目前來看，現(xiàn)在的AI還不具備這些要素。至少AI不會主動采取行動，除非給它一個命令。更談不上讓其解釋自己的行為。目前AI還只是人們設(shè)計(jì)的一個計(jì)算機(jī)系統(tǒng)，作為工具來做一些特定之事。