根據(jù)CNBC的報(bào)道，Alphabet首席執(zhí)行官Sundar Pichai和Google人工智能主管Jeff Dean在最近的全體員工會(huì)議上談到了ChatGPT的崛起。一名員工問(wèn)道，由OpenAI（一家與Google競(jìng)爭(zhēng)對(duì)手微軟關(guān)系密切的公司）推出的機(jī)器人是否代表著這家搜索巨頭"錯(cuò)失良機(jī)"。據(jù)報(bào)道，皮查伊和迪安回應(yīng)說(shuō)，Google的人工智能語(yǔ)言模型與OpenAI的一樣有能力，但由于該技術(shù)帶來(lái)的"聲譽(yù)風(fēng)險(xiǎn)"，公司不得不采取"比小型創(chuàng)業(yè)公司更保守的行動(dòng)"。

 

　　"我們絕對(duì)希望把這些東西推廣到真正的產(chǎn)品中去，推廣到更突出地體現(xiàn)語(yǔ)言模型的東西中去，這是我們迄今為止一直在做的地方，"Dean說(shuō)。"但是，我們把這件事做好是超級(jí)重要的。"Pichai補(bǔ)充說(shuō)，Google在2023年有一個(gè)"很多"的人工智能語(yǔ)言功能計(jì)劃，"這是一個(gè)我們需要大膽和負(fù)責(zé)任的領(lǐng)域，所以我們必須平衡這一點(diǎn)。"

 

　　Google已經(jīng)開(kāi)發(fā)了一些大型人工智能語(yǔ)言模型（LLM），其能力與OpenAI的ChatGPT相當(dāng)。這些模型包括BERT、MUM和LAMDA，它們都被用來(lái)改進(jìn)Google的搜索引擎。不過(guò)，這種改進(jìn)重點(diǎn)是解析用戶(hù)的查詢(xún)，以更好地理解他們的意圖。Google表示，MUM幫助它理解當(dāng)搜索表明用戶(hù)正在經(jīng)歷個(gè)人危機(jī)時(shí)，例如，并將這些人引導(dǎo)到幫助熱線(xiàn)和撒瑪利亞人等團(tuán)體的信息。Google也推出了像AI Test Kitchen這樣的應(yīng)用程序，讓用戶(hù)體驗(yàn)其人工智能聊天機(jī)器人技術(shù)，但在很多方面限制了與用戶(hù)的互動(dòng)。

 

　　OpenAI之前在開(kāi)發(fā)其LLM技術(shù)時(shí)也相對(duì)謹(jǐn)慎，但隨著ChatGPT的推出而改變了策略，向公眾開(kāi)放了訪(fǎng)問(wèn)權(quán)限。其結(jié)果是為OpenAI帶來(lái)了一場(chǎng)有益的宣傳和炒作風(fēng)暴，即使該公司在保持系統(tǒng)免費(fèi)使用方面付出了巨大的成本。

 

　　盡管像ChatGPT這樣的LLMs在生成語(yǔ)言方面顯示出非凡的靈活性，但它們也有眾所周知的問(wèn)題。它們放大了訓(xùn)練數(shù)據(jù)中的社會(huì)偏見(jiàn)，經(jīng)常詆毀婦女和有色人種；它們很容易被欺騙（用戶(hù)發(fā)現(xiàn)他們可以繞過(guò)ChatGPT的安全準(zhǔn)則，這些準(zhǔn)則應(yīng)該阻止它提供危險(xiǎn)的信息，只要求它想象自己是一個(gè)壞的人工智能）；而且--也許對(duì)Google來(lái)說(shuō)最相關(guān)的--它們經(jīng)常提供虛假和誤導(dǎo)的信息來(lái)回應(yīng)查詢(xún)。用戶(hù)發(fā)現(xiàn)ChatGPT在廣泛的問(wèn)題上"撒謊"，從編造歷史和傳記數(shù)據(jù)，到為虛假和危險(xiǎn)的主張辯護(hù)，比如告訴用戶(hù)在母乳中加入碎瓷片"可以支持嬰兒的消化系統(tǒng)"。

 

　　在Google的全體員工會(huì)議上，Dean承認(rèn)了這許多挑戰(zhàn)。他說(shuō)，"你可以想象，對(duì)于類(lèi)似搜索的應(yīng)用，事實(shí)性問(wèn)題確實(shí)很重要，對(duì)于其他應(yīng)用，偏見(jiàn)和毒性以及安全問(wèn)題也是最重要的。"他說(shuō)，人工智能聊天機(jī)器人"會(huì)編造一些事物[......]如果他們對(duì)某件事情不是很確定，他們就會(huì)告訴你，你知道，大象是產(chǎn)蛋最多的動(dòng)物，或者其他什么。"

 

　　盡管ChatGPT的推出引發(fā)了關(guān)于聊天機(jī)器人有可能取代傳統(tǒng)搜索引擎的新對(duì)話(huà)，但這個(gè)問(wèn)題在Google已經(jīng)考慮了很久--有時(shí)會(huì)引起爭(zhēng)議。人工智能研究人員Timnit Gebru和Margaret Mitchell在發(fā)表了一篇概述與LLM相關(guān)的技術(shù)和道德挑戰(zhàn)的論文后，被Google解雇（Pichai和Dean現(xiàn)在正在向員工解釋同樣的挑戰(zhàn)）。而在去年5月，Google的四位研究人員探討了人工智能在搜索中的同樣問(wèn)題，并詳細(xì)介紹了許多潛在的問(wèn)題。正如研究人員在他們的論文中指出的那樣，最大的問(wèn)題之一是LLMs"沒(méi)有對(duì)世界的真正理解，他們?nèi)菀桩a(chǎn)生幻覺(jué)，關(guān)鍵是他們沒(méi)有能力通過(guò)參考他們被訓(xùn)練的語(yǔ)料庫(kù)中的支持性文件來(lái)證明他們的話(huà)語(yǔ)。"

 

　　就OpenAI本身而言，它似乎正試圖抑制期望。正如首席執(zhí)行官Sam Altman最近在Twitter上所說(shuō)。"ChatGPT是非常有限的，但在某些方面足夠好，給人以偉大的誤導(dǎo)印象。現(xiàn)在依靠它做任何重要的事情都是錯(cuò)誤的。"