最近，由人工智能聊天機(jī)器人驅(qū)動(dòng)的搜索引擎層出不窮，微軟用上了ChatGPT，谷歌拿出了Bard。這些產(chǎn)品背后的核心想法是，這些人工智能聊天機(jī)器人將基于我們的問(wèn)題生成閑聊一樣的答案，以顛覆目前搜索引擎的使用體驗(yàn)。在理想狀態(tài)下，我們將看到更完整的回答，而不是一條條網(wǎng)址組成的鏈接列表。但到目前為止，事情并沒有按計(jì)劃發(fā)展下去。
（來(lái)源：STEPHANIE ARNETT/MITTR|ENVATO）
微軟讓許多用戶體驗(yàn)它最新的、基于ChatGPT的必應(yīng)搜索引擎，很快人們就開始發(fā)現(xiàn)它的回答包含了一些錯(cuò)誤或荒謬的內(nèi)容，比如捕風(fēng)捉影的陰謀論。谷歌經(jīng)歷了一個(gè)尷尬的時(shí)刻，科學(xué)家們發(fā)現(xiàn)該公司在產(chǎn)品發(fā)布會(huì)上展示了一個(gè)事實(shí)性錯(cuò)誤，這使其股價(jià)蒸發(fā)了1000億美元。
面對(duì)這些情況，了解人工智能語(yǔ)言模型的人本不應(yīng)該感到驚訝。
（來(lái)源：STEPHANIE ARNETT/MITTR|ENVATO）
最大的問(wèn)題是：這項(xiàng)技術(shù)還沒有準(zhǔn)備好如此大規(guī)模地使用。人工智能語(yǔ)言模型“胡說(shuō)八道”的情況大家是有目共睹的。它經(jīng)常用言之鑿鑿的語(yǔ)氣說(shuō)出一段謊言，它很擅長(zhǎng)預(yù)測(cè)句子中的下一個(gè)單詞，但它并不理解這個(gè)句子的實(shí)際涵義。這意味著，將它們與搜索引擎結(jié)合起來(lái)，是非常危險(xiǎn)的一件事，因?yàn)樵谒阉鹘Y(jié)果里展示事實(shí)是非常重要的。
OpenAI是熱門人工智能聊天機(jī)器人ChatGPT的創(chuàng)造者，該公司一直強(qiáng)調(diào)它仍然只是一個(gè)研究項(xiàng)目，隨著人們的反饋它正在不斷改進(jìn)。但這并沒有阻止微軟將其整合到新版必應(yīng)搜索，盡管有人警告說(shuō)，搜索結(jié)果可能不可靠。
谷歌多年來(lái)一直在使用自然語(yǔ)言處理方法，來(lái)幫助人們使用整個(gè)句子而不是關(guān)鍵詞來(lái)搜索互聯(lián)網(wǎng)上的內(nèi)容。然而，華盛頓大學(xué)研究在線搜索的教授希拉格·沙阿（Chirag Shah）表示，該公司其實(shí)一直不愿將自己的人工智能聊天機(jī)器人技術(shù)整合到其核心產(chǎn)品搜索引擎中。谷歌的領(lǐng)導(dǎo)層之前一直擔(dān)心，匆忙推出類似ChatGPT的工具會(huì)招來(lái)不必要的“聲譽(yù)風(fēng)險(xiǎn)”。
大型科技公司最近犯的錯(cuò)誤并不意味著人工智能搜索已經(jīng)失敗。谷歌和微軟正在嘗試許多方法讓其人工智能生成的搜索摘要更準(zhǔn)確，其中一種是提供消息來(lái)源的鏈接。
人工智能初創(chuàng)公司Hugging Face的研究員和倫理學(xué)家瑪格麗特·米切爾（Margaret Mitchell）曾共同領(lǐng)導(dǎo)過(guò)谷歌的人工智能倫理團(tuán)隊(duì)，她表示，提供消息來(lái)源可以讓用戶更好地了解搜索引擎是從哪里獲取的信息。
她說(shuō)，這甚至可能幫助人們從更多視角了解一個(gè)事件，促使他們尋找更多的信源。
但這并不能解決這些人工智能模型虛構(gòu)信息并自信地將謊言作為事實(shí)呈現(xiàn)的根本問(wèn)題。當(dāng)人工智能生成的文本看起來(lái)很權(quán)威并添加了引用來(lái)源時(shí)，這反倒可能會(huì)讓用戶更不太可能核查他們所看到的信息。
“很多人不會(huì)查看引用信源，而添加信源會(huì)給人一種正確的感覺，”米切爾說(shuō)。
但沙阿說(shuō)，搜索結(jié)果的準(zhǔn)確性并不是大型科技公司的真正重點(diǎn)。盡管谷歌發(fā)明的技術(shù)助長(zhǎng)了當(dāng)前人工智能的炒作，但人們的贊譽(yù)和注意力卻牢牢地集中在熱門的初創(chuàng)公司OpenAI及其投資者微軟身上。“這對(duì)谷歌來(lái)說(shuō)絕對(duì)是令人尷尬的。他們現(xiàn)在處于防御位置。他們已經(jīng)很久沒有處于這種狀態(tài)了，”沙阿說(shuō)。
與此同時(shí)，微軟賭人們對(duì)必應(yīng)的期望很低，以至于出現(xiàn)一些錯(cuò)誤并不重要。微軟在在線搜索領(lǐng)域的市場(chǎng)份額還不到10%。沙阿說(shuō)，僅贏得幾個(gè)百分點(diǎn)，對(duì)他們來(lái)說(shuō)就稱得上是一場(chǎng)巨大的勝利。
沙阿補(bǔ)充說(shuō)，除了人工智能搜索之外，還有一盤更大的棋局。搜索領(lǐng)域只是這兩家科技巨頭相互競(jìng)爭(zhēng)的領(lǐng)域之一。他們還在云計(jì)算服務(wù)、生產(chǎn)力軟件和企業(yè)軟件方面展開競(jìng)爭(zhēng)。對(duì)話人工智能成為一種展示尖端技術(shù)的方式，然后將它轉(zhuǎn)化到其他產(chǎn)品和業(yè)務(wù)中。
沙阿認(rèn)為，這些公司會(huì)把早期的小問(wèn)題當(dāng)作學(xué)習(xí)的機(jī)會(huì)，“他們沒有謹(jǐn)慎行事，而是以一種非常大膽的方式行事。就讓人工智能系統(tǒng)犯錯(cuò)吧，因?yàn)楝F(xiàn)在大家都看到它了。”
他還補(bǔ)充說(shuō)，“從本質(zhì)上說(shuō)，我們這些用戶現(xiàn)在正在幫科技公司免費(fèi)測(cè)試這項(xiàng)技術(shù)。在這一點(diǎn)上我們都是小白鼠。”
支持：Ren
原文：
https://www.technologyreview.com/2023/02/14/1068498/why-you-shouldnt-trust-ai-search-engines/
