生成式 AI 的迅猛發(fā)展和廣泛應(yīng)用引發(fā)了諸多擔(dān)憂，從隱私安全到潛在的失業(yè)危機。雖然 AI 聊天機器人如 ChatGPT 和微軟 Copilot 在短短時間內(nèi)取得了驚人進步，能夠?qū)懘a、糾錯甚至挑戰(zhàn)人類創(chuàng)意，但它們真的像表面看起來那么聰明嗎？
麻省理工學(xué)院計算機科學(xué)與人工智能實驗室（CSAIL）的一項最新研究指出，這些強大的大型語言模型（LLM）似乎更依賴記憶而不是真正的推理能力。它們在熟悉的任務(wù)上表現(xiàn)出色，但在面對新問題時卻顯得力不從心。
IT之家注意到，研究人員通過對比 AI 在不同任務(wù)上的表現(xiàn)得出這一結(jié)論。例如，GPT-4 在十進制算術(shù)方面表現(xiàn)優(yōu)異，但在其他進制下卻難以應(yīng)對，類似的現(xiàn)象也出現(xiàn)在棋類游戲和空間推理等領(lǐng)域。研究人員認為，AI 更像是記憶力超群的“鸚鵡”，而非具備真正推理能力的“智者”。
研究結(jié)果表明，AI 在訓(xùn)練有素的領(lǐng)域內(nèi)可以達到甚至超越人類水平，但這更多的是一種“記憶力”的體現(xiàn)。一旦面對全新的挑戰(zhàn)，需要真正的推理能力時，AI 的優(yōu)勢便不再明顯。
這一發(fā)現(xiàn)對 AI 的未來發(fā)展提出了新的挑戰(zhàn)。雖然 AI 在某些領(lǐng)域已經(jīng)展現(xiàn)出超越人類的能力，例如自動化大量重復(fù)性工作，但在創(chuàng)意、解決復(fù)雜問題等方面仍有巨大的提升空間。例如，一些媒體機構(gòu)嘗試用 AI 取代記者，結(jié)果卻發(fā)現(xiàn) AI 生成的新聞錯誤百出，反而增加了編輯的工作量。
游戲行業(yè)也面臨類似的問題，AI 工具雖然能輔助開發(fā)過程，但核心創(chuàng)意和游戲體驗的打造仍然離不開人類的智慧和創(chuàng)造力。
