MIT新研究 生成式AI并非推理高手更像是記憶大師

如今生成式 AI 的迅猛發(fā)展和廣泛應(yīng)用引發(fā)了諸多擔(dān)憂，從隱私安全到潛在的失業(yè)危機(jī)。

雖然 AI 聊天機(jī)器人如 ChatGPT 和微軟 Copilot 在短短時(shí)間內(nèi)取得了驚人進(jìn)步，能夠?qū)懘a、糾錯(cuò)甚至挑戰(zhàn)人類(lèi)創(chuàng)意，但它們真的像表面看起來(lái)那么聰明嗎？

麻省理工學(xué)院計(jì)算機(jī)科學(xué)與人工智能實(shí)驗(yàn)室（CSAIL）的一項(xiàng)最新研究指出，這些強(qiáng)大的大型語(yǔ)言模型（LLM）似乎更依賴記憶而不是真正的推理能力。它們?cè)谑煜さ娜蝿?wù)上表現(xiàn)出色，但在面對(duì)新問(wèn)題時(shí)卻顯得力不從心。

研究人員通過(guò)對(duì)比 AI 在不同任務(wù)上的表現(xiàn)得出這一結(jié)論。例如，GPT-4 在十進(jìn)制算術(shù)方面表現(xiàn)優(yōu)異，但在其他進(jìn)制下卻難以應(yīng)對(duì)，類(lèi)似的現(xiàn)象也出現(xiàn)在棋類(lèi)游戲和空間推理等領(lǐng)域。

研究人員認(rèn)為，AI 更像是記憶力超群的“鸚鵡”，而非具備真正推理能力的“智者”。

研究結(jié)果表明，AI 在訓(xùn)練有素的領(lǐng)域內(nèi)可以達(dá)到甚至超越人類(lèi)水平，但這更多的是一種“記憶力”的體現(xiàn)。一旦面對(duì)全新的挑戰(zhàn)，需要真正的推理能力時(shí)，AI 的優(yōu)勢(shì)便不再明顯。

這一發(fā)現(xiàn)對(duì) AI 的未來(lái)發(fā)展提出了新的挑戰(zhàn)。雖然 AI 在某些領(lǐng)域已經(jīng)展現(xiàn)出超越人類(lèi)的能力，例如自動(dòng)化大量重復(fù)性工作，但在創(chuàng)意、解決復(fù)雜問(wèn)題等方面仍有巨大的提升空間。

例如，一些媒體機(jī)構(gòu)嘗試用 AI 取代記者，結(jié)果卻發(fā)現(xiàn) AI 生成的新聞錯(cuò)誤百出，反而增加了編輯的工作量。

游戲行業(yè)也面臨類(lèi)似的問(wèn)題，AI 工具雖然能輔助開(kāi)發(fā)過(guò)程，但核心創(chuàng)意和游戲體驗(yàn)的打造仍然離不開(kāi)人類(lèi)的智慧和創(chuàng)造力。