現(xiàn)在，AI杜撰歷史、編造法律條文、偽造參考文獻(xiàn)的現(xiàn)象已經(jīng)屢見(jiàn)不鮮。上個(gè)月，全國(guó)首例AI幻覺(jué)侵權(quán)糾紛案正式宣判，標(biāo)志著AI幻覺(jué)已從技術(shù)問(wèn)題，升級(jí)為法律和社會(huì)問(wèn)題。當(dāng)我們的生活和工作越來(lái)越依賴大模型時(shí)，AI幻覺(jué)帶來(lái)的風(fēng)險(xiǎn)，也正影響越來(lái)越多的人。（見(jiàn)5月22日央視新聞）

“知之為知之，不知為不知”，求真求實(shí)是信息傳播的底線，也是技術(shù)發(fā)展的初心。然而，AI幻覺(jué)正頻繁挑戰(zhàn)這一底線，一本正經(jīng)地輸出虛假信息。這早已不是無(wú)傷大雅的技術(shù)“小漏洞”，而是可能升級(jí)為影響公共認(rèn)知、引發(fā)法律糾紛的潛在風(fēng)險(xiǎn)。正視AI幻覺(jué)，尋找破解之道，既是數(shù)字時(shí)代繞不過(guò)去的問(wèn)題，更是守護(hù)公眾知情權(quán)、維護(hù)信息生態(tài)的必由之路。

AI幻覺(jué)的根源，在于底層技術(shù)中的邏輯缺陷。人類(lèi)基于感知與認(rèn)知形成對(duì)世界的理解，而AI的“表達(dá)”本質(zhì)上是從海量文本里學(xué)習(xí)詞語(yǔ)、句子之間的統(tǒng)計(jì)關(guān)聯(lián)，再根據(jù)上下文預(yù)測(cè)下一個(gè)最有可能出現(xiàn)的詞。而當(dāng)面對(duì)冷門(mén)知識(shí)、專(zhuān)業(yè)細(xì)節(jié)或模糊問(wèn)題時(shí)，由于訓(xùn)練數(shù)據(jù)不足，難以算出可靠的概率，有的大模型便會(huì)為了“流暢輸出”而編造內(nèi)容。這種機(jī)制性缺陷讓AI的“胡說(shuō)八道”很難避免。而一旦虛假信息擴(kuò)散，輕則誤導(dǎo)判斷，重則引發(fā)糾紛，浪費(fèi)社會(huì)資源，消耗社會(huì)信任。

AI發(fā)展日新月異，我們不必因缺陷否定技術(shù)的力量，也不能放任亂象、忽視風(fēng)險(xiǎn)。破解AI幻覺(jué)，既需要不斷升級(jí)技術(shù)，也需要進(jìn)一步明確規(guī)則。技術(shù)層面，檢索增強(qiáng)生成、多智能體交叉驗(yàn)證等前沿探索，正努力讓AI從“閉卷編造”轉(zhuǎn)向“開(kāi)卷求證”，讓輸出的答案有據(jù)可依、有源可溯。規(guī)則層面，有關(guān)方面應(yīng)劃清權(quán)責(zé)邊界，并要求AI平臺(tái)在應(yīng)用界面、用戶協(xié)議等多個(gè)層面履行提示說(shuō)明義務(wù)。

在當(dāng)前的技術(shù)條件下，大模型仍是輔助性的查詢工具，并非值得托付的“知識(shí)權(quán)威”。面對(duì)AI高度流暢、自然的應(yīng)答時(shí)，用戶應(yīng)保持必要的警覺(jué)，同時(shí)做到“巧問(wèn)善查”，限定問(wèn)題范圍，明確信息檢索渠道，對(duì)關(guān)鍵信息多方核對(duì)，不給AI“胡說(shuō)八道”留空間。唯有不輕信盲從、不當(dāng)“傳聲筒”，才能避開(kāi)幻覺(jué)陷阱，守住自身判斷的底線。