AI制圖

近日，知乎“直答”AI搜索功能升級(jí)引發(fā)關(guān)注。不少人期望，這一國(guó)內(nèi)首個(gè)支持答案全鏈路溯源的AI問(wèn)答產(chǎn)品，真的能治治AI時(shí)不時(shí)“一本正經(jīng)地胡說(shuō)八道”的毛病。

AI幻覺(jué)，是指AI在交互時(shí)生成與事實(shí)不符、缺乏依據(jù)的內(nèi)容。比如，當(dāng)你給美食AI助手上傳一張番茄炒蛋照片，得到的卻是“這是一道典型的意大利菜——馬蘇里拉奶酪配番茄沙拉，建議搭配紅酒享用”的反饋。這種源于模型訓(xùn)練數(shù)據(jù)局限和算法缺陷下的必然，已經(jīng)嚴(yán)重影響了AI輸出信息的可靠性。

無(wú)止境的“拼圖游戲”

AI為什么會(huì)產(chǎn)生“幻覺(jué)”呢？

其實(shí)，這個(gè)過(guò)程就像孩童在昏暗的房間里拼湊萬(wàn)花筒一樣。當(dāng)開(kāi)發(fā)者將海量的數(shù)據(jù)輸入到AI系統(tǒng)中時(shí)，這些數(shù)據(jù)就像散落的彩色玻璃碎片一樣，雜亂無(wú)章。而AI通過(guò)深度學(xué)習(xí)構(gòu)建認(rèn)知框架的過(guò)程，本質(zhì)上就是在進(jìn)行一場(chǎng)無(wú)止境的“拼圖游戲”。

在自然語(yǔ)言處理領(lǐng)域，像GPT這樣的系列模型，平均每個(gè)詞語(yǔ)的生成都要經(jīng)歷數(shù)百億次的概率計(jì)算。這種基于概率的創(chuàng)作機(jī)制，雖然讓AI能夠生成流暢自然的文本，但也時(shí)常讓它在知識(shí)的邊界模糊地帶“自由發(fā)揮”。就像人類在不自覺(jué)中會(huì)填補(bǔ)視覺(jué)盲區(qū)一樣，AI也會(huì)用統(tǒng)計(jì)學(xué)上認(rèn)為“合理”的內(nèi)容來(lái)填補(bǔ)數(shù)據(jù)的空白。

值得玩味的是，人類與AI的互動(dòng)本身也在塑造這種“幻覺(jué)”。當(dāng)用戶反復(fù)追問(wèn)不存在的事物時(shí)，AI就像被觀眾要求不斷加戲的即興演員一樣，最終呈現(xiàn)的“作品”已然超出了原始劇本的范圍。這種現(xiàn)象在心理學(xué)上被稱為“確認(rèn)偏誤的算法鏡像”，人類的執(zhí)著提問(wèn)與AI的“討好性”回應(yīng)形成了閉環(huán)，共同編織出了虛實(shí)交錯(cuò)的敘事。

應(yīng)用中的“蝴蝶效應(yīng)”

AI產(chǎn)生“幻覺(jué)”不可避免，在現(xiàn)實(shí)應(yīng)用中也可能帶來(lái)一系列的問(wèn)題。

有醫(yī)院就曾接診過(guò)一起特殊病例，AI輔助診斷系統(tǒng)將這一普通的皮膚過(guò)敏識(shí)別為“未知惡性病變”，只因?yàn)橛?xùn)練數(shù)據(jù)中相似的圖像多與重癥病例關(guān)聯(lián)。這個(gè)事件暴露出“AI幻覺(jué)”可能帶來(lái)的“蝴蝶效應(yīng)”——在醫(yī)療、司法、金融等領(lǐng)域，一個(gè)算法的偏差就可能引發(fā)連鎖反應(yīng)，造成嚴(yán)重的后果。

教育領(lǐng)域也同樣面臨著挑戰(zhàn)。有高校教師發(fā)現(xiàn)，學(xué)生用AI生成的論文中頻繁出現(xiàn)“19世紀(jì)量子力學(xué)奠基人”等時(shí)空錯(cuò)亂的概念。這些“學(xué)術(shù)幻覺(jué)”不僅折射出了知識(shí)傳播的失真風(fēng)險(xiǎn)，更揭示了新一代學(xué)生面臨的認(rèn)知危機(jī)：當(dāng)AI成為知識(shí)中介時(shí)，我們?cè)撊绾问刈o(hù)真相的邊界？

保持“數(shù)字懷疑”意識(shí)

我們?cè)撊绾螌?duì)抗AI的“幻覺(jué)”呢？

第一道防線其實(shí)就藏在古老的人類智慧中。硅谷某科技公司就頗具啟示性地開(kāi)展了“紅隊(duì)演習(xí)”：他們專門雇傭古典文學(xué)學(xué)者來(lái)挑戰(zhàn)AI系統(tǒng)，用荷馬史詩(shī)中的隱喻陷阱來(lái)檢驗(yàn)機(jī)器的邏輯連貫性。這種人文與科技的碰撞，意外地成為校準(zhǔn)AI認(rèn)知的重要方式。

對(duì)于普羅大眾而言，我們更需要建立起“數(shù)字懷疑”的意識(shí)。一位母親發(fā)現(xiàn)育兒AI建議“給嬰兒飲用稀釋蜂蜜水”時(shí)，她沒(méi)有盲從，而是查閱了權(quán)威資料，避免了可能引發(fā)肉毒桿菌中毒的風(fēng)險(xiǎn)。這種保持清醒的交互態(tài)度，正是人機(jī)協(xié)作時(shí)代的生存法則。

站在文明演進(jìn)的長(zhǎng)河中回望，從原始壁畫的夸張變形到AI的算法幻想，人類始終在與“非真實(shí)”共舞。當(dāng)大模型偶爾在對(duì)話中插入莎士比亞風(fēng)格的十四行詩(shī)時(shí)，當(dāng)文生圖工具繪出三只眼睛的蒙娜麗莎時(shí)，這些數(shù)字世界的“莊周夢(mèng)蝶”，既是技術(shù)局限性的注腳，也暗藏著突破認(rèn)知邊界的可能。在亦真亦幻的辯證中，人類與AI共同譜寫的，或許正是這個(gè)時(shí)代最動(dòng)人的“科幻現(xiàn)實(shí)主義”篇章。

（作者系中國(guó)計(jì)算機(jī)學(xué)會(huì)科學(xué)普及工作委員會(huì)委員）