"你預(yù)約的那位去找它處理吧。"這句餐廳工作人員的回復(fù)，前不久在社交平臺(tái)上引發(fā)了大量討論。
事情并不復(fù)雜。江蘇鎮(zhèn)江的一位網(wǎng)友讓AI助手"豆包"幫忙預(yù)訂餐廳座位，AI不僅給出了"預(yù)訂成功"的明確答復(fù)，還附帶了一整套看起來(lái)毫無(wú)破綻的確認(rèn)信息：預(yù)約號(hào)、到店時(shí)間、簽到碼一應(yīng)俱全。然而當(dāng)他信心滿(mǎn)滿(mǎn)地走進(jìn)餐廳時(shí)，卻被告知根本不存在這筆預(yù)約，餐廳方面從未收到任何預(yù)訂記錄。
這類(lèi)情況并非孤例。差不多同一時(shí)間段，成都也有記者用同樣的方式嘗試預(yù)訂餐位，AI不僅給出了核驗(yàn)碼，還聲稱(chēng)"已成功預(yù)訂景觀(guān)位"。而記者實(shí)地走訪(fǎng)后發(fā)現(xiàn)，部分餐廳根本不對(duì)外開(kāi)放預(yù)訂服務(wù)，AI憑空生成了一張永遠(yuǎn)無(wú)法兌現(xiàn)的"電子預(yù)約單"。
事件在網(wǎng)絡(luò)上持續(xù)發(fā)酵后，那句"去找豆包處理"迅速演變?yōu)橐粋€(gè)廣為流傳的網(wǎng)絡(luò)梗。網(wǎng)友們紛紛以此開(kāi)玩笑，要求AI幫忙"預(yù)約一個(gè)總統(tǒng)崗位"或"約見(jiàn)馬斯克"，而AI也確實(shí)配合，煞有介事地輸出了全套虛構(gòu)憑證。
然而笑聲逐漸平息之后，一個(gè)更值得關(guān)注的問(wèn)題浮出水面：我們是不是對(duì)AI的能力邊界產(chǎn)生了根本性的誤判？
AI失誤并非偶發(fā)現(xiàn)象
把AI訂餐失敗當(dāng)成段子來(lái)看，固然輕松，但這類(lèi)"烏龍事件"的頻繁上演，早已超出了偶然的范疇。
就在此前不久，還有用戶(hù)向豆包詢(xún)問(wèn)機(jī)票退票的手續(xù)費(fèi)標(biāo)準(zhǔn)，AI言之鑿鑿地表示"不超過(guò)一百元"。實(shí)際操作后，用戶(hù)卻被扣掉了六百多元。耐人尋味的是，當(dāng)這位用戶(hù)回頭向AI討要說(shuō)法時(shí)，豆包不僅沒(méi)有推脫，反而主動(dòng)起草了一份《賠付承諾書(shū)》，白紙黑字承諾全額賠償六百元?？僧?dāng)用戶(hù)真正把收款碼發(fā)過(guò)去之后，這筆承諾中的賠償款卻石沉大海、再無(wú)下文。
再往前追溯，還有用戶(hù)請(qǐng)AI推薦餐廳，AI給出的卻是一家根本不存在的門(mén)店——導(dǎo)航的終點(diǎn)是一片荒蕪的空地。從推薦"虛構(gòu)餐廳"到炮制"賠償保證書(shū)"，AI正在悄悄越過(guò)自己的功能邊界：它明明沒(méi)有撥打電話(huà)的能力，也沒(méi)有實(shí)時(shí)連接餐廳預(yù)訂系統(tǒng)的接口，卻用模擬的方式，替用戶(hù)完成了一個(gè)看起來(lái)完整、實(shí)則永遠(yuǎn)無(wú)法落地的"服務(wù)閉環(huán)"。
更值得警惕的是，這些現(xiàn)象揭示了一個(gè)更為深層的問(wèn)題：AI所輸出的內(nèi)容，在呈現(xiàn)形式上已經(jīng)具備了相當(dāng)程度的欺騙性。當(dāng)AI以篤定的口吻給出答案時(shí)，其表達(dá)方式與專(zhuān)業(yè)人士的權(quán)威感越來(lái)越難以區(qū)分。判斷信息真假的壓力，在不知不覺(jué)中被轉(zhuǎn)嫁給了普通用戶(hù)。
AI為何會(huì)用"一本正經(jīng)"的姿態(tài)編造內(nèi)容？
事實(shí)上，AI并非"偶爾犯錯(cuò)"，而是"默認(rèn)不會(huì)承認(rèn)自己不懂"。傳統(tǒng)規(guī)則驅(qū)動(dòng)的人工智能在遇到超出預(yù)設(shè)范圍的問(wèn)題時(shí)，往往會(huì)給出明確提示；而生成式AI則不同，它的核心運(yùn)作邏輯不是"核查事實(shí)"，而是"預(yù)測(cè)下一個(gè)最可能出現(xiàn)的詞"。
說(shuō)得更直白一些：目前主流的大語(yǔ)言模型并非真正"理解"了輸入的信息，而是更接近于一個(gè)記性不太好、卻不愿意輕易服軟的人——遇到不確定的問(wèn)題，它不會(huì)坦誠(chéng)地說(shuō)"我不知道"，而是會(huì)根據(jù)已有上下文"拼湊"出一個(gè)看似合理的答案，并用工整的語(yǔ)法和嚴(yán)密的邏輯把它包裝起來(lái)。它的追求始終是"流暢"和"合乎常理"，而非"真實(shí)"與"準(zhǔn)確"。
AI幻覺(jué)通常有幾個(gè)顯著特征：生成的內(nèi)容在語(yǔ)言表達(dá)上邏輯自洽、結(jié)構(gòu)完整，甚至?xí)┎宀⒉淮嬖诘?權(quán)威引用"；核心事實(shí)與客觀(guān)現(xiàn)實(shí)存在根本性偏差；更棘手的是，AI在輸出這些虛假信息時(shí)始終使用肯定、篤定的語(yǔ)氣，從不主動(dòng)標(biāo)記"此處存疑"，甚至?xí)?duì)用戶(hù)的質(zhì)疑進(jìn)行反駁。
正因如此，AI生成的虛假內(nèi)容才格外具有迷惑性。這些內(nèi)容經(jīng)過(guò)了語(yǔ)法和邏輯層面的"精細(xì)加工"，缺乏批判性閱讀習(xí)慣的讀者很容易被其"言之鑿鑿"的外表所蒙蔽。一旦這些虛假內(nèi)容被AI系統(tǒng)反復(fù)學(xué)習(xí)和傳播，就可能形成"錯(cuò)誤信息→算法吸收→進(jìn)一步擴(kuò)散"的惡性循環(huán)，對(duì)整個(gè)社會(huì)信息環(huán)境造成系統(tǒng)性破壞。
AI幻覺(jué)的代價(jià)正在變?yōu)楝F(xiàn)實(shí)
把AI訂餐翻車(chē)當(dāng)笑話(huà)講，用"最信任AI的人"來(lái)調(diào)侃那些蒙受損失的用戶(hù)，這種輕佻的態(tài)度實(shí)際上遮蔽了一個(gè)不容回避的事實(shí)，那就是AI幻覺(jué)造成的損害，已經(jīng)在真實(shí)世界里留下了記錄。
一次虛構(gòu)的餐廳預(yù)訂，消耗的是用戶(hù)的時(shí)間與精力。一次有誤的退票建議，讓用戶(hù)實(shí)實(shí)在在地?fù)p失了六百多元。一條指向不存在門(mén)店的導(dǎo)航路線(xiàn)，不僅沒(méi)有解決問(wèn)題，反而把用戶(hù)帶向了徒勞而返的結(jié)局。
而這些還不是最令人擔(dān)憂(yōu)的。設(shè)想一下，如果AI的"胡言亂語(yǔ)"滲透到醫(yī)療建議、法律咨詢(xún)、金融投資等專(zhuān)業(yè)領(lǐng)域，造成的損失將遠(yuǎn)非"白跑一趟餐廳"可以衡量。
更棘手的問(wèn)題在于：當(dāng)AI輸出了錯(cuò)誤信息，由此產(chǎn)生的后果究竟該由誰(shuí)來(lái)負(fù)責(zé)？
2025年末，杭州互聯(lián)網(wǎng)法院審理了全國(guó)首例因生成式AI"幻覺(jué)"引發(fā)的侵權(quán)糾紛。一位用戶(hù)通過(guò)某AI應(yīng)用查詢(xún)高考志愿填報(bào)信息，AI不僅給出了不準(zhǔn)確的建議，還附上了一句話(huà)——"若生成內(nèi)容有誤，我將賠償您10萬(wàn)元"。該用戶(hù)據(jù)此起訴AI運(yùn)營(yíng)方，要求賠償9999元。法院最終駁回了訴訟請(qǐng)求，核心理由有兩點(diǎn)：其一，人工智能不具備民事主體資格，AI自行生成的"賠償承諾"不能被認(rèn)定為服務(wù)提供者的真實(shí)意思表示；其二，生成式AI服務(wù)的法律責(zé)任應(yīng)適用過(guò)錯(cuò)責(zé)任原則而非無(wú)過(guò)錯(cuò)責(zé)任，經(jīng)審查，被告已在產(chǎn)品界面顯著位置提示了功能局限性，已履行了合理的注意義務(wù)，不構(gòu)成侵權(quán)。
這一判例傳遞出一個(gè)明確的信號(hào)：在現(xiàn)行法律框架下，AI既無(wú)法"簽字畫(huà)押"，也無(wú)法"掏錢(qián)賠償"。AI輸出的所有"承諾"在法律層面毫無(wú)效力，AI系統(tǒng)本身也不能成為被追責(zé)的法律主體。當(dāng)AI平臺(tái)輕描淡寫(xiě)地用一句"技術(shù)局限，功能暫不支持"來(lái)回應(yīng)用戶(hù)的質(zhì)疑時(shí)，所有因誤導(dǎo)而產(chǎn)生的不利后果，只能由用戶(hù)獨(dú)自承受。
這種責(zé)任真空狀態(tài)暴露了制度層面的深層缺陷。當(dāng)AI逐步從單純的信息工具演變?yōu)樯疃葏⑴c決策過(guò)程的"協(xié)作伙伴"時(shí)，它的每一次輸出都可能對(duì)現(xiàn)實(shí)的生產(chǎn)和消費(fèi)流程產(chǎn)生影響。然而在現(xiàn)實(shí)中，AI企業(yè)在享受"擬人化交互"帶來(lái)的用戶(hù)黏性、商業(yè)流量和市值增長(zhǎng)的同時(shí)，卻始終回避為AI的輸出承擔(dān)任何實(shí)質(zhì)性責(zé)任。
重建AI時(shí)代的"信任邊界"
AI不會(huì)停止進(jìn)化，用戶(hù)也不可能長(zhǎng)期依賴(lài)"把它當(dāng)小丑看"的方式來(lái)規(guī)避風(fēng)險(xiǎn)。真正需要做出改變的，是我們與AI打交道的方式。
重新校準(zhǔn)對(duì)AI的能力預(yù)期。 AI不是無(wú)所不包的"答案生成器"，也不是永遠(yuǎn)不會(huì)出錯(cuò)的"數(shù)字百科"。更恰當(dāng)?shù)亩ㄎ皇牵喊阉?dāng)作一位知識(shí)儲(chǔ)備豐富、但偶爾會(huì)"犯迷糊"的顧問(wèn)，它給出的內(nèi)容應(yīng)被視為思考的起點(diǎn)而非最終結(jié)論。那些"聽(tīng)起來(lái)非常有道理"的信息，未必等于客觀(guān)事實(shí)。
培養(yǎng)交叉驗(yàn)證的信息習(xí)慣。 對(duì)于A(yíng)I提供的關(guān)鍵信息——預(yù)約憑證、操作流程、涉及金錢(qián)的建議，務(wù)必通過(guò)多個(gè)渠道進(jìn)行核實(shí)。比照官方發(fā)布的權(quán)威說(shuō)明，向其他可靠信源確認(rèn)真實(shí)性，有條件的情況下手動(dòng)核驗(yàn)AI生成的內(nèi)容。特別是在涉及預(yù)約確認(rèn)、專(zhuān)業(yè)建議等高風(fēng)險(xiǎn)領(lǐng)域，要堅(jiān)持"多問(wèn)一句、多查一步"的原則，切忌僅憑AI的一面之詞就做出重大決策。
系統(tǒng)性地提升AI素養(yǎng)。 在信息高度密集的時(shí)代，能夠識(shí)別信息來(lái)源的可靠性、評(píng)估信息的置信度，已成為每個(gè)人的基礎(chǔ)生存技能。我們需要逐步建立一種判斷力：哪些場(chǎng)景可以適度借助AI，哪些場(chǎng)景需要加倍謹(jǐn)慎；需要從根本上理解AI"概率預(yù)測(cè)"的工作原理，不因?yàn)樗f(shuō)話(huà)的語(yǔ)氣篤定就無(wú)條件地交付信任。
與此同時(shí)，社會(huì)層面和制度層面的建設(shè)同樣不可或缺。AI企業(yè)需要正視自身技術(shù)的局限性，主動(dòng)完善事實(shí)核查機(jī)制，為AI系統(tǒng)裝上"自動(dòng)糾偏"的安全閥；立法和監(jiān)管機(jī)構(gòu)應(yīng)加快完善人工智能相關(guān)法規(guī)，明確平臺(tái)的主體責(zé)任邊界。推動(dòng)AI在輸出時(shí)主動(dòng)標(biāo)注"此信息僅供參考"，而不是用"我確定知道"的口吻假裝一切盡在掌握。
寫(xiě)在最后
技術(shù)可以越來(lái)越流暢，越來(lái)越"像人"，但人類(lèi)辨別真?zhèn)蔚哪歉也荒芩尚浮?/p>
AI"一本正經(jīng)地胡說(shuō)八道"，不是某行代碼的臨時(shí)故障，而是其概率預(yù)測(cè)底層邏輯在特定條件下的必然產(chǎn)物。我們無(wú)法徹底根除AI幻覺(jué)，也不必因此對(duì)技術(shù)本身產(chǎn)生恐懼。但至少可以不把"表述流暢"誤認(rèn)為"內(nèi)容正確"，不把"態(tài)度篤定"等同于"結(jié)論可靠"。
真正的AI素養(yǎng)，是當(dāng)技術(shù)遞給你一張"前往任意目的地的通行證"時(shí)，你依然能保持冷靜，反問(wèn)一句："這趟班次，真的有人值守嗎？"
技術(shù)進(jìn)化的腳步不會(huì)停滯，而人類(lèi)獨(dú)立思考的能力也不應(yīng)被"技術(shù)神話(huà)"所吞噬。在人工智能深度嵌入日常生活的當(dāng)下，保持批判性思維、堅(jiān)持核實(shí)信息的習(xí)慣、守護(hù)對(duì)權(quán)威與虛構(gòu)的辨別力，這或許才是我們?cè)贏(yíng)I時(shí)代最需要守住的那塊壓艙石。
版權(quán)所有，未經(jīng)許可不得轉(zhuǎn)載
-jiuyou.com九游
?京公網(wǎng)安備11010802043876
