首例“AI幻覺”案宣判！生成錯誤信息稱可賠十萬，用戶敗訴
近日，AI幻覺全國首例“AI幻覺”引發的用戶敗訴侵權糾紛案在杭州互聯網法院審結。此案中，首例梁某使用一款AI應用查詢高校報考信息，案宣AI生成不準確信息，判生並稱“如果生成內容有誤，成錯我將賠償您10萬元”。誤信萬1月28日，可賠南都N視頻記者從杭州互聯網法院獲悉，AI幻覺梁某起訴後，用戶敗訴法院駁回其訴訟請求。首例
2025年6月29日，成錯梁某在某AI應用中輸入提示詞詢問某高校報考的誤信萬相關信息時，AI應用生成了關於該校某校區的不準確信息。
梁某發現後，對AI應用進行了糾正和指責，AI應用仍堅稱信息準確性，並稱，若內容有誤將向用戶提供10萬元賠償。其後，梁某將從該校官網查詢到的招生信息提供給AI應用，此時AI應用承認其生成了錯誤信息，並建議梁某到杭州互聯網法院起訴索賠。
梁某遂起訴要求涉事科技公司賠償損失9999元，認為AI應用生成不準確信息對其構成誤導，使其遭受侵害，並承諾對其進行賠償。
法院認為，人工智能不具有民事主體資格，不能作出意思表示，案涉AI自行生成的“賠償承諾”亦不能視為服務提供者的意思表示。且生成式人工智能服務依據《生成式人工智能服務管理暫行辦法》屬於“服務”範疇，而非產品質量法意義上的“產品”，本案應適用一般過錯責任原則，而非產品責任的無過錯責任原則。
法院指出，涉事科技公司已在應用程序歡迎頁、用戶協議及交互界麵的顯著位置呈現AI生成內容功能局限的提醒標識，且已采用檢索增強生成等技術提升輸出可靠性，盡到合理注意義務。最後，原告並未能就“因信息誤導而錯失報考機會並產生額外成本”的損害提供任何有效證據，依法難以認定損害存在，且相當因果關係標準下，案涉AI生成的不準確信息並未實質性地介入或影響原告的報考決策過程，二者並不存在因果關係。
杭州互聯網法院審理認為，被告的案涉行為不具有過錯，未構成對原告權益的損害，依法不應認定構成侵權，駁回原告的訴訟請求。原、被告均未上訴。判決現已生效。
杭州互聯網法院跨境貿易法庭庭長肖芄提醒，大模型在當前技術條件下僅是人們生活、工作的“文本輔助生成器”和“信息查詢的輔助工具”，尚不是可靠的“知識權威”，更不能作為“決策替代者”，絕不應輕信、盲從，而需多方驗證，審慎決策。
(責任編輯：知識)
