發布時間:2026-07-14 13:16:59 來源:雨燕體育 作者:探索
近日,AI幻覺全國首例“AI幻覺”引發的用戶敗訴侵權糾紛案在杭州互聯網法院審結。此案中,首例梁某使用一款AI應用查詢高校報考信息,案宣AI生成不準確信息,判生並稱“如果生成內容有誤,成錯我將賠償您10萬元”。誤信萬1月28日,可賠南都N視頻記者從杭州互聯網法院獲悉,AI幻覺梁某起訴後,用戶敗訴法院駁回其訴訟請求。首例

2025年6月29日,成錯梁某在某AI應用中輸入提示詞詢問某高校報考的誤信萬相關信息時,AI應用生成了關於該校某校區的不準確信息。
梁某發現後,對AI應用進行了糾正和指責,AI應用仍堅稱信息準確性,並稱,若內容有誤將向用戶提供10萬元賠償。其後,梁某將從該校官網查詢到的招生信息提供給AI應用,此時AI應用承認其生成了錯誤信息,並建議梁某到杭州互聯網法院起訴索賠。
梁某遂起訴要求涉事科技公司賠償損失9999元,認為AI應用生成不準確信息對其構成誤導,使其遭受侵害,並承諾對其進行賠償。
法院認為,人工智能不具有民事主體資格,不能作出意思表示,案涉AI自行生成的“賠償承諾”亦不能視為服務提供者的意思表示。且生成式人工智能服務依據《生成式人工智能服務管理暫行辦法》屬於“服務”範疇,而非產品質量法意義上的“產品”,本案應適用一般過錯責任原則,而非產品責任的無過錯責任原則。
法院指出,涉事科技公司已在應用程序歡迎頁、用戶協議及交互界麵的顯著位置呈現AI生成內容功能局限的提醒標識,且已采用檢索增強生成等技術提升輸出可靠性,盡到合理注意義務。最後,原告並未能就“因信息誤導而錯失報考機會並產生額外成本”的損害提供任何有效證據,依法難以認定損害存在,且相當因果關係標準下,案涉AI生成的不準確信息並未實質性地介入或影響原告的報考決策過程,二者並不存在因果關係。
杭州互聯網法院審理認為,被告的案涉行為不具有過錯,未構成對原告權益的損害,依法不應認定構成侵權,駁回原告的訴訟請求。原、被告均未上訴。判決現已生效。
杭州互聯網法院跨境貿易法庭庭長肖芄提醒,大模型在當前技術條件下僅是人們生活、工作的“文本輔助生成器”和“信息查詢的輔助工具”,尚不是可靠的“知識權威”,更不能作為“決策替代者”,絕不應輕信、盲從,而需多方驗證,審慎決策。
相關文章