文章圖片
文章圖片
文章圖片
文章圖片
文章圖片
AI胡說八道 ， 到底誰負責？
最近有兩起AI幻覺案件 ， 鬧上了法庭 。
這兩起案件 ， 非常有意思 ， 也頗具現實指導意義！
案子一：國內AI幻覺第一案1月份 ， 杭州互聯網法院判決了一個案子 。
事情是這樣的↓
2025年6月 ， 梁某使用某AI應用程序查詢高校報考信息 ， AI給出了不準確高校信息 。
梁某指出錯誤后 ， AI竟然回復↓
直到梁某向AI提供該高校的官方招生信息 ， AI才終于敗下陣來 ， 承認自己生成了不準確的信息 。
梁某遂提起訴訟 ， 認為AI生成不準確信息對其構成誤導 ， 使其遭受侵害 ， 要求這款AI的運營者賠償9999元 。
梁某起訴的理由是：
AI生成的不準確信息對其構成誤導而被告的AI提供商抗辯邏輯也很直接：
增加了核實和維權成本
平臺應承擔侵權責任
內容由模型自動生成 ， 不構成平臺的意思表示最終 ， 法院一審駁回了原告梁某的訴訟請求 。
平臺已盡到合理注意義務 ， 無過錯
梁某并未產生實際損失 ， 因而亦不構成侵權
原、被告均未上訴 ， 判決現已生效 。
從該起法院判決來看 ， AI公司還暫時不用對幻覺承擔絕對責任—前提是AI沒有回復違法有害信息 ， 以及公司采取了一定技術措施 。
案子二：AI侵犯名譽權案2月6日 ， AI 侵犯名譽權首案開庭 ， 在北京海淀區人民法院開庭 。
原告為一名律師 ， 被告為北京百度網訊科技有限公司 。
事情是這樣的↓
原告黃律師在2025年5月檢索百度發現 ， 百度AI自動生成了幾條關于他的嚴重虛假負面信息 ， 包括威脅法官、介紹賄賂、偽造印章、非法吸收公眾存款等刑事犯罪 。
有人將百度AI生成的該虛假信息傳播給他正在代理案件的委托人及委托人家屬 ， 給他帶來巨大困擾和損失 。
黃律師因此提起訴訟 ， 要求百度公司立即停止名譽權侵害行為 ， 并發布澄清和道歉聲明；賠償100萬元職業信譽損失和5萬元精神損害撫慰金 。
據黃律師透露 ， 該案近日在法院一審開庭 ， 百度在庭審中辯稱人工智能既不是自然人 ， 也不是法人 。
百度提供中立技術服務 ， 并未發布誹謗或侮辱信息 ， 不存在任何主觀過錯 。
百度還提出AI幻覺不可避免的抗辯理由↓
本案行為是人工智能生成 ， 也包含了原告連續高頻詞搜索導致AI產生幻覺 。
AI幻覺不是百度故意所為 ， AI幻覺是行業通行現象 ， 屬于當前技術階段不可避免現象 ， 會通過技術迭代改善 。
兩個案件核心爭議點：AI胡說八道 ， 責任算誰的？杭州案的判決 ， 其實回答了一個關鍵問題：
AI在對話中“說出”的內容 ， 算不算平臺的真實意思？
或被視為平臺運營者的意思表示？
這實質上涉及人工智能是否具備民事主體資格的問題 。
法院的答案克制：
?現行法律下 ， AI不是民事主體
?也不是平臺的代理人
所以 ， AI平臺抗辯的理由之一 ， 通常是↓
哪怕AI在對話里說“賠償10萬元” ，
那也只是模型生成的語言結果 ，
并不自動構成法律意義上的承諾或合同關系 。
但是 ， AI不是擋箭牌 ， 不能成為平臺免責的托詞 。
平臺是否需要承擔責任 ， 關鍵看幾件事——
是否生成了違法或有害信息這兩起案子 ， 劃出了一條早期邊界：AI不能獨立承擔責任 ， 但平臺也不能完全置身事外！
是否設置了明確的風險提示
是否采取了合理的技術防控措施
是否存在明顯過錯或管理疏忽
是否造成了實際損害
是否構成侵權行為
......
真正嚴峻的問題在后面未來更復雜的場景一定會出現：
?AI金融計算失誤到那時 ， “AI沒有主體資格”還夠用嗎？“行業通行現象”還能站得住嗎？
?AI醫療誤導
?AI投資建議失誤
?AI法律意見錯誤
?AI自動生成企業負面信息
?AI指導核心生產系統錯誤
【國內AI幻覺第一案，有意思有啟發！】
推薦閱讀
- 華為19.7%高居第一！小米14.5%僅排名第五！最新銷量誰是贏家？
- 95萬輛、4670萬部！手機汽車雙開花華為重奪第一，硬剛蘋果特斯拉
- “新榮耀”銷量揭秘！用1000元制造“旗艦幻覺”，精準狩獵！
- 華為第一、OV第二梯隊、蘋果掉隊、米耀守門！
- 誰是中國智駕第一？
- 熱度第一、Tokens周調用破3T，MiniMax這個春節殺瘋了
- 小米第一款主動散熱旗艦！REDMI K90至尊版用上8500mAh超大電池
- 2025全球手機存量報告出爐：蘋果第一、小米第三，華為第幾？
- 歐洲人要等三個月！小米17系列定了，但國內銷量已破340萬臺！
- 內存價格崩了 國內最高降價20%：去華強北市場揭秘實情！