华炬数小合｜当AI“幻觉”撞上法律红线——中国AI大模型名誉侵权第一案深度解读
2026-06-26
2026年3月12日，南京市中级人民法院作出终审判决，驳回百度公司上诉，维持一审判决——认定百度AI生成的“智能回答”构成对南京律师李小亮的名誉侵权。这起被称为“中国人工智能大模型名誉侵权第一案”的诉讼，从2024年9月案发到2026年5月进入强制执行程序，历时近两年，为蓬勃发展的生成式AI产业划下了一道清晰的法律红线。
一、案件回放
案件的起因简单到让人不安。
原告李小亮律师是江苏某律师事务所的一名执业律师，职业生涯中曾获得多项荣誉。某天，他在使用百度搜索查询自己的个人信息时，百度的AI智能回答功能给出了一个令他瞠目结舌的结果：“李小亮律师被判三年有期徒刑……因犯爆炸罪。”
这完全是无中生有。一个守法执业的律师，被AI无端扣上了一顶“重罪犯”的帽子。这条虚假信息一旦被潜在客户或合作伙伴看到，对其职业生涯和人格尊严的打击将是毁灭性的。
李律师第一时间发了律师函，又反复拨打百度推广咨询热线、北京政务热线、多个邮箱投诉。百度的回复始终是同一句话：“已转交对应工作人员跟进处理。”但核心谣言从未真正清除，之后李律师再次点开百度的推荐语句，AI智能回答给出的，依然是“三年有期徒刑”。
协商无果后，李律师选择以名誉侵权为由，将百度公司告上法庭。要求删除全部不实信息、在百度首页置顶道歉、赔偿误工费及精神损害抚慰金等。由此，一场在中国司法史上具有里程碑意义的诉讼拉开帷幕。
二、裁判结果
2025年，南京市江北新区人民法院作出一审判决，对百度的不同业务功能作出区分处理：一方面，百度搜索的下拉词条、“大家还在搜”“相关搜索”等功能，系基于用户行为自动生成，百度未对数据进行加工处理，无法控制第三方网站网页内容，仍可适用传统的“避风港”规则，不构成侵权。另一方面，百度“AI智能回答”将文字内容与图片通过AI技术加工合成，捏造“被判刑”“有期徒刑三年”等明显负面、贬损性词汇，客观上必然降低当事人的社会评价，百度主观上存有过错，构成名誉侵权。法院判令百度向李小亮出具书面道歉信；但因原告未提交损失佐证，驳回了赔偿诉求。一审结束后，百度不服，提起上诉。
在整个案件审理中，被告提出的针对性抗辩理由概括起来有三点：一是“技术有限论”，即侵权内容产生于国内AI发展初期，技术有限，“具有极强的偶然性”。二是“无法预见论”，AI幻觉难以预测，百度无法预见结果，不应认定有过错。三是“全行业病论”：所有AI都会产生幻觉，百度不应承担超出行业标准的责任；判决若认定侵权，会对整个产业产生巨大冲击，希望法院审慎审理。根据公开查阅的信息，在审理过程中主审法官当庭一句话直击要害：“豆包、DeepSeek上发问，为什么没有这些评价？”法官的意思很明确，即同类产品都没出现这个问题，如果同类产品没有出现同样问题，就不能说明这个错误是技术发展的必然代价。
这起案件经历了漫长的一审、二审，最终法院作出了百度AI构成名誉侵权的终审判决。其核心的裁判思路也彻底重塑了AI服务提供者的责任边界。
三、判决分析
本案法院审理的核心在于厘清一个问题：当AI生成虚假内容侵害他人名誉时，提供该技术的平台是否应承担责任？
首先，对于侵权事实的认定，明确AI生成的虚假信息构成诽谤。法院明确，AI生成的“李小亮犯爆炸罪被判刑”这一信息，经查证完全没有事实依据，构成了对李小亮名誉权的侵害。该虚假信息涉及刑事犯罪，足以降低其社会评价，损害其律师职业形象。
其次，对于平台责任的穿透认定，明确算法不是“替罪羊”。对于这类案件被告普遍的抗辩逻辑是：内容是AI自动生成的，平台只是技术的提供者，无法预见和完全控制每一次生成的结果，应适用“技术中立”原则或“避风港原则”免责。然而，法院的判决打破了这一幻想。裁判思路明确指出：AI服务提供者具有内容供给者的属性。平台不仅仅提供搜索工具，其AI智能回答功能直接向用户整理、合成并呈现了“答案”，这个答案构成了独立于原始搜索结果的新的内容供给。平台从单纯的信息“搬运工”变成了“生产者”。平台对生成内容负有直接的审查义务。 鉴于AI大模型存在产生“幻觉”、生成虚假信息的技术特性，服务提供者不能以“这是算法生成的”为由而置身事外。平台在向公众提供这种能直接影响他人权利的服务时，就应当承担起与风险相匹配的注意义务。
再次，所谓“避风港原则”的适用边界被收缩。本案中法院认定，本案中AI生成的内容是直接的、公开的展示，并非简单的链接或存储。平台对此有完全的控制力，其注意义务应高于一般网络服务提供者。收到侵权通知后仅仅删除是不够的，事前对显而易见的高风险生成内容进行预防，也是其应尽的法律义务。
四、相关启示
此案的终审判决，绝非只是个人的维权胜利，它是对整个AI行业的一声惊雷，带来了深远的影响。
（一）AI“幻觉”不再是技术黑箱，而是法律责任
长期以来，大模型“幻觉”——即生成与事实不符的内容，被视为一种技术缺陷。但本案判决以及类似案件的裁判观点表明，当这种“幻觉”具体化为对特定个人或实体的诽谤、诬蔑时，它就不再是技术问题，而是法律问题。 平台必须为它“胡说八道”的后果买单。
（二）“算法中立”彻底成为过去式
不仅本案，在过往分析的AI侵权案件中，均明确了在生成式AI的商业应用场景中，不存在绝对的“技术中立”。技术是手段，商业是目的，控制力是基础，责任是必然。 那些希望通过“算法自动生成”的挡箭牌来规避名誉侵权、隐私侵权等风险的想法，已经彻底行不通了。
（三）倒逼AI产品架构与安全机制的全面升级
判决也会倒逼所有AI产品进行深刻的安全改革，例如开展源头治理，平台训练数据必须进行严格清洗，特别是涉及真实人物、历史事件、司法案件等敏感信息的标注和过滤；完善机制防御，平台必须建立强大的“护栏”，对涉及对个人作出负面评价、指控犯罪、道德谴责等高风险内容的提示词进行实时拦截，并在生成结果发布前进行事实核查与风险评估；进行显著提示，平台应以更醒目、不可忽略的方式告知用户，AI生成的内容可能存在不实之处，不能取代权威信息来源。
五、结语
技术发展从来不是法外之地。李律师的这场诉讼，像是堂吉诃德冲向风车，只不过他冲的不是幻想中的巨人，而是现实中庞大而冰冷的算法帝国。他赢了，但这不应只是他一个人的胜利。这个判例应当成为悬在每一个AI公司头顶的达摩克利斯之剑，时刻警醒我们：技术在带来便利的同时，绝不应以牺牲人的基本尊严为代价。
文 | 张帆
 | 团队介绍 华炬数小合数据合规与隐私保护法律（咨询）服务团队，聚焦数据要素市场，服务范围包括数据合规体系建设、数据资产入表、数据产品交易、IPO及上市公司数据合规、公共数据授权运营合规、数据出境合规、重点行业数据与隐私保护等。主要成员包括：邵华、张帆、赵文龙、郝亚菲等，团队成员通过国际认证EXIN DPO（数据保护官）&DPO-PIPL（中国个人信息保护官）认证、中国行为法学会数据资产管理师认证。团队致力于构建“一站式”数据服务模式，协同整合数商生态圈上下游资源，不断在数据要素各应用场景上突破创新，携手合作伙伴共创佳绩。 联系方式：15003511463；13834665942 |
左右滑动，查看华炬数小合服务目录
*本微信文章仅为交流目的
不代表华炬律师事务所的法律意见
