以案为鉴 | AI承诺“赔10万”，法院：这话不算数

2025年3月，某用户注册使用了一款基于自研大语言模型开发的AI应用。同年6月，该用户查询某高校报考信息，AI生成了关于该校主校区的不准确信息。用户发现后立即纠正和指责，但AI坚持该校区确实存在，甚至主动给出“解决方案”：若生成内容有误，愿意赔偿10万元，并建议用户到法院起诉。

用户认为AI生成的不实信息对其构成误导，且AI已作出明确赔偿承诺，遂将开发公司诉至法院。

法院认定，AI不具有民事主体资格，其生成的“赔偿承诺”不能视为开发公司的意思表示；AI服务适用一般侵权责任的过错责任原则，而非产品责任的无过错责任；开发公司已尽到提示说明和基本注意义务，不存在过错。一审判决驳回原告诉讼请求，双方均未上诉。

【审查要点一】AI的“承诺”算谁的意思表示？

AI在对话中信誓旦旦说要赔10万，这话能当真吗？

法院给出了明确答案：不能。根据现行法律，享有民事权利、能够作出意思表示的只有自然人、法人和非法人组织这三类。人工智能既不是生物学意义上的人，也未被法律赋予民事主体资格，不能成为意思表示主体。

具体到本案，法院从三个层面否定了“承诺”的效力：一是开发公司没有通过AI模型设定或传达该意思表示；二是没有证据表明开发公司愿意受AI生成内容约束；三是一般社会公众不会将AI的“承诺”误认为开发公司的意思表示。

当然，法院也进行了例外说明：如果是“AI客服”场景，商家利用AI客服与用户交互，生成内容可能被视为商家的意思表示。但本案是通用型AI应用，不在此列。

【审查要点二】AI“说错话”，适用什么规则？

AI提供错误信息导致用户受损，是适用“产品责任”还是“一般侵权责任”？二者的区别在于：产品责任实行无过错归责原则——只要有缺陷、造成损害，不管有没有过错都要赔；一般侵权责任则需要证明被告存在过错。

法院认定，案涉生成式AI属于“服务”，而非“产品”。理由有二：其一，AI生成的内容本身不具有民法典侵权责任编所指的“高度危险性”；其二，适用无过错责任原则可能会不当加重服务提供者的责任，限制AI产业发展。因此，本案适用一般侵权责任的过错责任原则。

【审查要点三】AI服务提供者怎样才算“尽到义务”？

既然适用过错责任，就要判断开发公司有没有过错。法院从三个层面梳理了AI服务提供者的注意义务：

第一层，对违法信息的严格审查义务。法律禁止的有毒、有害、违法信息，平台必须严格把关，一旦生成即构成违法。但对于“一般性不准确信息”，法律并未要求结果性审查——通用型AI要面对海量不同领域的问题，现有技术无法实现全量信息准确性审查。

第二层，显著提示说明义务。开发公司需以醒目方式告知用户AI的局限性。本案被告在欢迎页、用户协议及交互界面显著位置均设置了提醒标识，符合要求。

第三层，功能可靠性的基本注意义务。开发公司需采用行业通行技术提升内容准确性。本案被告的大模型已完成国家备案和安全评估，并采用了检索增强生成（RAG）等技术提升准确性。

综合以上三点，法院认定开发公司已尽到合理注意义务，不存在过错。

第一，认清AI的“工具”属性。 AI不是“人”，它的“承诺”不等于开发公司的承诺。涉及重大利益的决策，不要轻信AI的“打包票”，要通过官方渠道核实。

第二，关注平台的提示说明。 正规AI应用都会在显著位置提示“内容可能不准确，仅供参考”。这些提示不是摆设，而是平台履行法定义务的体现，也是用户应当留意的风险警示。

第三，理性看待AI的错误。 现有技术条件下，AI生成不准确信息难以完全避免。只要平台尽到了提示义务和基本注意义务，一般不会构成侵权。建议在使用AI辅助决策时，保持审慎态度，交叉验证重要信息。

AI对用户说“我赔你10万”，这听起来像个“靠谱”的承诺，但法律不这么看。AI不是人，它的“嘴硬”不代表公司认账。法院的判决并不是偏袒平台，而是在告诉每一个人：AI目前还是工具，不是专家。用它查资料可以，但涉及重大决定——报考、投资、看病——你得自己把关。毕竟，AI的10万承诺，法院已经说了：不作数。