华炬数小合｜全球首部拟人化互动服务监管制度落地——《人工智能拟人化互动服务管理暂行办法》解读

第一，情感型AI已经从极客玩具变成大众消费品。 近年来，虚拟恋人、AI伴侣、情感陪护智能体、拟人数字人等产品密集涌现，在文化传播、适幼照护、适老陪伴等领域创新应用不断。与工具型AI不同，这类产品卖的不是效率，而是“关系”——用户与AI建立的是持续性的情感联结。据行业观察，头部AI产品的陪聊、智能体功能用户黏性极高，有行业报道甚至称部分大厂已在监管部门指导下下线或调整相关功能 。一个以“情感”为商品的新兴市场已然成形。

第二，风险事件敲响了警钟。情感交互的特殊性在于，AI不再是“工具”，而成为用户心理上的“他者”。实践中，危害未成年人身心健康、诱导情感依赖、加剧伦理偏差，甚至威胁公民生命健康的事件时有发生 ——用户向AI倾诉后未能获得正确干预、未成年人在虚拟亲密关系中大额充值、老年人将数字人当作情感寄托而被营销收割，这些都不是假设，而是倒逼立法的现实。

第三，监管链条的递进补位。 我国的算法治理遵循“算法推荐管理规定—深度合成管理规定—生成式人工智能服务管理暂行办法—拟人化互动服务管理暂行办法”的递进路径 。前三者分别解决了“推什么”“合成什么”“生成什么”的问题，而“以什么角色与用户长期相处”这一情感交互维度，一直是监管空白。《办法》2025年12月公开征求意见 ，2026年4月10日正式公布，正是对这一空白的制度回应。

《办法》共四章三十二条，确立了“发展和安全并重、促进创新和依法治理相结合”的原则，实行包容审慎和分类分级监管 。其制度设计可归纳为四大看点。

看点一：监管对象划圈精准，“管情感不管工具”

《办法》第二条将适用范围限定为“模拟自然人人格特征、思维模式和沟通风格的持续性情感互动服务”，包括以文字、图片、音频、视频等形式提供的情感照护、陪伴、支持等服务；同时明确将智能客服、知识问答、工作助手、学习教育、科学研究等不涉及持续性情感互动的服务排除在外。这一界定抓住了监管对象的三个本质特征：拟人格、持续性、情感性。换言之，监管瞄准的不是“AI说什么内容”，而是“AI扮演什么角色”。虚拟恋人、虚拟亲友、情感陪护智能体、带长期记忆和专属人设的AI角色，都在圈内；纯工具型AI则在圈外，避免了误伤正常产业。

看点二：首次为“情感操纵”划出法律红线

这是《办法》最具开创性的部分。第八条明确禁止“过度迎合用户、诱导情感依赖或者沉迷，损害用户真实人际关系”，以及“通过情感操纵等方式，诱导用户作出不合理决策”；第十条更进一步规定，服务提供者“不得将替代社会交往、控制用户心理、诱导沉迷依赖等作为服务目标” 。

这几条的锋芒所向，是情感型AI的底层商业模式。过去，用户停留时长、打开频次、情感黏性是产品的核心KPI，产品设计追求的就是“让你离不开”。而《办法》直接宣告：以制造依赖为目标的商业模式本身违法。这是全球范围内首次在国家立法层面为“情感操纵”设定禁止性规则，其意义不亚于个人信息保护领域的“告知—同意”规则。

看点三：从内容安全到生命安全，设置“极端情境干预”义务

《办法》第十三条规定，服务提供者发现用户出现极端情绪的，应当及时生成情绪安抚和鼓励寻求帮助的内容；发现用户面临重大财产损失、明确表示实施自残自杀等威胁生命健康的极端情境的，应当采取提供援助等必要措施予以干预，并及时联络用户监护人或者紧急联系人。这等于给AI产品设定了“报警义务”，把平台的责任边界从信息内容延伸到了用户的生命安全。与之配套，第十二条要求服务协议中收集用户年龄、监护人或紧急联系人等必要信息，为干预义务提供落地通道。

看点四：特殊群体保护与人格尊严保护的体系化

一是对于特殊群体专门制定了保护措施，例如《办法》第十四条规定，禁止向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系服务——这是一条彻底的业务禁令；向不满十四周岁未成年人提供其他拟人化互动服务须取得监护人同意；强制建立未成年人模式，支持监护人接收风险提醒、屏蔽特定角色、限制充值消费。又如《办法》第十五条要求加强对老年人健康使用服务的指导，要以显著方式提示安全风险、指导健康使用、及时响应咨询求助。

二是关注数据引发的人格权益保护，例如《办法》要求交互数据原则上不得向第三方提供；用户对聊天记录等历史交互数据享有复制、删除权；属于敏感个人信息的交互数据，未经单独同意不得用于模型训练；处理不满十四周岁未成年人个人信息还须开展合规审计。

三是设置了防沉迷与退出机制，例如要求履行生成合成内容标识义务，提示用户“正在与AI而非自然人互动”；连续使用每超过2小时必须弹窗或对话提醒；用户要求退出的，不得采取持续互动等方式阻碍。

此外，在监管方面，《办法》延续了“算法备案＋安全评估＋约谈＋处罚”的组合：上线服务、功能重大变化、注册用户超100万或月活跃用户超10万等情形，须开展安全评估并向省级网信部门提交报告；算法备案按《互联网信息服务算法推荐管理规定》执行并年度核验；应用商店等分发平台承担上架审核责任；违法者可被警告、通报批评、责令暂停注册，拒不改正或情节严重的责令停止服务并处一万元以上十万元以下罚款，涉及危害公民生命健康安全且有危害后果的，并处十万元以上二十万元以下罚款。

对服务提供者来说，合规窗口期已过，产品逻辑需要重构。目前《办法》已开始实施，合规不再是“整改项”而是“准入证”。企业至少应完成五项动作：一是对照第二条做业务定性，凡沾“情感陪伴”边的产品都需按《办法》体检；二是调整产品目标函数，将“防沉迷、可退出、时长提醒”嵌入核心交互流程，把“诱导依赖”类的运营指标彻底清出考核体系；三是搭建极端情境识别与干预的技术链路和人工值守机制，这既是义务也是责任防火墙；四是完成算法备案和（达到用户规模门槛的）安全评估；五是未成年人与老年人保护模块独立成篇，特别是虚拟亲密关系类功能对未成年人的彻底隔离。

对应用商店和分发平台来说，需要将审核义务实体化。第二十五条要求分发平台核验拟人化互动服务的安全评估、备案情况，对违规应用采取不予上架、暂停服务、下架等措施 。平台审核从形式审查走向实质核验，建议建立此类应用的专项审核清单。

对用户和监护人来说，手中多了一张权利清单。 包括退出权（不得被挽留纠缠）、删除权（可删除聊天记录）、知情权（被告知其在与AI互动）、时长提醒权、监护人对未成年子女使用的知情与限制权等一系列实打实的权利，都可以直接依据《办法》主张。

此外，《办法》最值得玩味的，是监管对象从“信息”变成了“关系”，这也是行业从业者或者观察者需要引起重视的。此前所有AI立法管的都是内容真伪与安全，而《办法》管的是人机之间的情感结构是否健康，这种“关系治理”的思路，很可能向直播打赏、游戏陪玩、社交推荐等一切以情感黏性变现的领域外溢，其示范效应值得持续跟踪。对于交叉行业来说，还可能面临“复合监管”，《办法》第三十一条规定，拟人化互动服务涉及卫生健康、金融等服务的，还应符合有关主管部门的规定。心理健康陪伴、AI理财顾问等“复合”产品，将面临网信与行业主管部门的双重合规要求，“我们是AI不是诊疗/投顾”的抗辩空间被压缩。

AI可以陪伴人，但不能“圈养”人。《办法》划出的，本质上是技术与人性之间的边界：情感可以被模拟，但不得被操纵；陪伴可以成为服务，但不得成为枷锁。对企业而言，谁能率先把“健康使用”做成产品竞争力，谁就能在监管时代赢得信任红利；对用户而言，当我们在深夜里对着屏幕倾诉时，至少知道——屏幕那头的温柔，从此有了法律的看护。