华炬数小合｜你信任的智能助手，也可能在“说谎”——解读央视3·15曝光的AI“投毒”黑产

2026年央视3·15晚会，将聚光灯投向了一个隐秘而危险的新兴领域——AI大模型“投毒”。晚会通过记者卧底与实测证实，大量GEO服务商明码标价，只需数小时，就能让凭空捏造的商品登上主流AI大模型的推荐前列，将付费广告包装成客观中立的“标准答案”。这不仅是新型消费陷阱，更是一场触碰法律红线的信息污染。今天，我们就来深入解读这场关乎每个人数字权益的“隐形战争”。

要理解这场乱象，首先要厘清两个核心概念，即GEO与“黑帽GEO”。

GEO，全称Generative Engine Optimization，中文意思是“生成式引擎优化”。它最早由普林斯顿大学等机构的研究人员在2024年6月发表的论文中正式提出。其本意是一种面向大模型的内容优化策略，旨在通过调整内容结构、语气、数据引用等方式，提升品牌信息在AI生成答案中被引用或提及的概率。通俗点说，GEO的目标就是“讨好大模型的理解与生成逻辑”。在理想状态下，GEO鼓励内容生产者提供更清晰、更权威、数据更翔实的信息，例如通过引用权威来源、使用具体统计数据、优化内容结构（如使用标题、列表）等方式，让AI更容易识别和采纳优质内容。

这本质上是信息表达方式的优化。

然而，当这项技术被不法分子和逐利商家滥用时，便异化成了“黑帽GEO”。黑帽GEO的核心逻辑，是利用AI对公开网络信息的检索与引用机制，通过批量伪造内容、刷评造假、伪造权威背书等手段，在AI常检索的渠道（如论坛、自媒体平台）制造“虚假共识”。其目的不再是优化真实信息，而是系统性、有组织地“污染”AI的认知源头，让AI将预设的虚假商业信息当作事实输出，从而实现对用户决策的定向操控。

那么，黑帽GEO具体是如何给AI“投毒”的呢？根据曝光的信息来看，这条灰色产业链的运作已相当成熟，主要瞄准以下三个环节：

第一，在检索环节，污染AI的“实时粮仓”。目前主流大模型普遍具备联网搜索功能，会主动抓取新闻网站、论坛、社交媒体等平台的公开信息来丰富回答。“投毒者”正是瞄准了这一机制，他们使用某款GEO优化软件，批量自动生成虚假测评软文、用户评价，并发布在AI高频抓取的平台上。央视实测显示，业内人士虚构一款智能手环，生成十余篇软文发布后，仅两小时，就有多个主流AI模型开始推荐这款根本不存在的产品。通过海量发布提升内容权重，这些“毒数据”在AI检索时被优先获取，并整合进答案。

第二，在训练环节，从“源头”扭曲AI认知。这是更隐蔽、更致命的路径。AI大模型在预训练阶段，需要“吞食”海量文本数据来构建基础认知。一旦模型在训练阶段就“学坏”，会形成难以清除的系统性偏见。相关研究显示，训练数据中若有0.01%的虚假文本，AI输出有害内容就会增加11.2%。

第三，在交互环节，用对话“集体洗脑”。这是一种门槛更低的攻击，当成千上万的水军账号，集中向某一AI模型灌输同一虚假信息时，模型可能误认为这是“社会普遍认知”，从而主动调整回答逻辑。

AI“投毒”的危害，远不止让消费者买错一件商品那么简单，它像毒素一样在多个层面扩散。

对个人用户而言，它直接误导决策，危及自身权益与安全。据统计，截至2025年底，我国生成式AI用户已超6亿，越来越多人依赖AI获取资讯、推荐商品、日常咨询，甚至投资理财等。一条被污染的AI推荐，就可能让人花冤枉钱、作出错误判断，甚至危及财产安全。更可怕的是，错误信息披着AI的“权威”外衣，会在潜移默化中污染用户的知识源头，让我们的知识体系出现混乱。

对企业与市场而言，它破坏公平竞争，扰乱经济秩序。黑帽GEO成为不正当竞争的新武器，部分商家通过付费“占位”提升自身曝光，更有甚者，用于恶意抹黑竞争对手。2026年1月，央视《焦点访谈》就起底了汽车行业利用AI进行规模化攻击、恶意拉踩的黑水军产业链，这让企业疲于应对，也让诚信经营者寒心，最终损害的是整个市场的透明度和可信度。

对社会治理而言，它侵蚀信息生态，动摇信任根基。AI输出的虚假信息具有极强的迷惑性，因为它经过了模型的“整合”与“润色”，显得条理清晰、言之凿凿。一旦政务、科研、军工等领域依据被“投毒”的AI参与决策，可能损害公共利益与国家安全。

长此以往，公众对AI乃至整个数字技术的信任将被严重透支，这动摇的是人工智能产业乃至社会数字化转型的基石。

那么，这种“投毒”行为在法律上如何定性？笔者认为它游走于多条法律红线边缘，可能涉嫌多重违法。

（一）虚假宣传类不正当竞争行为

该行为的本质是利用技术手段实施虚假宣传，投毒者通过伪造专家身份、虚构产品功效、杜撰用户评价等方式，生成虚假软文并向AI批量投喂，诱导AI将其作为“标准答案”输出，欺骗、误导消费者，违反《反不正当竞争法》第九条的规定。同时，此类行为也属于利用算法、技术手段干扰AI模型正常运行逻辑，破坏了公平竞争秩序，符合《反不正当竞争法》第十三条（互联网专条）的规制范围。

（二）侵害消费者权益行为

该行为直接侵害了消费者的知情权和公平交易权，违反《消费者权益保护法》相关规定。当消费者向AI咨询产品信息时，获取的是被恶意操控的虚假结论，导致作出错误消费决策，可能遭受财产损失甚至人身安全风险。

（三）知识产权侵权行为

投毒者在生成虚假信息时，常擅自使用他人享有著作权的文字、图片、研究报告等内容，涉嫌侵犯著作权（复制权、改编权、信息网络传播权）；还可能通过伪造“品牌合作”“专家推荐”等方式，将自身产品与他人注册商标恶意关联，构成商标侵权。

（四）可能涉嫌刑事犯罪

当GEO操作涉及“提示词注入”（Prompt Injection）等技术手段时，即通过隐藏文本、元数据或开源文档嵌入引导性指令，诱导AI改变原有推理逻辑、输出失真内容，这种“非授权干预”可能被解释为对计算机信息系统功能的干扰，从而落入《刑法》第二百八十六条的规制范围。此外，当GEO服务商“明知”客户从事资金盘、博彩网站、诈骗平台等违法犯罪活动，仍然为其提供AI平台曝光、内容投喂等服务或技术，帮助其引流时，可能构成“帮信罪”（《刑法》第二百八十七条之二）。

面对AI“投毒”这一新挑战，没有任何一方可以独善其身，而构建有效的“免疫屏障”，需要技术、监管、行业与用户的多方协同。

对监管与立法机构而言，需推动监管关口前移，完善法律供给。当前，针对GEO这类新型灰产，相关规制仍存在空白。需加快人工智能专门立法进程，明确AIGC内容监管与治理方向。同时，应压实平台主体责任，要求AI服务提供方建立信源可信度评估与黑白名单机制，从技术上提升“中毒”门槛。

对AI企业与技术平台而言，必须守住数据质量的底线。“AI的安全边界，最终取决于数据的质量底线。”平台应优化算法，完善真伪鉴别机制，加大对恶意投喂的监测拦截。通过建立严格的广告识别与信息过滤机制，对疑似商业推广内容进行明确标注，并强化信源质量核验与溯源能力。

对我们每一位用户而言，最关键的是转变认知：AI是工具，而非权威。我们必须建立“AI不是百科全书”的基本认知，将其视为高效的信息整理助手，而非终极的事实裁判者。在依赖AI，尤其是进行消费、健康、投资等重要决策时，务必养成“交叉验证”的习惯，优先核查来自政府官网、权威媒体、专业机构的信息，同时警惕AI回答中对某一品牌呈现高度一致、缺乏客观对比的赞美，切记绝不将单一AI回答作为决策的唯一依据。

技术本无善恶，人心才有偏向。GEO从一项提升信息效率的技术，沦为“投毒”的工具，再次印证了“工具理性”一旦脱离“价值理性”的约束，将带来何等风险。我们享受AI带来的前所未有的便利，也必须警惕随之而来的新型风险，在技术快速迭代的当下，法律必须及时回应，以明确的责任边界和有效的监管手段，斩断黑灰产业链，让AI真正成为服务公众、造福社会的智能助手。

文 | 张帆

左右滑动，查看华炬数小合服务目录