AI投毒，究竟是怎么回事？

一、什么是AI“投毒”？

AI“投毒”指不法分子利用生成引擎优化（GEO）等工具，通过伪造专家身份、虚构研究报告、批量制造虚假信息等方式，将错误知识定向“投喂”给AI大模型。

通俗来说，AI模型就像一个热衷学习的“小朋友”，所有知识都来源于海量数据的“喂养”。AI 投毒，就是坏人故意给这个“小朋友”投喂错误知识、植入恶意指令，让他学歪了、变糊涂，甚至干坏事。

二、三种常见的AI“投毒”手段

1、训练数据污染。攻击者批量篡改公开网络上的知识源（如百科、论坛、新闻稿等），植入错误信息。由于大模型训练依赖互联网语料，一旦这些虚假内容被纳入训练集，模型会将其固化为“记忆”，长期输出错误答案。

2、检索上下文劫持（RAG攻击）。利用当前主流AI采用的‌检索增强生成（RAG）‌机制，攻击者通过高频发布软文、伪造专家背书、构造假榜单等方式，通过关键词堆砌、语义优化、伪造权威来源与高互动数据等手法，使虚假内容被 AI 优先检索抓取。即便存在真实信息，AI 也会优先引用被刻意 “投喂” 的虚假内容。

3、提示注入诱导攻击。在问答平台、社交平台或网页中预先埋入带有倾向性的“诱导性”内容，比如伪造产品差评、虚假对比评测，提前设置“XX品牌 vs YY品牌”问答并附带偏颇答案等，AI 回答问题时，会将这些伪装成 “社区共识” 的内容，当作客观依据直接引用。

三、AI“投毒”危害大

1、对普通大众：AI 给出的虚假理财建议、错误产品推荐、不靠谱就医方案，轻则造成财产损失，重则危及生命健康；

2、对各类企业：工业 AI 被投毒可能让设备误判引发安全事故，办公 AI 给客户发错信息、给市场出错方案，品牌口碑直接崩塌；还可能被窃取商业机密，带来惨重损失；

3、对关键行业：政务、金融、医疗、能源等领域 AI 一旦遭投毒，虚假信息扰乱公共秩序，数据泄露威胁公民权益，甚至可能引发严重公共安全事件。