问题——生成式推荐被“投毒”，答案可信度遭侵蚀 随着生成式应用加速走入搜索、消费决策、医疗健康咨询等场景，用户对“机器答案”的依赖大幅增强。然而，央视3·15晚会调查显示，一些服务商以GEO为噱头兜售“上榜服务”：只要付费，就能让特定产品或广告内容在多家主流大模型的回答中获得更高可见度，甚至被塑造成权威结论与“标准答案”。更有甚者，将夸大宣传、虚构背书等不实信息嵌入生成内容链路，形成“夹带私货”的隐蔽传播。 原因——黑产看中“可规模化影响”，技术路径多点渗透 从技术机理看，所谓“投毒”并非单一手段，而是对生成式系统数据、检索与交互链路的综合渗透： 一是训练数据污染。通过批量制造或操控内容源，把虚假信息包装成可被模型学习的“素材”，以时间换空间，逐步改变模型对某些实体或结论的倾向。 二是检索上下文劫持。利用平台引用外部网页、知识库或搜索结果的机制，操纵可被检索到的信息排序与呈现，令模型在生成答案时“引用错误依据”。 三是提示注入与诱导攻击。将对模型的指令隐藏在文本、页面或交互中，诱导模型偏离原本的安全策略和客观表述，从而输出带有倾向性的结论。 黑产之所以兴起，根源在于流量与转化的诱惑。一些机构将生成式推荐视作新的“入口资源”，把“影响答案”包装为可量化、可交付的营销产品；同时，平台侧在数据来源治理、引用标注、对抗检测与责任追溯等环节仍存在短板，给了灰色产业链可乘之机。 影响——从营销失序到公共风险，波及面广、危害更深 其一，破坏信息生态与市场秩序。付费操控推荐实质上改变了公平竞争环境，形成“劣币驱逐良币”的新型不正当竞争，挤压合规经营主体的空间。 其二，误导消费者与加剧信任成本。生成式答案常以“总结性”“权威性”呈现，一旦被植入虚假信息，用户更易在购买、维权、医疗咨询等环节作出错误判断，社会信任成本随之上升。 其三，放大安全与舆情风险。安全机构近日发布的涉及的生态威胁分析报告显示，围绕生成式应用的攻击与滥用呈现链条化、规模化态势，地理分布广、传播快。业内人士指出，若投毒与诈骗、黑公关、谣言传播结合，可能形成更复杂的复合型风险。 对策——以制度约束为牵引，压实平台责任与全链条治理 治理“投毒”需坚持系统观念，推动监管、平台、企业与社会共治。 一是完善规则与执法衔接。应将操控生成式推荐、制造虚假“权威背书”等行为纳入反不正当竞争、广告合规、数据安全与内容治理的综合监管视野，明确“付费影响答案”的边界与法律责任，提高违法成本。 二是压实平台主体责任。平台应强化数据源准入与引用机制治理，完善对外部链接、知识库与高频被引页面的真实性校验；对生成内容强化“引用可追溯、来源可核验、风险可提示”，建立黑样本库与快速处置通道，并对营销类内容实行更严格的标注与隔离策略。 三是提升技术对抗与安全运营能力。对训练数据、检索链路与交互提示实施分层防护，常态化开展红队测试与对抗评估；对异常“口碑突增”“同质化内容批量出现”等信号进行监测预警，形成发现、研判、处置、复盘闭环。 四是推动行业自律与公众教育。引导企业合规开展品牌传播，反对以“投毒”换曝光；同时提升公众对生成式内容的甄别能力，倡导在关键决策场景进行多源核验，降低被误导概率。 前景——生成式应用走向“可信供给”，关键在标准与透明度 从长远看，生成式技术在内容生产、影视配音、多模态交互等领域的创新仍在加速，但越是应用广泛，越需要“可信供给”作为底座。未来一段时期，围绕内容来源标注、生成结果可解释、广告与商业合作披露、第三方评测规范等方向的标准建设有望提速。可以预期，随着监管尺度明晰、平台风控加强以及行业治理共同推进，“影响答案”的灰色生意将面临更高门槛，生成式推荐也将向更透明、更可核验、更可追责的方向演进。
"AI投毒"现象反映了商业利益与技术发展的复杂关系。在鼓励创新的同时——必须守住真实与诚信的底线——让AI技术真正服务于公共利益和产业升级。