问题——"投毒"黑产盯上大模型，操控信息输出 调查发现，针对大模型的"投毒"已形成完整产业链。一些GEO服务商打着"优化推广"的幌子，为商家提供定向内容投放服务；他们批量生产软文、评测等内容，通过影响模型训练数据的方式，操控用户提问时的回答倾向，甚至将虚假产品推上推荐榜单。与传统SEO不同，GEO直接干预大模型的答案生成，更具隐蔽性和误导性。 原因——造假成本低，治理难度大 首先，AI工具让虚假内容可以快速批量生产，多平台分发增加了识别难度。其次，大模型数据来源复杂，训练环节多，给黑产可乘之机。再者，部分商家将大模型视为新的流量入口，不惜付费操控结果。最后，现有治理体系尚未成熟，平台的安全投入跟不上风险增长。 影响——从消费误导到高风险领域 "投毒"最直接的危害是误导消费者。当虚假产品、夸大宣传以"标准答案"形式出现时，用户更容易轻信。更严重的是医疗、金融等高风险领域，错误信息可能导致用药不当、投资失误等后果。长期来看，这会损害公众对数字服务的信任，影响行业发展。 对策——构建全链条治理机制 专家建议应以"服务属性+注意义务"为核心： 1. 打击黑产：整治GEO服务商，切断其账号、支付等渠道 2. 提升模型安全：加强数据清洗，建立异常内容识别库 3. 规范输出：对医疗金融等内容强化风险提示和来源标注 4. 压实平台责任：明确安全负责人，定期进行安全测试 5. 完善法规：细化对新型违规行为的认定标准和处罚措施 前景——安全能力成核心竞争力 随着大模型应用普及，安全治理将从附属功能变为核心竞争力。预计监管将更严格，平台会重点建设"可验证、可追溯"的能力。打击GEO黑产需要持续努力：既要提高违法成本，也要通过技术手段降低操控收益。行业有望建立更健康的内容生态和更清晰的责任边界。
大模型改变了信息获取方式，但也面临被滥用的风险。创新与规范需要平衡：平台不能以"技术发展初期"为由逃避责任，监管也要避免"一刀切"。只有建立合理的责任框架，才能让AI成为可信的工具而非黑产牟利手段。这需要法律完善，也需要全社会的共同努力。