问题显现 某小区居民近日收到智能物业系统推送的“X型流感人传人”预警；经核实，该信息与卫健部门权威通报明显不符。深入追查发现，系统引用的所谓“权威信息”实为已被下架的伪科普内容。这并非个案，多地已出现智能工具传播失真信息的情况，折射出信息污染技术加持下出现新形态。 成因剖析 调查发现，当前存在专门篡改智能系统数据源的灰色产业。这些组织通过“生成式引擎优化”等手段，有组织地向数据与内容链路注入虚假信息，进而影响智能工具的输出。常见做法包括伪造数据库、污染训练素材、利用算法漏洞等。某网络安全机构监测显示，有关黑色产业链已从数据投毒延伸到传播效果评估，形成相对完整的闭环。 社会影响 此类行为主要带来三上危害：一是削弱公共信息可信度，尤其在疫情等敏感时期，误报可能引发不必要的恐慌；二是损害技术公信力，影响人工智能应用的正常推广；三是抬升社会治理成本，主管部门需要投入更多资源进行信息核验与辟谣。心理学研究显示，经由智能系统传播的虚假信息，其说服力较传统谣言提高40%以上。 应对措施 多方正在采取综合治理：在技术层面，头部企业建立“红蓝对抗”等机制，持续发现并修补漏洞；在监管层面，网信办等四部门联合开展“清源”专项行动，重点打击数据污染等行为；在制度层面，《生成式人工智能服务管理办法》明确提出建立可追溯的语料来源审查制度，强化来源管理与责任边界。 发展前瞻 专家认为，随着技术持续迭代，信息污染与反制的拉锯将长期存在。建议构建“三位一体”防御体系：完善技术标准、健全法律法规、提升公众媒介素养。中国人工智能产业发展联盟表示，将牵头制定行业数据清洗规范，计划在年底前发布首批可信数据源白名单。
信息时代的风险——往往不在于“有没有信息”——而在于“信息是否可信、如何抵达”。当生成式系统以更自然的表达、更稳定的语气进入日常生活，公众更需要认清其边界：它能提升效率，但不能替代核验；可以辅助判断，但不应成为唯一依据。让技术更可靠、传播更透明、责任更清晰，才能减少误导内容的“接力扩散”，为数字化公共服务夯实信任基础。