问题——“看似客观的答案”可能暗藏商业操控。近年来,智能问答工具旅行规划、家电选购、课程选择等场景中被频繁使用,“遇事不决先问一问”逐渐成为不少人的习惯。但随着使用量上升,一条针对模型输出进行“定向影响”的灰色链条浮出水面:一些商家不再直接投放传统广告,而是设法让模型在回答中“优先点名”“重点推荐”,让用户在不知不觉中接受带倾向性的引导。专家将这种通过虚假、夸大或偏向信息影响模型回答的行为概括为对智能问答的“信息投毒”。 原因——“生成式引擎优化”瞄准模型偏好与信息入口。张颖婕表示,不同于以往围绕搜索排名的优化,生成式引擎优化目标不在网页列表,而在模型最终给出的“整合式结论”。其做法并非“入侵系统”,而是顺着模型检索与生成逻辑“投其所好”:一是研究模型更容易采纳的信源类型与表达方式,例如结论明确、结构清晰、带比较维度、引用痕迹明显的内容;二是批量生产并包装成测评、经验总结、对比清单、专家建议等文本,让它看起来“像一份可靠报告”;三是在多个平台密集投放,制造“到处都这么说”的共识假象,提高内容在检索环节被抓取、在生成环节被综合采纳的概率。此外,模型的能力边界也容易被利用:它擅长组织语言、归纳模式,能判断答案是否“像样”,却并不天然具备稳定、可验证的真假判断能力;在实时问题中若依赖外部信息检索,一旦公开网络被系统性污染,偏差就可能被带入输出。 影响——既伤及消费者权益,也侵蚀信息生态与市场秩序。专家认为,“投毒”风险首先体现在消费决策上:用户看到的未必是广告,却可能是披着“客观建议”外衣的商业操控,进而导致错误购买、体验落差甚至经济损失。其次,这类行为会污染信息环境。如果操控模型推荐带来更高转化,可能刺激更多低质、模板化、虚假或半真半假的内容生产与传播,形成“劣币驱逐良币”的循环,拉低公共信息质量,增加社会整体的识别成本。此外,答案一旦被视作“经过分析的结论”,其影响力和扩散速度往往更快,也可能挤压行业的公平竞争空间。 对策——识别“中毒”迹象、压实平台责任、完善规则体系。张颖婕提示,公众可从回答特征初步判断风险:一是答案过于单一、语气过度肯定,却缺少必要比较与条件限定;二是反复推某一品牌,尤其是不知名品牌,理由却异常完整、很像标准化测评稿;三是同一问题在不同工具间结论差异明显甚至相互矛盾,往往说明问题本身不确定性高,或部分信息源已受到干扰。遇到这类情况,用户不妨要求给出依据与来源,交叉核验权威渠道信息,并尽量把问答结果当作“线索”而非“定论”。 从治理角度看,业内普遍面临“攻击成本低、防御成本高”的难题:制造与铺设内容的门槛持续降低,但识别、过滤、核验需要长期投入;同时,“真假边界模糊”也让监管与审核更难,一些内容并非完全造假,而是夹杂夸大、选择性呈现和利益导向的“伪客观”。对此,专家建议多环节共同推进:在源头端,压缩虚假与模板化内容的大规模传播空间,提升平台对批量内容与异常传播的识别处置能力;在平台端,强化信源筛选机制、风险提示和不确定性标注,避免“抓到什么就说什么”,并对可能存在商业关联的推荐加强披露;在规则端,尽快明确智能问答输出在信息披露、广告识别、责任边界诸上的要求,回应用户对“结论式答案”更容易信任的现实心理,防止推荐与营销混同。 前景——从“效率工具”走向“可信服务”,关键透明与共治。业内人士认为,智能问答带来的效率提升不应被否定,但要走向更广泛应用,前提是建立可持续的可信机制:一上,模型产品需要可追溯性、引用透明度、风险提示等上持续改进,让用户能“看到依据、理解边界”;另一方面,内容平台、模型服务方、监管部门与社会公众也应形成更清晰的分工与协同,以规则约束逐利冲动,以技术手段提升识别能力,以公众媒介素养降低被诱导的概率。未来,随着对应的规范完善与平台治理深化,信息环境有望逐步回归“以质量取胜”,但“投毒”与“反投毒”的长期博弈仍将存在,需要常态化治理。
在智能化服务日益普及的今天,维护数字空间的清朗生态离不开技术进步与制度建设的同步推进;正如信息高速公路需要交通规则,人机交互不断加深也需要与之匹配的治理框架。这不仅关乎技术伦理底线,也是数字经济稳健发展的重要前提。政府、企业与学界需形成合力,共同守住智能时代的信任基础。