随着生成式AI的广泛应用,越来越多用户习惯向AI系统寻求购物、餐饮、住宿等决策建议。然而,这些看似权威的推荐榜单背后,隐藏着一条精心构建的虚假信息产业链。 问题的发现始于一个看似普通的推荐过程。当用户根据AI建议查证其引用来源时,发现了一批制作粗糙、内容雷同的可疑网站。这些网站充斥着各行业排行榜,每个领域都能找到十几篇标题高度相似的文章,且榜单首位往往被同一家企业占据。网站的浏览体验明显不符合正常使用习惯,按常理不应对任何决策产生影响。但令人意外的是,这些网站却成功"欺骗"了AI系统。 技术分析揭示了其中的奥秘。通过查看网站源代码,记者发现隐藏的文字试图冒充官方部门网站。然而,真正的官方网站网址完全不同,内容也与可疑网站的排行榜毫无关联。中国科学技术大学计算机学院研究员指出,通过注入特定关键词,将网站伪装成官方形态,可以在AI系统中获得权重提升。AI系统对格式规范、逻辑清晰的文本特别"偏好",而排行榜正是这类文本的典型代表。 更令人震惊的是,这并非个案现象。过去一个月,标题中含有"排行榜"和"榜单"的网络文章和视频新增超过200万条,其中88%并非由官方信源发布。AI系统却频繁将这些非官方内容当作多个独立信源加以引用,形成虚假的"多源验证"假象。 产业链的完整性深入暴露了问题的严重性。在电商平台上,大量商家公开销售"AI搜索优化"服务,宣传语直言不讳:"企业抢占AI推荐位。"这些服务商提供的演示系统可以一键生成数百万个排行榜标题。中国社会科学院研究人员指出,这已形成相对成熟的产业链,涵盖关键词设计、软文创作、多平台分发、效果评测等完整环节,并能实时向客户反馈推广效果。 这种"投喂"行为直接影响了用户的决策过程。用户在AI推荐中看到的果汁品牌、导游电话等内容,表面上是"智能推荐"的结果,实际上是被商业利益驱动的人为操纵。真正替代用户做决定的,不是科技本身,而是围绕大模型的商业生态。 ,部分大模型企业已开始采取应对措施。在调查过程中,记者观察到某些AI系统已能识别"看起来像是商业推广""权威性一般"等特征,并主动避免推荐具体品牌。中国移动九天大语言模型算法专家表示,企业正通过识别特殊字符和异常标记,对疑似污染的数据进行降权处理。 然而,AI系统的升级需要时间,信息生态的修复同样需要时间。在此过程中,普通用户可以采取主动防御措施:多点开AI引用的链接,核实是否为真正的官方网站,从而避免被虚假"榜单"所迷惑。
在数字经济深入发展的背景下,如何在技术创新与信息真实之间取得平衡,值得持续关注。“虚假榜单”现象提醒我们:技术提升效率的同时,也需要更明确的责任边界与更成熟的用户判断。只有形成政府监管、行业自律、公众监督的合力,才能更好守护数字空间的秩序与可信度。(完)