AI给我们生活带来便利的同时，也可能给我们带来一些意想不到的问题。近期有研究发现，部分商业机构通过训练甚至误导AI模型，把一些具体品牌的信息偷偷塞给用户，形成一种新型、隐蔽的推广方式。中国社会科学院助理研究员李元琨就指出，这些行为会让算法给出的推荐失去客观性。 互联网上充斥着很多看起来像是权威榜单的网站，它们在形式上模仿正规机构，但实际上内容是商家编造的。这些网站为了吸引AI抓取，通常会使用一些固定关键词标签。中国移动九天大语言模型算法专家龙翀说，他们已经在尝试通过识别特殊字符来识别这些被污染的数据。 数据显示，过去一个月内出现了数百万条所谓的排行榜文章，其中九成以上都不是官方发布的。一旦这些带有明显倾向性的内容被AI误认为是多个独立信源，它们的推荐权重就会大幅提升。这意味着当你问“某地最佳餐厅”时，AI给你的答案可能不是最优解，而是被商业机构提前“投喂”过的结果。 一些商家公开售卖的“AI搜索优化”服务被指是这种灰色产业链的主要推手。这种服务能一键生成大量包含特定关键词的排行榜文章，通过专业分发形成闭环产业链。李元琨表示，这已形成了一条从内容定制到效果评估的成熟产业链。 面对这种新型信息污染，部分领先的大语言模型已经在回答中增加警示性提示。龙翀介绍说，技术团队正在通过多种技术手段提升模型的甄别能力。尽管如此，维护清朗的AI信息生态依然需要多方努力。 我们不能完全依赖AI做出决策。当收到“某地最佳餐厅”这类具体推荐时，应该多核查信源、多方比较。只有技术在透明可信的轨道上发展，人工智能才能真正成为服务社会的可靠工具。治理这一问题需要研发企业、监管者、行业和用户共同参与。 总之，人工智能本身是中性的工具，但如何使用它却是关键所在。我们需要警惕算法可能被利用来进行误导性的商业推广，也需要不断提升自身的数字素养来辨别真假信息。只有当我们用正确的方式对待这项技术时，它才能发挥出真正的价值。