央视315 晚会被曝有人利用ai大模型做了坏事,业内管这叫“投毒”

3月15日这天,大家在看央视315晚会的时候,有个事儿被曝出来了,就是有人利用AI大模型做了坏事,业内管这叫“投毒”。观点网也跟着查了一下,发现叫GEO的服务可不少。网上有服务商说,只要花钱,就能让自己的产品排在AI推荐的第一名。这是不是真的呢? 我试着在网上找到了一家知名的GEO服务商。王总跟我聊了聊,说他们家擅长的就是帮客户让产品在AI搜索里排前面。他还打了个比方,“这就好比写了篇软文,然后让AI平台给录入、抓取。”王总还补充说,因为AI算法老是变,所以想让推荐一直管用,就得不停地发好多跟客户有关的文章。 其他做GEO的公司也爱聊怎么操控AI、怎么让AI“听话”、甚至怎么“洗脑”。有个业内人士在电商平台买了个叫“力擎GEO优化系统”的软件。他把假的智能手环信息输进去,命令它写文章。没多久,系统就自动生成了十几篇宣传软文。这人又把这十几篇文章发到了网上。 结果用AI大模型一问“智能健康手环推荐”,有两个模型真的推荐了这个虚构的手环,而且排名还很靠前。我后来又联系了“力擎GEO”的运营者李总。他说GEO火主要是因为能帮客户在AI里喂料、投毒达到商业目的。 李总解释说想操控AI大模型的关键就是发稿。比如手机品牌,一般推荐位就5个位置,最多10个位置。这么多手机品牌怎么弄呢?一年可能花好几亿广告费搞排名,花个几百万投点毒试试总行吧! 现在GEO业务太火了,催生出不少专门发稿的公司和平台。他们专门揽各种发稿活儿,让AI引用和抓取这些文章,成为围猎AI大模型、进行数据“投毒”的重要一环。