央视315 晚会上,把ai大模型被“投毒”这事给曝光了。这一曝光,可把那些想搞噱头的

嘿,大家都听说了吗?就在昨天,央视财经报道的“315晚会”上,把AI大模型被“投毒”这事给曝光了。这一曝光,可把那些想搞噱头的商家吓了一跳。咱们就先不说那些深层原因了,单说说这个GEO技术。你知道GEO吗?这是个专门用来优化信息分发、提升推广效率的工具软件。 但现在,有些公司竟然把它给用歪了。据爆料,只要给点钱,GEO服务商就能帮你把客户的产品搞到AI主流大模型的榜单上。这听起来挺离谱的,对吧?甚至还有服务商号称,能让客户的商品广告成为AI模型给出的“标准答案”。 我是不信这些鬼话的。结果一查,还真有人在做这事。我联系上了一家业内知名的GEO服务商。王总跟我说,他们公司的强项就是帮客户排名靠前。说白了,就是像做软文一样,再让AI平台去刷录、输入、抓取。 你以为这就完事了?哪有那么简单。现在AI大模型的算法更新那么频繁,你要是想让排名一直靠前,就得不停地喂给它相关的软文才行。就像每天都要喂它饭一样,不然它肯定记不住。 除了王总这种正经服务商外,还有不少其他公司也在做这事。他们的核心话题就是怎么操控AI、让AI“听话”。你说这是在给AI“洗脑”?听起来有点吓人吧。 为了证实一下这是不是真的可能发生的事,我就在电商平台上随机买了一款叫“力擎GEO优化系统”的软件。然后我虚构了一款智能手环,把信息输进去后让它生成宣传软文。结果你猜怎么着?不到一会儿的功夫,这个软件就自动生成了十余篇智能手环的宣传软文。 我挑了十余篇发布在互联网上后,就在AI大模型平台上搜索了一下:“智能健康手环推荐”。结果你猜怎么着?两个AI大模型直接推荐了我那个虚构的智能手环,而且排名还很靠前。 这一下可把我给惊呆了。我赶紧联系上了力擎GEO系统的运营者李总。他告诉我说,GEO业务之所以这么火就是因为它能帮客户喂料、投毒,实现他们的商业目的。 李总还跟我讲了个特别有意思的细节:操控AI大模型的关键节点就是在各大互联网账号上“发稿”。比如说手机品牌吧,一般也就5个位置,最多10个位置这么多手机怎么弄?你要是一年准备花上亿的广告费搞宣传呢?那几百万拿来做点投毒行不行? 这话听起来有点让人毛骨悚然啊!李总还说这个行业现在很火爆,催生了不少专门发稿的公司和平台。他们长期承揽各种发稿业务,为了就是让AI模型引用和抓取这些文章。说白了,这就是围猎AI大模型、进行数据“投毒”的重要一环啊! 这次报道让吴祈编辑和宣萱审核都忙活坏了吧!不过话说回来啊!这样的技术要是被滥用了,那后果真的不堪设想啊!