最近三天，有个叫李总的哥们在央视的镜头前面，用最普通的语言，揭开了AI行业最不光彩的一面。他跟我们说了，把钱花出去给AI做点“手脚”，这事儿是真的能行。这话把我对AI的一点信任全给击垮了。我平时用AI都像个傻瓜一样，问它哪个手机性价比高，给孩子买什么奶粉，旅游攻略哪里坑少。我觉得AI给我的信息，是从全网筛选出来的，经过过滤掉偏见的，结果李总告诉我，这个答案其实是别人花钱让AI吃进去的垃圾文章。那些所谓的标准答案，都是人家用钞票买出来的。 过去一年我用AI就像在用搜索引擎升级版，觉得它是无所不知的智慧导师。结果呢？每次认真提问都可能在给别人的赚钱生意出力。这感觉就像请教高僧开示，结果发现念的经文是隔壁老王花钱请人写的广告词。 这已经不是把广告藏进结果里面了，而是直接把广告变成了标准答案。互联网上的灰色产业一直存在我能理解，可是真正让我害怕的是那些大公司巨头在面对“投毒”的时候居然像个无力反击的婴儿一样。 最近这72小时各家公司都在表演。有的公司内部人士出来辟谣，说是局部问题可控。这种话听起来耳熟吗？跟以前搜索引擎说要打击黑帽SEO的话一模一样。有的服务商连夜下线业务切割清楚表示自己跟“投毒”没关系。 有个头部媒体做了测试问了50个问题结果显示有12%的答案能追溯到同一个内容农场。也就是说在你日常使用的时候每十个建议里就有一个可能是别人用钱喂出来的谎言。 这个比例敢信吗？这哪里是技术漏洞分明是商业模式默许的结果。我在想AI厂商真不知道吗？或者说他们需要这种生态来赚钱？毕竟有东西能喂进去才有位置可卖。 传统搜索广告位置有限竞争激烈现在AI这个新大陆出现了位置无限但是谁能上去得看规则谁来定GEO提供了一条捷径。平台可能觉得这是更隐秘更体面的方式——他们没收广告费只是“优化”了信息生态。 别再把AI神话了它从生下来就不是什么纯洁无瑕的存在和我们一样吃着数据长大数据里面早就有各种工业添加剂和地沟油指望它天生免疫本身就是天真想法。 现在监管部门已经开始研究措施了这是好事但在这之前每个人都要多长点心下次再问AI什么最好的时候多问一句：这个好是谁定义的？算法数据还是人民币？