山东财大专家：ai大模型被投毒

在3月15日的节目里，山东财大社会治理智能化研究院专家李富民给咱们分析了AI大模型被投毒这事。他讲，商家现在用GEO这种业务来给大模型定向训练，想让AI专门生成某个产品或服务的推荐。这就好比偷偷在后台搞营销，甚至瞎编乱造一些不存在的东西，把它当成正经推荐推给咱们。这种行为特别恶劣，严重坑害消费者，还把正常的推荐算法和市场环境都给搅乱了。李富民还提到，消费者根本不知情就被植入了营销内容，这是典型的用技术手段骗咱们买东西。这属于典型的不正当竞争和虚假宣传。所以说，咱们得高度重视这种新型的AI投毒手段。记者王昊从中新网了解到，这种现象现在很普遍。治理上需要多管齐下。一方面监管部门得盯着那些通过AI诱导营销的行为；另一方面AI平台得把语料源管好、把输出内容过滤一下；还有就是咱们消费者自己也得多长个心眼儿。