你好呀，大家可能都知道，咱们国家现在已经在大力打击AI技术滥用的乱象了，今年2月中央网信办搞的“清朗行动”里就把整治这件事列入了重点任务。专家说，AI视频生成模型应该有个负样本库，这样就能识别诈骗这些不良素材，从源头上堵住漏洞。 张玉兰是江苏省宿迁市沭阳县的一位84岁奶奶，她的遭遇挺让人揪心的。这事儿是因为她每天都要刷十个小时的短视频，给一个叫“建国”的AI数字人写情书。年前她手写了一封五百字的信给“建国”说对不起，“建国”这个角色其实就是个AI数字人。之前还发布视频的账号居然直接加了她微信，还拉她进群聊发不明链接。 跟张玉兰一样的中老年人其实不少，因为她们缺乏情感上的照顾，所以容易被这些“AI霸总”盯上。商家会在短视频平台添加“帅气大叔”或者“黄昏恋”的标签，专门推送给中老年女性。很多老人信以为真，就主动去消费，买各种商品或者虚拟产品。 那个“建国”给小海讲的故事更让人难过。他说如果不是他开公司想接妈妈和小海回家过好日子，“姐姐你快过来”，“我们差点就陷入阴谋万劫不复”，“我妈和小海也不会吃这些苦受这些罪”。这些话都是他在一个售价99元的女士手镯销售页面里讲的。 张玉兰的家属发现她这几个月里花了七八千元打赏和买东西。只要是有“建国”或者跟他声音一样的AI视频出现，她就觉得是“建国”在跟自己说话。因为这件事她还把视频号关联的商家投诉到了12315平台。 沭阳县市场监督管理局现在已经受理了这个投诉。为什么中老年人容易被骗呢？专家分析有两个原因：一方面她们更容易相信“眼见为实”，另一方面2023年以来AI数字人在短视频里用得太多了。 有些不良商家为了赚快钱甚至一天就能做几个视频出来赚几千块钱。这种视频一般五分钟就能搞定。除了这些骗子账号建立专属粉丝群之外，他们还会在卖商品的页面上演苦情戏来骗取信任。 希望咱们的专家和相关部门能多管齐下把这个问题彻底解决掉。