王劲松老师可真的是吓坏了！AI技术已经到了这种地步，把他的声音和口型复制得跟真人一样，100%的逼真度简直让人难以置信。他发布的微博照片显示，“假王劲松”推荐理财课程的视频已经被转发了5127次，点赞8932个。王老师刷微信视频号时，突然发现了这个冒充自己的视频，就连他亲妈都认不出真假！他觉得太可怕了，因为视频里的声音、口型和他平时接受采访一模一样。 这段时间，王老师不仅是AI换脸技术的受害者，也是这个行业的痛点。去年还有网友把他的脸P到古装剧里，赚了200万播放量。这次更糟糕，AI不仅换了脸还克隆了声音。他后来透露，“那一段声音和我自己录音棚里的原声比对相似度至少有95%。” 这种技术已经不是“粗糙换脸”的初级阶段了。只要有3秒语音样本，就能克隆出相似度90%以上的声音；只要50张高清照片就能生成动态表情自然的“数字分身”。这个“假王劲松”推荐理财课程的视频就是用了这类技术。 最近《2023年AI生成内容安全报告》显示，去年全国AI换脸诈骗案件同比增长了214%，其中63%受害者是因为看到熟人视频放松警惕才被骗的。甚至更让人生气的是，制作这些视频成本极低：“定制AI换脸视频”服务只要50元就能搞定。 王劲松老师这次遭遇也让整个演艺圈警觉起来。“现在试镜都要加一道‘真人核验’，就是让演员当场念一段随机台词，对比声纹库。” 去年还有流量明星被AI换脸视频在外网传播点击量破1000万，团队维权花了3个月才把70%侵权内容下架掉。 杭州有个张阿姨差点被骗走20万就是因为这个原因。骗子用她儿子3秒语音样本克隆出“妈我撞人了要赔钱”的语音和AI生成的“儿子视频”，张阿姨急得转账时被银行柜员拦住才没上当。2023年全国AI诈骗案涉案金额已经超1.2亿元了。 我觉得我们真的应该警惕起来！现在AI技术已经超越了我们的想象边界。“无边界的AI”真的很危险！