问题:从“看得出假”到“真假难辨”,技术滥用侵权呈扩散态势。
王劲松在社交平台表示,自己的形象被伪造生成视频,声音、口型难以分辨真伪,并在投诉后确认相关内容已删除。
值得关注的是,他提到“家里人都分不清”,折射出深度合成内容在逼真度上的跃升。
近年来,公众人物被伪造用于直播带货、广告投放、账号引流等情形屡屡出现:有人被“分身”同时出现在多个直播间推销不同商品;有人声音被复制剪辑成减肥产品代言;还有运动员声音被“克隆”后用于售卖农产品,甚至出现多位明星“集体站台”某品牌的虚假营销场景。
由此引发的侵权与欺诈链条正从个体受害扩展到消费端和行业生态。
原因:低成本、高收益与取证难叠加,推动黑灰产“工业化”。
一方面,相关工具门槛降低,素材获取更容易。
公开视频、采访片段、直播回放等内容为“训练”“拼接”提供了丰富样本,少量片段即可生成相对自然的口型与音色。
另一方面,黑灰产逐利动机强烈。
伪造名人形象能快速建立信任背书,提高转化率,一旦被投诉便“换号重来”,形成“打一枪换一个地方”的游击式传播。
此外,侵权认定和证据固定存在现实难点:受害者常常面临“证明我是我”的尴尬,普通消费者更难在短时间内完成核验;而伪造内容传播快、下架后可再上传,追责链条长、跨平台取证难,抬高了维权成本,客观上助长了违法违规行为。
影响:既损害个人权利与公共信任,也扰乱市场秩序与行业创新环境。
对个人而言,肖像权、名誉权以及声音等人格权益可能被反复侵害,轻则造成声誉风险,重则诱发诈骗、勒索等衍生违法行为。
对消费者而言,借助“名人背书”的虚假宣传具有较强迷惑性,易导致冲动消费甚至健康风险。
此前北京市海淀区市场监管部门查处的案例显示,有企业通过账号宣传所谓“深海多烯鱼油”可治疗多种疾病,并在直播中使用知名主持人形象;调查认定相关产品执行标准为普通食品,不具备疾病治疗功能,且主持人形象为伪造生成,最终依法受到行政处罚。
对市场而言,虚假营销挤压合规企业生存空间,破坏公平竞争;对技术发展而言,滥用行为持续发酵会削弱公众对数字内容的信任,影响行业应用的社会接受度,甚至形成“劣币驱逐良币”的负面循环。
对策:坚持“技术治理+平台责任+执法联动+社会共治”同步推进。
其一,强化源头约束与显著标识。
对深度合成内容的生成、发布、传播环节完善管理要求,推动更清晰的标识规范落地,降低受众被误导的概率。
其二,压实平台主体责任。
平台需提升识别与拦截能力,健全“快速投诉—证据固化—先行处置—复核追责”的闭环机制,对涉及公众人物形象、医疗健康等高风险领域实施更严格的准入与审核;对屡次违规账号和背后机构,应加强关联识别与“穿透式”治理,避免简单封号后再次“借壳复活”。
其三,强化执法与司法衔接。
市场监管、网信、公安等部门在虚假广告、诈骗引流、个人信息侵害等环节形成联动,对典型案件依法从严查处,形成有效震慑,并推动跨平台、跨区域取证协作更加顺畅。
其四,提升公众识别与企业合规意识。
对“名人代言”“神奇疗效”“限时福利”等常见话术保持警惕,鼓励消费者通过官方账号、权威渠道核验信息;企业开展营销活动要守住法律底线,杜绝“擦边借名”与技术伪装。
前景:治理将走向精细化、体系化,规则与技术迭代需同频。
可以预见,深度合成将持续向更逼真、更便捷发展,应用空间广阔,但也会带来更复杂的内容安全挑战。
下一阶段,治理重点或将从“事后处置”更多转向“事前预防”,包括更统一的内容标识标准、更可靠的溯源与认证机制、更严格的高风险场景管理,以及更高效的跨部门协同。
只有在鼓励创新与严惩滥用之间建立清晰边界,才能让技术真正服务于公共利益与高质量发展。
AI技术本身是中立的,其正负效应取决于使用者的选择。
当前,不法分子利用AI技术的便利性和隐蔽性从事违法活动,已经成为不容忽视的社会问题。
这不仅侵犯了公众人物的合法权益,也严重扰乱了市场秩序,损害了消费者权益。
打击AI技术滥用需要法律的规范、监管部门的执法、平台的自律和全社会的参与。
只有多方联动、综合施策,才能有效遏制这一乱象,让新技术成为造福社会的工具,而非危害公众的隐患。
在这个过程中,每一个消费者也应当提高警觉,成为良好市场秩序的守护者。