【问题】 演艺界资深人士王劲松2月26日在社交媒体表示，他参与拍摄的禁毒宣传片素材被人恶意篡改，并通过深度伪造技术合成为虚假的理财推广视频。此类侵权并非个例，李连杰、姚明等公众人物也曾遭遇类似伪造。更值得关注的是，平台在收到实名投诉后，接近12小时才完成违规内容处置，这段时间内涉及的虚假信息已被大量传播。 【原因】 从技术端看，深度伪造已在“口型同步”“声纹模拟”等关键环节取得突破。有技术供应商报价显示，制作1分钟的高仿真视频成本仅约130—400元，并可在2小时内交付。与之相比，平台治理仍多依赖“人工投诉+事后审查”的传统流程。中国网络空间研究院《2023年度报告》指出，侵权投诉平均处理周期达到9.2小时。法律专家认为，现行《网络安全法》虽要求平台建立内容审核机制，但对响应时效缺少明确量化标准。中国人民大学数字治理研究中心监测数据显示，2023年涉及公众人物的深度伪造投诉中，67%未能在24小时内完成处置。 【影响】 技术滥用正在形成黑色产业链。公安部经济犯罪侦查局统计显示，2023年利用伪造视频实施的诈骗案件同比增长240%，单案平均涉案金额达82万元。更严重的是，这类行为不只是侵害个人权益，也会削弱社会信任：当禁毒宣传形象被篡改为诈骗“背书”，对公共安全和信息秩序都构成冲击。 【对策】 业内专家建议建立三级防御体系：技术层面推进“数字水印”“生物特征加密”等主动防护；制度层面建立“首接负责制”，对名人等重点群体的维权诉求设置2小时响应机制；立法层面加快《生成式人工智能服务管理暂行办法》实施细则落地，将深度伪造内容纳入网络暴力治理框架，明确平台义务与处置要求。 【前景】 随着国家网信办启动“清朗·2024年算法综合治理”专项行动，预计年内将推出AI生成内容标识国家标准。清华大学智能法治研究院提出，可参考金融行业“熔断机制”，对传播量短时间内异常飙升的疑似伪造内容自动限流，为人工复核争取处置时间。
深度伪造的风险不在于“像不像”，而在于它被用来撬动信任、制造骗局。当合成成本越来越低、传播越来越快，处置的迟缓就可能成为不法分子的“窗口期”。把风险拦在扩散之前——把责任落到流程之中——把治理延伸到源头与协同，才能守住信息真实的底线与公众信任的根基。