问题——深度合成从娱乐玩法演变为“以假乱真”的侵权与诈骗工具 随着深度合成技术快速普及，网络上出现了以他人面孔、声线为素材制作虚假视频的情况。霍启刚近日在社交平台表示，其团队在半年内处理了大量盗用其形象的短视频。这些内容仿真度高，常夹带与本人无关的观点和商业信息，甚至被包装成“内部建议”用于引流牟利。更需警惕的是，类似手法已扩展到普通人群体：有人被伪造“参与违规活动”的视频并传播至亲友和客户圈，名誉与工作受损；也有老年人在社交群内遭遇合成“祈福视频”诱导转账。深度合成正在突破娱乐边界，逐渐成为影响社会信任与公共安全的风险来源。 原因——技术门槛下降、平台传播放大与追责链条不畅叠加 一是造假成本大幅降低。过去伪造影像往往需要专业设备和较强制作能力，如今只需截取公开素材、借助简单工具，就能在短时间内批量生成高相似度视频与音频。“一键生成、反复改版”让侵权更容易规模化。 二是传播机制放大危害。短视频平台和社交群组具有强分享、强推荐特征，虚假内容一旦蹭热点或制造情绪，可能在算法推送下快速扩散，形成“先传播、后澄清”的被动局面。 三是治理与取证难度上升。深度合成痕迹越来越隐蔽，普通用户难以辨别；侵权账号更迭频繁、跨平台流动，权利人即便持续投诉下架，也难以切断源头。对普通人而言，还面临鉴定能力不足、时间精力有限、维权路径不清等现实障碍。 四是规则与执行仍需更紧密衔接。现行法律法规已覆盖肖像权、名誉权和个人信息保护等，监管也在推进标识管理与平台治理，但在“生成端约束、传播端审核、取证端固化、惩戒端落实”等环节仍存在衔接不顺，一些黑灰产借此钻空子获利。 影响——侵权危害从个人延伸至市场秩序与社会信任 对个体而言，深度合成侵权直接涉及肖像、声音、名誉与隐私，轻则造成误解与困扰，重则引发财产损失、职业风险与心理压力。老年人等数字素养相对薄弱群体，更容易成为“合成内容+诱导话术”组合套路的目标。 对市场秩序而言，伪造代言、虚假背书会干扰消费者判断，损害公平竞争与品牌信誉，带来“劣币驱逐良币”的风险。 对社会层面而言，“眼见不一定为实”的不确定性削弱公共讨论的事实基础；若虚假内容被用于煽动情绪、制造对立或操纵舆论，将更冲击社会信任并抬高治理成本。 对策——以“可追溯、可识别、可追责”为抓手推进系统治理 其一，压实平台责任。平台应完善深度合成内容识别与处置机制，针对金融、医疗、教育、移民、投资等高风险领域加强审核与风险提示；对频繁侵权账号采取更严格措施，建立黑名单与跨平台协同线索机制，减少“下架就换号”的循环。 其二，强化显著标识与来源管理。在生成、发布、传播全流程建立更清晰的标识规范与水印策略，提高合成内容可识别性；对提供深度合成服务的产品与应用，完善实名要求、用途提示与风险拦截，降低工具被黑灰产批量滥用的空间。 其三，打通取证与司法衔接。探索更便捷的证据固化渠道，推动平台对侵权链路信息进行合规留存并提供调取支持；对利用深度合成实施诈骗、敲诈、诽谤等行为依法从严惩处，提高违法成本。 其四，加强公众防护与科普。围绕“熟人声音求助”“名人背书投资”“祈福消灾收费”等高发套路，面向社区、学校及老年群体开展识别培训与反诈提醒，倡导关键场景“二次核验”，例如电话回拨、线下确认、设定家庭暗号等，降低受骗概率。 其五，推动行业自律与技术向善。企业在提升产品能力的同时，应把安全作为底线能力，完善滥用监测、异常调用预警与内容安全评估，将防护前置到模型训练、生成接口与分发策略中。 前景——治理重在协同与落地，可信数字生态需要长期建设 可以预见，深度合成仍将广泛用于影视制作、教育培训、无障碍服务等正当场景，技术本身并非问题，关键在于规则是否清晰、责任是否落实、惩戒是否到位。随着制度改进、平台治理能力提升和公众识别意识增强，“以假乱真”的空间有望被压缩。但也应看到，对抗仍将长期存在，治理需要从“事后下架”转向“源头约束+链路阻断+快速响应”的综合机制。
数字技术的发展带来便利，也带来新的风险。深度伪造的滥用提醒我们，技术进步不应以侵害个人权益和削弱社会信任为代价。只有推动技术治理、法律制度与公众教育形成合力，才能建设更安全、可信的数字环境。