问题——公众人物被“仿声”“仿脸”传播，真假难辨加剧误导风险。 3月23日，霍启刚通过个人社交账号发文称，近期再次发现多条盗用其形象与声线的深度合成视频。对应的视频画面与语音上高度逼真，但内容与其本人立场无关，甚至有同事观看一段时间后才发现是合成。霍启刚表示，曾有账号将其过往谈及香港情况的内容二次剪辑、重新包装，用于宣传所谓“移民渠道”等信息，担心受众被诱导付费并遭受财产损失。其团队在过去半年已处理数千条相关虚假内容，并安排专人每日投诉反馈，但新内容仍持续出现。 原因——技术门槛降低、流量驱动与治理成本不对称叠加。 业内人士指出，深度合成技术不断迭代，使“仿声”“换脸”从专业操作变为低门槛、可批量生成。一些账号通过拼接旧素材、套用模板快速生产“看似权威”的内容，以获取点击并导流变现。同时，短视频传播链条长、发布速度快，侵权内容常以“搬运”“再剪辑”“矩阵分发”等方式扩散，形成“生成—发布—引流—变现”的链条。对权利人而言，取证、投诉、下架、追责耗时耗力，治理成本明显高于侵权成本，导致“删不胜删”。 影响——不仅侵害人格权益，也可能成为诈骗“放大器”。 一上，冒用公众人物形象与声音，容易造成观点被篡改、立场被嫁接，损害名誉与社会信任；另一方面，合成内容一旦与投资荐股、课程销售、移民咨询等高风险领域结合，容易形成精准诱骗，扩大受害面。评论区不少网友反映“确实难分辨”，也说明在“逼真度”提升后，公众辨别真伪的成本更高。近期多位演艺界人士也遭遇类似问题：有网友反映短剧中出现与知名演员高度相似的面容与造型，引发争议与维权呼声。 对策——司法明确规则边界，平台与行业需把“审查义务”落到实处。 治理此类乱象，既需要技术手段减少滥用空间，也需要制度规则明确底线。3月20日，北京互联网法院通报一起短剧使用深度合成技术生成与演员高度相似形象而引发的肖像权纠纷案。法院认定制作方构成侵权，播出方未尽合理审查义务亦需承担相应责任。该裁判要旨释放清晰信号：深度合成不是“免责外衣”，内容生产与传播各环节都应承担相应责任。 在行业层面，部分平台已开始强化限制措施：对生成真实人物肖像、语音等设定禁止或更严格的风控规则，并探索为合成内容增加显著标识、提升可追溯性。多位业内人士也提到，针对虚假换脸换声，遇到涉嫌违法行为可投诉举报并依法报案；从业者则应主动学习新技术、理解新风险，推动技术在合规框架内应用。 下一步，受访法律人士建议：一是强化“来源标识+水印溯源”机制，降低公众识别成本；二是压实平台审核与处置时限，完善“快速下架—复核—封禁—联动追责”闭环；三是对多次侵权账号与黑灰产链条加大惩处力度，提高违法成本；四是完善证据留存工具与便捷维权通道，减轻权利人举证压力；五是面向老年人等易受骗群体加强反诈提示与科普宣传，提升整体防范能力。 前景——在促进技术应用与守住权利边界之间寻求平衡。 深度合成等技术在影视制作、数字文旅、教育传播等领域具有正向价值，但前提是尊重人格权益、遵守法律底线，并对合成事实作出明确提示。随着相关规范不断细化、司法实践持续给出边界判断，加之平台风控能力提升与社会共治推进，虚假合成内容的生存空间有望继续被压缩。与此同时，技术仍在快速演进，治理也需同步更新，以规则、技术与协同机制共同维护网络环境。
当技术进步与权益保护的平衡被打破时，需要法律、技术与伦理共同校准；霍启刚事件不仅是个体维权的声音，也折射出数字时代公民权利面临的新挑战。如何在鼓励创新的同时筑牢法治防线，将成为检验人工智能治理成效的重要标尺。（全文1280字）