问题——深度伪造侵权与诈骗加速渗透，治理面临新挑战； 在全国两会对应的交流中，全国政协委员、安天科技集团董事长、首席架构师肖新光结合行业观察指出，利用深度伪造实施敲诈勒索、造谣传谣、冒名营销等现象增多，并呈现“素材获取公开化、生成制作自动化、投放敲诈规模化”的趋势。他举例说，同事在接受电视节目采访后不久便收到“换脸”敲诈信息。追溯发现，不法分子紧盯公开节目内容采集影像与身份线索，随后寻找联系方式，批量制作伪造内容并实施勒索，作案链条已形成较为成熟的流程。 原因——低成本技术扩散叠加公开素材与黑灰产链条，推动风险外溢。 肖新光分析，当前深度伪造门槛持续降低，仅凭少量照片、短语音即可合成较为逼真的视频或语音片段。公众人物、企业管理者以及在公共场景露面的普通人，由于公开影像音频素材更丰富，更容易成为被“复刻”的对象。同时，黑灰产团伙通过新闻节目、短视频平台、社交账号等渠道，系统化开展“采集—训练—生成—投放”，再配合社工话术、钓鱼链接、转账引导等手段，将技术能力包装成可复制的犯罪“产品”。在此过程中，即便个人防范意识提高，也难以从源头阻断被采集、被仿冒、被传播的链条。 影响——对个人权益、社会信任与公共安全形成叠加冲击。 一是侵害人格权益与隐私安全。深度伪造往往伴随肖像权、名誉权、个人信息权益受损，受害者不仅可能遭受经济损失，还可能承受持续的心理压力与社会评价风险。二是侵蚀内容生态与社会信任。虚假音视频一旦扩散，容易放大“眼见未必为实”的不确定性，抬高公共议题的讨论与核验成本，影响正常舆论秩序。三是抬升治理与维权成本。现实中，不少侵权仿冒仍主要依赖当事人向平台逐条投诉处理，往往只能针对单一链接或单条内容提出异议，难以实现“整体性保护”；在平台裁量空间较大的情况下，个人举证与维权负担较重，甚至存在“被假冒者不知情”的情况，导致侵害长期潜伏、难以及时制止。 对策——从平台自治转向公共安全治理，形成制度与能力“双支撑”。 肖新光建议，相关主管部门应将深度伪造问题从一般技术风险与平台自治逻辑，继续提升到公共安全治理视角，构建更系统的治理能力与技术体系。 其一，完善规则与执法衔接机制。针对利用新技术实施敲诈、诈骗、造谣等行为，可在既有法律框架下，通过司法解释、典型案例等方式明确从重惩治导向，增强震慑，并推动跨地区、跨平台协同打击，压缩黑灰产生存空间。 其二，推动平台落实更严格的风控责任。围绕内容生成、发布、传播全链条，强化身份核验、异常行为识别、可疑内容提示、快速下架与证据留存等机制，减少“生成即传播、传播即扩散”带来的治理滞后。 其三，强化技术治理基础能力。以检测、溯源、取证、响应为核心，提升对深度伪造内容的识别与追踪能力，并推动安全能力向公共服务与行业侧延伸，帮助单位与个人更便捷地完成证明与处置。肖新光认为，应坚持“以技术管技术、以能力对能力”，用更高质量的安全能力对冲滥用风险。 前景——在全球网络空间竞争加剧背景下，统筹发展与安全更为迫切。 肖新光还关注到，人工智能在网络攻防领域的应用正在加速演进。国际媒体披露的相关动向显示，一些国家推动将人工智能用于情报分析、漏洞挖掘、恶意代码生成、社会工程欺骗内容生成以及攻击流程编排等方向，网络空间军事化风险上升。电力等关键基础设施规模大、链条长，数字化与智能化程度高，运行高度依赖网络信息系统，一旦遭受针对性攻击，影响可能外溢至经济运行与民生保障。 ，他提出，“数字主权”已成为现代国家安全的重要组成部分。面向未来，需要以人工智能赋能防御体系建设，在可靠感知、检测、采集与响应能力支撑下，提高关键系统韧性与对抗能力，形成可持续的安全能力供给。
深度伪造技术的滥用既是技术发展的副作用，也是社会治理的新课题。应对此挑战，需要技术创新、制度完善与社会共治联合推进，才能筑牢数字时代的国家安全防线。肖新光委员的呼吁既回应了当下风险，也指向未来治理路径，值得各方重视并尽快落实行动。