2025年2月27日,美国五角大楼把AI网络工具交给顶尖AI企业开发,打算用来侦察、定位中国电网的漏洞。肖新光指出,美方打算把AI武器化作为推进网络空间军事化的重点,把AI运用到情报分析和网络入侵攻击中是他们的优先选项。他分析说,美国可以利用人工智能体系快速关联分析基础设施的海量信息,寻找可打击的关键节点。“数字主权”和领土主权一样,都是国家安全不可分割的部分。面对这种威胁,肖新光建议我国要坚定地以技术管技术、以能力对能力,用AI赋能防御。全国政协委员肖新光也提到,防范AI深伪侵权需要构建更强有力的治理体系。他和同事们在接受电视台采访后同时收到换脸敲诈信息,让他感受到AI话题今年格外热。他回忆起一个真实案例:两位同事参加电视台节目后收到诈骗信息。通过追溯发现,诈骗团伙已经形成高度流程化的作案体系,仅用一张照片或一段语音就能生成足以乱真的视频。肖新光指出公众人物大量的公开素材可能被犯罪分子滥用。他强调不能靠个人安全意识解决这个问题,核心是要建立系统的治理能力和技术体系。针对一般侵权仿冒甚至违法犯罪行为,肖新光分析说大部分情况是靠受害者向平台投诉来维权。这种方式只能针对具体信息进行投诉,个人维权成本高。他建议相关立法和执法部门要把问题提升到公共安全视角,建立更系统的治理体系。政府工作报告提出“打造智能经济新形态”,这意味着新的发展范式也需要新的安全范式。过去十多年里我国网络安全产业形成了门类齐全的体系。除美国外,我国是实现全赛道产品自主的国家,为国家安全奠定了基础。但我们也有薄弱环节。肖新光今年提交了建议:打造“人工智能+”国家安全技术引擎。比如针对智能汽车、具身智能等场景打造专属安全引擎和功能积木,升级安全运营平台来提升对抗能力。 全国政协委员肖新光也是安天科技集团的董事长和首席架构师。他认为我国需要坚定地以技术管技术、以能力对能力来应对对手的攻击。他还提到了我们面临的一个现实问题:现实生活中对侵权仿冒甚至违法犯罪行为的处理往往依靠受害者向平台投诉。这种方式存在很多局限性:只能针对具体信息进行投诉而不能全面保护自身权益;平台拥有很大裁量权;个人维权成本较高。 在打击借助人工智能辅助实施的违法犯罪行为时,我们可以借鉴成熟的立法经验。肖新光建议通过司法解释和案例对这类行为给予加重处罚的导向。他强调要把相关问题从技术风险视角和平台自治逻辑提升到公共安全视角来考虑。 2月27日英国《金融时报》披露美国五角大楼正计划联合顶尖AI企业开发AI网络工具用于侦察定位中国电网等关键设施漏洞。肖新光指出这表明美方打算将人工智能武器化作为推进网络空间军事化的重点任务之一。 安天科技集团董事长肖新光在接受采访时表示:防范AI深伪侵权需要构建更强有力的治理体系。他回忆起一个真实案例:两位同事在参加电视台节目后同时收到换脸敲诈信息。通过追溯发现诈骗团伙已经形成高度流程化的作案体系:采集人员信息、寻找联系方式、制造伪造内容并发送敲诈信息。 公众人物大量公开的视频音频素材可能被犯罪分子滥用成为深度伪造数据源的情况时有发生。肖新光指出类似侵权侵害行为已经不是靠个人安全意识能解决的问题核心在于构建一个更强有力的治理体系才能有效应对这种挑战。