中国信息通信研究院最新发布的《人工智能安全治理研究报告（2025年）》揭示了人工智能产业快速发展过程中暴露的多重安全挑战。报告从技术、应用、管理及协同共治四个维度展开分析，为行业安全治理提供了重要参考。 技术风险加剧“易攻难守”态势 报告指出，与传统网络安全相比，人工智能技术的快速迭代扩大了内生安全敞口。由于算法复杂性和数据依赖性增强，安全攻防的非对称性继续加剧，体现为“易攻难守”的新特点。此现象源于深度学习模型的不可解释性，使得攻击者更容易利用技术漏洞发起隐蔽性攻击，而防御方则面临更高的技术门槛和成本压力。 应用延展衍生多层面风险 人工智能的广泛应用在推动社会进步的同时，也带来了新的安全隐患。报告分析称，模型应用的普及导致开源生态滥用、软件供应链漏洞等问题频发，外部性安全威胁显著增加。此外，人工智能技术的深度渗透还引发了个人隐私泄露、群体偏见放大以及社会伦理冲突等次生风险。这些问题的传导效应可能对社会稳定和公共安全造成深远影响。 管理体系面临组织性挑战 报告强调，人工智能技术的“黑箱”特性及其应用的不确定性，为产业链各环节的管理带来了前所未有的复杂性。研发机构、部署单位及运营主体在技术标准、责任划分和风险管控诸上均面临挑战。尤其对同时承担多重角色的组织来说，如何平衡创新与安全成为亟待解决的课题。 协同共治机制亟待完善 当前，人工智能安全治理仍缺乏有效的跨部门、跨行业协作框架。报告呼吁建立政府主导、企业参与、社会监督的多元共治体系，通过政策引导、标准制定和技术共享，形成合力应对安全挑战。同时，需加强国际对话，推动全球治理规则的协调统一。 前瞻性建议与行业展望 针对上述问题，报告提出了若干治理建议，包括加快核心技术攻关、完善法律法规、建立风险评估机制等。未来，随着监管体系的逐步健全和技术能力的持续提升，人工智能产业有望实现高质量发展与安全可控的良性循环。
人工智能安全治理是一项长期、复杂的系统工程，需要技术进步、制度创新和产业协作的有机结合。当前我国在人工智能发展中面临的安全挑战既是风险，也是机遇。通过深化对安全问题的认识、完善治理体系、推进产业实践，我们有望建立既能保障安全又能促进创新的人工智能发展生态。这份报告为产业各方提供了重要参考，有助于推动人工智能产业向更加安全、可控、可持续的方向发展。