香港召开代理式人工智能论坛,专家呼吁构建体系化防线推进AI应用

代理式人工智能(Agentic AI)的快速发展正深刻改变网络安全的对抗格局。在日前举行的香港首届Agentic AI创新与安全论坛上,业界专家深入分析了该新技术带来的安全挑战,并提出了应对之策。 当前,网络安全领域存在天然的攻防不对称性。攻击者只需找到一个突破口就能触发整条攻击链,而防御方则需要守住每一个关键节点。这种不对称性在AI时代被继续放大。借助AI技术,攻击者可以大幅提升攻击链构建效率,快速生成多个攻击路径并扩大攻击规模,使得"AI对抗AI"成为新的安全常态。 面对日益复杂的安全态势,传统的单点对抗策略已显不足。专家指出,更有效的防御思路是强化整体防御能力,减少安全盲区,守住关键防线。这要求企业对其数字资产状态做到可知、对风险态势做到可感、对安全能力做到可控。 为此,业界提出了Agentic AI时代的五层管理体系。首先,企业需要摸清全域资产,消除防御盲区。CISO必须对所有数字资产做到全面可见、统一管理,避免为攻击者留下可乘之机。其次,要维持均衡可控的防御强度。企业无需追求每个节点都"固若金汤",而是应该提高整体基线水平,保持防御能力的均衡,这样既现实又能保障业务效率。 第三个上是严控供应链安全风险。当前企业系统大量依赖开源框架和第三方组件,供应链投毒已成为重要攻击路径。企业需要加强代码审计和软件成分管理,从源头识别并控制第三方组件带来的风险。第四,企业应部署蜜罐等主动诱捕手段,掌握攻防主动权。通过将攻击引导至可监测区域,既能保护核心资产,又能获取攻击行为情报,实现从被动防御向主动感知与响应的转变。 第五层防线是筑牢全员安全意识。在AI钓鱼、自动化社交工程等新型攻击面前,企业需要开展常态化、实战化的安全培训,减少人为失误,形成技术防护与人员防线的双重保障。 在实践中,一些企业已经开始将这些理念转化为具体行动。通过整合资产测绘、代码审计、风险监测等多项安全能力,对系统、数据、人等要素展开风险验证,企业可以有效落实合规保障、预控安全风险。同时,借助自动化与智能化手段,通过不断的测试、验证、优化流程,企业的安全防护效果也在持续提升。 需要指出,AI作为"黑盒"系统,与传统软件有着本质区别。即便AI系统具备99%的稳定性,其剩余的1%不确定性也可能带来严重后果。这意味着,在AI时代,安全防御的重要性被进一步凸显,企业必须以更加谨慎和系统的态度对待AI安全问题。

当AI开始参与决策时,安全问题已超越技术范畴,成为发展的基础保障。本次论坛提出的防御理念,既提供了实践方案,也说明了数字时代的安全智慧——真正的韧性不在于绝对防护,而在于建立风险共治的生态体系。这或许正是技术创新与安全治理的最佳平衡点。