大模型与智能体加速落地,专家:安全须伴随技术迭代同步快速演进

当前,人工智能技术正处于快速发展阶段,大模型、智能体等创新应用层出不穷,为经济社会发展注入新的动力。

与此同时,这些新兴技术也为企业信息安全带来了前所未有的挑战。

如何在拥抱人工智能机遇的同时有效规避相关风险,已成为企业数智化转型的重要课题。

根据业界专家分析,人工智能安全问题的复杂性在于其技术特性。

中国电信集团首席专家、天翼安全副总工程师常力元指出,安全防御本质上是一种伴生型技术,与网络安全、信息安全等传统安全领域相同,都遵循"攻防并存、动态博弈"的基本规律。

这意味着安全技术的成熟度往往滞后于承载技术的发展进程。

具体来看,当新型技术平台首先实现成熟应用后,对应的安全防御体系才有条件逐步完善。

人工智能领域亦是如此。

由于人工智能技术仍在迅速迭代升级,相应的安全防护手段也必须保持同步的快速演进节奏。

这种"跟随性演进"的特点,要求安全防御体系具有更强的适应性和前瞻性。

从企业实践角度看,这一特点带来了多维度的启示。

首先,企业不能将人工智能安全防护视为被动应对,而应将其纳入数智化战略的核心内容,实现主动规划。

其次,安全防御方案需要具有动态调整能力,能够根据人工智能技术的演进趋势进行及时优化升级。

第三,企业应建立健全的风险识别机制,对人工智能应用过程中可能出现的新型安全威胁保持警觉。

当前市场上涌现出多种人工智能安全产品和解决方案,但其有效性和适用性存在差异。

专家建议,企业在选择安全防护方案时,应综合考虑自身业务特点、风险承受能力和技术基础。

同时要与专业的安全服务商建立长期合作关系,确保防御体系能够根据威胁形势变化进行持续迭代。

从长远看,人工智能安全防护能力的提升,既需要技术创新的支撑,也需要行业协作和经验积累。

随着人工智能应用的深化,安全防御实践将不断丰富,相应的最佳实践和行业标准也将逐步确立。

这个过程中,企业、安全厂商、监管部门需要形成合力,共同推进人工智能安全防护体系的建设。

在技术创新与安全防护这场永无止境的竞速赛中,既不能因噎废食阻滞科技进步,也不可盲目冒进忽视风险管控。

唯有保持开放包容的发展心态,构建技术、制度、人文三位一体的防护网络,方能在数字化浪潮中行稳致远。

这既是企业在智能时代生存发展的必修课,也是建设数字中国的必然要求。