360发布AI智能体安全部署指南 系统应对新型网络威胁

问题:随着智能体快速走向行业应用,安全风险开始从传统漏洞扩展到“行为操控”层面。

安全部署不当可能导致管理接口暴露、API Key等凭证泄露,进一步引发数据失控、业务中断等后果。

尤其在智能体具备调用工具、读取记忆与插件扩展能力的情况下,攻击面显著增大。

原因:一是部署流程中安全意识不足,接口与权限设计沿用传统系统思路,未充分考虑智能体具备自主决策和多工具协同特性;二是应用生态发展迅速,插件与第三方技能集成增多,供应链治理滞后;三是提示词注入、记忆投毒等新型攻击方式隐蔽性强,较易被忽视。

影响:一旦攻击者利用提示词注入或供应链漏洞操控智能体,可能诱导其执行非预期操作,带来数据泄露、系统越权调用,甚至长期“潜伏式”影响业务决策。

对于政企机构而言,这类风险可能波及核心数据与关键业务系统,影响运行安全与信任体系。

对策:指南提出建立安全基线与全生命周期防护体系,涵盖身份认证、权限最小化、接口隔离、行为审计与异常检测等。

对提示词注入风险,应强化输入过滤、指令模板校验和多层权限控制;对插件供应链风险,要推动来源认证、版本管理、签名校验与安全评估。

同时,增强对记忆模块的访问控制与投毒检测,建立多智能体协同的治理机制,防止联动失控。

前景:随着智能体逐步向“数字分身”演进,安全治理将成为应用落地的基础条件之一。

行业需要在标准建设、合规评估、工具链安全能力等方面形成共识,推动安全部署从“可选项”转变为“前置条件”。

对企业而言,完善的安全部署体系既是风险防线,也将成为提升智能体可信度与竞争力的重要抓手。

在数字经济蓬勃发展的今天,技术创新与安全保障如同车之两轮、鸟之双翼。

360集团此次发布安全指南,既是对行业痛点的及时回应,也体现了头部企业的责任担当。

当智能体技术逐步成为数字社会的重要基础设施,唯有坚持发展与安全并重,方能真正释放其推动社会进步的巨大潜能。