当前,智能体技术正从实验室走向规模化应用。
据权威机构预测,中国智能体市场规模将在2025年达到69亿元,用户规模突破2.5亿。
这一技术已深度融入客服、研发、数据分析等核心业务场景,标志着人工智能从辅助工具向基础设施的质变。
然而,技术升级伴生新型安全威胁。
国际安全机构研究发现,攻击者已开发出三类针对性攻击手段:通过构造假设场景窃取系统提示词,利用工作流漏洞实施间接指令注入,以及伪装正常任务绕过内容过滤。
这些手段不再停留于数据窃取层面,而是直接威胁业务流程完整性。
深层原因在于技术架构的根本变革。
当智能体具备自主决策与执行能力后,其既是应用程序又是权限主体,传统基于网络边界的防护体系出现盲区。
更严峻的是,攻击者正利用智能体对上下文的理解能力,将恶意指令分解嵌入正常业务流程,使传统规则引擎难以识别。
面对挑战,安全专家提出系统性解决方案。
首要任务是重构信任评估体系,将静态权限管理升级为结合行为轨迹、操作意图的动态分析。
同时需开发具备语义理解能力的安全引擎,实现对"合理请求中的异常目的"的精准识别。
某跨国安全企业建议,企业应建立智能体专属安全沙箱,对工具调用、文档访问等高风险操作实施链式验证。
行业观察显示,领先企业已启动防护体系升级。
某金融集团在智能体部署中引入"双因子意图认证",要求关键操作同时验证任务目标与执行逻辑;某制造业巨头则开发了行为基线系统,通过机器学习建立正常操作模型,实时比对异常偏差。
这些实践为行业提供了重要参考。
智能体把“会说”变为“会做”,也把安全从边界防护推向系统治理。
越是深入业务核心,越需要以更严格的信任评估、更精细的权限控制和更可追溯的审计机制托底。
把风险前置、把规则固化、把责任厘清,才能让智能体真正成为生产力的增量,而不是企业运行的新不确定因素。