问题:从“会回答”到“会执行”,带来效率想象也带来新型风险 近期,一款名为OpenClaw的开源智能体全球开发者圈迅速走红。不同于传统对话式工具,这类智能体在获得授权后可直接操作电脑环境,完成邮件撰写、表格填写、文件归档、数据整理乃至应用部署等任务,被不少用户称为“数字员工”。但热度攀升的同时,关于可靠性与安全性的争议也在扩大:有用户反映出现账户异常转账、浏览器信息被滥用,也有人遭遇系统被远程控制、关键文件被批量删除等损失。工业和信息化部、国家互联网应急中心等机构随后发布安全风险预警,提醒公众和单位用户谨慎授权、加强防护。 原因:能力来自权限,权限背后是密钥、插件与不可控行为叠加 多位受访从业者表示,“安装容易、用好不易”是当前智能体应用的普遍体验。一上,智能体无法自动补齐用户的专业判断:目标不清、验收标准不明时,常会出现“过程看似推进、结果难以落地”的情况;另一上——为完成跨应用操作——智能体往往需要更高系统权限、接口令牌或业务密钥。一旦被诱导或被攻击者利用,风险可能从单点错误迅速升级为链式失控。 安全机构与企业安全负责人将风险概括为两类典型情形:其一是稳定性与可控性风险。智能体可能因误判环境、重复执行指令或陷入异常循环,导致系统卡死、服务中断,甚至造成大范围误删误改。其二是核心密钥泄露风险。为确保“能执行”,不少用户会把接口令牌、云资源密钥、支付与管理权限交由智能体调用,攻击者则可能通过诱导式指令或恶意网页内容“借道”套取敏感信息。 其中,第三方技能插件被认为是风险高发环节。国家网络与信息安全信息通报中心通报显示,对3016个技能插件样本分析发现,336个包含恶意代码,占比10.8%。在缺乏审查的情况下启用插件,智能体的执行能力就可能被攻击者利用,成为放大风险的工具。 影响:个人与组织同时承压,信任成本上升、治理压力加大 在个人层面,风险往往直接体现为财产损失、隐私泄露和数据不可逆破坏,且排查与追责难度较高;在企业与机构层面,智能体可能触达客户数据、商业机密、研发代码和运维控制面,一次误操作或泄露就可能带来合规压力、业务中断与声誉损失。 更深层的影响是信任成本上升:当用户不得不在“更强能力”与“更高风险”之间反复权衡,智能体的大规模落地就会受限,行业也将面临安全标准、审计机制与责任边界的重新划定。 对策:以“最小权限+隔离验证+人工确认”为主线,补齐制度与技术短板 受访专家普遍认为,破解“龙虾悖论”的关键不在于简单“禁用”或“放开”,而是分场景、分阶段降低不确定性。 一是坚持最小权限原则。将智能体权限拆分为“读、写、执行、支付、管理”等不同等级,能不给的不给、能临时的不用长期、能单次授权的不用常驻授权;严禁将高敏密钥以明文形式交由工具长期保存。 二是强化隔离与回滚机制。高风险任务优先在沙箱、虚拟机或测试环境中运行;对文件批量操作、资金涉及的操作、系统配置变更等设置“人工确认”和双人复核;建立操作日志、版本控制与快速回滚能力,把错误成本控制在可承受范围内。 三是把住插件与供应链入口。对第三方技能插件开展来源核验、代码审计与权限清单管理,建立“白名单+持续监测”机制;开源组件及时更新补丁,避免已知漏洞被反复利用。 四是提升使用者数字素养与组织治理能力。智能体的效果与风险很大程度取决于使用者对目标、边界与验收的把控。企业应制定统一的使用规范、培训机制与应急预案,明确损失发生后的处置流程与责任分工,避免“个人随意授权”演变为“组织性暴露”。 前景:智能体将走向常态化,但“先安全后规模”将成共识 业内预计,随着工具链成熟与安全治理完善,智能体将在办公自动化、研发辅助、运维管理、客服质检等场景加速渗透。但在可预见的一段时间里,“先把风险降下来”比“先把功能堆上去”更具现实意义。未来仍需监管部门、平台方、企业与开发者联合推进:完善安全评测与分级授权标准,建立可追溯的审计体系,推动数据与密钥管理规范落地,并在产品设计层面强化“默认安全”与“可控执行”。
这场由技术创新引发的安全讨论,本质上是在重新划定人机协作的边界。正如网络安全专家所言:“任何工具的威力都与其约束机制成正比。”在效率加速到来的同时,只有让安全意识与制度建设同步跟进,数字生产力的潜力才能真正释放。