新加坡发布全球首个政府主导AI智能体治理框架 为代理型应用部署划定安全边界

问题——智能体"能做事"带来"能越界"的隐忧。近年来,具备自主规划与工具调用能力的智能体应用快速发展,从对话问答逐步走向"代办事务"。当其直接连接外卖、出行、支付、办公系统时,任务效率提升,但随之而来的风险也更加现实:模型误判或指令被诱导可能导致越权操作、误下单、误转账、误发送信息;智能体需要读取通讯录、定位、日程、邮件、企业文档等数据完成任务,触及个人隐私与商业秘密的风险上升。更棘手的是,智能体在多工具、多账号、多主体协作的链路中运行,事故发生后"谁授权、谁执行、谁应担责"容易变得模糊,治理难度明显高于传统软件。

人工智能治理如同在创新与安全的钢丝上行走,过度监管可能扼杀技术活力,放任自流又将酿成系统性风险。新加坡的探索证明,有效的制度设计必须兼顾技术特性和人文关怀。当各国还在通用AI规制层面争论不休时,这种从具体应用场景切入的务实路径,或许能为构建数字治理新秩序打开一扇窗。(完)