问题:从被动响应到主动执行,智能体正改变人机互动模式。以往的人工智能主要承担信息查询、内容生成等辅助角色,决策流程简单明确——人类发起指令,机器执行任务。如今,具备自主调用工具、跨系统协作、自动下单、提交审批和起草合同等能力的智能体逐渐普及,使用方式正从"指令式"向"委托式"转变。当这些"能办事"的系统深入到支付、合同、隐私设置等关键环节时,用户关注重点已从"能否完成"转变为"是否按预期完成"以及"出现问题时如何干预"。这种转变使得"信任"从感性认知升级为必须内置于产品设计的刚性要求。 原因:效率优先导致的权限设计滞后是主要风险源头。为完成复杂任务,智能体往往需要访问多源数据、调用多项服务并执行系列操作。现实中,为简化授权流程,部分系统为智能体预设了过宽权限,甚至出现智能体权限高于账户持有人的情况。这种"权限溢出"虽然技术上合规,却可能违背用户真实意图。同时,现有权限体系主要针对"人-账户"模式设计,难以适应智能体"持续运行、自主调用、跨域组合"的特性:任务链中数据读取、方案生成与执行常被捆绑处理,导致授权过于笼统且难以追溯。此外,多数机构在智能体治理上的投入不足,制度、技术和流程未能同步升级,风险应对偏向事后处理而非事前预防。 影响:潜风险涉及安全事件和权力结构变化两个层面。首先,未经充分授权的自动操作可能引发财务损失、合同纠纷和隐私泄露等问题,威胁个人权益和企业安全。其次,智能体"先行动后报告"的特性会降低用户对决策的掌控力,导致"难理解、难管控、难追责"的治理困境,削弱数字自主权。从产业角度看,信任缺失将阻碍智能体在金融、政务等高敏感领域的应用,制约技术价值转化。社会层面上,权责不清会放大争议:事故归责于系统缺陷、平台责任还是用户疏忽,若缺乏明确规则和证据链,将推高社会治理成本。 对策:构建可信的底层机制,重构人机权限关系。当前业界正推动以"可解释、可审计、可控"为核心的治理方案,强调实质性监督而非形式确认。关键在于:重大决策不能仅靠"确认按钮",而要让用户清楚智能体的行动意图、依据及后果,并保留干预权。技术上可采用"访问权"与"执行权"分离设计:允许智能体检索信息、生成方案,但在支付、签约等高危操作前强制人工验证。同时应建立最小权限、分级授权、时限授权等机制,完善操作日志,实现"谁授权、授权内容、执行时间及结果"的全流程记录。治理上,机构需要建立专门的智能体管理制度,将风险评估、上线审核、异常处置等纳入常规流程,确保治理跟上技术发展步伐。 前景:从功能比拼转向可信度竞争,数字主权意识将更加强烈。随着用户对数据权利和控制权的重视,未来智能体的核心竞争力将不仅是性能强弱,更在于能否证明其在效率与安全间的平衡能力。精细授权、透明决策提示、可控退出机制可能成为行业标配。同时,符合法规的本地化、私有化部署方案将更受青睐,"运行地点、控制主体、数据使用规则"将成为用户选择的关键依据。可以预见,关于可信治理的标准体系、评估方法和监管协作将加速形成,促进智能体在更多领域安全落地。
当技术能够模拟人类判断时,守护人本价值显得尤为重要。这场关于数字主权的全球讨论,实质是文明社会对技术伦理底线的共同确认。历史表明,重大技术进步最终都要回归服务人类发展的本质,智能时代的人机协作模式,或将重塑现代社会的信任基础。