问题——从“会聊天”到“能办事”,应用热潮伴随安全挑战同步抬头。
“你养虾了吗?
”全国两会期间,一只并不出现在餐桌上的“龙虾”引发委员关注。
所谓“龙虾”,是近期受到技术圈热议的开源项目OpenClaw。
与传统只进行文本问答的工具不同,此类系统更强调“代理”能力:能够理解用户目标,调用多种工具,跨平台操作计算机,完成连续性任务。
委员们普遍认为,这一变化意味着人工智能正加速从被动响应走向主动执行,应用边界扩展的同时,数据安全、网络攻击、权限滥用等风险也随之上升,治理与应用必须同步推进。
原因——技术形态跃迁与开源扩散共同驱动“智能体”走热。
良渚实验室主任欧阳宏伟委员认为,此类系统更像“调度员”,关键不在于单点能力最强,而在于把不同能力的工具和模型组织起来,形成可执行的工作流,使其能够处理更复杂的现实任务。
这背后既有大模型能力提升带来的推理、规划能力增强,也有开源生态降低门槛、加速迭代的推动作用。
宁波大学校长蔡荣根委员指出,当系统具备自主规划、闭环执行和持续迭代能力,就不仅是技术升级,更可能引发生产方式变化:个人与组织将把更多时间从重复性操作中解放出来,推动创新活动增多,进而带动生产要素重组,拓展增长空间。
政府工作报告提出打造智能经济新形态、促进智能终端和智能体加快推广、支持开源社区建设,正为这一趋势提供政策指引与发展方向。
影响——机遇与风险并存:效率跃升可能伴随“权限放大”。
委员们在讨论中认为,智能体的价值在于“可交付结果”:从资料搜集、表格处理、程序运行到跨系统协同,能够显著提升效率,并在教育科研、产业研发、公共服务等领域产生溢出效应。
尤其在“AI+”加速落地背景下,智能体有望成为连接工具、数据与业务流程的关键入口。
但与传统应用相比,智能体往往需要更高系统权限,可能访问本地文件、调用网络服务甚至执行代码,带来“权限放大效应”。
工信部近期针对OpenClaw发布安全风险预警,提示用户防范网络攻击和信息泄露等问题。
贝达药业股份有限公司董事长兼首席执行官丁列明委员认为,产业与人工智能深度融合是大势所趋,但也对原有知识结构和安全管理提出新要求。
若被不当使用或遭恶意诱导,可能出现敏感数据外泄、恶意代码执行、业务系统被操控等隐患,影响个人隐私、单位核心数据乃至产业链安全。
对策——以“可用、好用、管得住”为目标,构建全链条安全治理。
委员建议,在推广应用时要把安全底线思维嵌入技术选型、部署运维和人员管理全过程。
欧阳宏伟委员提醒,使用者需强化隐私保护意识,尤其在科研、财务、个人信息等场景中要谨慎授权、分级管理。
他建议在实际使用中采取物理隔离等措施:使用专用且无敏感数据的设备进行部署,必要时断开与核心业务网络连接,避免将关键数据直接暴露在高权限工具链之下。
同时,多位委员呼吁加快完善规则体系与治理框架:一方面推动开源生态繁荣,鼓励合规创新与应用落地;另一方面推进安全评估、漏洞响应、权限控制、审计追踪等机制建设,形成可操作、可落地的治理闭环。
蔡荣根委员表示,应在技术快速迭代中同步补齐制度短板,让新技术在规范有序轨道上行稳致远,更好服务高质量发展。
前景——从“应用热”走向“产业稳”,关键在于协同创新与安全共治。
委员们认为,开源项目的走红不应止步于技术圈“围观”,更应转化为产业能力建设和治理能力提升的契机。
随着智能体与终端、云平台、行业软件深度融合,未来“AI+”有望在更多场景落地,推动政务服务、教育科研、医疗健康、制造业等领域效率提升与模式创新。
与此同时,安全风险也将更复杂、更具隐蔽性,需要政府、企业、科研机构和开源社区共同参与,形成从技术标准到应用规范、从产品测试到责任追溯的系统化治理体系,做到发展与安全动态平衡。
从政协委员的一场热烈研讨,可以看出中国社会各界对智能技术浪潮的思考已日趋深入与成熟。
技术的力量从来不会因顾虑而停步,但文明的进步也从来不应让风险走在规则之前。
如何在拥抱变革的同时筑牢安全底线,如何在鼓励创新的同时完善治理框架,是这个时代给政策制定者、科技从业者乃至每一位普通用户共同提出的严肃命题。
唯有统筹发展与安全两个维度,方能让智能技术真正成为推动社会进步的持久动力。