问题——热点应用快速扩散与安全隐患并存 从开源模型引发关注到机器人在大型活动中亮相，再到智能体应用在任务编排领域的走红，技术迭代与市场热情正推动大模型应用进入“自主规划、连续执行”的新阶段；刘烈宏指出，以“装龙虾”等热门应用为代表的智能体，通过将模型能力与外部工具深度结合，能够在较少人工干预下完成复杂操作，成为大模型落地的新形态。然而，智能体在数据访问、工具调用和指令执行等环节涉及更长的链条和更广的权限，网络安全和数据安全风险随之增加，治理挑战日益突出。 原因——能力提升与治理滞后的矛盾 智能体的核心价值在于执行能力，其运行通常需要整合多源数据、接入第三方服务并调用插件或脚本，形成跨系统、跨平台的复杂连接。连接越多，攻击面越大，权限边界越容易被突破。此外，训练数据的权属问题尚未完全解决，版权争议可能引发法律纠纷；而数据投毒、恶意插件、权限失控和系统漏洞等风险，可能导致输出失真或决策失误，影响应用的可靠性和可控性。如果治理体系无法跟上技术发展，风险将随应用扩散而加速累积。 影响——产业扩张与可信门槛提升 刘烈宏在演讲中提到，在技术创新和商业应用的推动下，人工智能产业规模持续增长，预计到“十五五”末，我国对应的产业规模有望突破10万亿元。智能体应用将从消费端扩展至政务、金融、制造、医疗等领域，甚至可能从“效率工具”升级为“关键环节执行者”。在这个过程中，安全合规不再是单纯的成本负担，而是决定产品能否进入关键场景、赢得长期信任的关键门槛。若风险应对不当，不仅可能导致数据泄露或业务中断，还可能引发监管处罚、法律纠纷和品牌声誉损失，阻碍行业健康发展。 对策——以“好智能体”标准推动全链路治理 针对智能体的安全与合规问题，刘烈宏提出，“好智能体”不应仅追求功能强大，还应成为透明的风险告知者和可靠的解决方案提供者：既要明确“能做什么”，也要说明“潜在风险”，并提供“安全落地”的完整方案。 具体实施上，他强调以“最小权限、主动防御、持续审计”为原则加强安全防护： - 最小权限：明确工具调用和数据访问的边界，防止权限滥用； - 主动防御：通过动态监测拦截异常行为、可疑调用或跨域访问； - 持续审计：确保全流程可追溯，实现可复盘、可问责。 同时，智能体治理需多方协作： - 提供者需在产品全链路嵌入合规检测、数据隔离和权限管控机制； - 使用者应完善内部授权与审计制度，避免关键权限失控； - 安全服务机构需加强漏洞治理与应急响应能力。 刘烈宏提到，国内企业正在探索“开源框架+中国模型+全栈数据安全”的实践路径，将安全机制前置化，为规模化应用提供保障。 前景——数据与制度并重，夯实应用基础 刘烈宏表示，智能体和人工智能的发展依赖大规模、高质量且合规的数据支持。国家数据局将重点推动数据要素赋能AI创新，建设高质量数据集，确保人工智能应用拓展到哪里，数据支撑就跟进到哪里。 下一步，我国将完善数据产权制度，明确数据供给、流通和使用的权责划分，并构建涵盖数据、技术和网络的一体化安全治理方案。随着制度完善、标准细化及安全能力产品化，智能体应用有望在更多行业形成可复制、可审计的模式，实现创新与安全的平衡。 结语 智能技术的快速发展既是机遇，也意味着责任。正如刘烈宏所言，“真正的技术进步不在于功能多强，而在于如何安全可靠地创造价值。”在全球竞争与治理变革的背景下，中国正以系统性思维构建技术发展新范式——既拥抱创新，又筑牢安全防线。这一实践或将为全球数字治理提供重要参考。
智能技术的快速发展既是机遇，也意味着责任。正如刘烈宏所言，“真正的技术进步不在于功能多强，而在于如何安全可靠地创造价值。”在全球竞争与治理变革的背景下，中国正以系统性思维构建技术发展新范式——既拥抱创新，又筑牢安全防线。此实践或将为全球数字治理提供重要参考。