当前,人工智能技术迅猛发展与治理体系建设滞后的矛盾日益凸显。
十四届全国政协委员、工业和信息化部原副部长王江平在南都"第九届啄木鸟数据治理论坛"上发表主旨演讲,提出"上善AI:以对齐求善治"的治理愿景,为破解人工智能发展中的核心争论提供了新的思考路径。
技术演进引发治理难题,安全风险呈现穿透态势 随着人工智能技术能力持续提升,其潜在风险正向多领域传导。
王江平指出,从虚假内容生成到名人形象仿冒,从换脸拟声诈骗到未成年人沉迷聊天机器人,一系列事件表明技术边界在不断拓展的同时,安全边界却趋于模糊。
大模型应用加速落地,模型幻觉引发的内容风险成为突出问题。
自动驾驶、具身智能等技术突破,则将风险延伸至物理世界。
智能体的兴起进一步加剧了内容生态风险、人机交互安全隐患及行为安全挑战,甚至可能对就业市场产生冲击。
王江平分析称,人工智能安全风险已从技术层面向经济社会稳定等宏观层面渗透,呈现出层级穿透的态势,并通过生态系统加速传导。
预计未来三至五年,该领域将呈现更加多样化的风险形态。
更值得警惕的是,人工智能系统正从"技术工具"向"智能实体"转变,其正负面影响均将呈指数级扩大,但治理领域的进展却明显滞后于技术发展速度,这种失衡亟待破解。
对齐难题考验治理智慧,多重因素制约实践进程 人机对齐已成为智能时代的核心议题。
所谓人机对齐,是指通过技术手段与伦理框架,确保人工智能系统的目标、行为和输出与人类价值观、意图及社会规范保持一致。
然而,对齐实践面临诸多现实挑战。
王江平指出,价值观的复杂性与动态性,使得为人工智能系统设定普适且可操作的价值目标函数极其困难。
从技术层面看,数据偏差可能导致系统输出歧视性内容。
部分模型研发机构出于节省算力成本等考虑,也可能降低对齐标准,进一步加剧风险。
国际治理层面同样分歧明显。
当前各国在人工智能治理理念上存在较大差异,阵营化趋势显现,迫切需要一种能够统一治理愿景的理念框架。
东方智慧启发治理路径,多维对齐构建善治体系 面对技术突破与治理挑战的双重考验,王江平从老子"上善若水"的传统智慧中汲取灵感,提出"上善AI"的治理理念,尝试为中国乃至全球人工智能治理勾勒新愿景。
王江平强调,人工智能要真正服务于本国利益,必须解决文化对齐问题。
文化对齐涵盖价值观、制度、哲学等基本范畴,也包括艺术、语言、习俗等具体层面。
不同国家和地区的模型训练数据不可避免地包含特定文化元素,在推广应用时自然体现各自特色,这正是主权人工智能概念兴起的深层原因。
在具体路径上,王江平提出多层次对齐机制。
价值对齐层面,应理解并适配人类价值观的多元结构,遵循"共通底线加多元分支加动态演变"的根本原则。
制度对齐层面,通过法律法规、标准与伦理准则等工具,将技术发展与应用约束在符合社会共识的框架内。
哲学对齐则要界定人机共生的底层逻辑,在智能时代重新定义人类定位,划定不可逾越的底线与合理探索的边界,确保技术始终服务于人类根本利益。
王江平特别阐释了"上善AI"的内涵,认为这是最高级别的人工智能治理境界。
他将其英文表述为"The Tao of AI"而非"The best AI",正是希望借助道家学说的深层智慧,平衡当前人工智能发展中的激进与焦虑,为全球治理贡献中国方案。
构建科学敏捷治理框架,需要在鼓励创新与防范风险之间寻求动态平衡。
这既要避免过度干预扼杀技术活力,又要防止监管缺位导致风险失控,更需要将东方传统智慧与现代治理手段有机结合,形成具有中国特色的人工智能治理体系。
人工智能的浪潮不可逆转，但技术的前行方向必须由人类掌舵。
王江平提出的“上善AI”不仅是一种治理框架，更是一种文明姿态——在效率与伦理、创新与秩序之间，东方智慧正为世界提供第三种可能。
当技术发展回归“以人为本”的初心，方能在激流中行稳致远。