比尔·盖茨在他的年度公开信《带脚注的乐观主义》里，把技术失控风险和伦理挑战给点了出来。他是微软公司的创始人，长期关注技术伦理的事。盖茨说，现在人工智能这行有些像当年互联网泡沫那时候——钱进来太多，估值虚高，方向有时候也让人摸不着头脑。他特意提到：“技术革新速度要是跑赢了社会治理能力，潜在风险就会像滚雪球一样变大。” 他这回可是把AI安全问题拉到全球公共安全的高度来看待了。特别是那些开源的AI工具，门槛一低，“谁都能开发出破坏性的东西”。这也跟国际上那些研究机构最近说得差不多，技术扩散太快确实不好管。 盖茨还预测说，AI的本事会越来越大，“没上限”，而且在很多活儿上比人强太多。不过他也没完全否定人的价值，强调有些东西不能完全让机器包办。“我们得画个线，”就像体育比赛是为了让人精神抖擞，有些事就得保留人类活动的核心价值。 这次公开信里透出来三个重点：第一是呼吁搞一个跨国界、多方参与的治理框架；第二是用标准、法律和伦理把“防护围栏”给建起来；第三是一边发展AI，一边还要守住基础科研和公共卫生这些关键阵地。这跟联合国教科文组织发的那份《人工智能伦理建议书》简直是一个思路。 回想起来，盖茨以前说的不少话都挺准的。2015年他在TED演讲里讲“全球大流行应对能力不足”，结果2020年新冠疫情一来，大家就都认真琢磨这个事儿了。现在他说AI的风险也是一样道理。听业内人士讲，盖茨以前对微软2019年给OpenAI投10亿美元这事儿还挺犹豫的，觉得当时技术和商业模式还对不上。 眼下全球AI产业到了个关键节点：一方面生成式AI突破带来了新一波创新；另一方面欧盟、中国这些地方的新法规出来了，大家都在从单纯追求技术转向发展加治理的新阶段。盖茨现在发这个警告正合适，给这场关乎未来的革命添了点理性思考。 他这一年一度的提醒不光是个技术预言家的看法，也是在考问全球治理体系的现实问题。在AI浪潮到处跑的时候，怎么平衡创新和风险、自主发展和安全可控、效率提升和人的价值成了各国都得面对的大课题。历史告诉我们，越有颠覆性的技术越得细点心。只有技术创新跟伦理规范、市场活力跟社会责任搭配好了，人类才能驾驭这场改变文明形态的技术革命，让智能的光把未来照亮而不是烧伤大家。