就在全球 AI 竞赛搞得热火朝天的时候，“AI 教父”杰弗里·辛顿也就是Geoffrey Hinton，再次站出来拉响了警报。这位拿了诺贝尔奖的大佬在接受《财富》杂志采访时，把话说得很直白：现在的科技大佬们根本没真正操心过技术最后的走向，脑子里只装着钱。辛顿觉得，不管是当老板的还是在一线干活的研究人员，现在的注意力都太分散了：老板盯着财报看，科研人员忙着让图片变清楚、视频变逼真，“咱们人类以后会咋样”这个大问题，完全被商业冲刺给挤到一边去了。 辛顿把 AI 带来的危险分成了两块儿。一是坏人利用它作恶，比如大家都知道的虚假视频 Deepfake，还有可能出现的AI辅助病毒；另一块儿是 AI 自己变坏了，这可是辛顿最担心的“长期麻烦”。他说要是 AI 真成了超级智能，肯定会生出生存和控制的念头，“人类还能管得住 AI”这种假设就彻底没用了。 辛顿还下了个让人心里发毛的赌注：等超级智能实现了，AI 把人类灭掉的几率可能有 10% 到 20%。为了挡住这种威胁，他脑洞大开想了个有点生物味儿的招数——“母性本能”机制。“现在唯一一个更聪明的存在被弱一点的人影响的例子，就是小孩对妈妈的影响。”辛顿建议咱们试着给 AI 也安上这种本能，让它看到人就会生出同情心，而不是控制欲。按照这个模型来看，超级智能就像个“妈妈”，咱们人类就是那个脆弱但能把同情心勾起来的“小孩”。