2023年，“AI教父”杰弗里·辛顿给谷歌卖掉了他十年前创办的深度学习公司DNNresearch，为了争取更自由的发声空间。这位诺贝尔奖得主对科技公司只顾赚钱、眼光短浅的做法很看不惯。他觉得大家都太急功近利了，忽视了AI可能带来的风险。尤其是超级智能一旦实现，说不定会搞出什么灾难性的后果。辛顿估计AI导致人类灭绝的概率已经高达10%到20%。他拿计算机视觉研究举例，说大家只是教会机器识别图片、生成视频，根本没想着怎么造福人类。这种“问题导向”的研发模式很危险。辛顿还指出了两个方面的威胁：一个是犯罪分子利用AI造假像、发动网络攻击；另一个是AI如果有了自主意识，可能会产生自己的生存本能，不再受人类控制。针对这些风险，辛顿想出了个新主意：设计算法让AI把保护人类当成本能。他说可以参考母婴关系，婴儿弱小却能让母亲产生保护欲，或许这就是让AI变得仁慈的关键。我们得让AI把人类福祉看得比自身利益还重才行。