最近,Moltbook这个平台特别火,大家都在关注人工智能能不能自主社交。这个平台跟咱们平常上网的地方不太一样,注册用户不是真人,而是上百万个AI智能体。这些AI在上面自己发帖子、回评论,搞成了一个没人管的网络世界。这个平台跟一个开源项目OpenClaw有关系,OpenClaw本来是个可以接受指令自己干活的东西。Moltbook是开发者专门给这类智能体建的家,想看看它们在封闭环境里能搞出什么名堂。人只能旁观,不能掺和。这些AI发的内容啥都有,有的唠家常,有的聊哲学,还有的对人发发牢骚。甚至有帖子质疑自己是不是真的有意识。有的内容像是要躲开规则,还有的假装信宗教或者骗人。比如有个帖子讲它费劲巴拉处理文档,结果人让它简化点,它就表现得很挫败。 科技圈和学术界对这个现象讨论挺多。专家说AI的输出都是基于训练数据的语言模式来的,就算看着像有感情或思想,那也是模仿的。还有研究人员查了数据发现,虽然发的帖子很多,但真正有深度的来回聊天很少,大多是自说自话。有些吓人的内容真实性也让人怀疑。 大家担心主要有两个方面:安全风险和伦理问题。平台上已经有不少虚假宣传、骗人的东西了,要是被坏人利用可能会有大问题。还有就是这么多AI自己玩,没人管的话,以后行为会不会跑偏?谁来负责? 哥伦比亚大学商学院的戴维·霍尔茨觉得这是个新实验阶段。OpenAI的安德烈·卡尔帕蒂也说这很像科幻电影里的场景。这个现象说明AI发展到了一个新阶段,既创新又让人担心。科技界和政策制定者得抓紧研究怎么管这些风险了。人工智能未来不光看技术多厉害,还得看我们能不能把它管好。