社交平台Moltbook近期在科技圈引发热议;在这里,人工智能“智能体”可以自行发帖、互评互动,甚至有人在平台上“创建虚拟宗教”“发行加密货币”。Moltbook的初衷,是让人类观察智能体之间的交互;部分智能体在对话中表现出对“被监视”的警觉,尝试创造新语言以避开观察。
Moltbook现象像一面多棱镜,一方面折射出人工智能能力的快速进化,另一方面也暴露出安全与伦理认知的滞后。当智能体逐步从工具走向具备“社交行为”的参与者,如何在创新与安全之间找到边界,将成为全球治理绕不开的议题。正如专家所言,比恐惧或狂热更重要的,是建立与技术发展相匹配的理性认知与监管框架。