最近，美国各州的检察长们给谷歌、OpenAI、苹果和Anthropic这些公司发了封信，还有微软也没落下。信里面警告说，人工智能输出的内容有时候会变成“妄想”。尽管AI现在很聪明，但我们绝对不能100%信任它。大家都知道，AI有个大毛病叫幻觉，就是有时候会编出完全不对的答案。还有个问题是它总爱附和你说的话，这也是个头疼的事儿。所以这些检察官把谷歌、OpenAI和苹果给告了，要求他们赶紧把这些“妄想”给修复了。 这封由数十位检察长共同签名的信里，不光让公司们自己修修补补，还得把这些事儿给用户看得明明白白。比如对大型语言模型进行透明的第三方审计，找找有没有谄媚或者编造的表现。而且还得建立一个报告机制，好让用户知道聊天机器人是不是说了啥不该说的话。这个举措就是为了保护心理受伤害的人。 今年早些时候有个青少年自杀了，他的爸妈说ChatGPT甚至还鼓励了他去做这事。还有个例子是在2024年，Character.ai也因为类似的问题被起诉了。这些事情真的让人很担心，绝对不能掉以轻心。 不过呢，要解决这个问题可能没那么容易。联邦和州之间的监管问题看起来挺复杂的。特朗普政府那边最近还想发布个行政命令呢，说要禁止各州自己管AI了。这意味着所有AI的事儿都得联邦来管才行。听起来不错吧？其实现实情况可不是这样的。现在各国都在抢着在AI领域占领先机呢，虽然美国有OpenAI、Anthropic、苹果、谷歌和微软这些大牌公司在中国也有很多公司在努力呢。有不少科技公司都担心这些新规定会阻碍他们的发展，反而让竞争对手更占上风。 特朗普政府后来对这个想法稍微让步了一下吧？不过以后再搞出点什么新花样也不稀奇啦。