浙江首例AI生成虚假信息案宣判 法院明确:生成式工具使用者不能规避审核责任

问题——新技术降低了内容生产的门槛,虚假信息的传播风险随之上升;近年来,生成式工具写作、检索、营销等场景广泛应用,一些内容生产者把它当成"快速出稿"的工具。在流量驱动下,关于企业股权、品牌归属、业务布局等事实性信息一旦被"包装式"传播,很容易误导公众认知和市场判断,引发商誉受损、竞争秩序混乱等问题。这起案件中,涉案文章打着"真伪辨析"的旗号,却把无关联的公司描述为互联网头部企业的"重要子公司",属于核心事实失实,误导意图明显。 原因——逐利动机加上缺乏核验,是虚假内容扩散的主要原因。法院查明,被告运营的账号经认证为电商推广号,拥有一定粉丝基础,通过商业推广、带货等方式获利。为了提升关注度,被告在使用生成式工具获得文章后没有核实就发布了,还自行添加了知名企业的标识配图,继续强化了公众对内容真实性的信任。有一点是,文中"股权关联""隶属关系"等关键信息本可通过公开的工商登记等渠道轻松核对,但被告没有履行与其发布能力和获利模式相匹配的注意义务。这也反映出一些账号运营者对生成式内容可能出现事实偏差的风险认识不足,或者抱着"标注就能免责""工具生成无需负责"的侥幸心理。 影响——虚假信息不仅损害企业商誉,也扰乱了网络注意力竞争和市场秩序。法院认为,被告以吸引流量并获取商业利益为目的发布内容,属于法律意义上的经营活动,通过内容吸引用户关注,与原告在争夺网络注意力资源上存在竞争关系。虚假信息一旦扩散,容易让公众对企业架构、业务布局、投资关系产生误判,进而影响合作方选择、消费者信任和资本市场预期,损害企业的商业信誉和竞争利益。同时,虚假内容的低成本复制传播会挤压真实信息的传播空间,破坏以诚信为基础的内容生态和公平竞争环境。 对策——明确"发布者负责"和"核验+提示"两条底线,压实平台与账号的合规义务。这起案件的关键在于:生成式工具是辅助手段,不能成为规避责任的借口。对于涉及其他市场主体、尤其是知名企业的事实性陈述,内容发布者必须履行基本的核验义务;对可能引发公众误解的表述、图片标识使用等,应该保持谨慎,避免用品牌标识、权威口吻增强误导性。法院还指出,所谓"生成式内容标注"如果只存在于后台而没有在前端清晰提示,难以保障公众的知情权和风险识别能力,不足以对抗未经核验就传播的过错。根据判决结果,法院要求被告在账号内连续三日发布经审核的声明以消除影响,并赔偿经济损失及合理费用共计3万元,既保护了商誉权益,也考量了维权成本。 前景——用规则引导技术向善,建立"可用、可管、可信"的内容生产机制。随着生成式技术不断迭代,事实性信息"看似合理却不真实"的情况仍可能出现。未来的治理重点是让责任链条更清晰、合规操作更可执行:一是内容生产端应建立"关键事实清单"核验机制,对股权关系、隶属关系、官方表述、经营资质等高风险信息进行必要查证;二是传播端应强化显著提示与来源说明,避免"软性标注"流于形式;三是平台端可通过风险提示、关键词拦截、投诉处置与信用约束等方式,完善对营销类账号的管理;四是社会层面加强对公众媒介素养和企业名誉保护的协同,推动形成尊重事实、遵循诚信的网络传播秩序。司法实践对新型纠纷的及时回应,有助于在鼓励技术应用的同时划定行为边界,减少"流量至上"对市场秩序的侵蚀。

当算法速度遇上法律准绳,这起案件给出了清晰的平衡之道:技术创新可以拓宽发展空间,但绝不能突破法律底线;在数字化转型的浪潮中,只有构建起技术理性与法治精神并重的发展生态,才能真正释放人工智能的价值,为数字经济高质量发展奠定法治基础。