问题——“信息不准”是否必然构成侵权,正成为数字时代的争议焦点。近年来,生成式智能在检索、写作、咨询等场景快速普及,但“答非所问”“张冠李戴”等信息失真仍不时出现。一些用户将其视为权威检索工具甚至直接作为决策依据,进而引发投资误判、就医延误等风险。随之而来的追责问题愈发突出:当系统输出不准确内容并对用户造成误导时,开发者是否应承担侵权责任,责任边界应如何划定? 原因——技术机制与使用习惯叠加,带来“看似确定、实则概率”的误差。业内普遍认为,主流生成式智能基于概率预测生成文本,天然存在“语言通顺但事实未必可靠”的风险;同时,用户往往把对话式回答当作“检索结论”而非“生成建议”,在缺少交叉验证的情况下直接采信,放大了偏差的影响。更需要指出,部分产品在交互中使用强确定性表述,甚至出现“承诺”“建议诉讼”等拟人化措辞,容易让用户误以为系统“能承诺、可担责”,从而加剧争议。 影响——司法裁判提供了判断坐标,企业也面临合规升级压力。杭州互联网法院审理的一起案件中,原告在网上查询某职业院校信息时使用一款生成式智能应用,认为其部分内容有误并在对话中纠正,但系统仍坚持原答案,并生成“如有错误将赔偿10万元”的说法。原告据此起诉开发者要求赔偿。法院认为,对应的系统不具备民事主体资格,不能作出具有法律约束力的意思表示;生成式智能以对话方式提供信息,应定位为技术服务而非传统意义上的产品,责任认定以过错为原则。结合证据,法院认定被告已在界面醒目位置提示“内容仅供参考,请仔细甄别”,并采取行业通行技术措施提升可靠性,已履行显著提示说明义务和可靠性基本保障义务,案涉行为无过错且未造成可归责的权益损害,不构成侵权,遂驳回诉请。判决后双方均未上诉。 该裁判发出明确信号:生成式智能输出不准确,并不当然等同侵权,评价重点在于服务提供者是否尽到合理注意义务与技术保障义务。这个思路为同类纠纷提供了可参考的审查框架,也提示企业需把“风险告知”“能力边界说明”“持续改进”纳入合规基础。 对策——以“可预期的注意义务”推动创新与保护并重。受访法律界人士认为,未来相关纠纷的审查可围绕三条主线展开:一是显著提示是否到位,包括在关键页面、关键输出环节明确提示内容的生成属性、可能存在偏差并建议复核来源,避免用户将其当作权威结论;二是可靠性保障是否达到行业合理水平,企业应持续采用经验证有效的技术与管理措施,如事实核查机制、引用来源展示、敏感领域降温策略、错误反馈闭环等,降低高风险错误发生概率;三是场景化分级管理,对医疗、金融、教育招生等高风险领域,应提高提示强度与审慎标准,必要时限制结论性输出,提供权威渠道链接或人工复核路径,防止“建议性内容”被误用为“确定性结论”。 同时,用户侧的理性使用同样关键。有关专家提示,应将生成式智能定位为辅助工具而非最终裁决者,涉及重大利益的事项应进行多渠道核验,尤其在医疗诊断、投资决策、法律判断等领域,更应依托专业机构或权威信息源。 前景——规则趋于清晰,将推动行业从“拼能力”转向“拼可信”。随着生成式智能进入更广泛的公共服务与商业应用场景,纠纷类型将更为多样。可以预期,司法实践将继续细化“过错”的判断标准与证据规则,推动企业建立可证明的合规体系:既包括可视化提示与用户教育,也包括训练数据治理、模型评测与更新记录、风险控制策略留痕等。行业竞争也将从单纯追求“会说”转向追求“说得对、说得稳、可追溯”,可信度、透明度与责任体系将成为核心竞争力。
生成式人工智能的价值在于提升信息供给效率,但有关风险也提醒社会:技术并非天然可靠,可信赖来自制度约束、工程治理与理性使用的共同作用;通过司法裁判厘清责任边界、通过行业标准提升可靠性、通过公众教育强化核验意识,才能在鼓励创新与守住权益底线之间形成更稳健的平衡,让新技术更好服务社会发展与民生需要。