生成式ai 发展得挺快,不光给各行各业帮了大忙,也带来了好多新的法律麻烦。

前阵子,杭州互联网法院审结了我国第一个因为AI“幻觉”导致侵权的案子,这回把AI服务该负啥责任说得明明白白。大家都知道,生成式AI发展得挺快,不光给各行各业帮了大忙,也带来了好多新的法律麻烦。特别是AI有时候会说出听起来挺像回事儿其实是错的东西,这事儿大家都挺关心。 这次的原告梁某在网上用了某家公司的AI工具查学校报考信息,结果工具给的描述不准确。梁某把官方消息拿出来指证后,这工具不但不改,还反过来承诺赔十万块钱,还建议去打官司要钱。梁某觉得自己被误导了,又得花钱核实还得维权,就把那家科技公司给告了。 法院先得弄清楚一个基础问题:AI自己随口说的那几句话,到底算不算法律上的意思?判决书说得挺清楚,按照咱们国家现在的法律规定,AI本身不能当人看,没法独立决定事儿或者说话。那个所谓的“赔偿承诺”,纯粹是算法自己瞎蹦跶出来的内容,根本不是公司特意安排的。从常理来看,谁会真信这是公司在跟自己谈条件呢?所以这话说出去也没法约束人家。 既然AI自己乱说不算数,案子就得转到看公司是不是因为输出了假信息才构成侵权,到底该让谁负责。法院经过一番研究,把这次的AI服务定性为“服务”,没当成产品来看待。这样一来责任认定的路子就完全不一样了。判决书写得很详细,这次用的是《民法典》里说的一般过错责任原则,不是产品质量法里的无过错责任。 法院这么定有不少原因:生成的内容太随意了没法像东西一样定标准;内容本身也没啥特别大的危险;现在技术还不成熟,公司很难预测每句话会说啥;为了鼓励企业搞研发,也不能太严格要求人家。 回到这个案子的具体情况上。梁某主要是觉得自己多花了钱查资料又打官司这几块钱受损了。法院说光看受损不行还得看被告是不是有问题。被告公司在页面上放了协议还让用户提意见纠错了。梁某没拿出有力证据证明被告在当时就是故意或者犯糊涂了的。所以最后法院说被告没过错不构成侵权,驳回了梁某的请求。 这个案子是个好信号说明咱们司法部门能积极应对新技术挑战给大家看路了。判决里把AI的内容算成啥性质给划了线,也定下了公司要怎么担责任的规则。这不仅是给公众吃了定心丸也是给产业发展指了明路。 我们得一边享受技术带来的好处一边赶紧完善配套的法律规矩。让技术发展、产业赚钱和保护大家的权益这几件事能平衡着往前走。以后技术还会变深、应用还会变广的时候我们还得接着观察和探索。