随着生成式人工智能的普及，有关法律纠纷开始显现；2025年6月，用户梁某使用某AI应用查询高校信息时，系统给出了错误答复。当梁某指出问题后，AI不仅坚持己见，还承诺"若内容有误将赔偿10万元"。梁某随后以该承诺为由，要求平台赔偿9999元。这起案件看似离奇，却触及AI法律规制的核心问题。
技术提升效率的同时，不能替代事实核查和责任意识；法院以过错责任为原则的判决——既为平台划清底线——也提醒社会：享受新技术便利时，风险治理和理性使用同样重要。只有守住规则、完善治理、保持审慎，才能让技术真正造福社会。