生成式工具催生虚假证据与“幻觉法条”乱象,司法如何守住真实底线与公信根基

记者近日从多地人民法院了解到,随着生成式人工智能技术普及应用,司法审判领域出现了一系列新问题。

当事人利用相关技术伪造证据、编造法条案例的现象日益增多,对司法秩序和公信力构成潜在冲击。

湖北孝感大悟法院在审理一起房屋租赁合同纠纷案时发现,原告代理人董某向法庭提交的水电表照片右下角明显标注"豆包生成"水印。

经法官询问,董某关于水电表使用情况的陈述前后矛盾,最终承认房屋为两户共用同一水电表。

类似情况在其他地区也有发生。

上海市第二中级人民法院收到的一份上诉状中,引用了所谓"2025年3月颁布"的司法解释,经核实纯属人工智能编造。

北京市通州区人民法院披露,有律师在书面意见中援引的最高人民法院案例和上海一中院案件,均为人工智能虚构生成。

业内专家分析认为,此类现象产生的原因主要有三个方面。

首先是技术门槛大幅降低,普通用户可轻易获取和使用生成式人工智能工具。

其次是部分当事人和代理人法律素养不足,对人工智能生成内容缺乏必要的甄别能力。

第三是相关技术本身存在"幻觉"问题,可能生成看似真实但实际虚假的内容。

这一现象对司法审判产生了多重影响。

一方面增加了法官识别虚假证据的工作量,显著提升司法成本。

另一方面,当司法判决结果与人工智能给出的答案存在差异时,部分败诉当事人选择相信人工智能,对司法公信力产生质疑。

针对上述问题,司法系统正在积极应对。

各级法院严格执行证据质证程序,对当事人提交的证据材料进行全面核实。

同时,法官队伍加强了对新技术应用的学习培训,提升识别虚假信息的专业能力。

值得注意的是,人工智能技术本身具有积极作用。

全国律师协会相关业务交流显示,越来越多律师事务所引入智能法律服务平台,实现案件管理和文档检索自动化,有效提升了工作效率。

关键在于如何规范使用,避免技术滥用。

法律界人士建议,应当建立健全相关法律法规,明确人工智能技术在司法领域的应用边界和责任认定。

同时加强对法律从业人员的技术培训,提升其对新技术的认知和应用能力。

此外,还需要完善技术标准和检测手段,为司法机关识别虚假信息提供有力支撑。

当技术革新与司法实践加速融合,如何在效率与安全之间寻求平衡成为关键命题。

正如法律界人士所言,任何工具都应服务于法治本质,而非成为挑战规则的漏洞。

这场关乎司法尊严的技术博弈,既检验着社会治理的智慧,更丈量着文明进步的尺度。