司法应用中人工智能的“幻觉”现象及治理路径
徐璟航
司法实践中,人工智能“幻觉”现象正迫使技术治理的加速,其引发的纠纷争议也日益增多。例如,人工智能生成起诉状时错误归纳诉讼请求,基于片面事实或主观假设进行论证进而导致文书失实,加剧当事人对错误结果的“算法迷信”和对司法机关的不信任感。2025年4月,厦门海事法院在某确认仲裁协议效力案件中,裁定要求代理人全程披露人工智能使用情况,系人工智能技术披露原则首次进入我国司法领域。杭州互联网法院审结全国首例因人工智能幻觉引发的侵权纠纷案,直面幻觉生成内容的性质、服务提供者的责任等前沿问题。当前,针对司法领域人工智能幻觉的理论研究尚不充分,法答网虽已出现相关实务问题,但尚未形成系统化的裁判共识。因此,如何有效治理幻觉风险已然成为数字法院建设中的重要命题。
