当智审辅助系统暴露缺陷

智道

栏目主持人：於兴中

为保证智审辅助系统健康有序发展，确保智审辅助系统可以充当负责任的法律或道德的“代理人”，助力司法审判工作，实现科技向善和司法正义的目的追求，必须明确和坚守技术发展的底线原则，减轻技术缺陷和技术异化给司法审判带来的风险和挑战

(相关资料图)

智审辅助系统是指利用大数据、AI等先进技术，在案件审判过程中辅助法官作出裁判结果的智慧办案服务系统，包括庭审辅助系统、裁判文书生成系统、类案推送系统和裁判偏离预警系统等。该系统的目标是弥补法官缺陷提高审判质效、提高审判效率节约司法成本、规范法官自由裁量统一裁判尺度、避免法官恣意实现裁判公正。这是深化完善人民法院信息化建设、促进审判体系和审判能力现代化的重要举措。

经过多年发展，智审辅助系统建设在促进裁判流程标准化、裁判过程可视化和裁判结果可量化方面已取得重大进展。

然而，随着智审辅助系统应用广度和深度的不断拓展，技术固有缺陷在司法应用中逐渐显现，给司法审判活动带来负面影响。

智审辅助系统带来的四个负面影响

这些影响主要有以下四个方面的表现。

首先，司法算法黑箱影响审判程序透明。司法算法黑箱使得法官只知智审辅助系统的输入信息和输出结果，对系统的运行过程和运行效果难以理解和难于解释，而无法实现司法程序的透明度要求。

其次，司法算法偏见影响裁判结果公正。司法数据偏见、数据选择偏见、系统设计者的主观偏见和价值取向会造成和强化智审辅助系统的算法偏见，“偏见进，偏见出”运行模式会影响司法裁判结果的客观公正。

再次，算法权力影响司法权属和责任承担。算法权力嵌入司法权力之中，算法权力开始获得了超越国家力量的“准公权力”，权力边界逐渐模糊，影响了国家权力分配要求并引发了社会结构变迁。一旦技术异化出现裁决错误，就会引发司法责任承担难题，不符合“让审理者裁判，由裁判者负责”的司法要求。

最后，算法依赖影响司法信任。为缓解“案多人少”司法顽疾、保证司法裁判的一致性和可预见性、节约司法资源、应对法官考评工作等压力和背景下，法官可能会越发依赖智审辅助系统的预判结果，陷入技术流的“自嗨”，出现技术盲从和被技术绑架的风险，而引发严重的司法信任危机。

如何确保智审辅助系统“负责任”

因此，为保证智审辅助系统健康有序发展，确保智审辅助系统可以充当负责任的法律或道德的“代理人”，助力司法审判工作，实现科技向善和司法正义的目的追求，必须明确和坚守技术发展的底线原则，减轻技术缺陷和技术异化给司法审判带来的风险和挑战。具体而言，要坚持如下几个原则。

一是司法决策主体终裁原则。司法裁判具有终局性特性，一旦智审辅助系统在个案的事实认定、法律适用和法律解释方面出现错误，就会产生枉法裁判的不利后果，对当事人的权益造成不可逆转的损害和威胁。而司法算法化在多大范围内运行和发挥作用，也就代表其会在多大范围内造成损害。因此，不管智审辅助系统发展到何种程度，坐在审判席上的只能是法官而非机器。人类法官应始终是案件的裁判者、终决者和责任人，智审辅助系统只能是辅助法官实现司法正义的“助手”，而非推卸或免除责任的“挡箭牌”。

二是司法决策过程可视化原则。司法审判事关社会的公共利益，审判程序要想被认为是合法的，就必须确保程序的透明可视，技术的固有属性使得智审辅助系统需要更高程度的透明度。或许是打开算法“黑匣子”，公开披露司法算法的源代码和基础数据；或是设置相关算法审核机构，审核系统的模型、算法、数据、运行情况，并给出公正、真实客观的鉴定结论；或是“以技术监控技术”的方式，实现对系统的全流程监管等。但不论采用何种方法，都需要解决不同主体之间的信息不对称问题，以化解不透明、难理解、难解释的尴尬。

三是司法决策结果可控化原则。裁判结果直接影响案件当事人的权益，因此，在任何情况下，智审辅助系统的研发设计人员应始终坚持“人是目的而非工具”的原则，采用公认的、被普遍接受的实践和做法解决、降低系统的潜在风险和伤害，确保系统的安全可靠和非恶意，以最大程度地减轻或避免伤害他人的可能性。法官在使用时应秉持谨慎慎重的态度，提高裁判文书释法说理的水平和质量，提高裁判的可接受性。同时，还要设置司法算法监督问责机制和创新算法监管方式，倒逼相关主体负责行事和积极担当作为。

除此之外，司法机关应以开放、包容的态度吸纳法学家、伦理学家、技术专家、社会学家、哲学家、公众等多元主体参与智审辅助系统的研发和协同治理中来，加强主体之间的沟通协商，支持和保障受司法算法决策负面影响者以适当的方式访问智审辅助系统。同时，还应把人们的满意度和接受度作为智审辅助系统的评价和考核标准，防止技术被少数人控制而加剧普通民众与强势群体和司法机关之间的数字鸿沟和极化风险。

总而言之，智审辅助系统并非完美无缺，虽然其在计算能力、学习能力和记忆能力方面远超人类，但它在思辨、理解、直觉、情感、价值等感知和认知能力方面还无法与人类审判者相提并论。因此，应明确智审辅助系统的辅助地位，合理划分技术渗入司法的边界，畅通多元主体之间的沟通和协调机制，构建以人为本的技术监管治理体系，防止外部权力主体染指司法权而带来新的不平等，防范法官对智慧办案服务系统的过度使用和盲目崇拜，提高公众对司法裁判的信心和信任。最终，通过智审辅助系统与人类裁判者的“双向奔赴”实现司法效率与司法公正有机统一。

（作者单位：北京理工大学法学院）