人工智能时代智慧司法技术风险的法律规制路径

【摘 要】：推进人工智能与司法实践的结合，是顺应时代潮流与国际趋势的重要选择，也是国内刑事司法制度改革进程中的重要环节，具有里程碑式的意义。然而智慧司法所依仗的人工智能本身存在一定的技术风险，包括算法黑箱、算法歧视、机械决策等，容易妨害司法公正与权威。因此，有必要在明确人工智能辅助地位的前提下，构建以数据规制、算法规制和系统规制为核心的智慧司法技术规制体系。

【关键词】：智慧司法；人工智能；算法规制

一、人工智能时代智慧司法应用的现状及成效

（一）人工智能发展助推智慧司法应用

2017年国务院印发的《新一代人工智能发展规划》明确指出，人工智能的迅速发展将深刻改变人类社会生活、改变世界。人工智能技术的发展正呈现出一种“幂数式”增长的趋势，现如今应用到司法领域的人工智能技术不仅可以轻松实现文书电子化、司法信息数据化、在线庭审等基础的外在形式功能，更为重要的是，正在通过光学字符识别、自然语言理解、智能语音识别、要素提取、机器学习等技术，实现对证据的智能识别与信息获取，起到了辅助裁判的实质作用。目前已经有学者开始研究以传统的知识图谱为基础提取数据，并将事理图谱加以融合进而搭建证据链条和证据规则模型的方法。未来，人工智能在司法领域的应用会更加深刻，司法主体将主动拥抱先进的技术，推动大数据、人工智能等技术与司法工作进行深度融合。

（二）人工智能应用赋能司法公正与效率

人工智能的应用可以促进司法公正。一方面，人工智能使司法过程规范化、统一化。如智慧司法系统能够自动形成庭审笔录等司法材料，一定程度上维护了程序的规范性，因此智慧司法可以促进程序公正价值的实现。另一方面，实体公正的关键之处就在于法官应当公正无私地加以裁判，并且尽可能地达到“同案同判”的效果。从人工智能运行逻辑来看，其一以贯之的方式就是通过输入一定的案件要素，然后通过内部已设定的算法程序加以整理分析，进而输出客观中性的结论，在这过程中一些对当事人产生不利影响的标签可以在运作过程中去标签化，同时减少法官恣意裁判、主观臆断的风险。与此同时，人工智能的应用还可以将司法资源加以合理配置，为司法效率的提升带来了前所未有的机遇。如利用大数据等技术帮助司法机关扩大信息收集的范围和时效，基于深度学习搭建的“知识图谱”模型还可以根据录入的相关案件要素为办案法官提供类案推送帮助法官尽快作出判决。

二、人工智能时代智慧司法内生的技术风险

（一）算法黑箱妨害司法公正

算法黑箱指的是人工智能算法的不公开与不可解释的特征，即无论得出何种结论都是在算法这一看不见、摸不着、说不清的黑盒子里得出的，这的确与司法所追求的“公开性”是冲突的。倘若司法过程变成不公开的、私下进行的，那么就会造成司法机关权利的滥用、被告人权益的丧失等严重危害司法公正的问题。

（二）技术依赖引发司法歧视

司法歧视的形成是源于算法歧视这一根本问题产生的。在将人工智能引入到司法领域的过程中，较为常见的就是利用算法技术对个人进行评估，根据收集到的以往数据来判定其犯罪或者再犯的可能性，也即危险性评估系统。采用算法技术的本意是协助法官较为全面地审视案件，进而避免陷入主观臆断的漩涡中，但是在算法决策的过程中也会产生极具隐蔽性的算法歧视。具体到司法领域，算法歧视就是利用算法技术收集证据、认定事实、类案推送以及量刑辅助的过程中，将不公平、不公正的观念混入其中，最终得出带有偏见意味的结果。

（三）机械决策挑战司法权威

人工智能技术的优势在于机械化程度强，可以极大地提高司法效率，但“凡事兴一利、必兴一弊”，机械化决策同样也是智慧司法技术缺陷的表征，其最终会导致司法的僵硬与封闭。有学者曾在调研中发现，在一起盗窃案中，上海的“206系统”自动识别出证据链建构中缺少鉴定意见，但盗窃的是人民币，是不需要鉴定的。这体现出智慧司法机械化决策下的僵化机制。

三、人工智能时代智慧司法技术风险的规制路径

（一）理论范式：明确人工智能的辅助地位

人工智能在刑事司法中的定位是辅助性而决策性的，这与当前对人工智能的基本认知和普遍定位相一致。最高人民法院于2022年发布的关于人工智慧司法应用的意见中也明确了人工智能对审判工作的辅助地位与用户的自主决策权。但人工智能的辅助地位不应当仅仅限定在审判阶段，而是应当贯穿到司法程序的各个阶段。目前应用在刑事司法领域的人工智能技术还处于“弱人工智能”阶段，尽管具备一定的智慧性，但不具有抽象思维的能力，从“弱人工智能”发展到“强人工智能”还需一定的条件和时间。在此背景下，人工智能虽然在语音识别、图像识别、数据处理、关联要素等方面优于人类，具备一定“智能”，但无法产生自主意识，进行独立思考，从而在常识判定、道德伦理、价值选择方面呈现出僵化、空白的问题。因此，应当将人工智能的辅助功能贯穿到智慧司法应用的全过程、全链条，使其被掌控在司法人员手中。

（二）路径探索：构建智慧司法技术规制体系

1.数据规制

首先，要秉持公平正义的数据价值观。在数据的收集阶段，要贯彻落实好非歧视原则，强化信息的筛查功能，对于可能影响到司法公正的数据信息加以排除，例如可能影响到法官主观判断的个人声誉信息等。在数据审核阶段，对于收集上来的各种数据，应当建立严格的审查机制，对数据的形式与实质进行全面审查。其次，要坚持数据的全面、准确、真实性原则。数据的全面性要求，在证据信息收集阶段要贯彻全面性原则，法官应当将完整的量刑判断信息记录在判决书中，以便让机器学习。数据的准确性要求在收集数据的时候对于模糊的、不可靠的、不健全的数据应当加以排除。数据的真实性要求数据不是伪造的，是可追溯性，对此可以采用区块链技术将原始数据进行备份，方便在审查数据真实性时及时定位到原始数据中。

2.算法规制

首先，要对算法技术建立审查评估机制。评估机制可以从以下三方面展开：一是根据适当性原则，算法技术的设计应当是科学合理的，运行过程是得当的；二是根据必要性原则，利用算法辅助司法的限度应当是必要的，如果不采用算法技术可能会影响证据的全面性、准确性，进而影响司法的公正性，同时要保证使用该技术对当事人可能造成的权益损害是最小的；三是根据均衡性原则，对算法技术的审查应当经过智库团队的不断验证与推论，保证在使用算法技术下得到的司法正义与对当事人造成的合法损益是相当的。其次，要建立算法技术的追责机制。一是建立内部追责机制，即在对算法内部审查评估的时候，发现有因人为因素导致歧视等不当之处时，要及时向开发商进行反馈，责令改正。二是完善损害救济制度，即因算法技术受到权益损害时，当事人可以向法院提起诉讼，审理法院应当为该司法程序外的同级法院或上级法院，在法院的公正审判之下，责令算法技术及其设计者、使用者及时停止侵害、赔偿损害、赔礼道歉。

3.系统规制

智慧司法是一个覆盖全过程、综合性的应用系统。应当健全对智慧司法系统的规制，以维护诉讼主体之间的平等关系与诉讼过程的有序进行。首先，应当建立应用系统的日常维护与及时预警的机制，周期性地开展应用系统运行的测试与完善工作，并在系统内部加设预警机制，一旦受到外部攻击及时发出警报。其次，应当构建对智慧司法的“去行政化”管理手段，提升智慧司法的开放性，及时吸取外部专家的相关建议并加以改进。同时注重系统的灵活性，保障司法人员灵活办案的空间。

责任编辑：广汉