算法行政责任的分布式重建_肖梦黎.pdf

国家检察官学院学报2023 年第 2 期算法行政责任的分布式重建肖梦黎摘要：算法行政作为一种新型的政府购买服务，其隐秘性、自主决策性、多元主体间行为的不可分性给传统责任框架造成了巨大挑战，可能产生责任鸿沟与治理缝隙。现有治理体系多采取主体行为协同、责任分离的逻辑，容易导致责任逃逸与代理洗白等问题，理想型意义上的穿透式责任面临集合行为与科层制难以穿透的实施困境，因此提出分布式责任对二者进行调和。分布式责任有较为严格的前置适用条件，可视为疑难案件的有效解决方案。分布式责任意味着从中心式的控制风格向全流程参与式问责的转换，在无法明确主观故意的算法致害中实现了对多主体间共同责任的简化。关键词：数字政府算法行政责任体系穿透式责任分布式责任中图分类号：D912.1文献标识码：A文章编号：1004-9428（2023）02-0042-15数字政府已是大势所趋，算法行政则是其中的重要抓手。党的十九届五中全会对加强数字政府建设做出了战略部署，国民经济和社会发展第十四个五年规划和 2035 年远景目标纲要进一步明确，“要将数字技术广泛应用于政府管理服务，推动政府治理流程再造和模式优化，不断提高决策科学性和服务效率”。一方面，数字政府与智慧城市的建设为行政事务增效赋能，另一方面公共领域的算法应用也易催生出智能精英主义与技术功利主义。对于层出不穷的数字化治理手段而言，明晰政府与其他机构间的责任界定是重要的破解之道。算法系统的代理性、综合性与隐蔽性，实践运行与法律规范间的距离都给算法行政的责任界定带来了巨大挑战。为此，需要打破部门法的藩篱，打通问责、归责与定责的通道，形成穿透性、整全性的责任体系。一、算法行政责任体系建立的切要性典型的韦伯式官僚机构已经是过去式了，数据库和计算机稳步接管了政府工作人员的执作者简介：肖梦黎，华东理工大学法学院讲师、法律社会学研究中心副主任。*本文系司法部法治建设与法学理论研究青年项目“公共算法决策的法律责任体系研究”（22SFB4001）的阶段性成果。43算法行政责任的分布式重建法任务。算法系统的广泛采用意味着一个新的阶段，即基于数据分析与预测的算法政治与算法官僚密切结合。1税务局开始用算法来预测纳税申报中的滥用和欺诈行为，社会福利系统因公民存在潜在欺诈风险而进行标记，健康码、行程码与场所码的算法创设揭示了疫情期间人们的相关状况。算法行政意味着算法系统从信息输入、信息处理与信息输出三个层面嵌入行政活动，2既包括基于数据分析的风险评估机制，也包括辅助行政与有裁量能力的自动化行政。3算法行政对行政规则、行政事务、行政知识进行算法编译，依据无人值守的传感器进行识别追踪，聚合多方数据对相对人产生规范性后果，旨在实现基于算法的新型治理方案。算法行政责任是指在算法行政过程中不同主体可能产生的不同类型的法律责任。算法行政与传统的政府服务外包有较大差异，传统政府采购中让行政组织对外负责的责任模式难以回应算法行政中权力转移与责任混同的问题。传统的政府服务外包有明确可见的实体进行承担，而算法系统却是隐在背后难以被察觉的。算法行政中“行政的替代履行者”不是私人承包商，而是具有自主决策可能的算法系统。政府通过算法采购的是诸如通知、警告、搜证、逮捕、声誉惩罚与监禁评估等传统由公共部门所掌握的治理职能。算法系统能够捕捉决策过程，使看似单纯的工具展现出作为决策“主人”的真实性质。算法行政实质上忽略了行政主体对政策模糊性进行分析与负载价值的过程，压缩了行政活动的各个环节，进一步加深了工具理性。4各方主体为避免承担决策责任，倾向于将数据视为不容置疑的事实，将信息架构视为无法接触的实体。在这一过程中，政府不能简单地隐藏在技术复杂性后面，将行政决策的责任交给算法系统以取消行政问责制。我们必须正视算法技术适用于行政领域的特殊属性，而非简单重述传统的责任体系。（一）算法行政兼具政府购买与自主决策的双重属性算法行政并非传统的政府购买服务，而是一种实时测量、及时调整的新型治理方式。5算法行政触发了法律自身的变革与治理模式的更新，强调精准测量与完美执法，行政权的社会化、公共化与“算法卸责化”6的趋势已不可避免。算法行政的类型拓展彰示出逐渐自主决策的趋势。行政领域的算法系统根据自主程度可划分为纯粹执行者、辅助决策者与独立决策者。进一步可以将算法责任区分为纯粹执行者下的载体责任、辅助决策者下的延体责任与联体责任7以及独立责任等类型。在联体责任中，预测偏好类的算法基于数据生成概率分析并对主体进行分类，可以预测诸如哪些人更有可能1 Arjan Widlak，Marlies van Eck&Rik Peeters，Towards Principles of Good Digital Administration：Fairness，Accountability and Proportionality in Automated Decision-making，in Marc Schuilenburg&Rik Peeters eds，The Algorithmic Society，Routledge，2020.p.67-83.2 张凌寒：算法自动化决策与行政正当程序制度的冲突与调和，东方法学2020 年第 6 期。3 马颜昕：自动化行政的分级与法律控制变革，行政法学研究2019 年第 1 期。4 段哲哲：控制算法官僚：困境与路径，电子政务2021 年第 12 期。5 Tim OReilly，Open Data and Algorithmic Regulation，in B Goldstein and L Dyson eds，Beyond Transparency：Open Data and the Future of Civic Innovation，Code for America，2013，p.289-290.6 高童非：论自动化行政中的“算法卸责”，电子政务2023 年第 2 期。7 肖红军：算法责任：理论证成、全景画像与治理范式，管理世界2022 年第 4 期。主 题 研 讨44国家检察官学院学报2023 年第 2 期拥有加密货币，哪些群体有更强的犯罪风险等。算法系统也会在执法者提出的框架中进行自我实现，8如将可能涉嫌恐怖行为的主体纳入禁飞名单。算法完全的自主决策是面向未来的可能范型，行政机关可能因算法不可知而对其失去控制。在处理算法行政处于辅助决策者下的联体责任、独立责任时，传统的责任框架就需要随之调整。大多数算法行政中的索赔案件是针对政府机构而非算法供应商的，但法院多裁定政府停止使用人工智能系统以解决纠纷，无法给相对人提供真正的救济。其原因在于，与传统技术的供应商不同，算法服务商参与或提供了行政行为中的核心逻辑、处罚理由，并付诸行动，这些均可能对相对人的基本权利产生重大影响。（二）分布式智能催生权力移转算法合同的逐层外包通常使得算法服务对最终用户并不可见，主承包商对其分包商的技术控制水平也难以保证。算法服务合同可区分为单一来源采购和多来源采购两种模式。单一来源模式中，算法服务商实际上承担了完整的服务责任，如无需本地化部署的云服务产品SaaS 等。多来源采购模式下，政府需要承担项目经理和集成商的角色，合同细节更为复杂，风险与责任交叠上升。9算法行政中各参与主体实现了角色转换，公共责任存在明显的转移倾向。政府从监管者转变成人工智能的购买者和直接受益者。10算法承包商也从技术承包者转变为行政过程的参与者、甚至是主导者。互联网企业的技术优势逐渐演化为一种技术权力，架构会体现出算法编写者的意图。算法行政还可能引发政府空心化的风险，进一步削弱基层公务人员的能动性。11算法行政中这种角色转变使权力结构更加隐蔽，因果关系更加不易察觉。首先，各主体间的关系距离被进一步拉长，技术中立与智能体无责任的外观使得真正的权力机构变得不可见。其次，算法系统是复杂与互联的，彼此间遵循相关性而非因果关系，系统优化随着时间推移不断学习和适应，人机间的协作很难归因。再次，算法行政中，对专家与政府的信任转变为基于数据与算法的“分布式信任”，其自动化决策似乎是“由无形之手启动预定过程的必然结果”12，但这种信任可能经不起考验。最后，多重主体的耦合行为很难证明主观犯意，13难以符合责任的意向性要件。8 Michal S.Gal，Algorithmic Challenges to Autonomous Choice，Michigan Telecommunications and Technology Law Review，Vol.25，p.59（2018）.9 算法服务合同中，通过使用第三方提供者对服务进行分层是一种普遍做法。Kevin McGillivray，Government Cloud Procurement，Cambridge University Press，2021，p.168-170.10 参见刘晗、叶开儒：平台视角中的社会信用治理及其法律规制，法学论坛2020 年第 2 期；彭箫剑：平台型政府及行政法律关系初论，兰州学刊2020 年第 7 期。11 Jacob Metcalf&Kate Crawford，Where are Human Subjects in Big Data Research?The Emerging Ethics Divide，Big Data&Society Vol.3：1，p.1-14（2016）.12 例如剥夺居民用水显然是其基本人权的侵犯，但如果切断供水的行为是通过系统自动关闭阀门而非人工操作，这种行为就不会被直接认定为侵权。Molly K.Land&Jay D.Aronson eds.，New Technologies for Human Rights Law and Practice，Cambridge University Press，2018，p.25.13 Judith Simon，Distributed Epistemic Responsibility in a Hyperconnected Era，in Luciano Floridi ed.，The Onlife Manifesto,Springer，2015，p.145-159.45算法行政责任的分布式重建（三）算法行政易引发机制化、普遍性的法益侵害算法行政与人类单个的决策不同，更可能产生体系化、机制化的普遍侵害后果。14算法系统无法实现对真实社会的完美复刻，受制于样本量的限制可能导致算法误报与漏报等后果，算法行政系统期待实现的精细化分类与标签化处理可能对公民造成无法磨灭的声誉损害。算法与资本的结合可能使技术承包商甘冒道德风险，或植入后门、或预留风险端口，以期锁定未来的合作。公共领域应用的算法决策与商业领域不同，可能对社群造成难以逆转的负面后果。算法行政可能通过潜在惩罚对人类进行情感监测与控制，干扰人的自主性，对其自我呈现的能力造成影响。更甚者，会直接干涉公民的基本权利。因此，欧盟的人工智能法案与加拿大关于自动决策的指令等都将公共领域的算法应用视为高风险算法。15算法行政适用领域与政企合作治理的特殊性，以及算法系统本身的隐蔽性等潜在复杂化了侵权过程。算法行政可能导致催生不平等分配、导致不平等固化与错位代表等问题。16更严重的是，算法行政可能造成一种结构性剥削，导致对社会中特定群体的定向剥夺。17这种剥削方式并非由特定主体造成，可能不是出于故意行为，甚至于是被剥削者主动在算法框架下进行某种不情愿的合作。18二、实践中责任分立的归责困境“责任是现代公共行政的核心问题”19。从各地建设数字政府的相关规划中，可以发现政府机构与算法服务商呈现出行为协同与责任分离的鲜明特点。这一政策表述给问责带来了较大困难，与分布式主体联合行为的行动实践产生了背离。在对算法行政的考察中，实践运行与问责规范间的距离可视为思考的起点。（一）行为协同与责任分立的政策表述我国各地数字政府的规划呈现出行为协同与责任分立的鲜明特点。行为协同意味着建立政企合作模式，提升政企协同能力。政府机关采取购买服务、市场化运作等多种形式，加快基础设施和各类应用建设。在多主体协同的规划方案中，政府与企业在数字政府中呈现出责任分离、彼此区隔的趋势。从各地规范性文件看来，政府在数字政府的建设中一般承担监督指导责任与考核评估责任。14 参见马长山：司法人工智能的重塑效应及其限度，法学研究2020 年第 4 期。15 European Union：EU Artificial Intelligence Act，https：/artificialintelligenceact.eu/documents/.（Last visited on Dec.12th，2022）；Government of Canada，Directive on Automated Decision-Making，https：/www.tbs-sct.gc.ca/pol/doc-eng.aspx?id=32592.（Last visited on Dec.12th，2022）.16 J.Cinnamon，Social Injustice in Surveillance Capitalism，Surveillance&Society，Vol.15：5，p.609-625（2017）.17 Robert Goodin，Exploiting a Situation and Exploiting a Person，Modern Theories of Exploitation，1987，p.175.18 McKeown，Responsibility without Guilt：a Youngian Approach to Responsibility for Global Injustice，Diss.，University College London，2015，p.107-119.19 钱小平：中国特色“分层式”行政问责模式：创新、不足与完善，东南大学学报（哲学社会科学版）2021 年第 5 期。主 题 研 讨46国家检察官学院学报2023 年第 2 期表 1各地数字政府建设模式一览表 2 0 2 1 2 2 2 3 2 4 2 5 2 6 合作模式责任承担模式上海市20产研对接、市场主体参与健全统筹协调和推进机制江苏省21政企合作模式强化监督指导，组建数字政府建设专家委员会浙江省22提升政企协同能力落实数据安全保护责任四川省23政研学企共建模式统筹建设职责广东省24政企合作“管运分离”的总体原则，政府作为责任主体湖北省25政事企协作机制“建管运分离”的原则海南省26政企合作联动、数据共享强化政府在规划建设和运营管理中的主体责任从规范表述来看，算法行政中的主体责任内容异构，环节不同，尚未对其内涵达成一致意见。国务院关于加强数字政府建设的指导意见明确落实运营者主体责任，山东与安徽等省份的规划文件则要求政府应承担主体责任，但对于主体责任如何定义、怎样阐发还未达成共识。与此相对应，现有规范在对商业化自动决策进行规制时，也有学者支持追究平台企业的主体责任，27但该内容尚未迁移到算法行政中。政府与算法服务平台究竟谁应该承担主体责任、承担何种主体责任在现有责任框架中并不明确。（二）分布式主体联合行为的行动实践算法行政中政府与相对人间的二元关系被重塑，行动线条与身份角色随时转变，构成了层层嵌套的多重委托关系（详见表 2）。一方面，在数字政府“基座-中台-服务端”的架设中，需要科技公司的深度参与。这种合作治理与传统的政府购买并不相同。在多数案例中，公共部门将项目经营权全权交于算法服务公司，要求其派驻具体工作人员到政府机构现场办公。算法服务公司基于承揽合同或买卖合同向行政机关交付其定制的算法系统。28另一方面，20 上海特别提出要发挥国有企业数字新基建主力军优势，详见上海市数字经济发展“十四五”规划，https:/ 年 12 月 31 日。21 江苏省“十四五”数字政府建设规划，http:/ 年 12 月 31 日。22 浙江省数字经济发展“十四五”规划，https:/ 年 12 月 31 日。23 四川省“十四五”数字政府建设规划，https:/ 年 12 月 31 日。24 广东省数字政府改革建设“十四五”规划，http:/ 年 12 月 31 日。25 湖北省数字政府建设总体规划（2020-2022）年，http:/ 2427046.shtml，最后访问日期：2022 年 12 月 31 日。26 智慧海南总体方案(2020-2025 年),http:/ 年 12 月 31 日。27 参见何勇：主体责任观下的互联网管理模式转型，现代传播（中国传媒大学学报）2019 年第 4 期。28 参见于君博、戴鹏飞：打开中国地方政府的数字治理能力“黑箱”一个比较案例分析，中国行政管理2021 年第 1 期。47算法行政责任的分布式重建政府各部门都要分散化地建立数字体系，系统林立、无法并轨兼容，这可视为“以工程化为主要思路的分散治理模式”造成的机构裂化结果。29表 2算法行政中多重委托关系示意表层级涉及主体关系类型问责方式（1）民众与政府机关及其工作人员政治代理关系政治与行政问责（2）政府机构内部上下级间科层关系绩效问责（3）政府机关与数据和算法服务商之间外包合同关系法律问责（4）算法服务商与具体编程者间劳动关系、层级关系替代责任（5）政府机关及其工作人员和具体编程者基于信任的委托关系侵权责任、无法问责从经验实践来看，算法行政中存在的多重委托关系难以清晰剥离。疫情防控初期，浙江省卫生健康委员会迅即与阿里巴巴公司展开合作，使用其研发的“宜搭”平台，在 48 小时内像乐高积木一样迅速搭建疫情信息采集系统与新型肺炎防控公共服务管理平台。美国洛杉矶警察局与帕兰提尔科技公司合作建立犯罪预警中心，通过挖掘诸如聊天信息、社交媒体等潜在信息进行犯罪预测。30这些关系存在于多个主体之间，涉及多方行为。其中需要明确行政决策者是否单方面推动了算法行政的使用议程，是否潜在削弱了基层公务人员的能动性，是否对公众的关切与担忧进行了回应，并解释了相关依据等。与此同时，还要回应代理人渎职、委托人监管能力不足的问题。一边是提供算法服务的行业巨头期望通过低价准入巩固垄断与数据优势，另一边是小型公司紧密依附政府项目发包，技术水平低下。政府部门基于对技术的迷信，反而增加了对结果的确信与在算法行政中的放手。（三）责任分立下的代理洗白与责任虚置传统的政府购买服务呈现出“政府-私人主体-公民个人”的三方构造，政府据此承担对私人承包商的监管责任、对公民个人的保护性责任与担保责任。31私人承包商则主要承担与政府机关间第一性的合同责任。如果将该套责任体系转译到算法行政中，就会发现接受算法服务的公民无法通过合同责任向算法承包商提出救济（突破了合同的相对性），侵权法上的因果关系证明因算法黑箱基本无法实现，私人行政责任的认定也较为苛刻。32如果公民要求政府部门承担责任，其问题在于政府并不了解算法行政的内在逻辑，算法透明与算法解释并不一定能保证实质公平。虽然政府可以要求供应商提供适当的补救措施，或直接更换供应商，但在经济上缺乏提供高额赔偿的可能，在结果上很难修复算法执行错误产生的批量性后果。政府与算法价值链上的其他主体承担分而治之的责任时，可能引发委托者、设计者与施29 参见黄璜：数字政府：政策、特征与概念，治理研究2020 年第 3 期。30 洛杉矶警局用 AI“预测犯罪”；北欧银行拟裁员六千，用智能机器取而代之，https：/ 年 5 月 31 日。31 参见邓搴：论政府在购买公共服务中的角色定位及其法律责任以法律关系基本构造为分析框架，行政法学研究2018 年第 6 期。32 参见胡敏洁：论政府购买公共服务合同中的公法责任，中国法学2016 年第 4 期。主 题 研 讨48国家检察官学院学报2023 年第 2 期行主体相关责任的双重逃逸。33政府部门以技术名义作为抵挡公众问责的挡箭牌；科技公司也会通过免费运营公共项目等方式避免事后问责。当自主的代理人（算法系统）逃逸了其行为责任时，会出现“代理洗白”34（即将因果责任归咎于另一团体、程序或技术）的结果，被代理主体（政府机构）不用履行对特定结果的责任。其一，面对算法系统可能产生的异化，政府享有的更像是一种监督权，这种间接责任很难保证相对人的权利不受损害。其二，现有治理体系对算法行政侵害的解决方式相当有限。一般仅能通过政府更换服务商，或要求服务商提供适当补救的间接方式予以缓解。其三，公共领域的算法应用本身存在隐秘性与不可见的问题，使得许多接受算法服务者无从寻找救济主体。在这种情况下，欧盟等地通过数据治理赋予数据主体以算法权利的方案也较难激活使用，35脱离自动化决策可能演化为一种“虚幻承诺”36。责任的分立会导致责任真空与问责困难，甚至是“有组织地不负责任”37。也就是说，算法造成了损害，却不能被追究责任，导致了责任的空置。三、对穿透式监管下责任体系的检视与思考既然算法行政试图在不同主体间清晰划分责任的方式面临诸多问题，无法弥合技术造成的责任鸿沟，那么需要考虑新的责任承担形式。针对这些问题，许多学者做了相关尝试，提出了穿透式监管与穿透式责任的雏形。38穿透式监管下的责任意味着一种由表及里、由事前规制到事后定责的责任转变。这一责任体系源脱胎于穿透式监管的理念，要义在于穿透行为的外衣，进行技术监管，旨在实现实质重于形式的监管与侵入式的监管措施。39（一）穿透式监管下责任体系的理想构造穿透式监管应该逐层递进：监管对象上刺破科技卸责的外衣，找寻真正的行为对象；监管内容上直接监管以数据和算法为代表的各项市场要素；监管目的致力于弥补因创新造成的监管漏洞，对技术卸责进行纠偏；监管影响上实现控制权重归监管部门的规制初衷，有效限制私权力的野蛮生长。穿透式监管应采取功能化的视角，从一种应急性的政策安排转而变为长效化、系统化的制度框架，40以实现对算法过程全流程的责任穿透。33 政府承担算法行政中的主体责任，算法服务提供商只承担建设和运行的责任，这与关于加强互联网信息服务算法综合治理的指导意见中对企业主体责任的强化有一定出入，忽略了算法系统完全自主化的可能。34 Alan Rubel，Clinton Castro&Adam Pham，Algorithms and Autonomy：The Ethics of Automated Decision Systems.Cambridge University Press，2021，p.13-14.35 参见张欣：从算法危机到算法信任：算法治理的多元方案和本土化路径，华东政法大学学报2019年第6期。36 唐林垚：“脱离算法自动化决策权”的虚幻承诺，东方法学2020 年第 6 期。37 贝克在风险社会一书发表两年之后又发表了解毒剂（Counter-Poisons）一书。在书中，他指出，所谓有组织地不负责任是指公司、政策制定者和专家结成的联盟首先制造了当代社会中的危险，然后又建立一套话语来推卸责任。38 参见叶林、吴烨：金融市场的“穿透式”监管论纲，法学2017 年第 12 期；张凌寒：平台“穿透式监管”的理据及限度，法律科学2022 年第 1 期；常健：论“穿透式”监管与我国金融监管的制度变革，华中科技大学学报（社会科学版）2019 年第 1 期。39 同前注38，张凌寒文。40 参见常戈、张艳艳：穿透式监管：内涵、核心与挑战，财经智库2021 年第 5 期。49算法行政责任的分布式重建穿透式监管下责任的初衷是找到实际致害者，准确清晰地确定责任承担方。更为重要的是让算法服务商不能因技术中立与避风港原则而脱逃责任。比如卢米斯案中，开发刑期评估的算法公司就宣称刑期算法是一种商业秘密，但法院认为风险评估完全“基于被告自己对问题的回答和关于他的犯罪历史的公开数据”的论述并不充分。41从责任主体来看，算法行政中让政府机关承担主体责任变得极为困难，间接会使算法致害变成一种社会共同分担的风险。如果不采取穿透式的追责方式，对政府的单方面问责无法达到规制目的，政府机关会不断外包职能以逃避问责。为此，可尝试穿透算法系统的表面责任形式，使算法承包商适当承担责任。从社会福利与受益者负责的角度来看，算法服务商通常处于控制算法的最佳位置，参与并提供了算法行政行为中的核心逻辑与处罚理由，并通过算法服务获得了超额收益。从穿透方式来看，要打破不同部门法间构筑的藩篱，实现公私法融贯的救济方式。现有对算法的规制主要体现在单行立法中，但也为不同部门法内预留了窗口。比如刚出台的关于加强互联网信息服务算法综合治理的指导意见与互联网信息服务算法推荐管理规定等就可以回应算法行政可能产生的未来风险。42个人信息保护法第二章第三节专门对国家机关处理个人信息的范围、限度和规则进行了较为宏观的规定。通过算法作出的行政行为在告知、送达以及真实意思表示的确定上都存在一定问题，削弱了程序护栏对个人权利的保护，因此应与侵权法中的风险规制、行政法上的私人行政、预防原则等有效结合，实现公私法上救济方式的联动。（二）集合责任难以穿透的实施困境穿透式监管的原理看起来很精妙，但在实施中仍存在一些问题。算法行政系统可视为AI 全流程价值链上各主体的整体性意愿，找到真正的施害者并不十分容易。穿透的前提是透明度的实现，作为特殊外包合同的技术服务协议因信息差值和技术鸿沟而难以透明。比如在IBM 与美国印第安纳州签订的福利资格审查算法中，政府宣称 IBM 提供的算法系统存在服务缺陷而要求单方面解除合同。IBM 公司则提起反诉，要求政府赔偿涉及服务器、硬件系统在内的 1 亿美元的损失，后 IBM 公司胜诉。43如果无法透明，就很难实现真正意义上的穿透。算法行政中，依赖关联替代了因果关联，穿透责任主体变得更为困难。第一，各方主体都可能因自己的行为对最终决策产生影响，制造商可能安装了有缺陷的传感器，操作员可能未及时测试更新，管理员可能忽略了更新系统的通知，用户可能忽略了系统警告或提示。法理上只要求行政行为的外部责任应由行政组织体承担，这显然并不能够实现问责目的。第二，政府已经转变为提供需求的买方，事实上不再享有合同权限内的实际操作权。44第三，多重主体的耦合行为中，很难证明主观犯意，45难以符合责任的意向性要件。41 Loomis，881 N.W.2d at 757.42 宋亚辉：风险控制的部门法思路及其超越，中国社会科学2017 年第 10 期。43 美尤班克斯：自动不平等高科技如何锁定、管制和惩罚穷人，李明倩译，商务印书馆 2021 年版，第 61-63 页。44 参见孔繁华：授权抑或委托：行政处罚“委托”条款之重新解读，政治与法律2018 年第 4 期。45 Simon，Distributed，p.145-159.主 题 研 讨50国家检察官学院学报2023 年第 2 期（三）科层制与穿透式责任间的天然互斥穿透式责任要想在算法行政中起效，至少要穿透三层关系：一是政府与技术承包商间的委托关系，二是政府与承包商内部的科层结构，三是算法系统中本身的技术黑箱。政府与算法服务商间的委托关系因集合责任与多手困境而不易穿透，算法黑箱则有赖技术突破与行为留痕。政府机关与算法服务商内部的科层制结构则天然与穿透、透明存在冲突。首先，政府应用算法系统的决定一般是集体决策做出的，其中包括决定算法使用的决策者、行政命令下达者、具体执行者以及不同机构间的协调者，很难定位责任主体。其次，行政机关内部实行纪律问责而非司法追责，如果程序正当合理，一般不应承担相关责任。再次，算法服务商内部也存在复杂的关系链条，既有作为研发者的软件控制权人，也有硬件系统的所有权人，更有数据运行平台的数据控制者，46算法系统是集体智慧的结晶。没有哪个算法是毫无偏见的，算法运营者的主观犯意、算法错误的损害与权益侵害之间难以形成逻辑连贯的法律推理和论证闭环。最后，区分算法行政中作出行政行为的是政府指令、是算法设计者的夹带私货，还是算法系统的自我迭代也是一个难题，可能引发多个法律部门的共同管辖。四、调和理念与实践：分布式责任的平衡尝试如果实践中的责任分立在处理算法服务外包时不免捉襟见肘，作为理想型的穿透式责任只是看起来很美，那么就需要正视不断变化的技术格局和当前责任制度的局限性，尝试重塑一种体系性与整全性的救济体系。算法行政中责任主体的复杂关联对现有责任体系造成了巨大的冲击：责任主体从清晰的单一主体变为难以分离的复合主体，因果关系上从明确的因果关联变为难以解释和不可思议，损害结果从明确致害变为未知风险的可能结果，需要借助技术演进的原理来提出治理技术的方案。在算法行政的具体参与主体无明确过错却造成了致害结果的情况下，分布式责任意味着链条上的主体均应承担相应责任，包括但不限于监管者责任、研发者责任、生产责任与保险人责任，47从而形成一个完整的责任闭环。当算法行政从单一责任演化至链式责任时，监管模式也需要从中心式的控制风格向一种参与式的全流程问责转换。程序员部署的代码这种非正式、不可见的规则体系构成了权力的中心。48在分布式责任的承担过程中，既要强调主体间的互助与横向影响，进行监管对话，增强知情参与；也要适度注入竞争性的理念，通过算法的随机因素减少腐败与操纵。（一）分布式责任的原理机制算法行政中行为的分布性决定了责任的分布性。算法行政的各项行为实践表明：其行为是由多方主体共同作用、密不可分的，多方主体均对潜在损害结果有间接作用力。算法黑箱进一步削弱了证明的可能性，难以对复杂主体的联合行为进行精准定责。去中心化的规制46 Karni Chagal-Feferkorn，The Reasonable Algorithm，Journal of Technology Law&Policy，p.111-147（2018）.47 参见袁曾：无人驾驶汽车侵权责任的链式分配机制以算法应用为切入点，东方法学2019 年第 5 期。48 参见法菲利皮、美赖特：监管区块链，卫东亮译，中信出版社 2018 年版，第 49-51 页。51算法行政责任的分布式重建意味着任何处在节点中的机构均可启动规制流程，因此责任承担的结构也应该随之变化。分布式责任意味着在现有治理体系无法提供定责依据时，秉承双重对称的原则，依次根据“权力-能力”尺度、处在算法行政中的结构性位置与对结果的贡献程度确定责任。分布式技术能够为分布式责任提供技术支撑，使其成为一种基于节点而非主体的公平问责方式。首先，分布式责任有着较为严格的适用条件，可视为疑难案件下的一种选择，尤其适用于算法对裁量事项的处理。如果现有治理体系能够明确界分算法行政各主体间的责任，就无需专门适用分布式责任。算法系统的谬误有很多类型，分布式责任适用于不存在明显的价值问题与可疑设计方法的情境中，在处理基于风险的抽象性侵害时尤其得心应手。49比如在纽约某个为无家可归者提供住宿的系统中，将风险行为、受侵犯概率、试图做出的伤害行为等参数作为优先入住的依据。该数据与执法机关联网，以识别和定位潜在的嫌疑人。这就造成了一个吊诡的结果：一方面，无家可归者只有不断披露自己的负面生活细节才能获得入住资格；另一方面，这种披露可能引发执法机关的格外关注。50在这种结构不正义的情况下，相关算法服务接受者诉诸一般规范无法获得救济，分布式责任则可以提供一种额外的选项。其次，分布式责任适用于线性因果关系薄弱的复合责任，所有与结果有因果关系的人共同承担责任，实现一种链基意义上的治理重塑。51与传统的“政府部门-外部服务商-公众”的清晰架构不同，算法系统本身的不可见与多重委托关系使责任界分更加复杂。分布式技术可以为之提供一些帮助，实现存储、证明与追溯的一体化，保证“源头可溯、过程可查、效果可评与责任可追”52。具体来说，分布式技术与算法审计跟踪的结合可以就能够实现责任透明、记录相互连接、分布式加密存储从而防止篡改。算法致害实则是人机联合责任体作为一个整体来承担责任。53再次，分布式责任是一种新型的、基于节点而非主体的问责方式，能够简化多主体间的混同责任。算法行政中的政府部门不再像单纯的服务外包部门，而更像是一种算法服务整合的政务平台。因此可以参照商业平台运营和消费者权益保护的相关规定，赋予公共算法决策的用户以选择权，政府与算法服务商均可作为被救济对象。由于用户与算法服务商间未必存在明确的合同关系，因而应该通过强制法的规定将该种义务嫁接到提供算法服务的第三方主体上。若算法承包商对承担的责任份额有所异议，就要承担举证责任，从而反向迫使其审查算法与公开相应参数，以建立算法风险监测、安全评估、伦理审查、算法备案与违法违规行为处置等多维一体的治理体系。最后，分布式责任有效解决了举证责任与损害赔付两个难题。在应用分布式技术的场景中，各种行政行为的记录不再集中在单一机构手中，不同主体的行为被放置在一个实时共享和同步49 算法系统的谬误可能导致算法损害与算法妨害，前者是基于实害结果的具体侵害，后者是基于风险的抽象性侵害。王莹：算法侵害责任框架刍议，中国法学2022 年第 3 期。50 同前注43，第 78-81 页。51 苏宇：区块链治理的政府责任，法商研究2020 年第 4 期。52 周博雅等：基于区块链技术的政府权力监督研究，电子政务2020 年第 10 期。53 郭菁：基于人机联合行动体的责任归因，自然辩证法研究2020 年第 11 期。主 题 研 讨52国家检察官学院学报2023 年第 2 期的数据库中，权力运行全生命周期的溯源就得以实现。不同主体在此间的权力行使过程不可篡改，人与智能体可以交互编辑、互相验证。分布式责任不止回应了疑难案件中难以归责的问题，还为受到算法行政侵害的相对人提供了实际的救济手段。分布式责任可以防止风险的不均等负担，通过平等节点间的定价尽力实现一种公平的损害责任分配与微量损害的合理容忍状态。（二）分布式责任中的监管原则重塑分布式责任作为一种新型的责任承担方式，建立在责任分立与穿透式责任面临困境的基础上，旨在实现公平、有效的责任分配。由于分布式责任适用依赖关联而非因果关联的情形、将主体的不同身份都视为同一网格中的节点，因此需要更新监管理念，匹配前提要件。其一，重视程序的完整性而非仅强调正当程序原则。算法行政部分替代了传统行政主体开展行政裁量的过程，比如 2005 年“万元罚单”案中，行政相对人反复在同一地点被电子设备抓拍 105 次却未收到行政机关通知。54那么在此过程中，行政组织必须完整地向公民提供有关算法决策程序的相关信息，确认决策做出时程序上的规律性，并检验这一规律性是否符合法律规范。55其二，用事实评估要求补充可得性原则。由于算法行政中政府与第三方服务商不约而同地希望通过技术避责、卸责的倾向，需要保持随时的人工介入评估以防止各方逃脱责任。更为重要的是，该评估不应只针对数据进行，更应该将相对人的事实情况纳入考虑范围。比如在某个自动测算失业救济金的算法系统中，许多索赔人被判定为“故意歪曲或隐瞒信息非法接受利益”。如果单从系统的问卷收取过程中看不出问题，其原因在于多份问卷进入了休眠账户，并未送达。56其三，在无其他规范依据的疑难情形下需要更新归责方案。算法行政中的各方应对外承担连带责任，对内则承担相应的责任，允许相互间进行追偿。其中，行政机关承担无过错责任。由于向行政组织要求救济的条件苛刻、不易实现救济，从而在制度上强制要求各方承担连带责任，而并非选择让处于弱势的相对人承担共同侵权的证明责任。其四，归责定责时秉承双重对称的原则。一方面，风险分配应与产生风险的可能性概率、获取的收益以及抵御风险的能力相对称。57在处理无法明确归咎于个人过错的公共风险时，可考虑让可以风险控制者承担责任，综合风险开启与维持的可能性、风险控制能力等要素。继而，从收益和政策结果的角度来进行责任的分配。在其他要素都无法归责的情况下，算法行政的参与主体在整体的结构非正义中获益越多，就应该承担越多的责任。最后，算法监管的强度与责任要与算法行政的类型相适应，以期实现透明度与保护商业秘密间的双重要求。对裁量型算法而言，需要设置更为严格的程序要求与监管强度，如算法影响评估、强制性的存档备案与事后的算法审查、保证随时的人工介入等。对用于核心政府54 参见张旭：北京“万元罚单”当事人杜宝良撤诉，法制日报2005