算法的治理：算法权力执行偏差与公共性重塑_陶焘.pdf

领导科学2023 3治理研究一、算法权力的基本界定算法是计算机科学的基本术语之一，斯坦福大学教授罗伯特 塞奇威克称之为解决特定问题的计算规则与编程设计1。算法是大数据、人工智能以及区块链等先进技术的基础，其应用初衷在于为人类决策提供更加广泛与有效的知识，将社会各领域以及社会成员的各种行为通过数据、信息的形式进行表达与传递。不可否认的是，算法的运用与革新已经在很大程度上改变了人类生活，为决策者提供了更加精准的信息作为决策判断依据。但在当今社会中，如果仅将算法视为一种技术而忽略其背后隐藏的社会属性，就显得比较片面化了。当人类创造算法并将其运用到各个领域时，算法就不再是一种单纯的计算机技术，其已附带了明显的社会关系属性，尤其是当算法被公共部门或者市场企业用作决策工具时，算法就具备了权力属性。权力的本质是影响与支配，算法作为一种决策工具能够对社会成员产生影响，甚至对他人进行支配，因此，权力性是算法的社会属性之一。首先，算法是一种影响力。影响意指主体能够对他人产生作用，改变其行为与思维。算法的影响是显而易见的，大数据、人工智能的运用影响了人们的生产与生活方式，这本身就是算法影响力的展现。其次，算法是一种支配力。算法的支配作用在信息领域体现得最为明显，不管是公共部门还是私人部门，都能够通过算法优势对公民信息获取进行支配，最为典型的案例即Facebook通过改变信息推送算法让美国民众看到那些“有意图”的信息，间接实现对民众选举行为的支配。如果要深层次理解算法权力，就需要从其技术属性与社会属性的双重角度进行分析，这就涉及算法权力的来源问题。本研究认为，算法权力具备技术、社会两种来源。首先是算法权力的技术性来源，其具有复杂性与专业性，因而有学者称之为“算法黑箱”2。一般民众很难理解算法代码与编程结构，只有专业人员才能够掌握其操作技术，而专业人员往往又具有自身的价值判断，当其出现偏见、偏差时，就形成了以算法为媒介的专业人员对一般算法的治理：算法权力执行偏差与公共性重塑【摘要】算法已嵌入社会各领域，算法与社会的互构过程使其演变为算法权力。算法的初衷在于解决问题，算法权力涉及民众信息、政府行政与新型公共空间多个领域，因此算法权力具有应然层面的公共性价值。但在实然层面，算法权力出现了执行偏差困境，在市场、政府与社会层面上都存在着算法失灵的问题，表现为企业自我利益凌驾、政府权力滥用与公共空间风险。基于算法权力趋于广泛的运用情境，政府需要对其进行有效规制，重塑算法权力公共性。在完善算法权力规制法律法规的基础上，应保持算法权力的行政工具性，依法强化算法权力市场监管，构建协同算法权力规制网络，真正发挥算法增进公共福祉的作用与价值。【关 键 词】算法权力；公共性价值；执行偏差；公共性重塑【作者简介】陶焘（1986），男，中共湖南省委党校（湖南行政学院）科技与生态文明教研部副教授、博士，主要研究方向为科学技术哲学。【中图分类号】C936【文献标识码】A【文章编号】1003-2606（2023）03-0101-04陶焘101DOI:10.19572/ki.ldkx.2023.03.042领导科学2023 3民众的影响与支配。其次是算法权力的社会性来源。算法本身的技术性权力对社会的影响并不显著，但是，当“算法黑箱”与政治、经济因素相结合时，就能够产生对社会成员的强大影响力。比如，当算法权力与私人资本相结合时，就意味着私人资本掌握了更强的影响力与支配力，能够对客户产生更大的影响。当算法权力与政治力量相结合时，就意味着政治力量获得了对社会更强大的治理能力、控制能力，那么，当政治力量向善时，就会产生积极影响（打击违法犯罪、保护居民隐私等）；当政治力量向恶时，则会产生严重的负面影响，威胁社会稳定与社会公众利益。根据前文分析，算法权力的运用会直接或间接影响政府、市场、社会多元主体之间的关系。从本质上来说，算法权力就是某一主体因掌握相应技术而获得了其他主体不具备的一种优势，一旦这种势差与复杂场景相结合，就产生了算法权力正面或负面的影响。德国社会学家乌尔里希 贝克在其风险社会理论中早已预见到科技是人类社会发展的风险源之一，算法权力在促进生产力发展的同时，也诱发了社会阶层失衡加剧、社会利益矛盾激化、信息茧房效应突出等问题。3基于此，党和国家应通过制度设计加强对算法权力的约束，使其能够发挥促进社会发展的积极作用，同时尽可能地规避其负面影响，保证算法权力的公共性。二、算法权力执行的应然公共性与实然偏差性（一）应然层面：算法权力的公共性价值正如前文所述，如果经济、政治力量基于自身目的掌控算法权力，就会对社会产生严重不良影响。算法由人类创造，同样也应为人类服务，只有这样才能够实现算法的真正价值。为人类服务，不是为某个人或某群人服务，而是要为全体人类服务，因此，算法、算法权力应该具备公共性的基本属性。在中国情境下，算法权力主要由中国共产党所领导的各级政府享有，部分算法权力虽然由企业掌握，但其依然受到政府的严格监管，这就将大部分算法权力界定在公共场域内，算法权力自然也就具有了公共属性。具体来说，算法权力的公共性主要表现在三个方面。首先，算法权力与社会成员数据信息的强关联性使其具有公共性。当今社会又被称为数字社会，即社会上的大部分事物都能够实现数据化，在这种情况下，社会成员就被转换为一个个数字人，其基本信息为具有算法权力的主体所掌握。当算法权力主体为政府时，公民信息能够获得相对安全的保障；当算法权力主体为企业时，公民信息就有可能受到安全威胁。比如，一些企业通过算法权力能够掌握公民的身份信息、出行信息以及人脸识别信息等，当企业非法利用这些公民信息时，就会对公民利益造成损害。保护公民合法信息、维护公民合法权益，需要算法权力具备高水平的公共性。其次，算法权力作为具体行政行为使其具有公共性。坚持以人民为中心是公权力行使的根本导向，公权力来源于人民群众，为人民服务是公权力的基本使命。当公权力与算法权力相结合时，算法权力也同样具有了增强社会整体利益的重要职责。算法权力与公权力相结合的主要表现，即算法被政府部门用作决策手段，这时算法权力就转变为具体的行政动作，从而对全社会产生影响。在这种情况下，算法权力的运行不仅涉及政策制定者的价值导向，更关系到社会成员的切身利益；算法权力的公共性既是公平公正行政价值的基本展现，又是增进社会成员利益的重要保障。再次，算法权力塑造新型公共空间使其具有公共性。算法是互联网、大数据与区块链等技术的基础，而各项技术都能够产生相应的平台与空间。以区块链为代表，区块链内的公有链是连接多元主体的基本平台，在平台内各主体之间呈现出一种相互平等的关系，这是区块链典型的去中心化特征。但这又是“再中心化”的过程，拥有算法技术优势的主体能够通过各主体的信息发布深度挖掘其个人偏好与信息，从而可能使个人隐私受到安全威胁。为避免这一情况的出现，参与公有链的多元主体应树立公共性意识，合规合法地进行信息发布与交流，从而保障新型公共空间有序运行。（二）实然层面：算法权力的执行偏差性鉴于算法权力与公权力、个人隐私与公共空间的密切关系，算法权力应以高水平的公共性保障其在政府决策、隐私保护与秩序维护中发挥应有的作用，但治理实践的实然状态偏离了算法权力的应然价值，出现了公共性缺失的难题与困境，本研究将其称为算法失灵。所谓算法失灵，是指算法权力被滥用并造成技术垄断、侵犯隐私与分配不平等的现象。现阶段，算法权力应用的各个方面都存在着一定程度的失灵状况，具体来说，主要表现在以下三个方面。首先，市场运用方面的失灵。前文多次强调，企业是市场方面运用算法权力的代表性主体，这是102领导科学2023 3由算法的复杂性与专业性所决定的，一般公民想要掌握算法权力往往需要付出高额成本，而企业在这方面占据着人力与技术优势。营利性是企业的基本属性，当其由于掌握算法权力而占据市场优势时，很有可能出现垄断倾向，以美团、阿里巴巴为代表的互联网企业所进行的“垄断服务”就是算法权力异化的表现。这种问题出现的根本原因在于企业将实现自身利益最大化作为追求目标，通过算法优势对客户数据和信息进行控制，从而实现对消费者的支配与影响。市场方面的算法失灵还表现为企业对公民隐私的侵犯。同样是为追求自身利益，一些企业会将客户信息作为商品出售以获得经济利益。比如，浙江省有关部门披露，2019年11月11日，阿里云计算有限公司未经用户同意，擅自将用户注册信息泄露给第三方合作公司，并遭到客户投诉，这意味着客户隐私被严重侵犯。其次，政府运用方面的算法失灵。政府运用算法权力也就是公权力与算法权力相结合的过程，其存在着主动失灵与被动失灵两种类型。主动失灵是行政主体基于主观意愿所引发的治理乱象，其与市场方面的算法失灵具有逻辑动机的相似性。自腐性是权力的基本属性之一，算法权力同样具有这样的属性，当两种权力相结合时，行政主体自腐的可能性就会大大提升，在追求自我利益最大化的动机驱动下，行政主体就会出现算法权力滥用与公权力腐败的叠加行为，一些官僚出现的智能化腐败就是以公权力为基础、以算法为手段而侵犯公共利益的行为表现。4被动失灵是指行政主体虽然没有贪污腐败的主观意愿，但由于算法权力运用失败而产生破坏社会公平正义的现象。一方面，关于算法权力的法律法规依然缺乏，这加大了算法权力责任认定的难度。责任认定偏差的结果就是权责失衡，很容易违背政策的公平性。另一方面，一些领导干部对算法权力并不熟悉，在算法权力行使、监督等方面呈现出明显的弱能力状态，这使其既不能发现算法运用过程中存在的问题，也无法对企业的算法权力运行进行有效监管，从而进一步增加了算法权力异化的概率。再次，社会运用方面的算法失灵。算法被创造的初衷在于解决问题，增进社会整体福祉是算法的最初使命，当算法运行偏离这一初衷甚至与其相背而行时，就出现了社会层面的算法失灵。算法在社会中制造了新型社会空间，在这一空间内人们能够相对自由地分享和接收各种信息，在这种情况下，信息的正负属性也就影响着传播效果。比如，一些网民缺乏公共意识，故意将一些谣言、负面消息在网络空间中进行传播，从而引发民众的恐慌心理或者消极情绪，甚至对社会稳定产生影响。一般民众在算法权力方面处于弱势地位，因此，其对于算法推送的信息是缺乏免疫力的，一些不法分子会借助算法权力向民众推送混淆视听的负面新闻，给党和国家形象造成不良影响，其中蕴含着隐性政治信任危机与社会风险。网络安全是总体国家安全观的重要组成部分，而被不法者利用的算法权力则是对网络安全的严重威胁，因此需要对算法权力进行规制，以保障网络安全、国家安全。三、算法权力公共性的重塑路径算法权力公共性的缺失容易引发多重问题，而算法运用又是社会发展的重要趋势，在这种情况下，对算法权力进行有效规制就显得重要且必要。本研究认为，政府应在算法权力规制中担任主导角色。这既是由中国基本国情决定的，也是政府履行治理与监管职责的重要体现。（一）算法权力执行的法治化发展算法权力规制立法是全面依法治国战略的延伸与发展，通过立法不仅能够为政府行政规制提供基本导向，而且能够促进算法权力的内部优化。立法机关要在充分了解算法权力运用状况与问题困境的基础上制定标准化规制工具，为政府实施具体规制行为奠定法律基础。相关立法要对规制工具的主体、程序、准则等做出明确规定，增强法律的可解释性和可操作性。要通过立法将算法操作与运用的规范性、合理性提升到更高的水平，也就是以法律形式正式赋予算法应然层面的公共属性，并推动其从应然向实然转变。推动算法权力的法治化，一个重要方面就是通过法律法规的完善明确算法权力主体的责任，并规定相应的惩处措施，以保障算法权力的公共性具有坚强的权威后盾。具体来说，就是要明确各级政府及其领导干部、运用算法的企业与个人所具有的权利与义务，当其违背算法权力的公共性属性并对其他主体造成利益损害、隐私侵犯时，应对其进行问责与制裁，保证算法权力依法运行。（二）保持算法权力的行政工具性算法已经嵌入行政领域，政府部门对大数据、区块链等技术运用的实质就在于算法驱动。但算法权力仅仅是一种决策工具、行政工具，这意味着政府要始终保持对算法权力的主导性、主动性，如103领导科学2023 3果算法权力脱离行政控制，就会出现算法权力对公权力的侵蚀，产生更大的“利维坦”风险。因此，政府既要正视算法权力的工具属性，同时也要认识到算法权力的失控风险，在此基础上提升对算法权力的使用、甄别与监管能力。各级政府可设立专门的算法监督部门，配备专业技术人员，以应对算法的复杂性与专业性。一方面，要优化算法决策；另一方面，要加强算法运用的内部监管与问责，避免算法权力腐败现象的出现。领导干部要加强算法技术学习，明确算法权力应有的公共属性，真正将算法权力与增加社会公共福祉相联系，从而更好地履行政府职责，保证决策的科学性、合理性、合法性。（三）依法强化算法权力市场监管法律对算法权力市场主体的规定包含两个方面：一是明确以企业为代表的市场主体是算法权力的拥有者，二是规定市场主体在运用算法权力时的义务、责任以及惩处措施。这些是政府监管的依据所在。政府部门要承认企业拥有与运用算法权力的合法地位，认识到算法权力是企业实现自我发展的重要手段，同时企业也是实现算法创新的关键主体。在此基础上，政府部门要构建算法权力市场监管的相应机制，比如明确拥有算法权力的企业应具备的基本资质、定期检查企业保护客户隐私的措施及实施情况等，保持市场主体行为与社会公共利益之间的一致性。当企业出现算法权力运用违反相关法律法规的情况时，政府监管部门应依法予以警告或惩戒，具体方式应根据企业的违规程度进行选择。当程度较轻时，灵活机动的行政约谈是一种较为恰当的方式；当程度较重时，则应给予行政制裁、经济处罚，使得企业的算法权力运用行为保持在法律范围内。（四）构建协同算法权力规制网络除了政府和企业，公民与社会组织也是算法权力的利益相关者。一方面，政府要加强宣传，树立各社会主体对算法权力公共性的正确认知，使得合理合法运用算法权力成为一种社会氛围。另一方面，政府要促使社会主体转变为算法权力运行的监督主体，强化对政府与企业算法权力使用情况的监督。政府要加强与行业协会、算法联盟、专业机构、高校等社会组织的合作，搭建算法权力规制的多元平台，使得在算法使用上占据相对优势的主体都能够发挥规制与监督作用，既能够为政府的算法权力运用提供技术支持，也能够为增强政府对其他算法权力主体的监管提供帮助。此外，政府要加强算法科普工作，强化社会民众对算法权力双重性的认知，使其在对各种平台的使用过程中注重自我信息保护。当社会民众普遍具有较高水平的公共性认知，并明确算法权力的双重性时，就会对算法权力运行形成一种社会性的规制与规范，那些违背公共性的算法权力运用方式就会被逐渐淘汰。四、结语新兴技术的广泛运用正在逐渐改变社会权力格局，算法作为数字时代最活跃、最核心的生产要素，逐渐演变为一种重要的社会规则，并以此为基础构建了“算法权力”这一新形态，对社会成员产生着价值认知和行为选择的影响。不同主体因为所拥有的数字资源、技术算法的差异而表现出越来越大的势差，出现了算法权力的不对等，进而引发了诸多不公平、不公正现象，数据鸿沟、数字贫困就属于典型表征。因此，国家需要对算法权力进行调控，通过强化法治效能、优化市场机制、创新管理方式等手段促进数据、技术等资源的合理配置。政府必须认识到算法权力的潜在风险，将算法权力与社会秩序、人民利益密切相联，通过规制与引导保证算法权力的公共性，使得全体人民都能够从数字化转型发展中受益。2023年2月，党的二十届二中全会通过了 党和国家机构改革方案，其中一项重要内容即组建国家数据局，统筹数字资源整合共享和开发利用。国家数据局的组建是将数字化发展纳入国家整体发展战略的重要举措，体现了政府治理的与时俱进，有助于促进算法与算法权力积极发展。我们有理由相信，政府会不断革新以提升数字治理效能，为数字中国建设奠定坚实基础。参考文献：1 塞奇威克，韦恩.算法 M.谢路云，译.4版.北京：人民邮电出版社，2012：13.2 BURRELL J.How the Machine“Thinks”：UnderstandingOpacityinMachineLearningAlgorithms J.Big Data&Society，2016，3（1）：1-12.3 谭九生，范晓韵.算法权力的社会负效应及其行政规制 J.中国行政管理，2021（10）：155-157.4 陈怡.“区块链+政府审计”对技术官僚智能化腐败的治理研究 J.领导科学，2021（8）：25-28.责任编辑介明菊104