以算法规制算法.pdf

第 卷 第 期总第一八二期 作者简介:蔡星月北京航空航天大学法学院助理教授基金项目:国家社会科学基金重大项目“互联网平台的社会影响及其治理路径研究”()收稿日期:./.以算法规制算法蔡星月摘要:算法规制的真正对象不应落脚于算法而应揭开算法的面纱穿透算法去规制算法背后的种种力量这些力量聚合成一种综合资本权力系统构成了算法的后台 规范难以直接击穿算法的外衣会遭遇诸多难题 克服这些难题的最好方法是以算法规制算法通过规范的计算化、规制的技术化、技术的反馈化三个界面的勾连使规范穿透算法的外衣直达算法的后台 要使算法成为人类的帮手我们就需要揭开算法的技术面纱深入这些结构性力量的深处摸清各种力量涌动的脉搏区分良莠分别发力关键词:算法 算法规制 算法后台 人工智能中图分类号:文献标识码:文章编号:()一、算法规制的深层问题任何一种规制如果失去了对规制对象的作用力就难以维系规制必须在规制对象身上发生如化学反应一样的“规范反应”规制是规范反应的函数为了展开这一函数表达式规制需要对规制对象进行拆解拆分出用以适用规范、构造规制的诸要素或要件 这一环节构成了规制的结构性前提越是有效的规制对规制对象的拆解越彻底 规制对象被拆解的是客体的本体一旦被拆解就变成以规范要件为元素组合生成的“新客体”换言之变成被规范重塑结构的对象体成为真正的规制客体 规制的威力就在于将自主客体拆解组装成符合规制的自为客体它是把规制对象转换为被规范解构并建构的可规制的对象来实现规制的规制的这种操作可以覆盖几乎所有领域:人的行为、市场活动、社会现象、群体冲突等 其秘密在于世界可被语言描述语言能够与世界对应语言孕育出概念概念是规范的载体规范通过运用概念就可以影射整个对象世界通过驾驭概念这个常量就可以驾驭对象世界这个变量 但算法不是概念而且算法也不是“语言”准确地说算法不是人类的文字语言而是数字语言 数字语言不生成概念进言之不生成人类思维形式的“物”的概念或者说它生成的是数字与数学聚合的“数”的概念 每一种语言都有自身的逻辑语言不同逻辑不同算法的语言逻辑是数理逻辑规范的语言逻辑是人文逻辑这完全是不相干的两种逻辑不相干也无以相干 算法是工具理性的直接表达而规范则是工具理性与价值理性的统一之存在带有相当的弹性与解释性其中包含诸多显在或潜在的价值判断 这意味着算法与规范并不具有对等性:一方面数字与文字之间没有通约性另一方面数理逻辑与语言逻辑之间也没有当然的切换关系 数字与文字间、数理逻辑与语言逻辑间这些客观存在的天然局限使得算法难以“等比例还原”出规范体系的复杂性难以有效对应出规范系统中的诸多深层次意涵 这带来了对算法进行规制的一个根本性问题:规制需要拆解规制对象而打开算法全是数学表达式数学表达式无法被拆解因为文字是不能对数字进行拆解的再正确的世间道理也不能拆成一项或几项数学公式 数理逻辑表达既定的、可普遍适用的形式逻辑其内在逻辑的坚硬性阻止了规范的脚步使规制无法下手 所以从严格意义上说法律规制对算法很难有直接解同时也反向表明算法会在相当程度上抑制规范本身作用的发挥不过一个问题总有两个面 算法的数理坚硬性成就了算法对规制的天然抗拒使算法保持着先天社会科学版 的不相容优势 然而与此同时这一优势却很可能被利用算法的坚硬性来自它自身的数字基因但它的脆弱性也因此而生 算法发展至今尚不能独立应用它需要人去设计加载在某些软件或硬件设施上也需要被不同程度地“操作”数字不会说话但“操作”数字就能使数字说话 如深度伪造技术带来的“后真相社会”进言之算法本身具有对抗规制的坚硬性但算法需要背后的力量推动这一背后力量的不确定性决定了算法对规制的某种脆弱性的可能这使得算法并不必然呈现它的坚硬性算法看上去是一群数字表达式但其背后是一系列程序指令 存在指令就存在发号施令存在发号施令就存在恣意的、隐蔽的、无理的、不公正的发号施令风险而这些都不是算法的风险是打着“算法风险”旗号的、在算法之外却潜入算法之中的风险 在此我们触碰到了算法规制的深层次问题:第一层是算法的数理坚硬性给规范规制算法带来的难题在此之上算法独立表达了自动化智能部分的不可知性 更可怕的是算法背后的力量把算法推向前台自己却躲藏在幕后指挥算法借助算法不可知性的力量掺入某些非公正、不合理的欲求与企图而以算法的数理坚硬性为外衣 为此我们很可能无法甄别无从辨认更无以规制 也就是说真正的问题是:当算法幕后力量将算法傀儡化却通过技术化的指令混入复杂算法运算以算法的理性掩盖某种非理性时我们该如何有效发现问题设定规制有力规避或阻止 实际上规制的真正对象不应落脚于算法而应揭开算法的面纱穿透算法去规制算法背后的种种力量那个指挥算法的主体才是规制的靶心 规制就是要击穿这个不可见的靶心观测并约束算法层层幕帘后的隐蔽力量二、规制算法的后台任何一项新形态在未成熟之前都隐含着某些旧模式算法是一项新技术新技术的发展除了智力也需要资本商业化也是算法进化的重要环境 这就导致了算法作为一项新技术内部却隐藏着若干商业化的基因或模式 算法内含着一种自我解构的能力它在建构算法的同时也在悄然消解着算法的正当性攻击着算法的漏洞与薄弱之处 当下算法没有我们想象的那么成熟它仍然须面对内外交加的制约因素算法的“后台”就是隐蔽在算法中的那个自我解构之力 这里所说的算法的后台是指在算法理性外衣的包裹下实际操作控制算法或者为算法注入特定指令进而影响甚至左右算法的计算取向或合理度人为干预算法智能生成的一种隐蔽性力量 当下算法的后台不是针对某一算法的设计者、程序员或者个别算法公司、平台等主要是指某种具有支配性影响力的指令生成与操作系统 这个强大系统以技术的方式改变算法原初的运行轨道或者从一开始就设置了带有强烈倾向性与非正当欲望的运行轨道由此产生了携带强大商业目的、集团利益、投入资本、非法意图等因素看上去却充满公益性、公共性、服务性、规范性的“劣算法”代替了本该在公共领域或社会服务空间中发挥人工智能应有效能的本真算法 一旦劣算法以良算法的面目出现并占据本真算法的位置就会导致“劣币驱逐良币”的效应进而以劣算法驱逐良算法的方式反算法 这种算法变质之所以可能是因为算法对算法后台没有抵抗力很可能从算法被设计诞生之日起其内部运算就已经被植入了某种后台指令这一后台指令隐含在算法纷繁复杂的众多指令之中构成算法自身的一部分劣算法有着良算法公正合理、规范理性的外衣因此很难通过肉眼、直觉、经验等常规方法识别 在法律对技术的传统规制路径中规制目标的实现主要依赖于对经济与社会场域中主体行为的辨识与限制此种辨识与限制是通过对主体行为的要件分解、进而通过规范对分解后要件的函摄来完成的 但这一传统规制方法对算法却难以奏效我们难以理解数学公式、计算机语言、符号指令等在这些强专业性的规制素材之上我们分辨不出真伪概括不出概念确定不了意义尤其是覆盖在算法之下更是良莠难辨 也就是说杂糅在算法自身结构之内的微观“病毒”超出了宏观世界里规制的尺度 如果不借助于技术的显微镜我们很难发现它即使发现它与良性细胞也几乎无异我们难以判定它发挥了怎样的作用怎样被计算入程序而成为智能的一部分它甚至具有合法的计算转基因满足算法的某种计算需求数字时代由于算法被适用于人类生活的几乎方方面面所有应用算法的生活空间都可能成为劣算法的舞台当算法的后台存续足够的恶意那么算法应用所带来的弊就远大于利劣算法就会最终走向反算法算法正在掀起一场时代生活的革命它正以前所未有的方式改变人的生存秩序 这一前所未有的方式表现为超越人类理解尺度的信息聚合生成能力海量的数据被以人类大脑难以企及的神奇组织第 卷 第 期总第一八二期 方法聚拢后形成一个结果算法实现了人脑无法实现的“万物叠加态”即汇总高维度的众多信息计算并给出答案 这个答案究其本质是多维复数形态的其合理性超出人类认知区间上的合理性 对于这个答案我们只有接受或不接受却没有对话辩论的资本与渠道 于是面对万物叠加态的答案对人的作用力人却没有了反作用力我们失去了约束其他事物那样的规制力量 高维对低维的作用力是“降维打击”对此低维却很难对高维做出反击 输出万物叠加态的答案本身就是这样的作用力这种作用力高度综合却表现得并不复杂 比如算法推送了一家餐馆这看似只是在帮你解决一顿饭的选择困惑但实际上它是依据你生活方方面面的数据计算推导出来的是对你的行为轨迹、消费喜好、口味偏好、人际交往、言谈、信仰、兴趣等的深度综合把握做出的结论并且这一导向性推送包含的不仅仅是美食还内含文化、宗教、习俗、价值观、世界观的输出 这家餐馆只是一个简单的计算结论背后隐藏的是对你的大数据画像、生活状况的计算把控、带有潜在导向的暗示、附着商业意图的影响与控制等等 当人们欣然接受这家被推送的餐馆时会自觉不自觉地认同这一算法推送服务的便利与贴心感受到被切中心意的惊喜与便捷而这背后却是算法全面掌控人言人行与人欲人心的可怕事实 越能切中人欲越能控制人心 当人言人行甚至人欲人心都成为算法的对象时高维的算法就构成了对低维的人的威胁当伪装成服务的算法推送在餐馆选择问题上成功对个体造成影响时一个人可能会认为这只是算法对自己的服务但实际上算法借此改变了这个人的“一小步”:从不知此餐馆到习惯于接受此餐馆的菜肴进而有可能喜欢上此餐馆 算法正是以此微妙的不被察觉的方式塑造这个人的生活改造这个人的喜好进而重塑了这个人本身当类似的推送算法在个体身上反复应用以及在社会群体面广泛适用时算法就于无声处占据了社会生活的优势地位甚至主导地位我们的意识不过是被推送的意识我们的行为不过是被计算的行为我们的心思不过是被测试的心思 不仅如此更大的问题在于算法获知多少算法的后台就会掌控多少劣算法也就会入侵多少 当算法的后台利用获知的信息操纵算法将某种无以言明的“私欲”以服务的方式推送给人们并被人们欣然接受时算法的后台就在公共领域中制造了“恶”这才是规制需要真正应对的那么算法的后台究竟是什么?在笔者看来当代科技已经汇合发展出干预算法的技术条件以全球金融资本、互联网、物联网、区块链、大数据、云计算等新兴技术以及新媒体、社交媒介、移动软件等新平台或垄断行业聚合而成的综合资本权力系统成为操盘算法的真正后台 这是资本注入新兴技术所产生的新型权力是伪装成商业服务的巨大影响性权力它不是一两个个体或公司的单兵作战而是不断复加汇集各种金融资本、社会资本、人力资本等植入人工智能、大数据、区块链、云计算等技术的各方面与各层面占据互联网平台、移动通信平台、消费市场而形成的集利益、资本、技术、传媒、权力为一体的巨大力量集合成为具有统一最强资本、最大传播力、最新科技的巨型系统权力并在经济活动、社会交往、制度运行、生产生活的各领域潜在运转 它超越了传统意义上的一般资本与权力无法以既有的资本或权力的概念加以界分 实际上它在很大程度上摆脱了常规资本与权力的外形披上算法新智能的外衣以人工智能的表达方式传递着某些人类智能的实质内容以看似技术中立的理性状态暗藏着若干人为价值导向与利益关联的匿名动机以这样的出场方式它超越了传统规制的约束边界而获得难以察觉、不易证明、无法控制的极大自由从单一力量汇聚演变成为综合的新型资本权力系统更重要的是这种新型综合资本权力系统从未表现出它的控制欲与控制力它总是表现为以算法提供高品质市场服务的样貌 当安排一种足够贴近用户需求的服务时没有人会感觉到资本的强势与权力的压力而这种精致美好的用户体验会使用户对算法及算法后台产生高度的依赖进而在经济上、生活上、心理上等各方面形成全面依赖 每个人都乐于接受触手可得的高质量市场服务却不会感受到这种服务所具有的对个体的反塑造功能人们的生活仍在展开却从未觉察这种展开已经是在算法及其后台的潜在设计下进行的 这是一种不知不觉偏离人们自主选择轨道的展开是越来越冲着算法后台所希望的方向展开 可以说通过提供潜在高品质市场服务的端口算法的后台正无孔不入地嵌入国家发展、社会生活、人际交往的每一个角落它以无形之手消解了每一个个体自由思考、自主判断、自我行动的天然逻辑以看似“无伤大雅”的技术手段完成了统治人的目的将资本权力的威力以慢性毒药的形式注射给了社会每一个个体杀人于无形而算法就成了借来的那把“刀”所以我们必须擦亮眼睛看清算法本身的无害性与算法后台的有害性将规制的剑锋从算法调整社会科学版 对准到算法的后台 这需要规制穿越算法的外衣直达算法的深处从最黑暗处摸清算法后台的操纵轨迹以更有利的方式控制综合资本权力系统防止其恣意妄为及可能的恣意妄为以法律规范的力量抵抗、化解资本权力的破坏恢复算法背后的应有逻辑实现算法背影里的治理才是算法规制的应然路径三、规范难以直接击穿算法的外衣规制如何能够穿透算法的外衣抵达算法的后台实施对算法后台的有效约束?回答这个问题首先要过“算法外衣”这道坎儿因为击穿算法对规范而言是个系列难题难题一:算法是算法法是法 算法是一种技术而法首先是一种价值 价值是主观的而技术是客观的 作为客观的算法它只代表一种计算的操作就计算操作本身而言它没有好坏善恶的价值它只是一个工具只通过计算合理性来表达一种工具理性 而法是价值的承载方式规制首先是以法律价值为原则导向的规制的目的正是经由规制完成价值理性的确立 算法是“无主体”的匿名程序其深处是无法溯源的计算事实它可以成为用以描述现象的手段用运算模型来模拟社会事实 但这种描述带有数字化的形而上的显著特征我们无法从中探究其根据与理由它不能提供法理上的解释因而它整体上表现为一种不可抗拒的“盲目”力量、不可透析的智能存在 而规制内含社会性根源它是主体对客体的规范投射规制主体用法律装置来重塑规制客体在主体与客体间的脉冲反馈中构造法律关系注入法律价值 这两者处于平行状态各自在工具理性与价值理性的轨道上运行 如果融合两者必须设置充分的嫁接轨道解决两者语言交流(文字与数字)上的障碍打通相互切换的逻辑而这一点目前并无更多进展 当然算法的结果会暗含价值这并非算法本身具备的而是被赋予的正是这种后天赋予才使算法成为一种被利用的工具当它以计算的函数形式表达出人文价值时就需要格外谨慎难题二:算法无法解释正义但正义却要解释算法或者说算法很难被证成合法但它却需要具备合法性 人文社会领域无法达到数学领域内的真理覆盖面 人文社会领域中的一个道理即使很有道理也难以合理、精确到数学公理的层级给定一个事实从它本身推不出价值算法就是类似如此的事实 不仅如此它还是被形式数字高度抽象化的普适性事实从一个事实表达无法论证出其正当性它的正当性一定需要被赋予也就是说算法自身无以表达它的正当性它是否正当需要外力追加 这意味着当缺乏环境或外力的情况下算法不仅无法证成计算结论的合法性而且无法证成自身的合法性于是它变成了一个需要被证明的对象即对算法的证成 因此算法在证成某一输出结论后仍然需要外在的证成 这种证成就是赋予它合法性意义使它的证成确证为正当的证成 但问题是对算法的证成是价值求证即社会人文性求证准确地说这是很难证成的 因为价值是多元的一种价值的证明永远在路上难以彻底证成所以算法面临着持续地被证明其合法的境遇 概括而言算法无法解释正义正义却要解释算法但正义如何解释算法尚无有效解难题三:区分人为与算法为 算法诞生于人为正是人的设计创造架构出了算法的胚胎 算法在人为胚胎里孕育发酵通过足够多层的人为助力逐步确立起自主计算 所以从这个意义上说算法为的前提是人为人为因素必然是算法与生俱来的先天基因 但算法又不全是人为如果全是人为算法就不是一种智能而只是计算器 算法的神奇在于它的自主计算通过自主计算得出一个神奇的人力所不及的结论以辅助于人 这一部分就是算法为 从概念上两者是清晰的但现在的问题是人为与算法为混杂交织纠缠难辨为人力所难以区分 之所以需要区分人为与算法为原因在于人为有善意与恶意、公益与私欲、合法与非法之别我们需要找出其中的恶意、私欲与非法并加以规训 规训适用的前提之一是规训对象可被感知比如人类行为是可视、可感、可比较的但算法之内的人为与算法为均是难以感知的无以感知便无以分辨无以分辨便无以判定进而无以规训 这是一个技术难题从上述系列难题中我们不难发现规范难以直接击穿算法的外衣其根本原因在于规训本质上乃是规范之于被规制对象的一种关涉行动它要求规训主体与规训客体之间的内在同质性唯此其有效性才能得以确保即这种有效只在一种对称映射关系的框架中才有可能 但规范之于算法显然处于两个平行世界之中因此强硬的强制并不会太奏效 同时基于上述分析不难发现潜藏在算法背后的资本权力系统以算法为“外衣”借用技术进行自我装饰表现出极强的隐蔽性对此人类理性尚难以直观发觉并作出判断 这些都不断表明我们需要寻找到一个更为巧妙且有效的方法有一种更具优势的方式揭开这种“伪装”精准识别和击中可能的“恶”而真正达到实质意义上的算法治理 鉴于此笔者提第 卷 第 期总第一八二期 出一个新观点:以其人之道还治其人之身以算法规制算法 如黑格尔所说真的反驳应该深入对手的内部而非在对手“以外的地方去攻击他在他不在的地方去主张权利”这种内在规制只有在引入算法、实现此算法与彼算法之间的技术对抗时才可能实现 就此而言算法正可以为这样的运作提供同质化的、同等力度的技术支持或者说算法本身暗含着超越自我的可能空间 之所以寻求“算法”作为“终极武器”来治理算法原因在于我们目前尚无法找到超越算法的更高级的技术工具来驾驭算法的复杂性当治理对象已达到超越人类常识思维所能思考的维度时治理工具本身必须具有超越治理对象复杂性的更高阶的能力而算法已经是当代技术的最前端了唯有依靠同样能力与力量的算法才能实现同等量级上的有效治理这既是一种明智之举也是一种无奈之选当然从另一个角度看这未尝不是一次对算法的法律开拓 事实上我们总是在尝试把算法作为规范的对象却从来没有尝试把规范作为算法的对象换句话说把规范算法化变成一种“规范算法”并运行这种“规范算法”去检验其他诸算法以算法自身的力量来解决算法自身的问题用算法的自身批判与检省来重塑规制的理性 唯有如此才能走出规范之于算法的种种难题困境内在地给出可以有效规制算法的妥当答案四、如何以算法规制算法如何能够透过算法揭开“伪装”精准识别和击中可能的“恶”而真正达到实质意义上的算法治理呢?这是算法规制必须面对的首要问题 从上述分析可见我们必须巩固算法与规范间的共生机理通过彼此双向调适来化解内部的张力 这需要构建同构关系的调适框架立足从政府适用规范到作用于算法后台的全链条规制系统将规范注入算法把规范秩序接入到技术秩序之中促成一种算法规制的“生产”与“再生产”动态循环再生组织实现算法合理性与算法后台合法性的维系 笔者认为这一逻辑框架可分解为如下几步其一政府适用规范通过立法将规制的意向与精义转化为法律原则与规则这是法治的常规操作不在此赘述其二将规范算法化转化为一种“规范算法”也就是说把规则代码化以代码表达规制用计算机语言“转写”法律规则 通过开发技术系统的源代码、编码法律规制的计算机程序、建立数学表达模型、适用自然语言处理系统复写规范的内容等方式实现规范的技术化约束 实际上代码本身是一种类似法律的存在形式 在这方面已有实践比如浙江省的代码形式固定审批规范和审批程序限制地方政府修改程序和数据的权限并利用在线审批平台、电子监督系统等技术工具对审批项目进行程序性审查由此达到数字限权的效果 通过法律代码化规范秩序转换为技术秩序即以技术承载的数字规范秩序 这种秩序兼具了规范性与技术性的双重属性是规范与算法的合体 正是借助这一新型“规范技术”的合一形式规范表达为算法 当算法展示出规制的功能技术就包裹住了价值价值便在技术体内生发内含法价值的算法就是数字智能形态的法由此打通了算法与法的二分性使算法成为另一种“法”其三当算法表达法并具有法功能时算法就可以规制它的同构物 算法 算法与算法之间的任一互动都是自然顺滑的因为它们是同构物 算法对抗算法也是再好不过的方法了因为它们在能力、方式、速率、交流上均同等对等 由此算法可区分为两大类:一是规范类算法即将诸规范转化成诸算法二是应用类算法即应用于社会生活与市场活动的各类商业算法 由此算法规制可以具化表述为以规范类算法作用于应用类算法 规范类算法作用于应用类算法主要包括四个环节:一是监测即设计规范类算法以监督测试应用类算法 规范类算法可以以同样速度与维度观测应用类算法适时发现算法漏洞与算法黑箱测试应用类算法的可能性与风险 二是评判即规范类算法通过智能计算评价应用类算法的合理性与合法性以对抗姿态审视评估应用类算法的正当与否并给出评判结论意见 三是警示即规范类算法根据评判结论意见提供警示干预可通过指令输出、代码警告、计算重置等多种技术手段实现对应用类算法的警示 四是约束当规范类算法给出的警示未奏效时它可以直接切入应用类算法内部实施计算阻断设计特定的拦截阻止程序植入应用类算法计算环节上的若干关键性接口处即可以实现对应用类算法恣意违法性的直接阻拦 这种阻拦可以是事前或事中的即时阻止无须等到产生不良的法律后果确保对应用类算法恶化的及时阻拦 通过这四个环节上的规制规范性算法可以实社会科学版 现对应用类算法全方位、全进程、全链条的规制而这是人力规制无法企及的 可以说以算法规制算法实现了算法规制的迭代与跃升其四被规制的应用类算法将受到警示、约束或阻断的情形或状态投射给算法后台通过这一反馈机制可以使作为算法后台的综合资本权力系统失去控制力 因此当算法被叫停时算法的“木偶线”就被斩断了综合资本权力系统就难以对技术叫停的算法施展任何诱惑或威慑力量 恰恰因为算法不是人不会受到某种基于人的弱点而引发的诱惑或威胁同时算法也没有利益与欲望一旦被客观叫停那么算法的后台就变成“一潭死水”这意味着机器的无机性优势使算法对其后台的投射威慑无穷将上述四种串联就构成了以算法规制算法的机制构架图(如右图)通过规范的计算化、规制的技术化、技术的反馈化三个界面的勾连规范便可以真正穿透算法的外衣直达算法的后台实现对综合资本权力系统的有效规制 这一方案解决了规范之于算法的诸难题以其人之道还治其人之身的方法跨越了传统规制的逻辑屏障以一种极为巧妙灵活的方式化解了算法规制的内在矛盾促成算法规制的技术变革与技法更新 应当看到规制一种新兴事物不应仅沿着按部就班的老路而应当“借力打力”既然技术的红利是全方位的那么规制可以试图站在技术的肩膀上俯视技术 算法不仅仅是规制对象它更是规制工具而且是一种强大的规制工具让同重量级的拳手在拳台上较量才能彰显出对抗运动真正的魅力当然以算法规制算法并非规制算法的唯一路径它只是为规制算法提供一种更加可行的解决思路与方法它并不排斥其他规制算法手段的使用甚至在很大程度上它正需要与其他治理手段相结合来综合发挥作用才能达致最佳规制效果 其中至关重要的一点是我们需要在宏观层面建立起能够约束算法的规则制度体系 应当说基础性规范仍然是建立以算法规制算法方案的基础设施如果没有规范制度的基础建构算法化的规制工具将始终是空中楼阁它很难获得不断生长迭代的制度力量也会失去与传统治理体系的对接能力 所以从整体治理的角度而言有效的算法规制应是“基础性规范算法化工具”组合的结果 其中基础性规范是底层架构算法化工具是上层建筑基础性规范发挥宏观价值的坐标定位、基本原则的设置布局、一般性规则的法意表达等功能算法化工具发挥具化指令的设计编排、具体环节的微观运行、真实场景的灵活应用等作用两者既能各司其职、各展其长又能彼此照应、相互补救 尤其在现有技术条件下当两者均处于摸索发展期时为了达到规制算法的最佳效果综合考量与结合应用多种规制手段就显得尤为重要 这意味着究竟应该采用哪些手段去规制算法需要根据不同场景和情形区分对待、有选择性地去运用 而以算法规制算法只是其中之一种 当然由于本文旨在着重阐释以算法规制算法这一新方法的逻辑思路与价值意义针对综合运用多种规制方式的论证在此就不再赘述了五、规制算法的两种路径规制其实质在于它是恢复正义的路径之一 归纳而言任何恢复正义的路径都不外乎两种:其一直面恶的方式洞察这种方式并运用这种方式反击恶使恶尝到恶的滋味而不敢再为恶其二注视善的存在同情善的处境认同善的原理并以此原理追加一种新的善让善感知善的意义而达致扬善算法仅仅是一门技术它的背后隐藏着既有积极的、持续的、有生命力的进步力量也有消极的、冲击的、带有颠覆性的破坏力量这些力量交织汇合决定了算法这门技术的基本局面 要使算法成为人类的帮手我们就需要揭开算法的技术面纱深入这些结构性力量的深处摸准各种力量涌动的脉搏区分良莠分别发力 为此对于规制算法的研究关键在于如何能够从算法纷繁复杂的技术表象背后与日新月异的技术发展之中汲取知识养分紧跟技术路线与节奏步伐将技术之力与关乎技术发展战略的法学理论与决策贯通起来彻底打通规制的通道发展出更具时代性、现代性、前瞻性的学术理论应当看到规范是指向“人”的而不是指向“物”的 算法背后的综合资本权力系统仍然是人的操作规范也是人操作的 所以规制归根结底依旧是维护秩序的人针对适用算法进行活动的人的规制它调整的仍然是人与人之间的关系只不过这种关系隔着若干层技术的面纱 规制技术是无意义的它不痛不痒、不知厉害规制人才是有意义的通过人才能真正完善社会 所以当谈及规制算法时第 卷 第 期总第一八二期 我们不能只见算法不见人只描述算法的技术逻辑却没有看到这种逻辑背后所埋藏的人文逻辑只看到算法的样子却没有看到人借用算法而行动的样子这就如同“只画了乐谱没有听到琴音只看到了剧本没有看到演员的精彩表演”即只是从“形态”意义上阐释而没有从“心态”意义上阐释只是绘制了规制与算法间的法律关系却没有探索算法背后人与人之间的秩序道义关系 事实上处理维护秩序者与借助技术破坏秩序者之间的秩序道义关系才是算法规制理论需要深入挖掘的“规制底蕴”这一底蕴涉及人与人之间经由技术的交往关系包含两层含义:其一既然一方利用算法技术施展活动那么对此的规制自然也可以利用算法技术去发现算法的漏洞与缺憾相应予以还击其二规范的目的始终在于“治病救人”规制不是将算法以及后台“一棍子打死”算法作为可能为人类带来巨大红利的新技术恰恰是规范予以保护的对象 规制的用意正是剔除“不良”而恢复“良”将病毒从算法及其后台里移除还技术以秩序 为此秩序维护者也要感知、理解、尊重技术生产运用者的种种“善意”与“不易”给足发展领地与创新空间保持同情的理解与温情的相助 前者是工具是外在手段后者是“目的”是内在价值 一方面既要惩恶又要扬善这是区分善恶、分类规范、赏罚分明予以规制的必然要求也是保证规制恩威并重、左右逢源的必要举措另一方面通过惩恶促成扬善即通过对综合资本权力系统诸缺陷的惩戒与补救使该系统恢复正义的良心与正当性的机理通过对不良违法行为的矫正而为其他主体树立正确的导向与行为的示范以激发算法背后的良性生态 同时通过扬善更好地惩恶即只有“潜入”到算法背后的一定深度以“从实求知、向内观照”的方式才能真正发现其中的痛处与堵点从而开出良方猛药 由此可见这两者代表了规制算法的一体两面共同构成一个内在互动的弹性框架规制算法的这两种路径从根本上矫正了传统算法规制的两种偏颇 第一种偏颇是“规制呼啸着直奔算法”的执拗与盲目 如前所述算法作为技术是价值无涉的、硬邦邦的规制无以发力无法奏效这两种路径意欲表明我们应该放开算法而去抓住人 人才是规制的真正对象 只有以规制者的行事方式去触碰被规制人的行事方式才是最好的规制只有以规制者的逻辑去印证被规制者人的逻辑才是最佳的治理 第二种偏颇是“规制俯视算法”的趾高气扬与不接地气 规制俯视算法就是规制居高临下、“宏观把控”的“局外人”式的规制方式 这种方式不能对算法的大势所趋、人心所向、意义所指有所体会也很少关注算法的细节、关节与情节反而会因泛而化之、概而言之的做法而盲目自信 这两种路径意欲表明我们需要拒绝“俯视”回归“平视”需要“身陷”算法内部设身处地地为被规制者思考与感受追溯技术背后所有起作用的关键要素重现、筛选、描述技术要素及其背后的人的因素以当事人的“心态”去调查、把握、判断既运用理性又使用感性对算法及其后台做出明辨无论哪一种偏颇都是传统规制方法对算法无力性与无效性的体现克服偏颇重回正轨正需要这两种路径并行推进 我们正面临一场前所未有的人工智能的挑战勇于直面这场智力挑战需要的是更高级的智慧、更优质的策略与更炽热的雄心 算法既可以是我们的朋友也可能是我们的敌人是敌是友完全依赖于我们对待它的方式与办法 对它的规制必须“聪明”也必须“真诚”唯有如此才能在恶的面前表现出我们的力量在善的面前表达出我们的诚意参考文献:高奇琦.智能革命与国家治理现代化初探.中国社会科学():.任剑涛.人工智能与社会控制.人文杂志():.江怡.人工智能与人类的原初问题.社会科学战线():.蔡星月.算法决策权的异化及其矫正.政法论坛():.王卫华杨俊.平台资本主义下的数据资本权力:生成机理、基本谱系与主要特征.福建师范大学学报(哲学社会科学版)():.马云志王寅.平台资本主义批判和重构平台社会主义 数字时代对平台经济的新运思.河北学刊():.李彪.平台资本主义视域下的社交平台:价值本质、社会劳动和公共治理.社会科学():.张凤阳.论工具理性的社会蔓延.江海学刊():.成素梅张帆.人工智能的哲学问题.上海:上海人民出版社:.德黑格尔.逻辑学:下卷.杨一之译.北京:商务印书馆:.美劳伦斯莱斯格.代码.:网络空间中的法律.李旭沈伟伟译北京:清华大学出版社:.谈婕高翔.数字限权:信息技术在纵向政府间治理中的作用机制研究 基于浙江省企业投资项目审批改革的研究.治理研究():.费孝通.小城镇研究十年反思/费孝通全集:第 卷.呼和浩特:内蒙古人民出版社:.(下转第 页)社会科学版 .()():.():.包元杰李超平.公共服务动机的测量:理论结构与量表修订.中国人力资源开发():.():.:.():.?:.:.:责任编辑 王婷婷(上接第 页):.:责任编辑 胡章成