算法时代下劳动用工歧视法律规制的困境与应对策略.pdf

2 0 2 4年第1 8卷第1期(总1 2 4期)北京劳动保障职业学院学报J OUR NA L O F B E I J I N G VO C A T I ONA L C O L L E G E O F L A B OUR AN D S O C I A L S E C UR I T YV o l.1 8,2 0 2 4N o.1G e n e r a l N o.1 2 4劳动关系算法时代下劳动用工歧视法律规制的困境与应对策略*张琳晗(山东大学法学院 青岛 2 6 6 2 3 7)摘要:算法时代下劳动者各方面信息被数字化,算法直接或间接对劳动者权益产生影响,且此种影响不易为劳动者所察觉。劳动者相较于用人单位而言,本就处于相对弱势地位,算法被日益广泛应用于劳动用工领域后,算法技术通过对劳动者进行评分甚至自动化决策等方式,复刻并延伸现实社会的用工歧视,劳动者因健康状态、家庭负担、性别等因素受到算法的歧视性评价,劳动者权益遭受侵害。算法技术在劳动用工过程中的使用对劳动者平等就业权提出挑战,对现有劳动者平等就业权利保护法律制度形成冲击。应当完善用人单位的算法使用程序,通过举证责任倒置减轻遭受算法歧视的劳动者的举证责任,推动算法劳动用工应用的监管模式转型,以共同创建数字时代反对算法劳动用工歧视的环境,促进劳动者平等就业权利实现。关键词:算法歧视;劳动用工;平等就业中图分类号:F 2 4 7 文献标识码:A 文章编号:1 6 7 4 0 0 2 5(2 0 2 4)0 1 2 7 0 7收稿日期:2 0 2 3 1 0 2 6作者简介:张琳晗(2 0 0 0-),女,河南人,山东大学法学院硕士研究生,山东大学民商法研究中心研究人员。基金项目:山东大学法学院2 0 2 2年院级课题“马克思主义人权理论与中国特色社会主义法治学生项目 中国特色社会主义法治体系下数字人权法律保障研究”(项目编号:6 1 0 4 0 0 6 2 9 1 4 0 0 1)。一、问题的提出:算法时代来临人工智能、大数据等信息科学技术飞速发展,针对数据进行分析、评价的算法也逐渐广泛应用。在劳动用工领域,劳动者的工作轨迹、身体数据等很多方面被信息化、数字化,用人单位对劳动者的数据进行收集与利用,通过算法对劳动者数据进行分析与判断,使用算法进行选人、用人的自动化决策,或者用人单位依赖算法的判断自行做出劳动用工相关决策。但劳动者群体家庭背景、受教育程度、身体素质等各项要素并不相同,用人单位和劳动者本身存在资强劳弱的不平等关系,而妇女、残疾人等弱势群体在就业过程中更容易遭受用人单位的不公平对待。促进劳动者平等就业与消除就业歧视有利于实现社会公平,使每位劳动者都有通过劳动实现自身发展的机会1。我国法律强调劳动者具有平等就业的权利,但在实践中,妇女、老年人、残疾人等属于弱势群体的劳动者与普通劳动者就业机会不平等、薪资待遇和职业评价不平等等现象屡屡出现,而算法时代的到来,给劳动者平等就业权利的保护带来新挑战。算法是在计算机系统中输入分析数据的指令以形成决策的操作序列,主要分为输入和输出两个部分,用以解决相同场景下的重复问题2,通过代码用计算机实现代码设计者意图3。图灵奖获得者J i m G r a y认为现在已经进入科学研究模式的第四范式阶段 数据密集型计算阶段4。在这个阶段,针对数据的技术从大数据采集、预处理到数据的存储和分析数量飞速增长。技术的发展使人与人、人与物、物与物之间的联系更加紧密,信息流通更加迅速,世界从人-物理社会的二元结构转变为人-物理-信息社会的三元结构5。人类个体的信息如劳动者个人简历、工作年限、生物数据、工作动态等数字2 8 北京劳动保障职业学院学报 2 0 2 4年第1 8卷第1期化后被算法吸收,算法在此基础上学习、分析并提供决策结果。算法时代下,用人单位招聘、分配劳动资源、人事变动、绩效考核等多个方面都有算法的充分参与,算法深度嵌入劳动过程6。但算法并非全然公平公正,算法采集数据存在数学模型规定的前提与假定,并在前述基础上自己进行深度学习,这个过程容易掺杂人类社会的偏见和歧视,在算法的外衣下是人类的价值取向和利益选择,而这整个过程对劳动者而言往往并不透明7。在传统就业歧视既存的社会背景下,算法在劳动用工领域的不恰当运用对劳动者的平等就业权造成挑战。二、算法劳动用工歧视的类型化呈现算法歧视是指算法在决策中对法律所保护的群体或者个体实施法律所禁止的直接或者间接的歧视,或是通过看似中立的标准实施歧视,其中既包括差别对待,也包括造成差别影响8。算法输出结果受到算法设计者的底层逻辑设置、算法吸收的数据和算法自身深度学习这三个要素的影响9。据此,算法对弱势劳动者的歧视根据算法的形成机制与运行逻辑可分为以下两类。(一)现实社会的镜像:复现型算法歧视复现型算法歧视是指通过算法程序设计、算法学习和训练等算法形成或完善的环节将现实社会中既有的偏见注入进算法中,以达到算法在运行中能够复现现实社会筛选劳动者结果的目的1 0。在此情形下,算法对劳动者的筛选与现实社会用人单位歧视劳动者的参考要素与选择结果基本一致,算法成为现实社会的镜像,作为用人单位歧视劳动者的工具,复现现实社会中的既存偏见1 1。此种歧视类型可被简单概括为“偏见进、偏见出”1 2。复现型算法歧视可分为直接复现和间接复现两种类型。直接复现型算法歧视指现实社会中的偏见被注入进算法设计中或算法通过学习、分析数据自发进行歧视。在算法设计中纳入偏见更为简单直接,如算法在设计之时即被输入“如求职者年龄超过4 0岁,则剔除该求职者”等诸如此类的歧视性逻辑指令。此类算法歧视与社会中既存的各类歧视具有高度关联性1 3,通过偏见设计与指令输入等方式将歧视思想内嵌到算法中,进而导致算法输出歧视结果。间接复现型算法歧视指算法通过学习、分析一定范围的数据,自发对其中的参数分类,由结果倒推出用人单位招聘偏好,并按照其偏好选择劳动者。在间接复现型算法歧视中起到关键作用的是算法所吸收的数据,由于弱势劳动者在现实社会中遭受歧视,算法在学习数据时弱势劳动者的数据处于缺位状态或者数量较少,算法在分析参数时将会学习到用人单位的偏好,进一步固化歧视结果。正如亚马逊在2 0 1 4年所开发的用于给招聘简历打分的“算法筛选系统”,被开发团队发现该系统明显青睐男性应聘者,算法会给识别出“女性”相关词汇的简历打低分。究其原因,是因为亚马逊公司员工男性占非常大的比例,算法的“素材库”亚马逊公司近十年来接收到的简历,本身就具有明显的构成不平等,男性的简历居大多数,故算法通过学习复刻这种构成,形成歧视性结果。(二)算法运行的黑箱:新增型算法歧视新增型算法歧视包含两种类型,类型一是算法自身通过分析数据、计算目标达成路径,通过替代性参数筛选劳动者;类型二是算法通过自发深度学习产生歧视结果。算法通过分析替代性参数进行歧视相较于复现型算法歧视更为隐晦。复现型算法是对歧视性要素自身进行是与否的分析,如分析身体健康状况、性别、文化水平等要素,并基于劳动者是“残疾”“女性”“高中文化水平”等而剔除这部分劳动者;新增型算法歧视分析替代性参数这一歧视类型并不直接着眼于歧视性要素,而是通过替代性参数达到歧视结果。如算法基于节约成本的目标指令,分析生育成本、培训成本、薪酬福利等人力成本而倾向于选择较高文化水平的年轻男性职工。算法黑箱引起的歧视比算法分析替代性参数产生的歧视更难以察觉和证明,难以找到算法自身深度学习后自动化决策的参考依据和影响因素。有学者将算法黑箱分成初级形态、中间形态和进阶形态三种形态,新增型算法歧视的第二种类型即是指在算法黑箱的进阶形态下,算法通过无监督式机器学习,挖掘、分析数据并利用算法学习的经验数据改善自身性能,算法的输入端和输出端形成缺乏人工参与的全流程闭环,算法通过自身深度学习自发形成歧视结果1 4。三、算法劳动用工歧视对传统法律规制的挑战不论复现型算法歧视还是新增型算法歧视,其所造成的歧视结果与传统决策高度趋同,但算法歧视相较于传统决策造成的歧视而言具有因歧视手段更隐性、歧视结果难察觉而造成的就业歧视难认定、劳动关系 张琳晗:算法时代下劳动用工歧视法律规制的困境与应对策略2 9 歧视行为难证明等特点。虽然算法作为技术本身只是客观中立的工具,但用人单位对算法的设计或应用、算法自身的数据学习、运行过程、自动化决策超越了传统决策的情形,为劳动用工歧视规制带来新的挑战。(一)歧视感知:劳动者难以发觉算法就业歧视目前我国的劳动者保护相关法律主要有 中华人民共和国劳动法 中华人民共和国劳动合同法和 中华人民共和国就业促进法等,大部分劳动相关法律法规都规定了劳动者平等1 5。劳动相关法律以平衡企业用工自由和反对用人单位就业歧视为目标,所规定的劳动者平等包括劳动者的种族、性别、宗教信仰、身体健康、家庭背景等1 6。劳动法中关于劳动者平等就业权利保护的条款应用于算法时代下的劳动用工歧视现象存在劳动者因对算法使用不知情而难以察觉自身受到歧视的缺陷。由于算法使用具有隐蔽性,用人单位使用算法对劳动者而言难以感知。传统模式下,雇主往往通过交流沟通搜集劳动者信息,并基于信息做出决策,而这个过程能够为劳动者所感知;但在算法时代下,劳动者的各项信息都在逐渐数字化,无需直接交流,通过算法便可收集劳动者信息,雇主基于算法的信息搜索与分析做出决策,甚至算法自身直接自动化决策,这个过程对于劳动者来说是难以感知的。用人单位在做出与劳动者具有利害关系的决策后,往往并不告知劳动者其决策依据,法律规定用人单位所制作的规章制度已向劳动者公示的,可以作为审理依据。因此,“已向劳动者公示”是用人单位规章制度对劳动者产生约束力的重要条件,而目前用人单位使用算法做出的决策与劳动者具有紧密的利害关系,但相关决策依据却并未向劳动者公开。我国虽然颁布了 互联网信息服务算法推荐管理规定 关于加强互联网信息服务算法综合治理的指导意见等一系列规制算法的法律法规,但其规制领域有限,关于算法使用者的应用场景日常监测法律制度尚待完善。目前针对算法使用者的规制仍然集中于宏观层面,如 网络安全标准实践指南人工智能伦理安全风险防范指引从伦理角度对算法使用者提出要求,缺乏用人单位使用算法的具体规范要求。用人单位对算法的使用依旧隐秘且随意,遭受算法歧视的劳动者在算法使用情形下因自身客观情况而丧失工作机会和晋升空间,被排挤成为职场边缘群体,但劳动者作为不利结果承受者对不利于自身的决策难以知晓,进而丧失寻求救济的机会。因此,算法时代的来临对劳动者平等就业权利保护提出新的挑战。(二)歧视证明:劳动者难以证明算法歧视行为即使劳动者察觉到自己受到歧视,但算法的使用为劳动者证明用人单位存在歧视增加了障碍。司法实践中就业歧视诉讼主要有两类案由:第一类是劳动争议纠纷,第二类是侵权纠纷(包含人格权纠纷),不同案由原告所负担的举证责任不同。如若案由是劳动争议纠纷,根据 中华人民共和国劳动争议调解仲裁法第6条之规定,当事人对自己提出的主张有举证责任,但若用人单位掌握或管理与争议事项有关的证据,用人单位应当提供,否则承担不利后果。如若案由是侵权纠纷,则依据 中华人民共和国民事诉讼法规定适用举证的一般原则,谁主张则谁举证。虽然劳动争议纠纷案由中劳动者看似举证责任减轻,但用人单位掌握管理的与争议事项有关的证据难以界定,实际上仍是由劳动者举证。因此,不论何种案由,劳动者本身负担较重的举证责任。算法时代下主要存在三种增加弱势劳动者举证难度的情况。其一,用人单位故意在算法设计之初或在算法运行中输入歧视性判断指令,但并不告知劳动者。此种情况下用人单位公然在算法运行程序中将性别等要素纳入算法判断指令,则算法基于此类指令输出歧视性结果1 7。但劳动者在证明用人单位歧视行为存在、歧视性决策的依据(如是否使用算法进行决策、算法中是否包含歧视性指令)、用人单位具有歧视故意等方面均因信息差而存在困难。其二,劳动者相较于用人单位处于弱势地位,二者对算法的了解程度和知识水平存在失衡,即使用人单位告知劳动者算法的运行机理,劳动者也对其难以理解。现有主流的机器学习算法相较于老式算法而言透明度更低,老式算法依托程序员明确编码规则,人类可对代码和算法输出结果进行检验与查证,而机器学习算法则是机器自身根据人类所提供的数据自动生成规则,算法自身能够自主深度学习1 8。但即便是相对而言较容易解释的老式算法,由于劳动者缺乏算法领域的知识,在用人单位对其解释时也可能对算法中是否存在歧视性因素、算法运行规则的理解存在一定困难,难以发现系统存在的缺陷以及自身可能承担的不利后果。其三,机器学习算法,即算法通过原始代码与不断搜集、解析、学习3 0 北京劳动保障职业学院学报 2 0 2 4年第1 8卷第1期信息,算法通过不断的自主学习修改判断规则,产生算法黑箱,用人单位作为算法使用者也难以解释算法决策依据。算法的隐蔽使用与复杂技术架构的不透明性共同结合为劳动者证明歧视行为存在增加了阻碍。劳动者对歧视行为难以知情,即使察觉到用人单位存在歧视行为也难以搜集证据进行证明。劳动者在诉讼中作为原告负担较重的证明责任,但算法从开发到使用参与主体众多,歧视风险既有社会性又有技术性来源,劳动者难以证明歧视行为及其中的因果关系。(三)算法监管:算法劳动用工决策缺乏有力监督我国目前关于劳动者平等就业权利保护的相关规定较为笼统抽象,其中多是缺乏义务性规范和处罚性规范的宣示性、授权性和基础性规定1 9。中华人民共和国宪法规定各民族平等、公民一律平等和男女平等;中华人民共和国劳动法根据宪法进一步规定劳动者平等和劳动者性别平等;中华人民共和国就业促进法“公平就业”一章中规定了用人单位要创造公平就业机会,要保障女性劳动者、少数民族劳动者、残疾人劳动者、携带传染病病原的劳动者、农村劳动者的平等就业权。法律虽然对用人单位设立了义务性规则,但并未明确义务的具体内容及其对应的法律责任2 0,并缺乏用人单位担负义务的监督机制。而在算法逐渐被用人单位广泛应用于劳动用工领域的当下社会,对于用人单位使用算法行为的监督尤为关键。我国 互联网信息服务算法推荐管理规定和 关于加强互联网信息服务算法综合治理的指导意见围绕算法治理进行规定,并针对算法的使用和评测出台一系列其他规范性文件、国家标准和行业标准,如 新一代人工智能伦理规范 人工智能算法金融应用信息披露指南 人工智能算法金融应用评价规范,对算法监管、人工智能伦理、信息运用等方面进行了规制。现阶段我国的算法规范体系虽然在不断完善,但当前对于算法技术的规范主要集中于伦理层面的规范,这些伦理标准内容缺乏实践保障2 1。目前关于算法的部分规定虽为算法治理指明了方向,但缺乏具体行动指南支撑,如算法伦理审查、算法安全性评估和算法风险监测的具体措施仍较为模糊,监管机构在具体落实相关规定时存在困难2 2。用人单位缺少算法使用时需注意的义务性规定以及更具威慑力的监管制度,用人单位在使用算法过程中更倾向于“自我规范”。在算法使用监管过程中一方面出现“九龙治水”乱象,网信部门、工信部门等政府部门都有相应职责,但往往各个部门分而治之,造成算法治理碎片化,综合监管时可能出现部分领域多部门争相治理、部分领域出现监管空白的情况。另一方面,监管部门与算法设计者、算法使用者之间存在信息失衡,算法设计者掌握算法的设计、运行相关知识,而政府监管部门则缺乏对于机器学习的深度了解,难以对用人单位利用算法做出劳动用工领域决策开展有效监管。四、算法劳动用工歧视的法律应对策略(一)算法公开:完善用人单位的算法使用程序法律规制用人单位将算法应用于招聘、人事选拔等场景,作为算法的使用者应当对算法运行规则充分了解并具备说明能力,对受算法决策影响的劳动者担负说明与解释的义务,并应听取劳动者对算法使用的意见,在告知算法运行机理后听取劳动者的陈述和申辩。通过这一程序保障劳动者对算法使用及其运行规则的知情权,实现劳动者对自身权益的程序性保护。算法技术架构的复杂性使得普通劳 动者只能感知到决策结果而难以知晓决策过程,因此应当明确用人 单 位 具 有 算 法 使 用 公 开 和 解 释 的 义 务。用人单位将算法应用于劳动用工领域,与算法供应商、劳动者共同成为算法规则传递链条中的一环,用人单位应当向算法供应商学习算法的数据收集范围与运算逻辑,结合自己在算法中设置的运算规则,向劳动者传递算法的运作原理与运作过程,将依据算法做出决策或算法自动决策的结果与过程翻译成普通劳动者能够理解的语言,针对劳动者关于决策提出的合理疑问以劳动者能够理解的方式进行解释2 3。此外,根据 中华人民共和国劳动合同法第三十九条及相关司法解释之规定,用人单位已向劳动者公示的规章制度是用人单位与劳动者产生纠纷时的判定依据,用人单位可以因劳动者严重违反规章制度而解除劳动合同。用人单位所使用的算法本质上是将劳动相关各要素数据化并对数据进行分析与处理,其中劳动规章是劳动数据体系的重要组成部分,用人单位往往使用算法做出与劳动者利益密切相关的决策,但不告知劳动者算法决策的依据与劳动关系 张琳晗:算法时代下劳动用工歧视法律规制的困境与应对策略3 1 影响因素。因此应当扩大对劳动规章的审查范围,将算法与人事、考勤、薪酬等问题相关的决策视作劳动规章,纳入劳动规章合理性与和合法性审查,其中劳动规章是否存在就业歧视内容应当作为劳动规章合理性合法性审查的重要内容,用人单位的劳动规章应当向劳动者公示。通过公示保障劳动者了解算法决策规则,以便其对规则发表意见,提前规避不利后果,在受到影响后提出异议2 4,确保用人单位所使用的算法处于劳动者可理解、可预测和可被解释的状态2 5。(二)举证倒置:减轻遭受算法就业歧视的劳动者的举证责任在算法就业歧视诉讼中,劳动者处于弱势地位,与用人单位之前存在信息差,但却往往担负较重举证责任,在实践中存在“举证难”的情形。结合用人单位相较于劳动者实质上处于优势地位以及算法的特性,可以扩大解释就业歧视条款,倒置举证责任,由劳动者提供初步证据证明用人单位存在用工歧视,推定此种歧视源于算法歧视,而后由用人单位证明存在抗辩事由。首先,应当扩大 解 释 就 业 歧 视 条 款,将 歧 视分为直接 歧 视 与 间 接 歧 视,只 要 造 成 歧 视 结 果,不论用人单位是基于主观意图通过自主决策歧视劳动者,还是基于算法分析结果采纳算法决策建议造成歧视劳动者结果,亦或者直接由算法自动化决策造成歧视劳动者,都应认定用人单位存在就业歧视。这种通过结果不平等来判定用人单位存在责任的制度,在美国法律与欧洲部分国家法律中 都 有 体 现,即 差 别 影 响 歧 视 和 间 接 歧 视 制度2 6。算法时代下用人单位歧视的主观意图往往难以证明,因此应当着眼于劳动者受歧视结果的形成机制,将劳动者受到歧视的结果作为认定就业歧视存在的标准,削弱用人单位主观故意在就业歧视认定中的比重2 7。其次,应当构建算法劳动用工歧视举证责任倒置制度。综合考虑公平与审判效率两个要素,应当由“最适宜举证的一方承担举证责任”2 8。劳动者仍然对自身的主张具备举证责任,但其只是担负初步的举证责任,证明有歧视结果存在即可。而因果关系、主观故意等要件超出劳动者的举证能力范围。因此,当劳动者证明歧视结果存在后,法院可假定依靠算法做出劳动用工决策的用人单位存在歧视故意,此时用人单位可以提出抗辩事由或对算法的运行逻辑与数据分析过程进行解释,如若抗辩事由正当,则不构成就业歧视,反之,则可认定用人单位存在算法劳动用工歧视。但是,此种制度构建对用人单位施以较重的举证责任,可能造成的后果分成两类:一为人为干预、反向歧视,为处于弱势群体的劳动者预留人事名额;二为谨慎使用算法,慎重听取算法在劳动用工领域的判断。但这两类结果均利好劳动者中的弱势群体,有利于实现社会公平,缩小社会弱势群体与非弱势群体之间的收入差距。(三)监管创新:推动算法劳动用工应用的监管模式转型算法劳动用工歧视可以由劳动者对用人单位使用算法的行为进行监督,向法院提起诉讼,但是也需构建诉讼以外的监管路径。政府监管仍然在算法应用监督中发挥重要作用,数据作为算法分析的基础素材,应当明确各级数据局、网信、工信等政府部门的监管职能,从算法收集数据开始,至算法挖掘、分析、利用数据并将算法判断应用于具体场景的完整流程,针对不同环节完善审查制度。用人单位在使用算法时应当向监管部门进行使用备案,向监管部门告知用人单位在算法中输入的规则,并解释算法使用可能造成的影响。监管部门也需提升算法素养,加强对于算法的系统学习,避免算法设计者对算法技术解释权进行控制与垄断。应当重视独立机构在算法劳动用工歧视中的监督作用。算法运行逻辑中可能涉及商业秘密,不便于向劳动者完全披露,这种情形下可以参照美国2 9或者欧盟G D P R模式下设立的欧洲数据保护委员会3 0,设立专门的独立机构。由该独立机构作为用人单位使用算法监管层面的牵头机构,结束“九龙治水”的局面。用人单位向外部独立机构披露算法技术运行的完整逻辑与流程,独立机构对算法对于用人单位在劳动用工招聘或者人事变动决定的影响继续评估,符合评估标准的算法可以为用人单位所使用,在劳动者与用人单位发生纠纷时,以在独立机构备案的算法运行规则作为证据。要落实用人单位自身责任,建设更有力的算法使用自我监督。作为算法的使用者应当对算法所造成的歧视劳动者的现象承担相应的责任。2 0 2 1年发布的 关于加强互联网信息服务算法综合治理的指导意见规定,应当强化企业主体责任,算法应用产生的结果应当由企业担负主体责任。应当明确算法使用者的主动备案、内部审查等义务,对算法的3 2 北京劳动保障职业学院学报 2 0 2 4年第1 8卷第1期使用情况定期自我评估,在发现算法歧视现象后及时报告独立机构并纠正歧视偏向,明确规定算法使用者的法律义务与法律责任,对算法使用行为进行规范。随着科学技术的迅速发展,算法时代到来,劳动者正在全方位地被“数字化”,算法正在渗入劳动领域,悄无声息地影响用人单位的决策。在此过程中,原有的劳动领域弱势群体权益更易受到侵害,在不知情的情况下被驱逐出局。算法对劳动者平等就业是积极还是消极作用,对算法时代下劳动者中的弱势群体影响重大。劳动者的平等就业权利需要在新技术适用下重新得到重视,保障劳动者平等就业权正是修正现实中歧视现象、实现社会公平正义的必经之路。从用人单位算法使用程序完善、遭受算法歧视的劳动者举证责任减轻、算法劳动用工应用的监管模式转型层面,都应未雨绸缪,积极建设劳动者平等就业权利保护制度和算法应用监管制度,使技术发展发挥其积极作用,向着公平正义的方向前进。参考文献:1 周圆.平等就业权救济的困境与出路 以社会法矫正私法为视角 J.人权,2 0 2 3(0 2):1 3 8-1 6 0.2 尼克.人工智能简史 M.北京:人民邮电出版社,2 0 1 7:7 8.3 佩德 罗 多 明 戈 斯.终 极 算 法 M.北 京:中 信 出 版 社,2 0 1 7:3.4 T o n y H e y e t a l.T h e F o u r t h P a r a d i g m:D a t a-I n t e n s i v e S c i e n t i f-i c D i s c o v e r yN.M i c r o s o f t r e s e a r c h s e a r c h,2 0 0 9-1 0.5 金哲,张引,吴飞等.数据驱动与知识引导结合下人工智能算法模型 J.电子与信息学 报,2 0 2 3,4 5(0 7):2 5 8 0-2 5 9 4.6 张凌寒.算法自动化决策中的女性劳动者权益保障 J.妇女研究论丛,2 0 2 2(0 1):5 2-6 1.7 段伟文.数据智能的算法权力及其边界校勘 J.探索与争鸣,2 0 1 8(1 0):9 2-1 0 0+1 4 3.8 凯伦 杨,马丁 洛奇.驯服算法:数字歧 视于算法规制M.林少伟,唐林垚,译.上海:人民出版社,2 0 2 0:9 0-9 1.9 周子琪.论算法侵害的私法规制 J.湖南社会科学,2 0 2 2(0 3):8 7-9 6.1 0张欣,宋雨鑫.人工智能时代算法性别歧视的类型界分与公平治理 J.妇女研究论丛,2 0 2 2(0 3):5-1 9.1 1曹博.算法歧视的类型界分与规制范式重构 J.现代法学,2 0 2 1,4 3(0 4):1 1 5-1 2 6.1 2MAY S ON S G.B i a s i n,B i a s O u tJ.T h e Y a l e L a w J o u r-n a l,2 0 1 9,1 2 8(8):2 2 1 8-2 3 0 0.1 3杨永兴.数字时代背景下的算法歧视及其规制 J.重庆开放大学学报,2 0 2 3(0 5):5 5.1 4谭九生,范晓韵.算法“黑箱”的成因、风险及其治理 J.湖南科技大学学报(社会科学版),2 0 2 0,2 3(0 6):9 2-9 9.1 5涂永前.论我国劳动法治的现代化与劳动法典的编纂 J.法学论坛,2 0 2 3,3 8(0 2):8 7-9 9.1 6侯玲玲,王超.人工智能:就业歧视法律规制的新挑战及其应对 J.华 东 理 工 大 学 学 报(社 会 科 学 版),2 0 2 1,3 6(0 1):1-1 6+3 3.1 7李成.人工智能歧视的法律治理 J.中国法学,2 0 2 1(0 2):1 2 7-1 4 7.1 8刘永谋,彭家锋.算法决策的认识论不公正及其矫正 J.山西大学学报(哲学社会科学版),2 0 2 3,4 6(0 6):1-9.1 9李薇薇.平等原则在反歧视法中的适用和发展 兼谈我国的反歧视立法 J.政法论坛,2 0 0 9,2 7(0 1):1 2 6-1 3 4.2 0汪全胜.论立法的可操作性评估 J.山西大学学报(哲学社会科学版),2 0 0 9,3 2(0 4):1 0 2-1 0 8.2 1汤晓莹.论职场领域算法技术风险法律规制的 理念与路径J.贵州 师 范 大 学 学 报(社 会 科 学 版),2 0 2 1(0 5):1 3 7-1 5 0.2 2肖红军,商慧辰.平台算法监管的逻辑起点与思路创新 J.改革,2 0 2 2,N o.3 4 2(0 8):3 8-5 6.2 3程建华,刘菲菲.A I-HR招聘的算法歧视及应对 J.常州工学院学报(社科版),2 0 2 2,4 0(0 4):1 2 3-1 2 8.2 4A n d r e w S,S o l o n B.T h e i n t u i t i v e a p p e a l o f e x p l a i n a b l e m a-c h i n e sJ.F o r d h a m L a w R e v i e w,2 0 1 8,8 7(3):1 0 8 5-1 1 3 9.2 5金东寒.秩序的重构:人工智能与人类社会 M.上海:上海大学出版社,2 0 1 7:7 2.2 6郭延军.美国就业领域间接性别歧视的法律控制 J.政治与法律,2 0 1 3(0 4):2 3-3 3.2 7张恩典.反算法歧视:理论反思与制度建构 J.华中科技大学学报(社会科学版),2 0 2 0,3 4(0 5):6 0-7 1.2 8王哲,朱京安.困局与因应:就业歧视立法规制的优化 J.广西社会科学,2 0 1 7(0 4):9 0-9 3.2 9A u t o m a t e d e m p l o y m e n t d e c i s i o n t o o l s E B/O L.h t t p s:/l e-g i s t a r.c o u n c i l.n y c.g o v/L e g i s l a t i o n D e t a i l.a s p x?I D=4 3 4 4 5 2 4&GU I D=B 0 5 1 9 1 5 D-A 9 A C-4 5 1 E-8 1 F 8-6 5 9 6 0 3 2 F A 3 F 9,2 0 2 1-1 2-1 1.3 0E u r o p e a n d a t a p r o t e c t i o n b o a r d r u l e s o f p r o c e d u r eE B/O L.h t t p s:/e d p b.e u r o p a.e u/o u r-w o r k-t o o l s/o u r-d o c u m e n t s/r u l e s-p r o c e d u r e/r u l e s-p r o c e d u r e-v e r s i o n-8_e n,2 0 2 2-0 4-0 6.劳动关系 张琳晗:算法时代下劳动用工歧视法律规制的困境与应对策略3 3 D i l e mm a s a n d C o u n t e r m e a s u r e s o f L e g a l R e g u l a t i o n o nL a b o r D i s c r i m i n a t i o n i n t h e A l g o r i t h m E r aZ h ANG L i n h a n(S c h o o l o f l a w,S h a n d o n g U n i v e r s i t y,Q i n g d a o 2 6 6 2 3 7)A b s t r a c t:I n t h e e r a o f a l g o r i t h m s,v a r i o u s a s p e c t s o f i n f o r m a t i o n a b o u t w o r k e r s a r e d i g i t i z e d,a n d a l-g o r i t h m s d i r e c t l y o r i n d i r e c t l y a f f e c t t h e r i g h t s a n d i n t e r e s t s o f w o r k e r s,a n d t h i s i m p a c t i s n o t e a s i l y p e r-c e i v e d b y w o r k e r s.C o m p a r e d w i t h e m p l o y e r s,w o r k e r s a r e a l r e a d y i n a r e l a t i v e l y d i s a d v a n t a g e d p o s i t i o n.W i t h t h e i n c r e a s i n g a p p l i c a t i o n o f a l g o r i t h m s i n t h e f i e l d o f l a b o r e m p l o y m e n t,a l g o r i t h m t e c h n o l o g y r e p l i-c a t e s a n d e x t e n d s t h e d i s c r i m i n a t i o n i n e m p l o y m e n t i n r e a l s o c i e t y t h r o u g h s c o r i n g a n d e v e n a u t o m a t e d d e c i-s i o n-m a k i n g.W o r k e r s a r e s u b j e c t e d t o d i s c r i m i n a t o r y e v a l u a t i o n s b y a l g o r i t h m s d u e t o f a c t o r s s u c h a s t h e i r h e a l t h s t a t u s,f a m i l y b u r d e n,a n d g e n d e r,a n d t h e i r r i g h t s a n d i n t e r e s t s a r e i n f r i n g e d u p o n.T h e u s e o f a l-g o r i t h m i c t e c h n o l o g y i n t h e p r o c e s s o f e m p l o y m e n t p o s e s a c h a l l e n g e t o t h e e q u a l e m p l o y m e n t r i g h t s o f w o r k e r s a n d h a s a n i m p a c t o n t h e e x i s t i n g l e g a l s y s t e m f o r p r o t e c t i n g t h e e q u a l e m p l o y m e n t r i g h t s o f w o r k-e r s.I t i s n e c e s s a r y t o i m p r o v e t h e a l g o r i t h m u s e p r o c e d u r e s o f e m p l o y e r s,r e d u c e t h e b u r d e n o f p r o o f f o r w o r k e r s w h o s u f f e r f r o m a l g o r i t h m d i s c r i m i n a t i o n t h r o u g h t h e r e v e r s a l o f t h e b u r d e n o f p r o o f,p r o m o t e t h e t r a n s f o r m a t i o n o f r e g u l a t o r y m o d e l s f o r a l g o r i t h m i c l a b o r e m p l o y m e n t a p p l i c a t i o n s,j o i n t l y c r e a t e a n e n v i-r o n m e n t a g a i n s t a l g o r i t h m i c l a b o r e m p l o y m e n t d i s c r i m i n a t i o n i n t h e d i g i t a l e r a,a n d p r o m o t e t h e r e a l i z a t i o n o f e q u a l e m p l o y m e n t r i g h t s f o r w o r k e r s.K e y w o r d s:a l g o r i t h m i c d i s c r i m i n a t i o n;l a b o r e m p l o y m e n t;e q u a l e m p l o y m e n t(责任编辑:张慧霞)(上接第2 0页)o f“t e l l i n g C h i n e s e s t o r i e s w e l l”i n i d e o l o g i c a l a n d p o l i t i c a l t h e o r y c o u r s e s i s a n p o s i t i v e r e s p o n s e t o t h e c a l l o f G e n e r a l S e c r e t a r y X i J i n p i n g a t t h e s y m p o s i u m o f T e a c h e r s o f I d e o l o g i c a l a