算法歧视与金融科技伦理治理.pdf

近年来，金融科技不断创新发展，深刻改变了传统金融服务的方式和业态，极大地提高了金融服务效率和能力，同时也衍生出复杂多样的金融科技伦理问题，给金融创新与金融安全带来了一系列新的风险挑战。本文从算法歧视这一金融科技伦理治理难题出发，探讨应对之策，并从算法伦理的角度给出提升金融科技伦理治理水平，有效防控金融科技伦理风险的政策建议。关键词：金融科技伦理；算法歧视；歧视性风险中图分类号：F 8 3 2 文献标识码：A 文章编号：10093109（2023）06006004一、引言 金融科技伦理是坚持科技向上向善、金融普惠为民、科技赋能金融多元包容绿色发展的必要前提，是所有金融科技从业人员都需要遵守的价值理念和行为规范，是促进金融科技事业健康发展的重要保障。当前，我国金融科技发展面临诸多挑战，发展不平衡、不充分的问题不容忽视，如何应对金融科技伦理面临的挑战与风险已成为新时代金融科技创新发展迫切需要解决的难题。2 0 2 2 年1 月，中国人民银行印发的金融科技发展规划（2 0 2 2-2 0 2 5 年）提出，金融科技公司应高度重视金融科技伦理建设，并严格防控金融科技活动伦理风险，严防技术滥用。2 0 2 2 年3 月，中共中央办公厅、国务院办公厅印发的关于加强科技伦理治理的意见明确了科技伦理治理的五大要求和科技伦理五大原则，并从健全治理体制、加强治理制度保障、强化审查和监管、深入开展教育和宣传等四方面提出科技伦理治理具体措施要求。2 0 2 2 年1 0 月，中国人民银行发布的金融领域科技伦理指引（J R/T 0 2 5 8-2 0 2 2）提出，金融科技伦理治理应遵循相应的价值理念和自律规范，尤其需要防止算法歧视，保障算法、数据和技术的公平普惠性。二、智能算法分类及在金融科技业的主要应用智能算法主要分为以下5 类。一是监督学习算法。此类算法使用被标记的数据集训练机器学习模型，目的是使模型学会基于输入特征对数据进行分类或预测输出结果。二是无监督学习算法。此类算法用于在未标记的数据集中寻找数据集的基本结构、模式和关系，目的是根据数据的相似性进行分类。三是半监督学习算法。此类算法同时使用标记的数据集和未标记的数据集进行训练的机器学习算法，它使用少量标记数据和大量未标记数据来进行模式学习并进行预测。四是强化学习算法。此类算法基于事先制定的奖励与处罚规则训练模型进行决策，使模型学会按奖励最大化行动。与监督和无监督学习算法不同，强化学习算法是一种反馈类型的算法，对于获得的每一个结果，此类算法都会向正在训练的模型给出反馈。五是深度学习算法。此类算法用于训练多层深度神经网络，模型学习从输入数据中提取特征，并基于这些特征进行预测。深度学习推动了许多人工智能的应用和服务，这些应用和服务在没有人工干预的情况下自动执行分析和行动任务。Financial Technology金融科技吉林金融研究2023 年 第 6 期61当前，金融科技公司主要在以下7 大领域应用智能算法。一是欺诈检测。应用智能算法分析海量数据以识别欺诈交易和防范金融犯罪。二是客户服务。智能算法聊天机器人提供7 2 4 小时客户支持，回答常见问题并根据客户数据推荐个性化金融产品。三是风险管理。使用智能算法分析市场趋势、信用评分等数据以识别潜在风险并做出相应的风险决策。四是投资管理。应用智能算法分析金融市场数据并对未来走势进行预测，帮助投资者进行投资决策。五是贷款审批。使用智能算法分析贷款申请者的信用评分、收入和其他数据，以判断贷款申请者未来偿还贷款的可能性。六是合规监测。使用智能算法监测金融交易并确保其合规性。七是金融交易。使用智能算法分析实时市场数据并进行自动交易。智能算法在金融业的应用有助于金融机构提高效率、降低成本、提升服务水平，但如果应用不当，容易引发算法歧视问题。三、算法歧视表征、成因与检测算法歧视一般是指违背数据、技术中性原则，导致数据分析和算法应用的结果违反公平性和非歧视要求，对算法覆盖的特定群体造成明显的、连续的、多方面的不利影响和不公平对待，违背基本的金融科技伦理要求。和人类歧视主要依据性别、外貌等表象特征不同，算法歧视一是更加隐蔽，由于算法的不完全公开透明，算法中基于性别、种族、年龄的歧视往往可以规避法律惩处，披上合理的“外衣”；二是更加广泛，系统中的所有用户都会受算法影响，任何被打上歧视性标签的用户都有可能受到不同程度的算法歧视；三是更加多样化，在大数据时代存在更多替代数据，如网页浏览记录、购物记录、行车路线等都有可能作为算法歧视性处理的依据。美国国家标准技术研究所（N I S T）认为，数据集的内在偏见、存在偏见风险的自动化系统以及使用未经检验的A I 技术等，都是引发算法歧视以及导致公众“信任崩塌”的主要原因。一是算法、模型的训练数据集代表性不足，没有公平覆盖所有群体，尤其是漠视少数群体和弱势群体，数据集中普遍存在的偏见与偏差，往往会有意或无意、主观或客观地导致模型参数和算法决策出现歧视性结果。二是算法预测和决策基于不公平的规则，这些不公平的规则往往来自于算法设计人员的主观歧视性偏见，如部分国家的犯罪预测系统经常将黑人的预期犯罪率设置为显著高于白人，尽管这些犯罪参数的设置与实际情况明显不符。三是当算法模型的训练数据集是图片、视频等非结构化数据时，算法无法进行直接分析，而是依赖人工进行标注，标注时数据加工人员的主观歧视与偏见就会带来算法歧视。大数据时代的智能算法越来越依赖个人数据作为输入，以至于同一个程序生成的网页可能永远不会生成第二次。如果一种算法使用大量变量进行多元回归，在没有为每个变量设定特定值的情况下，几乎不可能预测算法结果。一些行为不端的算法可能只在特定数据集或应用程序的背景下才会产生算法歧视表现，而产生算法歧视的原因可能是算法及其数据的组合，而不仅仅是算法本身。以下是检测算法歧视是否存在的一个基本方法步骤。一是定义受保护组，确定应尽量减少歧视的受保护组变量，如种族、性别、年龄或社会经济背景。二是选择评价指标，选择评价算法运行结果和性能的指标，如准确性、精确度或召回率。三是测量基线性能，评估算法在受保护组和非受保护组上的表现，以建立用于性能比较的基线。四是控制混杂因素，对可能影响结果指标的变量（如样本量或数据质量）进行控制后评价算法性能表现。五是检查组间差异，确定受保护组和非受保护组的结果指标之间是否存在统计学上的显著差异。这可能涉及歧视效应，如受保护组较高的误报率或漏报率。六是调整算法，如果检测到歧视，通过引入公平性约束或重新评估模型变量来调整算法，以减少或消除歧视效应。七是评估和监控变化，调整后重新评估算法的性能，并随着新数据添加到模型中而持续监控和减轻潜在的Financial Technology金融科技吉林金融研究2023 年 第 6 期62歧视性影响。四、金融科技领域算法歧视问题与典型案例当前，部分金融机构存在三大算法歧视问题：一是算法黑箱问题，即不公开产品和服务的定价规则以及服务标准，而是有意利用自身在算法和数据上优势，技术性地过度采集用户数据，超权限、超范围使用用户数据，对不同用户进行歧视性分类、标记、画像，进而实施歧视性差别定价，损害金融产品和服务的公平、透明、普惠；二是算法掠夺控制问题，即运用人工智能算法和用户历史数据的挖掘分析，掌握特定金融消费者的消费倾向和偏好，有针对性地推荐金融产品和服务，诱导金融消费者过度消费和成瘾性消费，通过算法掠夺和控制消费者的金融选择权；三是算法共谋问题，即利用算法在分析大数据上的隐蔽性、复杂性和快速性，在人工干预下通过算法的自动实施实现歧视性统一定价或市场垄断定价，通过算法共谋满足自身利益最大化，进而侵犯金融消费者的基本权益。金融科技领域算法歧视的相关统计数据并不容易获取，因为这类公司通常不会公开披露与算法歧视相关的数据。2 0 1 7 年，美国消费者金融保护局发布了消费者信用评分市场监测报告，报告指出，许多信用评分模型存在着种族和性别歧视。这些模型将少数族裔和女性的信用评分低估，从而使他们难以获得贷款、信用卡等金融产品。2 0 1 9 年，美国联邦住房金融局发布了一份名为数据驱动的评估模型和歧视的报告，报告指出，许多抵押贷款评估模型存在着种族和社会经济地位歧视。这些模型将少数族裔和低收入人群的房屋价值低估，从而使他们难以获得抵押贷款。因为金融科技公司大量应用和依赖算法开展业务，金融科技公司由算法歧视问题引发的风险事件时有发生，以下列举一些典型案例。一是2 0 1 9 年，苹果公司和高盛公司联合发行的信用卡被发现存在性别歧视，拥有与男性相同收入和信用评分的女性获得的信贷额度明显偏低。产生此问题的根源是用于信贷额度审批的算法在预设参数上对女性存在歧视。二是2 0 1 8 年，亚马逊公司的招聘算法被发现存在性别歧视，产生此问题的原因是招聘算法采用近1 0 年内提交的简历作为训练数据集，而这些简历大部分来自男性求职者，导致招聘算法更青睐男性求职者。三是L e n d d o E F L公司使用诸如社交媒体轨迹、智能手机使用行为等替代数据进行信用评分，但是这些替代数据的使用可能导致对没有智能手机或社交媒体账户人群的歧视。四是Z e s t F i n a n c e 公司使用机器学习算法用于信用评分，全美消费者法律中心（N C L C）的一项调查发现该公司的信用评分算法对特定肤色人种存在歧视，即使和白色人种具有相同的信用水平,对深色人种发放的贷款往往收取更高的利率。传统金融行业的数字化转型使得大量柜面业务转移到线上A P P，从2 0 2 0 年5 月开始，截至2 0 2 3年3 月，工业和信息化部先后通报了2 8 批侵害用户权益行为的A P P（S D K）名单，其中就有3 1 款金融类A P P 被通报，被认定的问题涉及欺骗误导强迫用户，强制、频繁、过度索取权限，强制用户使用定向推送功能，不给权限不让用，收集个人信息明示、告知不到位，账号注销难，违规使用第三方服务，私自共享给第三方，私自收集个人信息，违规收集个人信息,超范围收集个人信息，违规使用个人信息等。这些侵害用户权益行为也或多或少存在金融科技伦理问题和算法歧视风险。五、政策建议（一）完善覆盖算法全生命周期的歧视性风险管理体系导致算法歧视的原因具有复杂性和多样性，算法在设计、开发和部署阶段都可能引入潜在歧视性风险。金融科技公司应建立完善的覆盖算法全生命周期的歧视性风险管理体系，算法歧视性风险管理的最终目标不是实现零风险，而是在算法全生命周期中有效识别、理解、衡量、管理和减少潜在的算法偏见。一是建立一套用于测量、Financial Technology金融科技吉林金融研究2023 年 第 6 期63评估算法偏见的技术标准和指南；二是基于特定应用场景并在特定运行环境下对算法在不同阶段可能出现的歧视行风险进行识别和防范；三是设计、开发和部署算法的过程中，充分考虑各方利益，提高算法决策的包容性、多元性、合规性，实现可负责、可信任的算法伦理。（二）明确各方主体责任算法和数据决策贯穿了金融科技产品应用的全过程和全生命周期，覆盖了金融机构前、中、后台，金融创新过程中算法应用的链条可能是跨产品、跨部门、跨地区的，这时需要明确哪个部门、哪个具体人员应对算法歧视结果的哪个部分承担哪些具体责任。建议在金融机构设立金融科技伦理委员会，并专门设置算法审查和数据治理小组，对算法歧视风险进行审查、评估和披露，及时发现违背金融科技伦理治理要求的风险算法、行为和数据模型，并追究相关人员主体责任。（三）加强对算法模型的监管金融监管机构应将金融科技伦理治理纳入监管范畴，尤其要加强对金融科技应用中的算法歧视、隐私侵犯、过度采集用户数据等伦理问题的监管执法。算法歧视不仅侵害金融消费者合法权益，也可能触发金融风险，监管机构应加强创新金融技术和金融融合过程中的算法歧视伦理风险监控，充分运用监管科技进行监测预警，防范金融机构运用算法过度逐利、歧视和非公平对待特定消费者群体，严肃查处算法歧视等违法违规行为。（四）完善金融科技伦理治理体系金融科技主管机构应督促各方加强金融科技创新的伦理管理，提前预防、有效化解算法歧视风险，防范算法滥用；同时指导有关行业协会及时制定金融科技伦理自律公约和自律规范，健全多方参与、协同共治的金融科技伦理治理体系。推动算法伦理治理自律与他律相结合，自觉约束与外部监管相结合，健全算法伦理约束机制和治理规则，完善算法伦理评估评价标准和审查审计制度。（五）用技术解决算法歧视问题可以考虑用隐私计算技术解决算法歧视问题，如使用差分隐私技术对不同的群体数据进行不同的噪声处理；使用多方计算技术将不同的数据集进行联合计算，避免单一数据集对结果的影响；使用联邦学习的模型聚合技术，对不同模型进行加权平均，避免单一模型对结果的影响；设计算法时加入公平性约束，对不同群体的数据进行权重调整，使得算法对不同群体的数据有相同的重视程度。另外，可以使用监管沙箱技术将算法歧视风险控制在最小范围内。参考文献：1 中国人民银行.金融领域科技伦理指引:J R/T 0 2 5 8 2 0 2 2 S .北京:全国金融标准化技术委员会,2 0 2 2.2 新华社.中共中央办公厅 国务院办公厅印发关于加强科技伦理治理的意见 E B/O L .h t t p:/w w w.g o v.c n/z h e n g c e/2 0 2 2-0 3/2 0/c o n t e n t _ 5 6 8 0 1 0 5.h t m,2 0 2 2-0 3-2 0.3 N I S T.T o w a r d s a S t a n d a r d f o r I d e n t i f y i n g a n d M a n a g i n g B i a s i n A r t i f i c i a l I n t e l l i g e n c e E B/O L .h t t p s:/d o i.o r g/1 0.6 0 2 8/N I S T.S P.1 2 7 0,2 0 2 2-0 3-2 4.（下转第7 8 页）PBC Service and Regulation央行服务与监管吉林金融研究2023 年 第 6 期78心”的系统灾备，各服务器间采取数据实时备份模式。另一方面要实现服务器热切换功能，当一处服务器出现异常情况无法使用时，通过热切换功能转换服务器，减少对基层国库业务处理的影响。Problems and Suggestions in the Construction of Treasury Emergency Mechanism at Grassroots LevelLI Jinqiu HUANG WeihaoAbstract:Treasury emergency mechanism construction is an important part of the Peoples Bank of China to prevent and defuse major risks,but also an important part of the whole fi nancial emergency management system.Under the background of Treasury informatization,the grass-roots Treasury faces many problems in emergency management due to insuffi cient personnel allocation,weak business ability and other factors.This paper analyzes the problems existing in the construction of emergency mechanism of grass-roots Treasury and puts forward relevant suggestions.Key Words:grass-roots Treasury;emergency mechanism;measure（责任编辑：陈岩校对：李瑶）Algorithmic Discrimination and Ethical Governance of Financial TechnologyDING YuAbstract:In recent years,the continuous innovation and development of fintech has profoundly changed the methods and forms of traditional financial services,greatly improved the efficiency and capability of financial services,but also spawned a variety of complex fintech ethical issues,bringing a series of new risks and challenges to fi nancial innovation and fi nancial security.This paper focuses on the ethical governance challenge of algorithmic discrimination in fi nancial technology,investigates corresponding countermeasures,and gives policy suggestions on improving fintech ethical governance and effectively preventing and controlling fintech ethical risks from the perspective of algorithmic ethics.Key Words:fi nancial technology ethics;algorithmic discrimination;discriminatory risk（责任编辑：陈岩校对：李瑶）（上接第6 3 页）Journal of JiLin Financial ResearchNo.6 2023(General No.497)C O N T E N T SThoughts on Perfecting Rural Financial Service System in the New Period TANG Xiaoxue1Green Finance,Green Technology Innovation and Eco-industrial Structure:a Theoretical Analysis Framework ZHANG Lu6Study on the Impact of Commodity Price Fluctuation on Commercial Banks Risk-taking WANG Lirong WANG Yuan13Commercial Bank Bond Underwriting Business Development Countermeasure Research SONG Ge21Research on the Infl uence of Internet Finance on Residents Investment and Financial Management Behavior ZHANG Tian28Research and Enlightenment on Financial Budget Management System of Bank of England Research Group of Lanzhou Central Sub-branch of Peoples Bank of China35The Practice and Comparison of International Transitional Finance from the Perspective of Incentive Mechanism LI Chengxin41The Experience and Implications of South Koreas Rectifying Illegal Financial Advertisements AN Lihuan ZHANG Binchi LIANG Longzhi GAO Meiyan46Reflections on the Facilitation of Payment for the Elderly under the Background of Optimizing Payment Services Taking Guyuan City as an Example Research Group of Guyuan Central Branch of the Peoples Bank of China49The Current Situation,Main Problems and Policy Suggestions of Consumer Finance in Liaoyuan The Research Group of the Peoples Bank of China Liaoyuan Center Branch 54Analysis on the Infl uence of Credit Development of New Energy Industry on Banking Institutions in Prefecture-level Cites Taking Baicheng City,Jinlin Province as an Example Research Group of Baicheng Central Branch,Peoples Bank of China57Algorithmic Discrimination and Ethical Governance of Financial Technology DING Yu60Theory,Practice and Inspiration of International Data Governance JIANG Sitong64Problems and Suggestions in the Operation of the Central Banks Accounting Data Centralization System(ACS)Taking Jilin Province as an Example ZHANG Wenchang QIAO Jianbo MA Jingjing68DCEP Era:Exploration of the Development Path of Third-party Payment WU Xutong71Problems and Suggestions in the Construction of Treasury Emergency Mechanism at Grassroots Level LI Jinqiu HUANG Weihao75