人工智能时代个人信用信息权益实现的法律缺位与补足.pdf

一、引 言社会信用体系的建设，有助于降低社会主体交易成本、防范交易风险，并提升社会信用意识、营造守信社会氛围。社会信用活动中，征信是指对信用信息进行采集、利用，并向社会提供的活动，失信惩戒与信用修复则是对失信行为主体的惩戒和约束，以及对纠正失信行为主体的守信激励的活动。个人征信，以及其基础上的失信惩戒与信用收稿日期 2023-06-10基金项目 国家社会科学基金项目“数字经济时代平台企业滥用数据优势的反垄断法规制研究”(21BFX114)。作者简介 冯慧敏，女，河北邯郸人，对外经济贸易大学法学院博士研究生，主要从事经济法学、国际经济法学研究。摘要 个人信用信息权益保护是社会信用体系建设中的关键内容。人工智能工具的使用，既为社会信用的数据治理提供了有力支持，又带来了信用主体隐私权、名誉权等实体权利受到侵犯的风险以及信用主体知情权、异议权等程序权利难以实现的隐患。同时，还存在信用监管权受到算法侵蚀，监管范围被征信机构技术规避的问题，也将进一步加大个人信用信息权益受到损害的风险。应对如上问题，约束替代数据的采集利用、提升算法过程透明度、修建完善失信惩戒与信用修复机制，是可行之道。此外，增强提供者和用户监管在人工智能技术支持的信用信息权益保护和社会信用体系建设中的作用，是关键之策。关键词 人工智能；个人信用信息；信用权益中图分类号 D923文章标识码 A文章编号 1671-0304(2023)04-0040-09Legal Absence and Complementation of Realization of Personal Credit InformationRights and Interests in the Era of Artificial IntelligenceFENG Hui-min(School of Law袁University of International Business and Economics袁100029袁Beijing袁China)Abstract:Protection of the rights and interests of personal credit information is a key element in theconstruction of social credit system.The use of artificial intelligence tools not only provides powerful supportfor data governance of social credit袁but also brings the risk of making the substantive rights of credit subjects袁such as privacy and reputation rights袁infringed袁and the hidden danger of making the procedural rights of creditsubjects袁such as the right to know and the right to object袁difficult to realize.At the same time袁the erosion ofcredit regulation rights by algorithms and the problem of the regulatory scope being technically circumventedby credit agencies will further increase the risk of damage to the rights and interests of personal creditinformation.To cope with such problems袁it will be feasible to restrain the collection and utilization ofalternative data袁enhance the transparency of the algorithm process袁and build a perfect mechanismfordisciplinary and credit repair for breach of trust.In addition袁enhancing the role of providers and userssupervision in the protection of credit information rights and interests supported by artificial intelligence andthe construction of social credit system will be the key policy.Keywords:artificial intelligence;personal credit information;credit rights and interests【“社会信用法治建设问题”专题研究】人工智能时代个人信用信息权益实现的法律缺位与补足冯慧敏（对外经济贸易大学 法学院，北京 100029）第 37 卷第 4 期2023 年 8 月石河子大学学报(哲学社会科学版)Journal of Shihezi University(Philosophy and Social Sciences)Vol.37No.4Aug2023第 4 期修复，是个人信用信息权益实现的主要途径，亦是社会信用体系建设的重要内容。社会经济水平的提升和人工智能技术手段的广泛应用推动了信用相关行业快速发展，一方面，高质量、个性化的征信服务市场需求急剧增加，另一方面，征信与失信惩戒所依赖的基础数据、算法模型、评价模式日益丰富。人工智能贯穿信用信息采集与共享环节、信用信息处理与利用环节和失信行为惩戒与信用修复环节。在信用信息采集与共享环节，大数据技术对海量基础信用信息和替代性信息进行数据清洗、数据挖掘等大数据处理，数字平台技术则为信用信息跨界传输共享提供渠道。在信用信息处理与利用环节，自动化算法模型通过机器学习开发和细化评分模型。在失信行为惩戒和信用修复环节，智能运算工具对海量信用信息进行计算、存储与传输，以实现不同信息归集主体间的信息共享，为联合失信惩戒和同步信用修复奠定了基础。人工智能工具的使用，优化了信用资源的社会配置，提升了征信行业的工作效率，加深了智能工具在社会运行中的参与程度。但在技术应用的同时，如何防范其带来的法律风险，避免因人工智能技术深度介入社会信用管理而产生的管理失范，是法律研究所关注的问题。二、征信业务与失信惩戒场景中人工智能的使用信用信息是征信的核心要素、失信惩戒的依据和信用修复的对象。全面、准确、有效、合法的信用信息的采集与共享、利用与处理，以及基于前者的失信行为惩戒与信用修复，是社会信用管理的主要环节。人工智能工具在社会信用管理中的使用，能够提高上述工作效率，但同时也会增加个人信用权益的受损风险。（一）信用信息采集、共享环节个人信息因具有极高数据化价值而备受数据企业的青睐，但个人信用信息采集边界被不断拓宽，例如，百行征信公司及朴道征信公司在与信息中介公司共享信用信息的同时，引入大量替代性数据，并基本实现了个性化信用信息评估147。但是，在 征信业管理条例 第 14 条的负面禁止的规范模式之下，公民个人信用信息的具体类型难以划分进入禁止采集的范围之中。征信行业企业受到个人信息高聚合价值特征的影响而广泛采集公民个人信息的行为，不仅使公民隐私权、知情权受侵犯的风险增大，而且广泛采集的不具有征信价值的个人信息，更会给征信系统带来极大成本负荷。个人信用权益受损也可能来源于公共信用信息的共享环节。公共信用信息资源共享与开放的本质，是实现信用信息的资源整合。公共信用信息的共享，是以打破传统的地域之间、行业之际、体制之内存在的信息共用障碍为手段，以提升信用信息资源的利用价值为目的的。目前，公共信用信息共享初见成效。由国家公共信用信息中心主办的“信用中国”网站作为信用信息公开的“总窗口”，整合发布各部门的公开信用信息，推动实现各地区信用门户网站的互联互通。但是公共信用信息分享模式的建设仍存在问题：信用信息共享开放，尤其是信用信息面向公众开放的法律依据不足。信用信息是对信用主体信用形象的刻画，失信信息则是对其信用形象的减损，若公权力部门向社会开放的信用信息涉及到信用主体的名誉权和其他民事权利，在未获得信用主体授权、未进行脱敏处理、未进行区分开放的情形中，个人信用主体的合法权益将可能受到损害。（二）信用信息处理、利用环节信用信息的利用处理，呈现公共信用信息和市场信用信息相贯通、跨区域及跨行业信用信息相整合的趋势。为实现大量聚合的信用信息的处理与利用，人工智能工具以对信用主体信息的深度挖掘、对信用相关信息的广泛抓取，以及对信用主体信用形象的精准刻画为发展方向。此种深度、广度、精度兼具的信用信息数据库的建设与利用的负外部性作用是明显的。最显著的负面影响是信用信息处理中的算法歧视和信用信息的跨场景利用。1.信息处理中的算法歧视人工智能技术在个人信用信息的处理中存在具体参见由国家公共信用信息中心主办的“信用中国”官方网站“https:/”。该网站已日益成为社会信用体系建设领域沟通社情民意、推进信用信息公开的共享服务平台。冯慧敏：人工智能时代个人信用信息权益实现的法律缺位与补足41石河子大学学报（哲学社会科学版）第 37 卷算法歧视问题。人工智能和消费信息的结合给消费市场带来了算法歧视的恶果，表现为价格歧视和地域歧视。而在人工智能和信用信息的结合中，算法歧视则可能反映成为带有偏见的信用评价结果。征信管理条例 第 14 条明确禁止将个人的宗教信仰、疾病和病史信息纳入征信信息范围。但是，算法参与并且起主导作用的黑箱式自动化信用评价系统，则可能由于技术限制、合规考量、利益倾向等原因，将歧视性评价标准纳入模型之中，隐蔽地影响算法输出的结果，进而导致对信用主体的歧视问题。受到 征信管理条例 约束，虽然与歧视算法结果相关的信用信息被禁止纳入数据源，但由于信用主体信息的关联性，以及替代信息采集的合法性，作为人工智能的算法工具仍然可以基于用户家庭住址、用户消费习惯和水平、用户特定类别物品购买类目及频次以及用户网络浏览信息记录等替代性信息，精准推测出禁止纳入征信信息的有关特定信用主体的信用特征2671。在此类算法的影响之下，如果算法过程将地理位置、网络消费频次、网络消费价格区间、消费物品种类等纳入模型进行考量，即有可能将偏远贫困地区的群众排除在获得民生信贷的适格主体之外。如果算法过程将前往医院的交通信息、网上购药频次及药品类目记录，以及涉病通讯、聊天记录等纳入模型进行考量，则有可能将老年人和患有重大疾病的群众排除在获得民生信贷的适格主体之外。算法通过综合地理位置、物流记录和邮政编码数据也可能推测出本应禁止采用的用户民族成份情况信息。以上通过替代性信息获取禁止获取信息相关用户特征的算法模型，可能产出歧视性信用评级结果，进而影响普惠金融公共政策的实施效果。当然，此种歧视性算法的运行并非一定受到人为影响，基于机器学习管理的人工智能有可能受到了上述因素与信用风险的高相关性评估的干扰，而此种相关性则是算法不应考量的。算法为公权力部门在信用信息评级时的权力误用提供可能，此种误用也将导致对个人信用信息权益的侵害。信用信息评级场景中使用的人工智能工具，赋予了行政管理部门和行政相对人不对等的权利与义务。例如，基于大数据分析和算法技术的“失信惩戒黑名单”，使得行政机关隐于人工智能背后，依法行政原则、比例原则遭遇被突破的风险。此外，由于用于信用评级的人工智能工具，多由行政主管部门交由私营主体进行开发，在行政管理目标与技术实现水平不能完全匹配时，技术人员将在算法设计的过程中拥有较大的自主权力。这可能导致私营主体对行政需求有理解偏差，甚至有些私营主体将对特定评价对象的认识不足与偏见嵌入基于算法的行政行为之中，致使信用评级结果产生偏差。2.信用信息的跨场景利用所谓信用信息的跨场景利用，是指将以 a 为评价核心的 A 场景信用信息利用至以 b 为核心的B 场景。在信用主体不知情的情况下，信息利用者将甲在 A 场景中的信用肖像挪用至 B 场景，不仅将增加用户个人隐私泄露的风险，产生信用资源浪费的可能，更甚至造成对个人信用信息合法权益的严重侵害。用户的金融信息是被跨场景利用的主要对象。金融支付便利以用户自身信息安全为代价，在个人消费者不知情的情况下，以整合、深度分析用户个人地理位置信息、交易记录信息、金融交往信息等为方式，金融机构为信用信息来源用户描绘“信用画像”。该精准画像的跨场景利用可能会因为过度披露个人敏感信息要素，而对个人隐私造成侵害。例如，信用信息数据聚合而成的信用画像，为市场营业主体实现识别客户、精准营销提供参照，也使用户个人隐私泄露的风险急剧增大，从而加剧了用户被盗取信用身份等风险，可能引发洗钱、精准电信诈骗等扰乱社会秩序的下游犯罪346。另外，区别于就业、教育、婚恋其他应用场景，征信场景中，信用信息收集利用的目的是减少征信机构和征信主体之间的信息不对称性，为征信主体的信用行为提供证明。若信用信息被跨场景使用，例如在以工作能力为评价核心的就业市场，以学习能力为评价核心的教育市场，以及以经济能力、个人观念为评价核心的婚恋市场，考察个人信用评级，除了将增加信用主体个人隐私泄露的风险，更可能会造成社会资源的浪费。更严重的是，信用信息的跨场景使用还可能对个人权利的实现造成直接阻碍，甚至降低相关权力部门的社会评价，侵蚀了当地政府的公信力。（三）失信惩戒与信用修复环节征信结果为针对失信主体的失信惩戒提供了42第 4 期重要参考。而信用修复则是失信惩戒机制的退出环节，保护了失信主体的正当权益，保障了失信惩戒机制的正常运行。人工智能工具在失信惩戒和信用修复制度中的不当应用，也会增加个人信用信息权益的受损风险。1.失信惩戒制度失信惩戒是一种通过预防而非强制性制裁来治理失信的治理手段46。效果层面，失信惩戒的本质是一种对交易风险的管控5136。手段层面，失信惩戒的本质是通过减损失信被执行人一项或者几项权利，促使其履行法律义务。在人工智能技术的辅助下，失信联合惩戒制度的适用范围广泛涵盖至判决执行、金融交易、环境保护、食药品生产等多个领域。在中央和地方多个工作部门的联合参与下，从“高铁霸座”、强行插队等不文明行为，到拒不履行判决裁定等违法行为，都受到失信联合惩戒的约束。失信联合惩戒的根本目的是保障公民权利。但由于该种惩戒的落实路径是对失信行为人的权利约束，如果权利限制存在过当，则惩戒可能产生侵害失信行为人合法权利的可能。例如，滚动播放、在失信人居住地大范围传播失信信息的方式，可能对当事人造成超限度的名誉减损，从而影响其进行社会交往、经济交易的机会获取和行为进行63。禁止进行高消费、禁止乘坐特定等级的飞机和轮船舱位的惩戒手段，则可能超限度影响当事人的人身自由7146。另外，失信被执行人的子女不得报考特定公职岗位、不得录取进入公办学校的惩戒，涉嫌对公民的劳动权、受教育权的侵犯8114。2.信用修复制度信用修复制度是失信联合惩戒制度的退出机制958。信用信息主体已纠正失信行为的，有权向认定单位申请信用修复。中华人民共和国社会信用体系建设法（向社会公开征求意见稿）（以下简称社会信用体系建设法（征求意见稿）第 98 条、第 99 条、第 100 条分别在信用修复措施内容、信用信息主体投诉和复议诉讼权以及信用信息主体投诉监督三个方面，对失信行为纠正后的信用修复作出制度安排。信用修复不仅是社会信用体系的子体系，更是司法执行和社会信用治理的重要一环。根据 社会信用体系建设法（征求意见稿）第98 条，移出严重失信主体名单，终止查询、集中公示等提供失信行为信息的行为，以及删除失信行为信息，是信用修复的方法。实践中，无论是移除公示名单，还是停止提供查询、对相关信息进行删除等，本质上都是断开失信信息的网络接入，停止失信信息的继续传播。但是，在对特定失信主体的信用交往行为进行风险管控目的指导下，失信惩戒公示以可识别并且公开方式进行。正如前述，人工智能技术所依赖的底层数据是“全数据模式”，即“全数据即信用数据”模式。所以，即使信用主体已满足纠正失信行为的前提条件，认定单位采取的屏蔽或删除措施很难完全将失信信息全面从互联网中移除，更难在具有黑箱特征的算法中，将信用评价中受到失信记录影响的信息进行精准识别且剔除。此种不完全信用修复带来的负面后果有三：其一，对信用信息主体来说，其已对失信行为进行了纠正，但由于失信信息无法从基础数据中根本抹去，其将持续受到相关信用评级的影响。该影响具有对其人身自由限制的隐形性、对其人格尊严负面影响的持续性，以及信用恢复的有限性等特征。并且，经过算法的加工，信用主体受到的负面影响是隐匿的，此种隐匿对信用主体针对修复效果行使申诉权极为不利。其二，对社会信用体系建设来说，失效失信信息仍参与评价体系，不仅会造成信用监管资源的浪费，更会使信用评价结果产生偏差，失信惩戒的风险管控效能被削弱。其三，对社会信用治理来说，如果未能受到信用修复制度的保障，失信惩戒手段的使用可能超越原有目的，新的社会治理矛盾将可能产生。三、人工智能时代个人信用信息权益实现的法律缺位人工智能在数据信用信息采集与共享、处理与利用，以及其基础上的失信惩戒与信用修复中的应用，增大了信用主体隐私权与名誉权等实体此外，关于为加快建设全国统一大市场提供司法服务和保障的意见 关于公布失信被执行人名单信息的若干规定 关于在执行工作中进一步强化善意文明执行理念的意见 中均规定了对失信被执行人信用进行修复的程序和方式。冯慧敏：人工智能时代个人信用信息权益实现的法律缺位与补足43石河子大学学报（哲学社会科学版）第 37 卷权利的受侵害风险，增加了知情权与异议权等程序权利的实现难度。通过侵蚀公权力部门信用监管权力、为征信市场主体提供逃避监管的空间，人工智能也可能产生扰乱社会信用环境的间接负面效用。（一）信用主体实体权利存在受侵犯风险海量数据基础上的信用肖像描绘可能侵犯用户的隐私权，而基于错误信用信息和不当算法过程产生的信用评级，则可能会不恰当地降低信用主体的社会评价，侵犯信用主体的名誉权。1.隐私权信用信息数据挖掘和共享的目的，在于破除信用信息孤岛，实现大数据基础上相关信息的合理勾连。但是，信用信息的深度挖掘和广泛勾连给信用信息主体隐私权保护带来隐患。智能时代，个人隐私在智能设备、信息技术、虚拟系统的审视和转换下液化为流动的集合数据10229。根据 征信业管理条例 第 3 条，从事征信业务及相关活动，应当遵守法律法规，诚实守信，不得危害国家秘密，不得侵犯商业秘密和个人隐私。然而，人工智能的信用信息采集挖掘对隐私的侵犯往往为非直接的，表现为将非隐私的片段信息拼接，通过智能算法加工成信用主体的全息信用投影。隐私侵犯问题可能存在于众多应用智能工具的场景中，并非信用监管场景所独有1114。但无论应用场景为何，确保隐私的三个核心策略个人知情同意、选择退出和匿名化已普遍大大失效12153-175。虽然以上策略确为信用主体控制信用信息和保护信息隐私提供了形式上的可能，然而在人工智能介入的社会信用体系中，信用主体管理和保护自身信用信息的负担加重、信用信息控制者侵害他人信息隐私的风险增大、信用信息控制者获取和利用的信用信息不完整、信用主体信息隐私被侵害后陷入权利救济困境等问题仍然存在，传统隐私保护策略很难发挥预期作用。在涉及个人信用信息的数据出境问题上，该个人隐私侵害问题甚至还有可能蔓延至国土、军事、科技领域13105。而现行规范就信用信息相关活动侵犯隐私权进行的笼统规定，更面临规制有限、落实不力的艰难困境14161。2.名誉权名誉是对民事主体的品德、声望、才能、信用等的社会评价。学理上，有学者认为在民法体系下讨论信用问题，可以将信用与名誉等而视之1568。规范上，民法典 第 1024 条将信用定义为名誉的一类。实践中，建立在错误或不完整信用信息基础上的对个人信用度的低评价会导致个人名誉在一定范围内的贬损。错误的信用信息数据源、歧视性的黑箱式算法以及失控的失信公示管理都可能侵犯信用主体的名誉权。失信主体失信行为信用修复制度的建设缺陷是导致信用主体名誉权受损的典型原因。宋海勇诉泰安市岱岳农村商业银行股份有限公司名誉权纠纷案中，二审法院认为，“上诉人的不良记录虽然确因其提供担保形成，但上诉人的担保责任已经被生效的民事判决书免除，即不再是担保人身份，其不应再出现该笔贷款的不良担保记录”。因未及时消除信用不良记录而产生的对信用主体的社会评价持续性的负面影响，即是对信用主体名誉权的侵犯。失信行为惩戒，以限制失信被执行人行为自由和使被执行人名誉受损为手段1674。而信用修复，则是信用主体退出信用惩戒、恢复名誉的实体性和程序性权利保障，且具有矫正社会价值的功能171。虽然信用修复机制在地方立法中多有出现，但这些地方性法规仍将信用修复的申请主体限定于法人，自然人申请信用修复的渠道尚不畅通。将对名誉的暂时减损通过有效制度设计，转化为失信主体修正失信行为的强劲动力，以及规范保障信用主体名誉权恢复程序，从根本上维护失信被执行人的人格尊严，维护社会信用秩序、司法公信力等公共利益，都将依赖于对信用主体名誉限制与恢复手段的合法约束。（二）信用主体程序性权利难以得到保障1.知情权社会信用体系建设法（征求意见稿）第 93 条规定，信用信息主体有权知晓与其相关的信用信参见 民法典 第 1024 条第 2 款：“名誉是对民事主体的品德、声望、才能、信用等的社会评价。”参见河南省商丘市中级人民法院 2020 豫 14 民终 855 号民事判决书。参见山东省泰安市中级人民法院 2017 鲁 09 民终 896 号民事判决书。盂44第 4 期息的收集、归集、加工和共享情况，以及其信用报告载明的信息来源和变动理由。知情权的实现是其他个人信用信息权能实现的基础和前提18125，而人工智能在信用数据挖掘过程的隐匿性和算法的黑箱特征则阻碍公众知情权的行使。人工智能不仅在未获信用主体同意的基础上抓取其信用信息，更可能剥夺了个人质疑和挑战自动化评分结果的能力和机会。信用主体知情权的受损，一方面源于个人信用信息采集范围的无限扩张，例如，疫苗接种记录纳入征信系统的行为即引发社会争议。这种违规利用征信系统的行为不仅影响了个人信用评价的准确性，而且会降低征信系统的社会公信力。另一方面，则源于算法过程透明度的有限性。算法的自动化学习性能使得信用评级模型日趋复杂，信用评价体系难以为一般公众所理解，实质上阻碍了信用主体知情权的行使1965。2.异议权在阻碍信用信息主体知情权实现的基础之上，由于基于人工智能的信用评价所依赖的数据基础在范围上远超传统征信系统，征信机构普遍在用户不知情的情况下采集的信用信息，可能被作为参照对用户进行错误的信用评级。而受到影响的用户，因处于信息不对称的信用信息采集结构中，无法及时行使异议权等权利。根据 社会信用体系建设法（征求意见稿）第95 条、信息安全技术个人信息安全规范（征求意见稿）第 7 条，当信用信息的收集、加工等过程存在错误、遗漏等情况，或是信用信息的收集处理侵犯了信用主体的合法权益，信用信息主体可向信用信息处理者提出异议。然而，作为权利实现基础的个人征信异议处理机制需要完善。根据 征信业管理条例 第 25 条、第 26 条，以及 社会信用体系建设法（征求意见稿）第 95 条、第 96 条之规定，我国已建立了初步的征信信息主体异议和投诉机制。但实践中，不仅个人异议处理机制的效率有待提升，相关机构是否因错误承担法律责任、以何种形式承担何种程度的法律责任也有待明确。（三）监管主体信用监管过程失范与人工智能对信用信息的实体性和程序性权利产生的负面影响不同，监管失范对个人信用信息权益的侵害是间接的，但却是长久的、深远的。该种侵害主要表现为算法运行对监管权的侵蚀，以及社会征信主体对监管的规避，而产生的扰乱社会信用环境、减损信用监管效能的后果，对个人信用信息权益造成的不利影响。1.信用监管权遭到算法侵蚀随着机器学习方法对信用监管过程的深度介入，人工干预将逐步被算法自动决策所替代201。以信用评分模型的建立和优化为例，此种替代在一定程度上是主动的有意为之面对复杂的信用评级问题，算法在变量选取、特征筛选、变化感知方面优势明显。但同时，随着算法模型在机器学习模式下的快速迭代，模型复杂度在准确度要求下不断提升，算法黑箱的形成甚至使得算法专家被迫陷入信息不对称的另一端，信用监管权责部门更难以解释和质疑算法信用评级结果的准确性。人工智能辅助的信用监管可能会造成信用歧视、评级错误等后果，进而使信用信息丧失可参考性，违背信用监管的初衷。算法低透明度的问题不仅导致了信用主体知情权和隐私权受损，也使得人工智能抓取的个人信息真实性和准确性难以获得保证。自我规制方面，考虑到信用信息算法模型的复杂性和专业性，即使信用评价出现错误甚至歧视的结果，由于监管责任缺位，信用监管部门也难以发现且缺乏对此种错误修改的流程。外部监督方面，模型的复杂性阻碍了个人对评价过程和结果进行实质性监督。2.监管范围被征信机构规避以海量替代性数据代替信用信息进行个人信用评价，不仅可能侵犯信用主体的个人权利，更有可能使得征信机构采取绕开监管机构监管，并可参见 征信业管理条例 第 25 条：“信息主体认为征信机构采集、保存、提供的信息存在错误、遗漏的，有权向征信机构或者信息提供者提出异议，要求更正。征信机构或者信息提供者收到异议，应当按照国务院征信业监督管理部门的规定对相关信息作出存在异议的标注，自收到异议之日起 20 日内进行核查和处理，并将结果书面答复异议人。经核查，确认相关信息确有错误、遗漏的，信息提供者、征信机构应当予以更正；确认不存在错误、遗漏的，应当取消异议标注；经核查仍不能确认的，对核查情况和异议内容应当予以记载。”冯慧敏：人工智能时代个人信用信息权益实现的法律缺位与补足45石河子大学学报（哲学社会科学版）第 37 卷银罚字 2020 28 号显示，鹏元征信的违法行为包括：未经批准擅自从事个人征信业务活动和企业征信机构任命高级管理人员未及时备案。http:/ 年 5 月 20 日访问。能产生以信息缺乏信用相关性为由进行监管抗辩的不利局面。2020 年 12 月 30 日，中国人民银行以鹏元征信“擅自从事个人征信业务活动”为由对其作出行政处罚没收 1917.55 万元违法所得，并处罚款。鹏元征信并未取得个人征信营业许可，其擅自开展征信业务活动的基础是其通过替代数据的获得开展征信业务，这侧面反映了替代数据的聚集利用已经具备了信用指示的功能，此种替代功能为征信机构逃避监管提供了可能。四、人工智能时代个人信用信息权益实现的法律回应为实现人工智能时代的个人信用信息权益保护，规范征信行业发展，促进个人信用信息作为数据要素有序流动，个人信用信息权益保护工作应在技术向规范靠拢和法律对技术约束的互促中展开。（一）替代数据采集利用的约束信用主体隐私权、知情权受到人工智能技术应用侵害的源头，在于征信行业在技术辅助下将数据的采集范围无序扩大。个人信息保护法 征信业务管理办法 等法律法规明确了个人信息的内涵，设定了个人信用信息的基本要素。为提高信用服务行业的精准有效性，扩大信用数据的来源范围，替代信用数据采集的合法性并未得到否定。替代数据主要是指在传统信贷场景产生的信用信息之外，个人通过社交、购物等互联网平台产生的大量非结构化数据。网络安全法 数据安全法 关于数据分类分级的工作安排2162，是替代性数据的采集和利用管理的有效参考。具体路径为，制定行业标准，对不同类别、不同敏感度的替代数据进行区别采集。违法记录、社保缴纳信息、住房公积金信息、公民学籍学历等政务信息，可在满足条件的前提下逐步向市场征信主体开放，并进行常规监管。较为敏感的互联网消费等有关信息，则应在坚持告知同意规则基础上的限制采集。高敏感度信息，如医疗信息、区域信息等，则应禁止作为信用信息和替代性信用信息进行采集。信用信息采集区分标准的设定，还应考量标准的实效性、时效性、动态调整性等问题。分类分级规范之外，在采集环节，应将告知同意原则落实于数据的初始采集端，并坚持替代数据采集的“必要原则”，合理划定替代数据的采集边界。除基于“最大公约”原则规范数据采集的必要范围以外，在征信机构、授信机构、行业协会、数据管理部门和监管部门的协调下，建立清晰准确、灵活动态的替代数据采集目录，将信用数据指标体系建设嵌入数据管理的大框架下，将有利于信用信息价值开发和安全保障双重目标的实现。在应用环节，除对替代数据使用的潜在风险进行评估及预防外，数据利用人面向用户的特定通知要求将有效限制对替代数据的不当利用。例如，当替代数据被应用于拒绝信贷、提高服务价格等不利于信用主体的场合时，替代数据利用人应向信用信息主体明示信息来源、信息内容及信息对决策的影响程度，以保障信息主体知情权、异议权的实现。（二）信用算法透明度的提升维护信用主体知情权与增强信用信息收集处理机制透明度建设相向而行。算法的可靠性、透明性、可解释性及可问责性22102问题，直接决定了应用人工智能进行数据处理利用的有效性、合法性，进而影响信用主体实体和程序性权利的实现。人工智能算法透明度的提升，以赋予信用主体算法解释请求权和增强第三方对算法设计运行的外部监督为有力途径。增强算法透明的关键手段在于赋予信用主体算法解释请求权。该解释请求权表现为，当信用主体有理由认为信用服务机构形成信用报告所依赖的算法产出了不合逻辑的评价结果，或有理由认为算法本身存在歧视性评价等问题时，其有权在提供一定支持证据的基础上，通过法定渠道要求相关机构，对其所运用的算法设计方式、算法运行流程、评价演算过程以及算法所依赖的数据集进行解释及说明。信用主体算法解释请求权，可为黑箱式算法歧视的修正提供监督渠道和改进空间。具体权利行使和制度运行模式的建设，可参考欧盟 通用数据保护条例 中的以个体赋权为核心的算法治理体系231425。即在立法层面上对特定信用主46第 4 期体的算法解释请求权予以保障，明确该请求权的行使对象及其未能履行解释义务的法律责任后果。当然，该算法解释请求权的实际效果仍受到算法目的与法律目的存在错位、算法解释与理解有一定专业性要求的限制，但是该权利的设置与保障仍是增强算法透明度的可行性尝试。增强算法透明度措施的有效落实，还在于监督主体尤其是外部监督主体对算法权力的全方位监督。应支持学术性组织和社会非营利机构的适当介入，加强第三方监管力量。德国出现了以“监控算法”为活动目的的社会组织，该组织由算法专家、媒体人等社会人士组成，其活动宗旨为评估算法决策对公共生活的影响程度。在手段方面，该组织主要考察算法用户间访问协议的合理性、数据管理活动的道德性和数据利用的高效性与采集的必要性、数据利用者合规管理活动的专人负责性、以及数据访问的留痕准确性2443。在借鉴德国民间团体监督模式的同时，算法设计过程中，也应考虑引入社会专业人士，对算法设计过程和决策部署进行监督2529。（三）惩戒修复机制的修构在以失信惩戒为内容的算法规制中，应坚持以管控惩戒不当风险为核心原则。首先，应剔除信用算法的道德目的，警惕将以失信惩戒作为地方社会品德提升惯用手段的不当做法，防止失信惩戒手段的滥用。其次，要提升信用算法的精确度、塑造信用算法失信惩戒的谦抑性，尽量保障市场主体的交易自由以激发市场活力。再次，应根据类型化的失信场景，匹配类型化的信用算法。最后，信用算法应当确保惩戒手段与风险的匹配，即惩戒手段必须是能够管控该风险的手段中对相对人限制最小的手段。规制算法之外，提升算法利用在失信惩戒中的效能更值得关注。人工智能工具能够通过算法模型综合分析失信行为主体的失信原因。基于此，可分别对因履约能力不足等客观原因遭受惩戒的失信主体，和出于主观恶意不愿履约的失信主体，分别适用不同的惩戒措施。对于后者，考虑到其行为习惯的高风险性，惩戒措施除应覆盖金融信用领域，也应涵盖与失信行为相关的从业范围，以实现实质性风险监测。此外，失信惩戒程度和联合惩戒范围也应根据失信行为人的行为性质和影响程度进行精准划分，人工智能工具对失信行为进行的综合研判，为失信惩戒监管效率的提高提供参照。信用修复机制的建立，应以“数字正义原则”为前提2698，以“技术治理路径”为手段2758。信用修复制度建设的关键一方面在于落实信用修复的实效性，另一方面则在于提升信用修复的规范性。针对前者，应切实保障信用主体类似“被遗忘权”的实现和监督权的行使。为此，应首先在数据输入端将相关信息进行清除，并剔除以该数据为中心进行计算的特定勾连关系。其次，应保障信用主体信用修复异议权。信用主体对信用修复工作有异议的，可以提出申请。相关部门在参考大数据基础上算法对该信用主体修正失信行为成效的评估结果后，在一定范围和程度内依法开展信用修复工作。针对后者，应使用互联网检测工具对谎称信用修复的非法经营活动进行实时监测，并及时断开其网络接入，减少非法经营活动对公众认知的误导。（四）提供者和用户监管基本原则的引入提供者和用户监管是应对高风险人工智能应用的最后屏障。肇始于 2021 年 4 月的欧盟 人工智能法案 备受关注。该法案基于风险分析的方法，为不同类型的人工智能系统施加不同的要求和义务。针对高风险人工智能工具，欧盟人工智能法案将“确保人类对于 AI 系统在使用时的有效监管”作为最重要的核心监管措施。此处“人类”是指提供者和用户，而其可以采取的监管措施，包括监督系统运作，认识到系统的“自动化偏见”，对系统的输出进行正确解释，在特定情况下拒绝使用系统输出，干预（如终止）系统运行等。在信用指标成为社会交往关键评价标准的今天，信用场景成为人工智能利用的高风险领域。基于风险管控的基本要求和信用信息保护的目的，人工智能工具在信用场景中的使用，应防止或尽量减少因算法失控、数据污染、数据泄露而导致的信用信息权益受损风险。综上所述，人工智能工具不仅为社会信用体系的构建提供了便捷化、智能化、精准化的技术支持，也可能为个人信用信息权益的实现带来风险。为此，减少人工智能工具使用的因噎废食做法无助于社会信用管理事业的发展。约束替代数据的采集过程，提升信用算法的透明度，同时修构惩戒修复机制，才能够为保障个人信用信息权益实现冯慧敏：人工智能时代个人信用信息权益实现的法律缺位与补足47石河子大学学报（哲学社会科学版）第 37 卷提供制度基础。这对营造良好的信用环境，健全诚信建设长效机制，助力社会信用体系建设等也有着重要意义。参考文献1顾男飞，张帆.利用与保护:基于信息可携权的个人信用信息采集机制J.征信，2022，(10).2SolonBarocas&AndrewD.Selbst，BigDatasDisparateImpact.California Law Review，Vol.104，Issue 3(2016).3田昆，孙权，许靓.大数据时代市场化个人征信行业个人信息保护问题浅析J.征信，2021，(7).4王征宇.美国的个人征信局及其服务M.北京:中国方正出版社，2003.5陈国栋.数字时代失信惩戒法治化的新进路：从制裁失信到管控风险J.比较法研究，2023，(2).6张新宝，张馨天.民法典 背景下的失信被惩戒人人格权的保护J.法律适用，2020，(21).7杜成胜.失信联合惩戒中的公民权利保障研究J.甘肃政法大学学报，2023，(2).8张晓冉.我国个人失信惩罚的规范研究：类型、适用及其限制J.电子政务，2019，(2).9马龙.“司法+大数据”控制视域下失信被执行人信用修复研究J.法律适用，2023，(2).10牛静，莎木央金.智能时代个人隐私的保护困境与社会性视角转向J.社会科学辑刊，2023，(1).11王天恩.智能化时代隐私新问题及其应对J.社会科学家，2023，(3).12Mayer-Sch nberger，V.，&Cukier，K.Bi