欧盟数字科技伦理监管：进展及启示.pdf

欧盟数字科技伦理监管院进展及启示肖红军张丽丽阳 镇摘要院随着数字技术的迅猛发展袁数字科技伦理问题日益凸显遥欧盟已经形成相对完善的数字科技伦理监管政策体系袁并设置相关监管机构袁具有一定的借鉴意义遥对欧盟数字科技伦理监管进展进行分析后发现院第一袁欧盟数字科技伦理监管主体包括立法层的欧盟委员会尧欧洲议会尧欧洲理事会曰在制度执行层袁主要包括欧盟和成员国相应的数字科技伦理监管机构曰行业组织和协会则发挥着提供意见和咨询等作用遥第二袁监管政策布局以人工智能和大数据为重点领域袁重点议题主要面向人工智能的可信赖与负责任式创新尧数据安全与隐私保护尧互联网安全遥第三袁监管模式与机制为欧盟统一框架引领下成员国各具特色的双重监管袁注重综合性监管政策与细分监管政策的配合且多元社会主体共同参与其中遥欧盟相关实践对中国开展数字科技伦理监管的启示在于院在制度设计上袁要注重软性约束与硬性监管相结合尧全局性监管与专门性监管并行袁加强双边和多边伦理监管制度建设曰在监管模式上袁要广泛吸纳多元主体参与数字科技伦理监管政策的制定袁形成中央和地方一致且协调的双重监管袁并设置相应的伦理监管机构来保障制度的有效执行曰在社会生态赋能上袁要加大数字科技领域的创新投资力度袁推动数字科技的广泛应用和协调发展袁加强国际合作与交流遥关键词院数字科技曰科技伦理曰监管模式中图分类号院F49文献标识码院A文章编号院1003-7543渊2023冤07-0073-17基金项目院国家社会科学基金重大项目野国企混合所有制改革的实现路径选择研究冶渊20&ZD073冤曰中国社会科学院国情调研重大项目野数字科技伦理监管制度调查研究冶渊GQZD2023009冤曰中国社会科学院登峰战略企业管理优势学科建设项目遥作者简介院肖红军袁中国社会科学院工业经济研究所研究员尧博士生导师曰张丽丽渊通信作者冤袁北京市科学技术研究院数字经济创新研究所副研究员曰阳镇袁中国社会科学院工业经济研究所助理研究员袁清华大学技术创新研究中心兼职副研究员遥21 世纪以来袁数字经济作为一种新的经济形态在全球迅猛发展袁并逐步成为中国经济高质量发展的重要引擎遥以人工智能尧大数据尧区块链等为代表的数字科技是企业数字化转型和国家经济发展的重要技术支撑遥从国际经验来看袁欧盟是较早开展数字科技发展战略布局的地区袁为了促进数字科技的快速发展袁先后发布了叶欧洲人工智能战略曳叶人工智能白皮书曳叶欧洲数据战略曳叶欧洲新工业战略曳叶投资未来院欧洲 2021要2027 数字化转型曳叶2030 数字罗盘院欧洲数字十年之路曳等文件袁对数字科技的发展进行部署和规划袁以降低对美国等数字科技领先国家的依赖袁将数字主权牢牢握在手中遥随着数字化转型进程的不断深入袁数字科技向经济和社会的渗透程度也在不断加深遥在数字科技为人类生产尧生活带来智能化和便捷化的同时袁个人隐私泄露尧数据安全性尧算法黑箱尧深度伪造尧信息茧房以及数字鸿沟等伦理问题也随之出现袁引起政府尧学术界等的广泛关注和探讨袁面向数字科技伦理监管的重要性日益凸显遥欧盟对数字科技的伦理监数字经济研究专栏RESEARCH COLUMN OF DIGITAL ECONOMY73管开始得较早袁制度体系建设相对完善袁对于中国数字科技伦理监管具有重要的借鉴意义遥早在1995 年欧洲议会和欧盟理事会出台的叶保护个人享有的与个人数据处理有关的权利以及个人数据自由流动的指令曳就对数据安全和个人隐私问题提出了相关监管要求袁再到叶一般数据保护条例曳叶可信人工智能伦理准则曳叶人工智能法案渊草案冤曳等一系列监管政策的出台和实施袁欧盟构建了相对严格和完善的数字科技伦理监管制度体系袁形成了以政府为主导尧多方利益主体共同参与的监管模式袁并设置了相应的监管机构来保障数字科技伦理监管制度的有效落地遥系统分析欧盟数字科技伦理监管领域主要主体及其发挥的作用袁数字科技伦理监管的政策布局尧重点议题尧模式和机制尧机构设置等袁对中国加强数字科技伦理监管尧推动经济和社会高质量发展具有重要意义遥从既有对数字科技伦理监管的研究来看袁学者们对欧盟尧美国尧英国尧日本等国家的数字科技伦理监管情况的研究较为丰富袁且多属于制度建设情况尧动态分析和经验借鉴层面遥一是从数字科技规制与监管的总体思路方面展开分析遥贾开尧郭雨晖尧雷鸿竹咱1暂和章小杉咱2暂对欧盟和美国关于算法歧视的法律规制模式进行了分析和比较袁其将欧盟的模式归纳为以数据保护为中心袁美国的模式为以算法责任为中心袁并在此基础上提出了中国的算法歧视规制之路遥郭丰尧嵇叶楠尧黄潇怡咱3暂和林美玉尧王琦咱4暂对欧盟的 5G 相关监管法律和指导性文件进行了介绍与分析袁并从监管模式尧推动机制尧保障措施等方面提出了欧盟5G安全监管的路径和举措袁对中国 5G网络安全监管具有一定的借鉴意义遥宋黎磊和戴淑婷咱5暂对中尧美尧欧三个区域的人工智能治理体系进行了归纳和比较分析袁其中袁中国在负责任的人工智能理念下不断加强制度体系建设袁美国则在经济发展尧技术创新尧伦理监管三者之间实现多方利益主体平衡的治理袁欧盟作为人工智能伦理监管的领先者对全球的治理体系具有影响力遥三者可以尝试通过国际合作平台尧民间行为体等媒介来加强合作监管遥二是按照人工智能渊算法冤尧大数据尧区块链等数字技术类别来分别阐述和分析其存在的伦理问题尧监管政策体系的建设情况等遥其中袁对于人工智能技术伦理监管的研究主要关注强尧弱人工智能等不同发展阶段所涉及的伦理问题以及风险袁并提出了相应的防范措施咱6暂遥也有部分学者研究了中国现行的算法伦理监管法律框架和制度袁探索算法监管与算法治理的多重监管与治理模式咱7-8暂遥胡鹏鹏和翟相娟咱9暂就区块链技术给个人信息删除权带来的伦理问题提出了宏观与微观监管进路遥三是针对数字科技应用中的重点企业类型袁探索数字科技伦理监管的主要范式尧实现模式与推进路径袁包括针对互联网平台企业的监管范式重塑咱10暂尧人工智能企业道德伦理监管咱11暂尧数字企业社会责任治理咱12暂以及平台情境下的企业社会责任治理内容尧维度与模式的全方位重塑咱13暂等多层次研究遥四是针对一些国家或地区发布的某一项或几项数字科技伦理监管政策的内容进行具体分析与研究遥金晶咱14暂以欧盟的叶一般数据保护条例曳为重点内容袁对欧盟个人数据保护政策定位尧规则构建尧司法推动以及风险和展望等进行了系统阐述和分析遥曾雄等咱15暂尧王伟洁等咱16暂以及金玲咱17暂对叶人工智能法案渊草案冤曳的相关内容进行了介绍袁指出欧盟在人工智能伦理监管上试图取得促进技术创新和加强伦理监管之间的平衡袁弥补在人工智能技术上的短板袁以实现数字主权的战略目标遥通过梳理现有数字科技伦理监管领域的相关文献袁发现学者们停留在对欧盟尧美国尧英国尧日本等国家的伦理监管法律法规以及监管模式等的介绍袁结合中国数字科技伦理监管状况袁提出完善中国数字科技伦理监管制度体系以及加强数字科技伦理监管的政策建议袁缺少对欧盟数字科技伦理监管制度体系尧监管模式和机制等方面的系统性深入分析遥基于此袁本文对欧盟数字科数字经济研究专栏RESEARCH COLUMN OF DIGITAL ECONOMY74技伦理的监管主体尧政策布局尧重点议题尧监管模式和机制进行系统性和较深入的剖析和总结袁并在此基础上提出有助于完善中国数字科技伦理监管的启示和经验借鉴遥一尧欧盟数字科技伦理监管主体与政策布局鉴于域内的大型数字企业较少袁欧盟数字科技伦理的监管主体主要是政府机构尧社会组织以及行业协会等袁其监管政策的形成主线是政府牵头袁其余主体以提交研究报告尧修改建议以及对相关政策进行测试等形式提供相应的支撑遥在数字科技伦理监管的政策布局上袁以人工智能和大数据为重点领域袁数字科技伦理监管的政策体系较完善袁其中叶可信人工智能伦理准则曳和叶一般数据保护条例曳较有代表性遥对于区块链和互联网的伦理监管袁则侧重于具体应用领域的安全性尧自由性和平等性遥渊一冤欧盟数字科技伦理监管的核心主体及其监管方式欧盟对于数字科技的伦理监管一直走在前列袁鉴于域内的大型数字企业较少袁其主要监管主体是政府机构尧社会组织以及行业协会等遥按照不同监管主体在数字科技伦理监管中所发挥的作用和监管方式袁将其划分为立法层尧执行层尧行业组织和协会三个层面袁各类数字科技伦理监管主体及其监管方式具有较大的差异性遥1.立法层院欧盟委员会尧欧洲议会与欧洲理事会欧盟数字科技伦理监管相关法律法规的核心立法机构主要有欧盟委员会尧欧洲议会和欧洲理事会遥按照欧盟现行的立法程序袁三者在其中发挥着不同的作用遥一般而言袁一项数字科技伦理监管立法最早由欧盟委员会提出袁草案形成之后交由欧盟理事会审议袁最终由欧洲议会决定是否通过袁如果通过袁相关草案将在欧盟公报公布20 天后生效袁经过 2 年的过渡期之后正式实施遥欧盟委员会主要发挥制定数字科技伦理监管政策并设立伦理委员会等作用遥欧盟委员会根据欧盟域内的数字科技发展状况及战略规划来制定相关科技伦理监管政策袁将科技伦理监管的思想尧原则以及措施等内嵌到数字科技相关发展战略和资金支持计划之中袁并设立了科技伦理委员会以对数字科技伦理监管提供指导和咨询遥具体而言袁在数字科技伦理政策的制定方面袁欧盟委员会以欧盟核心价值观为指导袁针对人工智能尧算法以及大数据等数字技术所面临的伦理问题制定相应的监管政策袁并在欧盟全域内推行遥欧盟委员会出台的伦理监管政策以叶可信人工智能伦理准则曳叶人工智能法案渊草案冤曳叶一般数据保护条例曳叶数字服务法案曳等较有代表性袁在数字科技伦理监管中发挥着重要的作用遥欧盟将数字科技伦理监管的相关思想尧原则以及措施等内嵌到战略规划和资金支持计划中袁例如启动于1984 年的野欧盟科研框架计划冶在野第七框架计划冶中提出了负责的研究与创新渊Responsible Re鄄search and Innovation袁RRI冤理念袁将科技伦理理念从科技产品应用扩展到科技的创新与研究中遥叶欧洲人工智能战略曳提出要在欧盟核心价值观与叶欧盟基本权利宪章曳的基础上袁确立合适的人工智能伦理与法律框架遥叶人工智能协调计划曳中明确了欧盟人工智能的两大关键原则是设计伦理和设计安全遥叶欧洲数据战略曳提出要建立包含公共数据的使用与共享尧个人数据的使用以及网络安全等领域的统一数据治理框架遥欧盟委员会推动设立欧盟层面和成员国层面的伦理监管部门和咨询专家组等袁以制定监管准则或提出数字科技伦理监管的建议等遥欧盟委员会早在 1997 年就组建了欧洲科学和新技术伦理专家组袁就科技伦理的政策制定和立法等方面提供建议遥为了更好地制定数字科技伦理监管规则袁2018年 6 月欧盟委员会在叶欧洲人工智能战略曳框架下成立了人工智能高级专家组袁就人工智能的发展机遇尧中长期风险等问题提供政策建议袁并负责起草人工智能规范性文件遥欧盟数数字经济研究专栏RESEARCH COLUMN OF DIGITAL ECONOMY75据保护委员会是欧盟数据保护的中心袁也是成员国内部数据保护机构合作机制的关键遥在成员国层面袁数字科技伦理监管机构有相应的设置袁例如德国于2018 年组建了数据伦理委员会袁对数据保护等伦理问题制定相关原则和提供监管建议遥欧洲议会和欧洲理事会制定和审议数字科技伦理监管的相关法律法规遥首先袁欧洲议会在数字科技伦理监管领域所发挥的作用主要体现为制定数字科技相关伦理监管法律袁并在欧盟范围内得到推行遥早在 2016 年袁欧洲议会法律事务委员会就针对机器人的伦理监管发布了叶就机器人民事法律规则向欧盟委员会提出立法建议的报告草案曳和叶欧盟机器人民事法律规则曳袁提出了对机器人工程师伦理准则尧机器人研究伦理委员会伦理准则以及使人类免受机器人伤害的基本伦理原则等遥2019 年 1 月袁欧洲议会的产业尧研究与能源委员会发布报告袁呼吁欧盟针对人工智能和机器人制定全方位的欧盟产业政策袁涉及网络安全尧人工智能和机器人的法律框架尧伦理治理等遥其次袁欧洲议会和欧洲理事会对欧盟委员会提出的数字科技监管政策或法案进行审议并提出相应的修正案或建议袁有助于相关监管政策的进一步完善遥例如袁2017 年 10 月袁欧洲理事会指出袁欧盟应具有应对人工智能新趋势的紧迫感袁确保高水平的数据保护尧数字权利和相关伦理标准的制定遥2021 年 4 月 20 日袁欧洲议会发布了拟议的叶人工智能法案渊草案冤曳的修正案遥2.制度执行层院相关伦理监管机构欧盟为了保障数字科技伦理监管相关政策的有效推行和域内执行的一致性袁设置了欧盟整体层面和成员国层面相应的监管机构遥在人工智能伦理监管机构的设置上袁叶人工智能法案渊草案冤曳中明确要建立人工智能委员会来推动法案的实施和加强成员国之间的交流袁保证欧盟全域内法案执行的统一性和协调性遥在成员国层面袁设置通告机构来发挥对人工智能产品风险等级的评估尧监管以及信息传递等职能遥在数据伦理监管机构设置方面袁叶保护个人享有的与个人数据处理有关的权利以及个人数据自由流动的指令曳叶一般数据保护条例曳均提出要在欧盟构建两个层级的数据保护监管机构袁并明确了其权力和责任袁以确保在欧盟区域内相关监管制度的有效执行遥在区块链伦理监管机构设置方面袁区块链伦理问题主要与金融领域的虚拟货币尧数据安全和隐私保护等关联遥除设置数据伦理监管机构外袁欧盟拟设立反洗钱机构袁并于 2024 年开始运作袁成员均来自各成员国的相关监管机构袁以实现一系列反洗钱指令执行的协调性和一致性袁降低跨境虚拟货币流动中的风险遥在互联网伦理监管机构的设置方面袁2019 年欧盟正式实施的叶关于欧洲网络与信息安全局信息和通信技术的网络安全曳的目标之一就是将欧盟网络和信息安全署渊ENISA冤设置为永久性机构袁并对其职能进行重新界定袁提出了建立网络安全认证制度尧对跨国境的网络安全事故进行联合处理尧提高公民的网络安全意识等全域性的网络安全监管要求遥3.行业组织和协会行业组织和协会在欧盟数字科技伦理监管中主要发挥为数字科技伦理监管政策制定提供支持性意见尧推出行业示范性规则尧促进伦理监管政策实施等作用袁其中具有代表性的行业组织有人工智能高级专家组尧欧洲人工智能联盟在线论坛尧欧洲绿色数字化联盟等遥人工智能高级专家组由欧盟委员会在叶欧洲人工智能战略曳框架内于 2018 年 6 月成立遥该专家组由学术界尧企业界和民间的 52 位专家代表组成袁就人工智能发展机遇尧中长期风险等问题提供政策建议袁并负责起草人工智能规范性文件遥叶可信人工智能伦理准则曳就是由人工智能高级专家组撰写并提交欧盟委员会发布的袁具有重要的参考价值遥欧洲人工智能联盟在线论坛是由欧盟委员会牵头组建的在线论坛袁其既可以广泛动数字经济研究专栏RESEARCH COLUMN OF DIGITAL ECONOMY76员社会各界参与到人工智能相关的主题讨论中袁又可以协助人工智能高级专家组的政策制定和提供政策反馈遥 随着时间的推移袁欧洲人工智能联盟在线论坛越来越成为欧洲人工智能领域社会各界的交流沟通平台遥叶人工智能法案渊草案冤曳经过了广泛的意见征询以及专家论证阶段袁历时两年后出台遥 在这个过程中袁欧洲人工智能联盟在线论坛作为一个平台袁先后组织 4 000 多名利益相关者就人工智能的技术和社会影响进行辩论袁并最终决定每年召开一次人工智能大会遥除了加强传统的数字科技伦理监管之外袁行业组织还将数字科技伦理延伸至环境目标的实现上遥欧洲绿色数字化联盟的成立宗旨就是将环境保护和数字科技结合起来袁旨在推动欧盟实现数字化转型的同时袁也实现实施气候变化倡议的目标遥欧洲绿色数字化联盟是由德国电信尧Orange 和西班牙电信在内的 26 家 ICT 领域企业的高管们组成的一个联盟袁沃达丰集团尧诺基亚和爱立信的领导人也参与其中袁目标是围绕野更绿色冶的数字技术以及更节能的服务的投资与开发袁帮助欧洲科技行业野变得更加可持续尧循环和零污染冶遥此外袁欧洲政策研究中心尧非营利组织尧欧洲数据创新委员会等也承担一定的伦理监管政策制定和相关报告的研究等工作袁对推动欧盟数字科技伦理监管的合理性尧重复性尧一致性尧互动性等产生了一定的影响遥例如袁欧洲政策研究中心于 2022 年 9 月 14 日发布了叶掖人工智能法案业和新兴的欧盟数字保护法曳报告袁针对叶人工智能法案渊草案冤曳与欧盟其他数字法律法规之间是否存在重叠尧不一致性以及差异等进行了分析遥欧洲数据创新委员会是在叶数据治理法案曳推动下设立的袁其主要向欧盟委员会提供数据保护领域的相关建议和咨询袁推动跨部门数据的流动尧使用尧共享的治理与规范制定等工作遥渊二冤欧盟数字科技伦理监管的政策布局1.面向人工智能伦理监管的政策布局欧盟高度重视人工智能伦理监管政策制定与布局袁以确保人工智能技术朝着有益于人类的方向发展遥在人工智能伦理监管政策布局中袁欧盟呈现的特点是以实际应用中出现的问题为引导袁以机器人伦理监管为开端袁逐渐覆盖人工智能的研发和应用等领域袁既内嵌到人工智能发展战略中袁又专门制定相关的伦理监管政策或法规遥欧盟将伦理监管的相关内容内嵌于人工智能发展战略中袁以实现对人工智能伦理的野软冶监管和原则性指导袁并对后续伦理监管政策的出台起到推动和引导作用遥叶欧洲人工智能战略曳叶人工智能协调计划曳叶人工智能白皮书曳等战略性文件最具代表性袁试图构建欧盟共同的人工智能监管框架袁为人类提供可信任的人工智能系统遥叶欧洲人工智能战略曳将对人工智能的伦理监管作为人工智能发展的目标之一袁即在欧盟现有价值观和叶欧盟基本权利宪章曳下袁确定人工智能伦理和法律框架遥叶人工智能协调计划曳则指出人工智能技术的发展要符合伦理规范袁并进一步提出2019要2020 年要建立人工智能伦理监管框架遥叶人工智能白皮书曳指出要构建欧洲共同人工智能监管框架袁对人工智能按照风险等级实现分类监管袁以减少人工智能对社会的潜在风险为目标遥在人工智能伦理监管政策的布局方面袁欧盟开始对机器人进行伦理监管袁主要监管政策分布领域为人机共存尧如何应对机器人对人类的伤害以及机器人技术工程师伦理等遥 2017 年 2 月袁欧洲议会通过了叶欧盟机器人民事法律规则曳袁该规则中包含机器人监管的总体原则性规定和伦理道德规范袁也包含适用于无人交通工具尧护理机器人等细分领域的法律规定遥同该项规则一起发布的指导性准则还包括叶机器人技术工程师伦理行为准则曳叶研究伦理委员会准则曳等以供未来立法作为具体参照遥在叶欧洲人工智能战略曳叶人工智能协调计划曳叶人工智能白皮书曳等重要政策文件的指导下袁专门针对人工智能技术的伦理监管数字经济研究专栏RESEARCH COLUMN OF DIGITAL ECONOMY77准则相继出台遥 2019 年 4 月 8 日袁欧盟委员会出台叶可信人工智能伦理准则曳和叶建立以人为本的可信人工智能曳袁形成了包含可信人工智能的基础原则尧可信人工智能的要求和实现手段以及评估机制等三个部分的欧盟人工智能伦理准则框架遥2021 年 4 月21 日袁欧盟委员会发布的叶人工智能法案渊草案冤曳是全球范围内第一份综合性人工智能监管法案袁在彰显欧盟人工智能伦理监管标准和有效应对不同风险等级的人工智能等方面具有全球标杆意义遥2.面向大数据伦理监管的政策布局自 20 世纪 70 年代开始袁欧盟各成员国就分散制定关于数据安全或隐私保护相关的法规和条例等袁具有代表性的是叶有关个人数据自动化处理之个人保护公约曳叶保护个人享有的与个人数据处理有关的权利以及个人数据自由流动的指令曳叶一般数据保护条例曳等袁逐渐构建起了欧盟域内相对严格的保护个人数据主权和隐私的监管规则体系遥欧盟关于大数据伦理监管规则政策的布局在全球具有标杆性地位袁叶一般数据保护条例曳被众多国家或地区当作数据隐私政策制定的参照袁深刻影响着全球大数据伦理监管规则的方向遥欧盟成立之后袁为了统一各成员国对数据安全和隐私保护的监管法规袁欧洲议会和欧盟理事会于 1995 年通过了叶保护个人享有的与个人数据处理有关的权利以及个人数据自由流动的指令曳袁构建以数据主体同意为核心的数据处理合法化标准袁同时也赋予个人对数据的知情权尧拒绝权和删除权等基本权利袁并通过行政及司法救济来确保个人的数据权利不受侵犯袁该指令的发布标志着对个人数据保护和伦理监管进入野大一统冶的欧盟法时代遥 2018 年 11 月 21 日袁欧洲数据保护专员公署发布了叶针对欧盟机构和机关的个人数据泄露报告指南曳袁在叶第渊EU冤2018/1725号条例曳的基础上袁建立了个人数据泄露的评估和报告机制遥2018 年欧盟颁布的叶一般数据保护条例曳是一部个人数据保护法规袁数据所有者被赋予携带权尧删除权以及申请司法救济尧侵权补偿等权利袁并确立了个人数据跨境流动的野充分性认定冶标准等遥 2021 年欧盟发布的叶电子隐私条例渊草案冤曳是对数据伦理监管的进一步细化袁对电子通信服务领域的个人数据和隐私保护作出了更加具体的要求袁将对电子通信内容和电子通信元数据的保护放在了重要位置遥 2022 年欧盟相继发布了叶数据法案曳叶数据治理法案曳叶数字服务法案曳以及叶关于掖一般数据保护条例业下的个人数据泄露通知曳最终版等袁分别针对非个人数据流动和使用尧数据共享和再利用尧不同类型数字平台服务企业以及数据泄露等重要细分领域或主体的数据伦理问题提出了具体的监管措施袁是对叶一般数据保护条例曳中空白的填补袁也是针对新问题或新主体提出的新监管措施遥3.面向区块链伦理监管的政策布局作为一种新兴技术袁区块链技术体现着技术进步的价值取向袁代表着先进技术创新和共识可信遥然而袁区块链的去中心化以透明度为代价袁也存在损害个人信息安全的风险遥此外袁区块链的创新性尧去中心化尧匿名性尧不变性尧自动化等技术特征引发了被遗忘权尧可携带权等与个人信息权利存在冲突的伦理问题遥欧盟对区块链的伦理监管主要从个人信息安全尧隐私保护以及虚拟货币等角度进行袁相关监管政策主要散落在大数据伦理监管政策和反洗钱监管政策中遥欧盟具有代表性的区块链伦理监管政策包括叶欧盟反洗钱第五号指令曳和叶欧盟反洗钱第六号指令曳袁这两项反洗钱指令的生效将从事虚拟货币兑换服务的主体以及钱包托管服务商等纳入反洗钱监管袁并且明确了其尽职调查的内容和措施袁将欧盟的反洗钱和反恐金融规则扩展到了虚拟货币领域遥欧盟各成员国根据反洗钱指令的要求袁陆续完善国内的制度和机构设置遥4.面向互联网伦理监管的政策布局网络安全是欧盟数字化和欧洲互联的基石袁数字经济研究专栏RESEARCH COLUMN OF DIGITAL ECONOMY78互联网伦理问题主要集中在安全性和隐私保护领域遥目前袁欧盟已经构建起以叶关于欧洲网络与信息安全局信息和通信技术的网络安全曳叶关于在欧盟全境实现高度统一网络安全措施的指令曳叶欧盟电子通信准则曳渊European Electronic Com鄄munications Code袁简称 EECC冤以及叶网络弹性法案曳等政策为主的伦理监管制度框架遥 2016 年发布的叶网络与信息系统安全指令曳渊后被叶关于在欧盟全境实现高度统一网络安全措施的指令曳替代冤是欧盟最早关于网络安全的监管政策袁具有统领性的意义遥该指令要求各成员国制定网络安全战略袁将叶网络与信息系统安全指令曳转化为国内法袁并加强成员国之间的合作与交流遥2019 年正式实施的叶关于欧洲网络与信息安全局信息和通信技术的网络安全曳则是将欧盟网络和信息安全署设置为永久性机构袁提出了建立网络安全认证制度尧对跨国境的网络安全事故进行联合处理尧提高公民的网络安全意识等全域性的网络安全监管要求遥2022 年 9 月15 日发布的叶网络弹性法案曳针对具有数字元素的产品在整个生命周期内引入强制网络安全要求袁以保护消费者和企业免受安全功能不足产品的影响袁监管对象包括制造商尧进口商尧经销商等数字产品产业链中的多个主体遥该法案是欧盟第一部针对数字产品制造商实施的网络安全立法遥 2023 年正式生效的叶关于在欧盟全境实现高度统一网络安全措施的指令曳在叶网络与信息系统安全指令曳所包含的监管实体基础上袁将数据服务尧关键产品制造尧邮政快递等主体纳入监管范围袁细化了网络安全风险管理的相关要求袁完善了国际合作机制遥至此袁欧盟形成覆盖网络与信息系统安全尧风险管理尧安全事故跨境联合处理尧数字产品全链条安全等多个领域的政策体系袁成为保障欧盟互联网安全与伦理监管的重要政策依据遥除了互联网整体层面的伦理监管政策外袁欧盟还专门针对 5G 网络安全制定了监管政策以应对相关伦理问题遥其中袁叶5G 网络安全建议曳明确了 5G 网络安全相关制度建设和具体路径袁以确保欧盟 5G 网络的安全性遥在该建议的统领下袁欧盟相继配合出台了叶5G 网络安全风险评估报告曳叶5G 网络威胁视图曳叶欧盟 5G 网络安全风险消减措施工具箱曳叶EECC 安全措施指南曳叶5G 补充说明曳等指导性文件袁为通信服务提供商尧设备制造商缓解 5G 网络安全风险等问题提供了更加明确的技术指导遥欧盟形成了覆盖 5G 网络整体和具体细分领域的相对完善的政策监管体系袁为欧洲互联尧安全且自由地使用 5G 网络铺平了道路遥二尧欧盟数字科技伦理监管的重点议题欧盟在数字科技伦理方面的重点议题主要集中在人工智能和大数据领域袁尤其是人工智能领域遥欧盟数字科技伦理监管的重点议题主要包括算法的非歧视与透明性尧数据的安全性尧隐私保护尧数字鸿沟尧数字贫困尧自由尧公平性以及对特殊群体的关注等袁贯穿于人工智能尧大数据尧互联网尧区块链等领域遥渊一冤可信赖的人工智能与责任式人工智能创新人工智能领域相关的科技伦理监管是较早的袁欧盟一直强调在使用人工智能技术时袁需维护法律面前平等尧个人隐私尧言论自由以及参与文化和政治生活的权利袁尤其是对于少数群体而言遥欧盟围绕人工智能伦理的重点议题主要有个人隐私保护尧深度伪造尧算法歧视尧算法透明性等遥在个人隐私保护方面袁欧盟在人工智能发展战略性文件中建议资助更多关于标准化隐私设计方法的研究袁促进加密解决方案和保护隐私的机器学习袁从而确保高质量的数据可用于训练算法和执行人工智能任务而不侵犯隐私遥此外袁欧盟从最开始的叶欧盟机器人民事法律规则曳到叶可信人工智能伦理准则曳叶人工智能责任指令曳袁再到叶人工智能法案渊草案冤曳袁均将个人隐私保护放数字经济研究专栏RESEARCH COLUMN OF DIGITAL ECONOMY79在重要位置遥由于机器人和人工智能这一系统包含数据系统和数据流袁叶欧盟机器人民事法律规则曳提出要特别关注个人和敏感数据的机密性袁并出台了叶机器人技术工程师伦理行为准则曳和叶研究伦理委员会准则曳作为补充遥叶可信人工智能伦理准则曳中更是将尊重隐私作为可信赖人工智能的一项要求单独列出遥叶人工智能法案渊草案冤曳也将隐私保护和数据治理作为监管重要内容遥在人工智能以人为中心尧为人类服务方面袁欧盟在人工智能伦理监管领域一直将基本价值观贯穿其中遥叶欧盟机器人民事法律规则曳叶可信人工智能伦理准则曳等伦理监管政策中均包含相关内容的阐述袁确保人工智能以人为中心袁以人为中心包括尊重人的尊严尧平等尧公平尧公正尧不歧视以及自由等原则和价值观遥人工智能和机器人应以人为中心并发展为人类辅助的原则袁发挥人工智能的巨大潜力袁如在医疗尧自动驾驶等领域遥在人工智能的深度伪造方面袁叶人工智能法案渊草案冤曳中对深度伪造的概念及危害进行了阐述袁它是指利用人工智能技术渊包括机器学习和深度学习冤制作或合成的音频尧图像或视频内容袁让人以为是真实和原始的袁从而产生了虚假信息的传递袁这种深度伪造现象将引起公众对人工智能的不信任和社会的两极分化等遥在人工智能和算法的反歧视性方面袁人工智能和算法的歧视性体现在种族尧性别尧性取向以及年龄等方面遥叶可信人工智能伦理准则曳中强调应确保欧盟所倡导的关于保护公民基本人权的相关原则袁尤其是对于儿童尧妇女尧残障人士以及少数群体等的歧视遥叶人工智能法案渊草案冤曳也对降低算法的歧视性作了相关规定袁对欧盟现有反歧视相关法律法规作了补充遥在人工智能及算法的透明性方面袁由于人工智能系统和算法决策过程本身就具有不透明性袁又称为算法黑箱袁对其进行伦理监管以提高其透明性是极为重要的议题遥叶可信人工智能伦理准则曳中指出透明性是建立和维护可信赖人工智能的关键袁可信赖人工智能伦理透明度算法在使用过程中应该接受人类的监督袁其决定必须是可问责尧可质疑的袁并在相关情况下是可逆转的遥叶人工智能责任指令曳中提出高风险人工智能系统的开发和部署者具有归档尧记录保存以及提供相关信息的义务袁以满足后续证据披露的需要遥叶人工智能法案渊草案冤曳中对于深度伪造技术的透明度提出了相关要求遥 此外袁人工智能伦理监管机构也应具有独立性和透明度遥渊二冤数据隐私保护与数据安全欧盟对大数据领域伦理监管的重点集中在隐私保护尧数据安全尧数字鸿沟和数字贫困等领域遥其中袁隐私保护和数据安全主要集中在个人数据领域袁数字鸿沟和数字贫困关注的是不同区域尧不同群体平等性的伦理问题遥通过建立欧盟全域的数据保护机制袁可为欧洲数字单一市场的建设提供支持袁推动欧盟数字经济红利的加快释放遥在隐私保护和数据安全方面袁数据保护和基本隐私权利是欧盟公民数字建言平台野欧洲未来会议冶渊The Conference on the Future of Europe冤的主要议题遥野欧洲未来会议冶提出要将弱势群体保护尧算法歧视尧监视和言论审查等伦理问题纳入欧盟委员会未来的讨论中袁以促进数字领域的正义和法治咱18暂遥对个人数据的伦理监管更加重视隐私保护袁非个人数据则更加重视安全性和使用袁这既是叶欧洲人权公约曳叶欧盟基本权利宪章曳相关条款的体现袁也是伦理监管的重要议题遥叶保护个人享有的与个人数据处理有关的权利以及个人数据自由流动的指令曳叶第渊EU冤2018/1725 号条例曳叶一般数据保护条例曳叶电子隐私条例渊草案冤曳均对个人数据的安全和隐私保护提出了相关监管要求袁并对个人数据所有者相关的权利进行了明确袁主要包括携带权尧拒绝权尧删除权等权利袁且可以通过行政及司法救济来确保数据权利不受侵犯遥叶数据法案曳叶数据治理法案曳叶数字数字经济研究专栏RESEARCH COLUMN OF DIGITAL ECONOMY80服务法案曳等则分别针对非个人数据安全和使用尧数据共享和再利用尧不同类型数字平台服务企业等重要细分领域或主体的数据伦理提出了具体的监管措施袁其中袁公共部门机构持有的数据在使用时应该关注商业保密尧统计保密以及第三方的知识产权保护等遥在消除数字鸿沟和数字贫困方面袁欧盟各成员国之间在数字科技发展上存在一定的差异袁芬兰尧德国等少数国家的数字科技发展相对迅速袁应用覆盖率较高袁而其他国家则处于相对落后状态遥为消除数字鸿沟袁提高域内数据共享和使用水平袁欧盟强调建立数字单一市场袁为数据共享创造良好的法律环境袁如建立数据共享服务提供者通知制度等袁以提高数据共享主体的信任程度袁扫除成员国之间数据共享渊尤其是公共数据共享冤方面的障碍遥在不同年龄段和教育背景的公民之间以及已进行数字化转型和未参与数字化转型的企业之间也存在数字鸿沟遥为解决此问题袁欧盟加大对妇女和老年人等弱势群体的数字技能提升和教育措施等领域的投资袁从而消除数字鸿沟遥叶2030 数字罗盘院欧洲数字十年之路曳中提出欧洲 2030 年的战略愿景是建设一个野没有人掉队冶的数字社会袁力图弥补新的野数字鸿沟冶和野数字贫困冶遥渊三冤互联网安全与公平透明的数字市场欧盟将核心价值观和公民的基本权利贯彻到网络伦理监管之中袁强调公民使用网络的自由和公开性遥在传统现实空间中奉行的规范尧原则和价值观也应当同样适用于虚拟的网络空间袁基本权利尧民主和法治在网络空间中也应当受到保护遥网络空间是一个拥有自由和基本权利的空间遥欧盟将互联网的安全性放在重要位置袁现行的叶关于欧洲网络与信息安全局信息和通信技术的网络安全曳叶关于在欧盟全境实现高度统一网络安全措施的指令曳叶欧盟电子通信准则曳叶外国直接投资审查条例曳叶网络弹性法案曳等监管政策均强调网络的安全性和可靠性袁以保障欧盟数字化进程和其他数字技术的应用遥欧盟还将欧盟网络和信息安全署设置为永久性机构袁以确保全域内的网络安全遥此外袁欧盟专门针对 5G网络的安全性制定了叶5G 网络安全风险评估报告曳叶5G 网络安全建议曳叶5G 网络威胁视图曳叶欧盟 5G 网络安全风险消减措施工具箱曳叶EECC 安全措施指南曳叶5G 补充说明曳等相关监管政策和技术指导文件等遥除安全性外袁欧盟还关注隐私和信息保密以及特殊人群的权利等伦理问题遥在网络使用过程中袁每个人都有权对其通信和电子设备上的信息保密袁不受非法在线监视尧非法跟踪或拦截措施的影响袁有效保护通信免受未经授权的第三方访问袁禁止非法身份查验和非法保留活动记录等遥欧盟关注儿童和青年的网络使用权利袁保护所有儿童和青年免受网上有害和非法内容尧剥削尧操纵和滥用的侵害袁防止数字空间被用于犯罪或为犯罪提供便利遥保护所有儿童和青年不受非法跟踪尧分析和锁定袁特别是出于商业目的袁并让儿童和青年参与与他们有关的数字政策的制定遥三尧欧盟数字科技伦理监管的主要模式与机制欧盟数字科技伦理监管的模式及机制体现为袁在欧盟核心价值观的引领下袁政府发挥主导作用袁多元主体共同参与袁形成欧盟全域统一监管框架引领和成员国各具特色的双重监管遥这种监管模式既强调整体层面监管的统一协调性袁又重视成员国自身数字科技的发展特点曰既有综合性的监管政策袁又包含对重点领域和新问题的伦理监管遥渊一冤欧盟统一框架引领下成员国各具特色的双重监管模式及机制欧盟作为一个多国家集合体的特殊性袁决定了成员国在数字经济发展和监管政策领域存在诸多差异遥欧盟在数字科技伦理监管中既制定了数字经济研究专栏RESEARCH COLUMN OF DIGITAL ECONOMY81全域内的伦理监管政策袁又将相应的监管权力赋予成员国袁实行欧盟整体和成员国两个层面的监管制度体系构建和机构设置遥欧盟针对数字科技伦理监管制定了一系列政策文件袁对欧盟全域内的数字科技进行伦理监管或指导袁如叶一般数据保护条例曳叶可信人工智能伦理准则曳等袁并设置了欧盟数据保护委员会等监管机构遥在欧盟整体层面的数字科技伦理监管政策要求或指导下袁成员国结合自身数字科技发展状况袁制定相应的伦理监管政策遥以大数据伦理监管为例袁叶保护个人享有的与个人数据处理有关的权利以及个人数据自由流动的指令曳叶一般数据保护条例曳叶电子隐私指令曳等在欧盟层面发挥统领和指导作用袁且在相关条款中指出允许成员国实施更加具体的监管政策遥 爱尔兰尧德国等成员国根据自身特点修订或制定了数据伦理监管的相关政策袁其中袁爱尔兰为与欧盟的叶电子隐私指令曳中关于 Cookie 等技术的使用尧数据缩小以及个人数据隐私的监管保持一致袁于 2011年发布了叶电子隐私条例曳曰对原有的数据保护法律进行修订后形成了叶2018 年数据保护法曳袁并设立数据保护委员会遥德国在数据伦理监管领域袁2018 年发布叶新联邦数据保护法曳袁该法在遵守叶一般数据保护条例曳的基础上袁根据德国的国情对部分条款进行了细化和补充袁并设置了联邦数据保护和信息自由委员会遥同样袁为了执行欧盟叶电子隐私指令曳袁德国制定了叶电信和电信媒体数据保护法曳袁其规定了电信和电信媒体在数据保护上的原则袁亮点在于设置了隐私保护和用户同意权的相关条款遥除爱尔兰和德国外袁欧盟其他成员国也制定了相应的监管制度遥这样欧盟形成了整体层面和成员国层面两个层级的数字科技伦理监管政策体系和监管机构袁保障了欧盟数字科技伦理监管政策执行的有效性尧一致性与协调性遥渊二冤综合性政策统领与细分政策强化的监管模式及机制通过梳理欧盟数字科技发展与伦理监管政策布局之间的关系袁发现欧盟的数字科技伦理监管政策布局领先于其数字科技发展水平遥为了刺激数字科技发展袁欧盟制定了一系列发展战略或计划袁叶欧洲人工智能战略曳叶欧洲数据战略曳叶2023要2024 年数字欧洲工作计划曳叶2030 数字罗盘院欧洲数字十年之路曳等文件以及野地平线2020冶野地平线欧洲渊2021要2027冤冶的发布袁无不体现出欧盟对数字科技和数字化转型的重视和支持袁这为数字经济的发展提供了良好的外部环境遥以上文件除了资金投入和政策支持外袁也包含伦理监管的相关内容遥 例如袁野地平线欧洲渊2021要2027冤冶将抢占人工智能和机器人尧先进计算与大数据以及下一代互联网等前沿技术领域作为重点科研支持领域袁与此同时袁在数字技术中采用野预设安全冶和野隐私设计冶架构原则来加强网络安全和数据保护遥 此外袁为了对叶2030数字罗盘院欧洲数字十年之路曳计划的实施提供指导袁2022 年欧盟发布了叶欧洲数字权利与原则宣言曳袁其指出欧盟数字化转型应该是以人为中心的袁要合乎人的基本权利袁遵守非歧视性的技术中立尧网络中立尧选择自由以