包容监管与规则博弈：与人工智能如何共生.pdf

专题研讨数字新闻研究青年记者2023年8月上78 陆小华包容监管与规则博弈：与人工智能如何共生摘 要：智能变革包括如何以伦理、规则和机制促进人工智能安全发展。中国正在走向规则体系化和协同治理人工智能格局，明确实行“包容审慎”监管，人工智能国际治理集中在如何评估复杂影响、如何治理、谁来主导国际治理、如何确定治理原则四大问题。中国提出坚持伦理先行、坚持安全可控、坚持公平普惠、坚持开放包容、坚持和平利用五条人工智能治理原则。传播伦理研究应紧跟实践，向四个方面拓展。关键词：智能变革；包容监管；协同治理；规则博弈；传播伦理人类社会正在经历的智能变革，不仅包括人工智能技术以超乎常人想象的速度发展，也包括如何以伦理、规则和机制促进人工智能安全发展。人们已经深刻认识到，人工智能既产生巨大技术红利，也在政治、经济、社会、军事等领域不断显现复杂效应，从而引发越来越多的担忧。人工智能不仅以内容生成、信息分发等形式深刻地影响人类的知识萃取、认知形成、观点表达、意识形态，还可以就一系列重要资源、机会分配自动决策。人工智能将如何影响人类未来，如何与人工智能共生？这既是新闻媒体在实践中必须关注并妥善把握的问题，也是数字新闻学研究应当探索并回答的问题。包容审慎监管与协同治理格局经历三个月的征求意见后，2023 年 7 月 13 日，国家网信办等七部委公布生成式人工智能服务管理暂行办法（以下简称办法），自 2023 年 8 月 15 日起施行。这个管理办法，针对生成式人工智能已经出现的传播虚假信息、侵害个人信息权益、数据安全和偏见歧视等问题，明确了提供和使用生成式人工智能服务总体要求；提出了促进生成式人工智能技术发展的具体措施，明确了训练数据处理活动和数据标注等要求；规定了生成式人工智能服务规范。（一）第一次明确规定包容审慎监管原则。引人注目的是，在关于算法的诸管理规定中，办法第一次明确规定实行“包容审慎”的监管原则。办法第三条规定：国家坚持发展和安全并重、促进创新和依法治理相结合的原则，采取有效措施鼓励生成式人工智能创新发展，对生成式人工智能服务实行包容审慎和分类分级监管。分级分类监管在办法中也得到明确体现。与2023 年 4 月 12 日发布的生成式人工智能服务管理办法（征求意见稿）相比，办法第二条明确了“未向境内公众提供生成式人工智能服务”即“不适用”的监管规则，明确“行业组织、企业、教育和科研机构、公共文化机构、有关专业机构等研发、应用生成式人工智能技术，未向境内公众提供生成式人工智能服务的，不适用本办法的规定”。这为中国人工智能的研究和发展提供了制度空间。（二）规则体系化与协同治理格局。生成式人工智能服务管理暂行办法是国家网信办等部委在算法综合治理领域出台的第三个规定，也是中国关于生成式人工智能服务的第一个管理规定。前两个分别是 2021 年 12月 31 日国家网信办等四部委出台的互联网信息服务算法推荐管理规定，2022 年 12 月 11 日国家网信办等三部委出台的互联网信息服务深度合成管理规定。互联网信息服务算法推荐管理规定是国际社会第一个关于算法治理的规范性文件。这三个管理规定，和作为上位法的中华人民共和国网络安全法 中华人民共和国数据安全法 中华人民共和国个人信息保护法 中华人民共和国科学技术进步法，以及作为上位规定的关于加强互联网信息服务算法综合治理的指导意见等，构成了规则体系。2023 年 6 月 20 日，国家互联网信息办公室发布关于发布深度合成服务算法备案信息的公告，公布了首批获得备案的 41 款深度合成技术服务算法，包括文本生成、图片生成、短视频生成、语音生成、开放域文本对话生成等深度合成技术算法，应用于开放域多模态内容生成、对话生成、短视频制作、智能客服、即时通信等场景，备案者包括百度、阿里、腾讯、抖音、快手、美团等多个互联网公司，算法角色包括服务提供者和服务技术支持者。这个公告特别指出：互联网信息服务深度合成管理规定第十九条明确规定，具有舆论属性或者社会动员能力的深度合成服务提供者，应当按照互联网信息服务算法推荐管理规定 履行备案和变更、注销备案手续,体现两个管理规定的协同。此次备案中，出现了百度文心一格等应用的多个生专题研讨数字新闻研究79青年记者2023年8月上成式算法。这是因为 互联网信息服务深度合成管理规定规制对象“深度合成技术”，包含了今天人们关注的生成式人工智能的诸多技术。此规定第二十三条明确定义了“深度合成技术”：“所谓深度合成技术，是指利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等网络信息的技术。”而 7 个月后出台的生成式人工智能服务管理暂行办法第二十二条规定：“生成式人工智能技术，是指具有文本、图片、音频、视频等内容生成能力的模型及相关技术。”两者相比，明显差异在于后者的定义中特别明确了“模型及相关技术”，体现了 2022 年 11 月后迅速发展的基于预训练大模型的生成式人工智能技术的特点。大模型利用海量数据、巨量参数进行训练，这是基于大模型的生成式人工智能与以往文本生成、语音合成等深度合成技术不具备的。这也可能是互联网信息服务深度合成管理规定出台仅仅七个月后就出台生成式人工智能服务管理暂行办法的重要原因之一。国家网信办有关负责人在发布此 办法 时特别提出，生成式人工智能服务的发展与治理需要政府、企业、社会、网民等多方参与，共同促进生成式人工智能健康发展。办法第五条明确规定，“支持行业组织、企业、教育和科研机构、公共文化机构、有关专业机构等在生成式人工智能技术创新、数据资源建设、转化应用、风险防范等方面开展协作”，这实际上是明确提出希望构建协同治理格局。包括生成式人工智能在内的算法综合治理、协同治理，对新闻传播是有特殊要求的。生成式人工智能服务管理暂行办法第二条规定：“国家对利用生成式人工智能服务从事新闻出版、影视制作、文艺创作等活动另有规定的，从其规定。”更重要的特殊要求在于，面对人工智能辅助人类生产的内容和人工智能直接生成的内容都已经进入并可能更大规模进入传播领域的现实，必须尽快建立相应的内容生产、内容使用、内容审核、内容发布的伦理规范、审核流程、监管机制，探索人工智能在内容生产、新闻传播等领域的积极运用，同时有效规避风险。统筹发展安全与应对规则博弈人工智能快速发展的同时，复杂效应不断显现，既产生巨大技术红利，也引发越来越多的担忧。可信人工智能研究在国际计算机科学领域成为重要方向，人工智能国际治理已成为国际政治热点问题。面对人工智能技术迅速发展与已有可见成果的多种应用可能，不发展、不运用将成为人工智能技术前进中的阻碍。为推动人工智能研究和相关产业发展，科技部等六部门 2022 年 7 月 29 日发布关于印发关于加快场景创新以人工智能高水平应用促进经济高质量发展的指导意见的通知，科技部 2022 年 8 月 12 日发布关于支持建设新一代人工智能示范应用场景的通知，工信部 2021 年 7 月 16 日发布了新型数据中心发展三年行动计划（2021-2023 年）。同时，各地也出台了相应政策。2022 年 9 月 22 日，上海发布上海市促进人工智能产业发展条例。2023 年 5 月 30 日，北京市政府同时发布两部关于人工智能发展的文件，即北京市促进通用人工智能创新发展的若干措施 北京市加快建设具有全球影响力的人工智能创新策源地实施方案（2023-2025 年）。2023 年 5 月 31 日，深圳正式印发深圳市加快推动人工智能高质量发展高水平应用行动方案（2023-2024 年）。2023 年 7 月 6 日，工信部在 2023 世界人工智能大会强调，将以多项举措培育壮大智能产业。人工智能国际治理问题已经引起国际社会的关注。2021 年 11 月 25 日，193 个成员国正式通过了联合国教科文组织关于人工智能伦理的建议，以发展以人为本的人性化人工智能为共同愿景。2023 年 7 月 18 日，联合国安理会前所未有地首次就人工智能与安全问题举行高级别公开会，体现在生成式人工智能快速发展之后，人工智能国际治理进一步成为焦点问题。概括来看，人工智能国际治理至少集中在以下几个问题。（一）如何评估复杂影响。在联合国安理会就人工智能与安全问题举行的高级别公开会上，联合国秘书长古特雷斯认为，“人工智能已关系到全球和平与安全”。“生成式人工智能可能造成假信息和仇恨言论泛滥”，“人工智能与核武器、生物技术、神经技术、机器人技术的交互让人不寒而栗”，因而，“他强调，生成式人工智能同时具有行善与作恶的巨大潜能，如不采取措施防范风险，将是对当代和后代的失职”1。在这个高级别公开会上，中国常驻联合国代表张军强调：“人工智能作为双刃剑，它是好是坏、是善是恶，取决于人类如何利用、如何规范、如何统筹发展与安全。”2（二）如何治理人工智能。围绕人工智能国际治理，不同主体提出了不同的主张和方案，客观上形成了比较激烈的规则博弈。联合国秘书长古特雷斯 2021 年 9 月在我们的共同议程 报告中提出制定“全球数字契约”（Global Digital Compact），涵盖数字连接、避免互联网碎片化、为人们提供将如何使用其数据的选择、通过引入对歧视和误导信息问责标准促进可靠的互联网内容、人工智能监管、数字公共产品等七大领域，旨在为全人类构建一个开放、自由和安全的数字未来而制定的共同原则，为数字未来发展提供关键的基本原则，并计划在 2024 年 9 月的未来专题研讨数字新闻研究青年记者2023年8月上80峰会上达成一致。2023 年 6 月 14 日，欧洲议会以 499 票赞成、28 票反对、93 票弃权的压倒性优势通过了人工智能法案草案。这意味着，即将进入欧洲议会、欧盟成员国和欧盟委员会确定该法案最终条款的“三方谈判”阶段。2021 年，欧盟委员会已经提出首部监管人工智能的法律草案，欧洲议会和欧盟理事会就草案进行多轮修订和讨论。基于大模型的生成式人工智能上线后，这部法律草案增加了相应的条款。值得注意的，一是该草案第二条就该法律适用范围作出明确规定，将适用于在欧盟境内将人工智能系统投放市场或投入使用的实体（无论该实体是在欧盟境内还是在第三国）、在欧盟境内使用人工智能系统的实体以及在第三国使用人工智能系统，但系统输出结果用于欧盟境内或对欧盟境内人员产生影响的实体。这实际上明确了该法律的域外管辖原则。二是将人工智能风险分为不可接受的风险、高风险、有限的风险和极小的风险四级，对应不同的监管要求，提出严格禁止对人类安全造成不可接受风险的人工智能系统，包括部署潜意识或有目的操纵技术、利用人们弱点或用于社会评分的系统。三是法案要求每个欧盟成员国都将设立一个监督机构。3（三）谁来主导国际治理。随着欧盟关于人工智能治理的立法进入新阶段，谁来主导人工智能国际治理问题更加凸显。联合国秘书长古特雷斯在联合国安理会就人工智能与安全问题举行的高级别公开会上就敦促安理会“带着一种紧迫感、一种全球视野和一种学习者的心态来应对这项技术”；强调“联合国正是为人工智能制定全球标准与治理手段的理想场所”。而且，他同样“欢迎一些会员国提出建立新的联合国机构来治理人工智能，其模式可以参考国际原子能机构、国际民航组织或政府间气候变化专门委员会”4。在这次高级别公开会上，中国常驻联合国代表张军表示，“中方支持联合国在此方面发挥中心协调作用”5。可以预见，随着人工智能发展和复杂影响的日益显现，人工智能国际治理规则管辖力与监管主体之争还会继续。如何应对人工智能监管规则博弈，是一个具有重大意义和影响的现实课题。（四）如何确定治理原则。在这次高级别公开会上，张军提出关于人工智能治理的五条原则。一是坚持伦理先行。必须将“以人为本”“智能向善”作为基本准则。在此基础上，逐步建立并完善人工智能伦理规范、法律法规和政策体系。二是坚持安全可控。国际社会要强化风险意识，建立有效的风险预警和应对机制，确保不发生超出人类掌控的风险，确保在关键时刻人类有能力摁下停止键。三是坚持公平普惠。发展中国家平等获取和利用人工智能技术、产品和服务，对于弥合南北技术鸿沟、数字鸿沟、发展鸿沟至关重要。四是坚持开放包容。科技发展要在推动技术进步和保障安全应用两方面取得相对平衡，最佳路径是保持开放合作，鼓励跨学科、跨领域、跨地区、跨国界的交流对话，反对各种形式的“小院高墙”“脱钩断链”，打造开放、包容、公正、非歧视的科技发展环境。五是坚持和平利用。要重点挖掘人工智能在促进可持续发展、推动跨领域融合创新等方面的潜力，更好赋能全球发展事业。各国应秉持负责任的国防政策，反对利用人工智能谋求军事霸权、破坏他国主权和领土完整。6在此原则下，如何就联合国等正在探讨的人工智能国际治理规则提出“中国方案”，仍然是需要研究者、实践者、监管者们共同努力的。智能工具运用与传播伦理拓展智能内容生成、人工智能生成内容如何使用，目前总体上还是由人来选择的。在有相应法律法规、管理制度、监管规定规制的同时，还需有相应伦理规范制约。伦理是人与人、人与社会、人与自然、人与科学技术关系处理的行为规范。“科技伦理是科技活动必须遵守的价值准则”7，传播伦理同样是传播活动应当遵守的价值准则。因此，应当积极推动传播伦理、人工智能生成内容运用伦理研究的拓展，确保智能内容生成工具的发展和运用在伦理、规则、法律约束下进行。（一）传播伦理研究面临的历史性课题和现实问题。今天探讨传播伦理，不仅面临人人可能都在参与传播、网络直播把个人隐私传播到过去难以想象地步，还面对推荐算法成为重要信息分发机制和人工智能生成的内容进入传播的现实课题。传播伦理研究面临的历史性课题包括：传播伦理研究如何适应人与人工智能共生时代，体现“促进人工智能安全发展”的要求。8这样的历史性课题又和现实性问题紧密地勾连在一起。一些新媒体平台、终端和个人的有些做法是否已经超出现有媒介伦理所讨论的范围？如何看现有媒介伦理对现实问题的困惑？在新传播伦理的研究中应当对这样的重大问题有所观照、有所前瞻，站在当下和未来提出、解释和回答一系列问题。传播伦理研究面临的历史性课题还包括，中国的传播伦理研究是否应该提出与文化自信相称、与中国智慧相符的新传播伦理；原有的媒介伦理研究更多借鉴于西方，是否可以抽取中国传统文化精华、中国人所信奉的道德、日用而不觉的伦理规则，用于规范智能传播时代的媒介传播、网络传播行为。在新的历史条件下，传播伦理研究应当与作为人类文明新形态的中国式现代化相专题研讨数字新闻研究81青年记者2023年8月上称，与构建中华民族现代文明要求相匹配，才不负历史使命和追求，才能在世界学术舞台上就智能传播时代的媒介伦理、传播伦理对话时，带去体现中国实践、中国智慧的学术观点、学术成果、调研结果。（二）传播伦理研究的四个拓展。媒介伦理研究应当向四个方面拓展，现实和历史条件决定了如果不进行这样的拓展，媒介伦理研究就会落后于实践和实践需求，就不能产生足够的影响力。1.从专业媒体伦理向公共传播伦理拓展。在人人传播、海量传播、多向传播的时代，传播已经渗透诸多领域，人人都是媒介、人人都是传播者，媒介伦理研究要从对专业媒介传播伦理的研究走向公共传播伦理研究，回答每一个普通人如何面对传播、如何适应传播、如何实施传播、如何适应被传播，应该遵守什么样的规范等问题。政治传播关心的核心问题之一是增进社会共识、政治认同，社会共识、政治认同是一个国家、政权、政党存在的基础。从专业媒介伦理到公共传播伦理，要关注怎样增进社会共识。关于传播的伦理规则，是寻求、增进社会共识的关键支点、重要基础。有研究者发现，百分之七八十的个人隐私是个人自己暴露于传播环境中的。这说明，要么是还没有建立起共同认同的传播伦理标准，要么是公众不清楚传播界限在哪里、伦理规则是什么、个人怎么办。当一些年轻母亲在网上晒其孩子穿衣较少的照片时，她们可能不清楚欧洲儿童色情的鉴别标准。这就急需向公众进行传播伦理的启蒙教育和普及教育。如果媒介伦理研究不走向传播伦理这样的公共领域，就不能适应今天的社会现实。公共传播伦理还应包括受众被动参与再传播等情况下，应遵守什么样的伦理规则。2.从传统媒体伦理向新媒体传播伦理拓展。今天，社交传播、互动传播、直播传播等诸种新媒体传播方式给传播伦理提出的问题，远远超过传统媒体。传统媒介伦理的研究成果、研究范式、研究问题、研究关注点主要与传统媒体运行相关，大体上是研究有组织传播与受众的关系，新媒体传播既对受众产生影响，又对传播者产生影响，涉及问题更为多样复杂，传播伦理研究应当予以回应。3.从人类传播伦理向智能传播伦理拓展。传统媒介伦理研究有个假定，即假定传播者是一个人类组织，这个组织的内容生产和传播行为要遵循什么样的伦理规则；或是传播者作为专业媒体组织成员在内心和职务行为中要坚守什么样的伦理规则。今天，智能内容生成、数据挖掘与可视化、推荐算法分发、精准传播背后虽然仍然有人在控制、要有人负责，但远不同于人类传播活动的智能传播行为、智能传播体应当遵循什么样的伦理规则，在法律、法规、监管规定之外，仍然需要制定、形成并不断优化相应的伦理规则，以约束其行为与复杂效应。特别是 AIGC这样的智能内容生成工具可能成为超级传播主体，更需制定相应的伦理规则，以行规制。一旦 AIGC 这样的智能内容生成工具与推荐算法的自动化决策协同运用，与社交机器人这样的人工智能应用协同运用，更将产生难以想象、难以控制、难以承受的颠覆性影响，更需要预先制定相应的伦理规则。完全按照技术思维、技术规则、技术伦理设计的算法和运行规则，所传播内容、传播行为引发的后果，可能是人们难以接受的。传播伦理研究如果不从人类自主传播的研究拓展到数据、机器、算法等介入其中的智能传播相关传播伦理规则研究，就不能适应现实的紧迫要求。伦理是一种共识性规范，是对被规范行为的倡导和要求，是维护社会秩序的相应规则和行为准则，蕴含理性和公共意志。智能传播伦理研究有助于落实“塑造科技向善的文化理念和保障机制”的要求。9何况，虽然伦理关系先于法律关系而存在，但法律、法规、监管规定会体现、认可、强化有利于社会秩序和人类福祉的伦理。要促进人工智能安全发展，要保障人工智能在新闻传播、网络传播等领域的安全利用，就要不断推进智能传播伦理研究。4.从伦理学理研究向伦理规则制定研究拓展。人工智能技术迅速发展的现实情况下，不仅应当深化媒体伦理研究、传播伦理研究，还应向伦理规则制定研究拓展，向解决急迫现实问题的研究拓展。不仅公众需要传播伦理的启蒙教育、普及教育，相当多的传播者们也需要，因为他们在现实中面临很多急迫问题。传播伦理规则的制定、完善，需要有更多研究者、实践者参与努力、做出贡献。智能传播伦理规则的制定更需要研究者、实践者、监管者共同做出努力。【本文为国家社会科学基金重大项目“数字新闻学理论、方法、实践研究”（批准号：20 ZD317）成果】参考文献：1 新华社.联合国秘书长呼吁强化人工智能全球治理 EB/OL.(2023-07-19).http:/ 新华社.安理会就人工智能与安全问题举行会议，中国代表提出治理五原则EB/OL.(2023-07-19).https:/ 王卫.抢占监管先机 欧盟人工智能法案进入最终谈判阶段N.法治日报，2023-07-03.4 联合国.秘书长：联合国是为人工智能制定全球标准与治理手段的“理想场所”EB/OL.(2023-07-18).https:/news.un.org/zh/story/2023/07/1119877.79习近平主持召开中央全面深化改革委员会第二十三次会议强调 加快建设全国统一大市场提高政府监管效能 深入推进世界一流大学和一流学科建设 N.人民日报，2021-12-18.8 中共中央政治局召开会议 分析研究当前经济形势和经济工作 中共中央总书记习近平主持会议 N.人民日报，2023-07-25.（作者为天津大学新媒体与传播学院院长，讲席教授；天津大学网络空间国际治理研究基地负责人，本刊学术顾问）