生成式人工智能时代人工智能法的立法思考.pdf

人工智能安全专题DOl:10.12379/j.issn.2096-1057.2024.02.02IssueonArtificial Intelligence Security生成式人工智能时代人工智能法的立法思考严驰（同济大学法学院上海2 0 0 0 9 2）(B)Legislative Thinking of Artificial Intelligence Law in the Era ofGenerative Artificial IntelligenceYan Chi(School of Law,Tongji University,Shanghai 200092)Abstract With the technological advancements and widespread adoption of Generative ArtificialIntelligence(GAI),the structure of human society has undergone fundamental changes.Thedevelopment of artificial intelligence technology has brought new risks and challenges.The“Interim Measures for the Management of Generative Artificial Intelligence Services representsChinas latest exploration achievement in the field of GAI.It emphasizes the dual importance ofdevelopment and security,advocates for innovation and governance in accordance with the law,andserves as a reference and inspiration for the ongoing legislative process of the Artificial IntelligenceLaw.Specifically,the Artificial Intelligence Law should consider the adoption of promotinglegislative model,reduce the use of normative references in the legislative content,clarify thelegislative approach of classification and grading,enhance international exchanges and cooperationin artificial intelligence,and promote the positive use of science and technology by establishing amore scientific and reasonable top-level design scheme.Key words Artificial Intelligence Law;generative artificial intelligence;promoting legislation;referential norm;classification and grading摘要随着生成式人工智能（GAI)的技术升级和日益普及，人类社会结构形态已经发生了根本性的变化.人工智能技术在发展的同时带来了新的风险和挑战，生成式人工智能服务管理暂行办法是中国在GAI领域的最新探索成果，强调发展和安全并重、促进创新和依法治理，为正处于立法进程中的人工智能法提供了借鉴和启示.具言之，人工智能法应考虑采用促进型立法模式，在立法内容上减少使用准用性规范，明确分类分级监管的立法思路，加强人工智能国际交流和合作，通过构建更科学、合理的顶层设计方案，推动科技向善。关键词人工智能法；生成式人工智能；促进型立法；准用性规范；分类分级中图法分类号号TP18收稿日期：2 0 2 3-0 9-10基金项目：教育部人文社会科学研究规划基金项目（2 2 YJA820030）；湖北省知识产权局2 0 2 3 年软科学项目（2 0 2 3 2 S0064）引用格式：严驰.生成式人工智能时代人工智能法的立法思考 J.信息安全研究，2 0 2 4，10（2）：10 3-10 8网址http:/1103信息安全研究第10 卷第2 期2 0 2 4年2 月lournalot lnformation Security ResearchVol.10No.2Feb.2024阶段：第一阶段以规范主体行为为特征，主要体现问题的提出当前，全球人工智能的发展进人了新一轮跃升期.以GPT-4为标志的生成式人工智能（gener-ative artificial intelligence，G A I)技术上的突破正在加速从专用人工智能迈向通用人工智能（artifi-cial general intelligence，A G I)的进程，有望催生出人工智能新范式和新生态，进一步扩展人工智能的应用场景，全方位深度融人人类社会.2 0 2 3 年4月，中央网信办起草了生成式人工智能服务管理办法（征求意见稿）（以下简称征求意见稿）。短短3 个月后，2 0 2 3 年7 月，国家网信办等7 部门就联合公布了生成式人工智能服务管理暂行办法（以下简称暂行办法).暂行办法是中国首次针对GAI技术和服务作出的明确规定，也是全球首个生效的GAI专门行政立法.不仅奠定了未来中国GAI技术和服务的发展基调，还引领了国际范围内的GAI治理实践。面对人工智能技术发展带来的机遇与挑战，呕需推进国家层面的人工智能领域立法，把人工智能装人制度的“笼子”里 2 1.2 0 2 3 年5 月发布的国务院2 0 2 3 年度立法工作计划中正式将人工智能法草案列为预备提请全国人大常委会审议的3 4项立法草案之一，终结了是否应在全国层面进行人工智能专门立法的争论，接下来人工智能法草案拟定过程中需要思考的是如何更好地保障人工智能技术的健康、快速发展.目前人工智能法草案尚处于预备提请审议阶段，未列人拟提请审议的法律案名单，距离真正落地还需经过较长一段时间.暂行办法的出台为人工智能法草案的完善提供了思路参考.今后应以暂行办法中的相关规定为借鉴，明确人工智能法制定时应关注的4个重点问题，以期构建更科学合理的人工智能领域顶层设计方案，推动科技向善.首先，在总体层面考虑采用促进型立法模式；其次，在立法内容上减少使用准用性规范；再次，明确立法中分类分级监管的思路；最后，加强国际交流与合作.对此，本文将分为4节进行详细阐述.2买采用促进型立法模式有学者指出，现有的立法模式大致分为3 个1041为刑事立法、行政立法及民商事立法领域的“设范型立法”；第二阶段以调控管理社会经济事务为特征，包括经济调控、社会保障、环境保护领域的“管理型立法”；第三阶段的“促进型立法”是在设范型立法和管理型立法基础上的调整和完善 3 ，旨在提倡和促进某项事业发展，通常面向于社会关系尚未得到良好发育、市场规模尚未形成的新兴领域 4，是国家干预经济和社会发展的重要体现，对新兴产业或事业的发展起到积极的促进、引导和推动作用.19 9 6 年颁布的促进科技成果转化法中首次出现“促进”的字样，此后颁布的10 部促进型立法在名称中均以“促进法”为尾缀.促进型立法经过3 0 年的探索与创新，形成了独具特色的立法经验.具体体现为和人民生活紧密相连，立法范围主要为薄弱性产业、改革中事业与发展中行业，贯彻了“为人民服务”的立法理念，充分反映了人民意愿5人工智能作为一种新兴技术，广义上属于科技法的规制范畴.以“科技”“科学技术”为关键词在国家法律法规数据库进行检索，可以找到促进科技成果转化法科学技术进步法和科学技术普及法3 部法律.从广义上来看，3 部法律均属于促进型立法，其立法意图分别是促进科技成果转化、推动科学技术进步和普及科学技术.反观人工智能法的名称，只能反映出规范对象是人工智能，无法体现更多的信息.尽管暂行办法全称中带有“管理”的字样，看似属于管理型立法.但是，从暂行办法的具体内容中可以看出其促进型立法属性.如暂行办法第1条提出，立法目的是“促进生成式人工智能技术的健康发展和规范应用”.在法律依据上，暂行办法也比征求意见稿中增加了科学技术进步法暂行办法第3 条还指出，暂行办法坚持的主要原则是“发展和安全并重、促进创新和依法治理相结合”，弱化了征求意见稿中强调监管的基调，在排序上将“发展”“创新”置于“安全”“治理”之前2022年9 月起，多地陆续发布了人工智能领域的地方性促进型立法，如深圳经济特区人工智能产业促进条例上海市促进人工智能产业发展条例北京市促进通用人工智能创新发展的若干措施等，推动了当地人工智能产业的高质量发展。人工智能安全专题.Issueon Artificial Intelligence Security鉴于人工智能技术虚实结合的特性，立法缺乏有效的参考点，以“软法”治理人工智能是此前传统的全球治理范式.促进法是典型的不依靠国家强制力保证实施的软法规范，能有效弥补道德、政策等其他社会规范的缺陷 6 ，相较于传统的管理型立法，人工智能法更应采用促进型立法模式.同时，为更好地鼓励和支持中国人工智能产业的发展，还可以考虑将“人工智能法”的名称调整为更为直观的“人工智能产业促进法”.从语言哲学的角度来看，可以借用柏拉图的论断，认为讨论的一切名称都是用于说明事物的本性.立法名称不仅是法律文本的重要组成部分，也是确保法律实施效果的关键，具有区分、识别和系统集成等重要功能，应简明扼要地反应法律的内容和主旨 8 .虽然人工智能法草案已经进人了“预备提请审议”阶段，但并不代表“人工智能法”的名称已盖棺定论.相关的名称调整早有先例，如家庭教育促进法起草时最初的名称就是家庭教育法，后来为了和法律内容保持一致进行了修改.3减少使用准用性规范暂行办法是一部全面完整的针对GAI技术和服务的规范性文件，系统地规定了GAI领域涉及的概念定义、治理规则、服务规范、监督检查和法律责任等内容.为应对人工智能领域不断变化的技术发展和市场情况，在鼓励GAI创新发展的同时实现依法治理，暂行办法与征求意见稿相比在适用范围、监管方式、处罚措施等方面都产生了重大的变化，由于暂行办法具体内容和改动之处并非文章探讨的重点，故在此不再赘述“准用性规范”是指法律条文中未规定规范的完整逻辑结构，转而指出适用另一法律文件中的某个规范 9，在我国立法尤其是民商事立法中并不少见.如证券法第11条指出，设立股份有限公司公开发行股票应符合公司法的相关规定.据统计，征求意见稿短短2 1条中出现了多达6 处的准用性规范.暂行办法保留了征求意见稿中大部分的准用性规范，主要有第7 条、第12 条、第17条和第2 1条.其中第7 条是对GAI服务提供者开展训练数据处理活动的规定，应遵守中华人民共和国网络安全法（以下简称网络安全法、中华人民共和国数据安全法（以下简称数据安全法）、中华人民共和国个人信息保护法（以下简称个人信息保护法）中的相关监管要求；第12条是关于“标识义务”的规定，GAI服务提供者应按照互联网信息服务深度合成管理规定（以下简称深度合成管理规定)第16 18 条的规定对内容进行标识；第17 条是“安全评估和备案义务”规定，提供具有舆论属性或者社会动员能力的GAI服务，应按照互联网信息服务算法推荐管理规定（以下简称算法推荐管理规定)第2 4条的规定履行备案和变更、注销备案手续 10 ；第2 1条是处罚措施，GAI服务提供者在违反暂行办法规定时，有关主管部门应依照网络安全法数据安全法个人信息保护法科学技术进步法的规定进行处罚.准用性规范是一种法条扩展技术，其实质是类推适用,关键是相似性判断 11.立法中过多的准用性规范会带来严重的法律解释问题.一方面可能会模糊法条定位，造成概念界定和认知上的偏差，导致法律规制的失败.如暂行办法第7 条中，GAI服务提供者在开展数据预训练、优化训练时，遵守相关法律规定本就是应有之义.目前表现优异的GAI大模型均达到千亿参数级别.暂行办法类似于相关规范的场景补丁，单独转置相应条款虽然在形式上体现出规定的重要性，但容易混淆GAI技术涉及海量数据使用的特征.另一方面,转置后的规范在内容上相对而言更为全面具体，如暂行办法第12 条提出内容标识上和深度合成管理规定进行衔接.深度合成管理规定详细指出，服务提供者应采取技术措施添加标识并依法依规保存日志信息，在生成或者编辑的信息内容的合理位置或区域进行显著标识且任何组织和个人不得采用技术手段删除、改、隐匿相关标识 12 .由此观之,原法条存在被架空的风险。明确性原则是对立法的基本要求，是一种具有实践理性的拘束性规定 13 .人工智能法的立法内容应以确定性规范为主，增强法条的可操作性和可执行性，力求文本内容规范具体 14，减少准用性规范的数量.同时，积极增进制度协调，做好转置后规范和原法条的衔接，避免内容的冲突和重叠，更好地让人工智能技术在法律框架下释放价值.网址http:/1105信息安全研究第10 卷第2 期2 0 2 4年2 月lournalot lnformation Security ResearchVol.10No.2Feb.2024明度的聊天机器人属于有限风险人工智能系统，明确分类分级监管思路此前，分类分级保护制度在我国常见于算法和数据领域.在算法层面，2 0 2 1年9 月印发的关于加强互联网信息服务算法综合治理的指导意见首次提出“推进算法分级分类安全管理”的概念；2 0 2 1年11月通过的算法推荐管理规定第23条进一步明确要“建立算法分级分类安全管理制度”.在数据层面，数据安全法第2 1条明确提出要从中央和地方2 个层面建设“国家数据分类分级保护制度”；网络安全法第2 1条中也提到“采取数据分类”；个人信息保护法第5 1条则提出“对个人信息实行分类管理”如前所述，算法推荐管理规定网络安全法数据安全法个人信息保护法均是暂行办法中准用性规范的转置对象，暂行办法在制定过程中对以上监管方案多有借鉴，分级分类治理的思路也得到了续暂行办法第3 条明确提出，在监管方式上，对GAI服务实行包容审慎和分类分级监管；第6 条提到“推动公共数据分类分级有序开放”；第16 条再次强调，国家有关主管部门应针对GAI技术特点及其在有关行业和领域的服务应用制定分类分级监管规则和指引 15 .人工智能领域分类分级监管的思路肇始于欧盟出台的人工智能法案（AIA），A I A 在经过多次谈判和修正后明确加人了对GAI大模型采取严格监管的规定.2 0 2 3 年6 月，欧洲议会以绝对多数票通过了AIA草案.按照立法程序，AIA已经进人了最终协商阶段.欧盟AIA将人工智能系统分为4个风险类别进行监管.首先，严格禁止产生“不可接受的风险”（unacceptable risk）的人工智能系统并附加高额处罚；其次，明确“高风险”（highrisk）的人工智能系统将遵守风险管理措施并接受全生命周期评估；再次，对“有限风险”（limited risk)的人工智能系统设定特定的公开要求和透明度义务；最后，放弃对“低风险和最小风险”（low andminimal risk)级别人工智能系统的监管 16 .AIA的附录划定了高风险覆盖的8 大领域，包括生物测定，重要基础设施，教育与职业培训，就业与员工管理，提供私人和公共服务，法律执行，移民、庇护和边境控制，司法和民主程序.根据定义，具有透1061而像GPT-4这样未履行透明度义务的GAI则属于“提供私人和公共服务”的高风险人工智能系统，AIA对其规定了严格的监管要求.分类分级是人工智能监管的应有之义，其好处在于避免了“一刀切”式的粗扩立法，有利于增强法律的针对性、科学性，提升监管的精确性、有效性，促进我国人工智能产业的进一步发展暂行办法中虽然提出了GAI服务分类分级治理的原则，但并未进一步展开具体的监管规则.今后应拓宽立法视野，参考AIA中的欧盟标准，制定符合我国现实国情和需求的风险评估机制，提前做好未来的合规准备.实践中我国其他领域的分类分级治理方案为人工智能法的构建提供了有益的经验借鉴.以数据领域为例，虽然现行法律法规或部门规章中还停留于分类分级的总体要求，但是在部委发布的指引性文件和标准中可以看到一些具体方案 17 .如2 0 2 0 年2 月工信部发布的工业数据分类分级指南（试行）第二章综合考虑行业差别、业务规模大小等情况，将工业企业和平台企业的工业数据进行了分类.第三章则根据工业数据遭篡改、破坏、泄露或非法利用后的潜在影响分为3 个级别 18 1.5加强国际交流与合作人工智能革命的历史进程中不可避免地嵌人国家角色并产生作用力，也不可避免地引发国家间围绕人工智能革命的新博奔与新竞争 19 .暂行办法第6 条在征求意见稿第3 条中提到“国际合作”的基础上，进一步强调开展国际交流与合作，参与国际规则制定的重要性.人工智能法制定过程中应放眼全球，在反制科技制裁和封锁的同时，将中国价值和中国方案进一步对外推广，争取人工智能领域的国际话语权.新加坡是全球较早启动国家人工智能战略的国家之一,在东南亚地区的人工智能治理规则制定中占据着领导地位.同时，新加坡还是世界范围内数字经济协定的倡导者和先行者，已经陆续和5个国家完成了关于4个数字经济协定的谈判.2020年6 月，新加坡、新西兰和智利3 国通过视频人工智能安全专题.IssueonArtificial Intelligence Security会议的方式，线上签署了数字经济伙伴关系协定(DEPA).DEPA是新加坡领导下签署的全球范围内首个区域性数字经济协定，有学者称其为中美欧之外全球数字经贸规则发展中的“第四种力量”2 1.2 0 2 1年11月，中国正式向新西兰方递交了加人DEPA的申请.新加坡在DEPA之后又陆续完成了新加坡-澳大利亚数字经济协定（SADEA）、英国-新加坡数字经济协定（UKSDEA)和韩国-新加坡数字伙伴关系协定（KSDPA）的谈判，并与欧盟初步建立了“欧盟-新加坡数字伙伴关系”(EUSDP)框架协议.此前的国际贸易协定中从没涉及与人工智能相关的具体技术层面的问题 2 2 DEPA是全球首个涵盖人工智能规则的数字经济协定，随后签署的SADEA，U K S D E A,K S D PA 和EUSDP中也均含有人工智能条款，SADEA和KSDPA中还附有旨在发展和鼓励人工智能治理合作的谅解备忘录（MOU).新加坡在数字经济协定中搭建起一个初步的国际人工智能治理框架，通过双边或多边数字经济协定(不局限于数字经济协定)的形式，加强国际交流和合作，与更多的国家间在人工智能治理事项上达成共识.新加坡和中国之间有着良好的经贸合作基础，2 国不仅签署了中国-新加坡自由贸易协定(CSFTA)并完成了协定的升级，而且还均为区域全面经济伙伴关系协定（RCEP)的缔约国 2 3 .虽然新加坡在贸易体量和中国存在较大差距.但是，新加坡在人工智能领域的国际合作经验对我国而言有很高的借鉴价值.今后人工智能法的制定过程中应贯彻落实暂行办法中“开展国际交流与合作、参与国际规则制定”的要求，充分借鉴新加坡的发展模式，和已经建立起紧密联系的“一带一路 沿线国家或RCEP成员国之间探索小范围人工智能试点合作的可行性 2 4.同时，积极推进加入DEPA的进程，与新加坡等成员国共同参与人工智能国际治理规则的制定，提升中国在人工智能领域的影响力和话语权.6结语随着人工智能技术层面的创新突破和应用层面的广泛落地，人工智能正在成为引领新一轮科技革命的重要引擎.人工智能法作为国家层面的人工智能基础性法律，属于“1十N”规则体系中的“1”,在我国的人工智能治理中发挥着总揽全局、协调各方的核心统领作用.暂行办法则是“1十N中的N之一,是人工智能法在GAI领域的下位法.通过“1 和“N”的有效结合，才能实现对人工智能的全方位监管.如今人工智能法正处于立法进程之中，暂行办法的先行出台是对我国人工智能整体性监管的及时应对和有益尝试，给未来统一的人工智能法预留了充分的发挥空间.可以预计，未来我国的人工智能立法无论是从横向的时代性还是从纵向的历史性来看都会更趋全面和完善.今后应结合暂行办法的成功经验，顺应时代发展趋势，从立法模式、规则构造、监管思路和国际合作4方面出发，积极探索构建具有中国特色的人工智能治理规则，确保人工智能法能够真正地推动我国科技进步，助力社会经济发展.参考文献1金歆.七部门联合发文促进生成式人工智能健康发展和规范应用（政策解读）N人民日报，2 0 2 3-0 7-15（2）2 严驰.GPT4发展中的若干问题及其规制方案 J.信息安全研究，2 0 2 3，9（6）：5 10-5 1731陈昶屹.论“促进型立法”的形成背景 北京行政学院学报，2 0 0 5，3 5(1)：6 5-6 84楼杨紫炬.经济法M.北京：北京大学出版社，19 9 95张志远，史凤林.我国促进型立法的文本考察与完善路径J .天津法学，2 0 2 3，3 9（1）：45-5 36 李洋.促进型法的概念证成 J.西部法学评论，2 0 2 1，117(6):40-537木柏拉图.柏拉图对话集 MI.王太庆，译，北京：商务印书馆，2 0 198刘怡达.法律名称的要素、功能与确定方法一基于全国人大及其常委会的立法实践 J，法律方法，2 0 2 2，3 9（2）：143-1629沈宗灵.法理学 M.北京：北京大学出版社，2 0 0 310崔爽.国家网信办发布生成式人工智能服务管理办法（征求意见稿）NJ.科技日报，2 0 2 3-0 4-12(1)11李。准用性法条适用的法律论证一一兼论其适用的程序规范 J.山东法官培训学院学报，2 0 19，3 5（3）：15 0-16 112毕文轩。生成式人工智能的风险规制困境及其化解：以ChatGPT的规制为视角LJ.比较法研究，2 0 2 3，18 7（3）：155-17213 高巍。重构罪刑法定原则 中国社会科学，2 0 2 0，2 9 1(3);123-145网址http:/1107信息安全研究第10 卷第2 期2 0 2 4年2 月lournalot linformation Securty ResearchVol.10No.2Feb.202414郭佳，杨尚东.力求法律文本规范、具体 N.民主与法制时报，2 0 2 1-11-2 3(315张亚雄.七部门联合发文规范生成式人工智能服务N.光明日报，2 0 2 3-0 7-14（4)16王伟洁，邓攀科，吕志远.欧盟2 0 2 1年人工智能法研究J.信息安全研究，2 0 2 2，8（2)：117-12 117洪延青.国家安全视野中的数据分类分级保护J中国法律评论，2 0 2 1，41(5)：7 1-7 818张继红.国家安全视域下我国数据安全法的制度构造J。西北工业大学学报：社会科学版，2 0 2 1，9 1（3）：9 6-10 319余南平.新一代人工智能技术与大国博奔新边疆J.探索与争鸣，2 0 2 3，40 1(5）：3 6-3 820走赵旸頔，彭德雷。全球数字经贸规则的最新发展与比较一一基于对数字经济伙伴关系协定的考察 门.亚太经济，2 0 2 0,2 14(4)：5 8-6 921SSoprana M.The digital economy partnership agreement(DEPA):Assessing the significance of the new tradeagreement on the block JJ.Trade Law and Development,2021,13(1):143-16922王晓丽，严驰.从RCEP展望CPTPP：知识产权条款分析及对我国的启示J.法治论坛，2 0 2 1，6 0（4）：2 6 1-2 7 223王晓丽，严驰。数字经济时代非同质化代币的风险治理J .合肥工业大学学报：社会科学版，2 0 2 2，3 6（6)：3 2-41严驰博士研究生，主要研究方向为知识产权法。B108