1、2023 年第 10 期ChatGPT 模型融入数字政府建设研究:风险尧基础与路径阴刘绍宇摘要 ChatGPT 模型在数字政府建设中具有场景之应用袁能引入公平尧秩序等价值因素袁重塑数字政府与民众之间的交互袁对高效协同的数字政务尧数字政府建设具有重要意义遥然而袁应注意 ChatGPT 模型对数字政府具有多重风险性影响院在安全方面袁要注意数据安全和国家安全的维护曰在社会方面袁要防止资本异化尧资本同化及侵蚀社会文化曰在信息方面袁要预防其对生活秩序可能的破坏遥 因此袁应从以下四个层面重构 ChatGPT 模型融入数字政府的基础院在技术上研发和推广拥有自主知识产权的 ChatGPT 模型曰在制度上将数据
2、分级作为 ChatGPT 模型的基准和规制路径曰在权利上借助法治手段搭建 ChatGPT 模型的责任分配链条和溯因机制曰在应用上借助伦理规范构筑 ChatGPT 模型应用服务的原则体系遥关键词 数字政府曰ChatGPT 模型曰数据分级曰数据安全曰风险社会中图分类号 F49文献标识码 A文章编号 1006-5024(2023)10-0095-10DOI 10.13529/ki.enterprise.economy.2023.10.009基金项目 中国博士后科学基金第 14 批特别资助渊站中冤项目野论私法主体的公法管控院以网络平台为考察对象冶渊项目编号院2021T140727冤曰国家社会科学基金重
3、大项目野行政诉讼类型制度的构建研究冶渊项目编号院19ZDA163冤作者简介 刘绍宇袁中国社会科学院法学研究所助理研究员袁博士袁研究方向为法理学尧行政法学遥 渊北京 100088冤Abstract:ChatGPT model can be used in the construction of digital government.It can introduce value factors such as fairness andorder to reshape the interaction between digital government and the public,which is
4、 of great significance to theconstruction of efficient and collaborative digital government affairs and digital government.However,it should be notedthat ChatGPT model has multiple risk effects on digital government.In terms of sovereignty,attention should be paid to themaintenance of data security
5、and national security;in the social aspect,we should prevent capital alienation,capitalassimilation and erosion of social culture;in terms of information,we should prevent the possible damage to our life order.Therefore,the integration of ChatGPT model into digital government should be reconstructed
6、 from the following four levels:in terms of technology,develop and promote ChatGPT models with independent intellectual property rights;in terms ofsystem,use data classification as the benchmark and regulatory path of ChatGPT model;in terms of rights,build theresponsibility distribution chain and ba
7、cktracking mechanism of ChatGPT model by means of law rules;in terms ofapplication,construct the principle system of ChatGPT model application service with the help of ethical norms.Keywords:digital government;ChatGPT model;data classification;data security;risk society95一尧引言2023 年 2 月袁中共中央尧国务院印发的叶数
8、字中国建设整体布局规划曳指出要野发展高效协同的数字政务冶1袁这为数字政府建设制定了顶层设计方案遥 将数字技术嵌入行政治理活动中袁不仅能改变行政治理活动的空间布局与存在场景袁还能促进行政治理理念与治理方式的革新遥 数字政府建设是数字中国建设过程中的关键环节袁也是新时代实现政府服务提质增效的有力手段袁对提升国家治理体系与治理能力现代化水平具有关键意义遥当前袁ChatGPT 模型作为生成式人工智能的典型代表袁其强大的反馈式学习能力尧高质量的语料体系尧更为精进的生成式预训练模型等算法和算力优势已经被开发并应用至医疗尧教育等领域遥 基于数字政府建设的目标和要求袁 将 ChatGPT 模型引入数字政府建设
9、是构建数字治理生态尧 提升政务服务效能的重要跳板遥ChatGPT 模型作为结合大数据和大算力的新工具袁较诸旧的 AI 模型袁其信息收集能力尧决策辅助能力不啻于一场革命遥 同时其强大的自然语言理解和生成能力袁能促进政务服务及公共服务的智能化袁提供更亲民的数字政务服务遥面对新技术带来的冲击袁我国迅速作出反应遥2023 年 7 月袁七部委联合发布的叶生成式人工智能服务管理暂行办法曳指出院野国家坚持发展和安全并重尧促进创新和依法治理相结合的原则袁采取有效措施鼓励生成式人工智能创新发展袁对生成式人工智能服务实行包容审慎和分类分级监管遥 冶为避免陷入野科林格里奇困境渊Collingridges Dilem
10、ma冤冶2袁应当对 ChatGPT 模型引入数字政府建设的价值基础和潜在风险进行整体把控袁提升 ChatGPT 模型在数字政府建设过程中的实际效用遥二尧文献综述国内学术界已开始探讨 ChatGPT 模型引入数字政府建设的价值和风险遥 ChatGPT 赋能数字政府能提高其智能决策尧智能服务尧智能管理能力3袁有助于控制数字政府规模袁强化数字政府监督4遥 同时袁理论研究也揭示其包括提供虚假信息尧侵犯个人信息及隐私5尧绑架政府权力尧威胁数据安全性6等风险遥国外相关研究虽然也提到数据安全维度7袁但更多的关注在于 AI 引入所带来的失业问题袁以及 ChatGPT模型本身透明度和可信度的缺乏遥8在将 Cha
11、tGPT 模型引入政策辅助以及政府服务提供的实践方面袁美国特拉华州已将 ChatGPT 模型作为其处理大规模信息的潜在工具袁代替人工监测交通状况和检测网络入侵等功能遥洛杉矶首席信息官 Ross 表示袁若城市或州政府愿意袁大语言模型将很快能帮助处理罚单支付或商业执照申请表等基础任务遥9三尧场景尧价值与重塑院ChatGPT 模型在数字政府的应用ChatGPT 模型能够为数字政府建设提供聚合性承载空间袁 利用基于人类反馈的强化学习模型渊RLHF袁Reinforcement Learning with Human Feedback冤和基于自注意力机制的 Transformer 模型袁将分散式尧片段化的
12、要素信息有效整合形成一套运转有序的规则范式和组织体系遥 从宏观角度看袁将 ChatGPT 模型嵌入数字政府建设袁能够从治理理念尧治理方式和治理结构等维度革新数字政府建设的顶层设计方案曰从微观角度看袁ChatGPT 模型能够通过交互式对话提高行政机关与野行政相对人冶的沟通效率遥以从宏观到微观尧从理念到实践的技术思路袁ChatGPT 模型在嵌入数字政府治理过程中能够更好地实现技术赋能的联结目标遥渊一冤场景院ChatGPT 模型在数字政府中的结构作用当前袁技术业已成为助力经济社会发展的内生要素袁技术要素的边际贡献率和边际替代率也远高于传统生产要素遥10ChatGPT 模型嵌入数字政府建设过程是实现上
13、述技术红利最大化目标的重要环节袁也是为数字ChatGPT 模型融入数字政府建设研究:风险尧基础与路径962023 年第 10 期政府建设提供类别化信息数据与专业化技术支持的重要保障遥 在技术赋能下的数字政府建设将在一定程度上创新政府组织形态的存在方式袁重塑政府治理方式的内在形态遥一方面袁ChatGPT 模型创新了政府组织形态的存在方式袁为平台型政府的完善提供了发展契机遥 在传统科层制的行政体制下袁机构设置冗余袁行政程序繁琐袁各部门之间的职能交叉尧职能重叠和职能真空等问题严重遥11经过技术的更新迭代袁ChatGPT 模型以其在数据资源尧科学范式等维度的技术优势袁能够跨区域尧跨领域尧跨层级收集分析
14、政务数据袁整合政务服务资源袁消除野信息孤岛冶效应袁实现部门间尧层级间的跨越式协同与联动袁提高行政服务效率遥 在平台型政府组织形态下袁ChatGPT 模型在嵌入数字政府建设的过程中袁能够通过释放技术赋能公共价值创造势能的方式对政府组织形态进行动态化调适12袁从而助力于技术赋能的组织重构遥另一方面袁ChatGPT 模型重塑了政府治理方式的内在形态袁增强了数字政府的技术联结力遥 从内部视角看袁经历技术迭代后的 ChatGPT 模型可谓是人工智能尧大数据尧虚拟现实尧增强现实等新兴技术的集合体袁能够对序列数据进行深度处理与学习袁进而完成从文本的单模态模型到文本尧图像等多模态模型的建构袁有效提升数字政府建
15、设的技术整合能力遥而从外部视角看袁ChatGPT 模型的强交互性能够提高与野行政相对人冶沟通的高效性袁增强政务数据收集的精准度袁以训练数据库的扩张和信息共享机制的发展实现对碎片化尧分散式信息资源的整合与利用袁为 ChatGPT 模型的反馈式学习提供信息资源袁从而最大程度地切合数字政府的运行逻辑袁提升数字政府的治理效能遥渊二冤价值院ChatGPT 模型在数字政府中的规范功能公平尧公开尧公正是行政机关开展行政治理活动尧提高政府公信力的逻辑出发点遥 在法律 3.0 的融贯性治理视阈下袁国家法律尧行政规制和技术方案之间的融贯是治理生成式 AI 的思路和方向袁也为生成式 AI 嵌入数字政府治理活动中的路
16、径和目标提供宏观指引遥13ChatGPT 模型作为生成式 AI 的典型代表袁虽然以指数级发展方式对数字政府建设进行赋权赋能袁对传统行政治理方式实现了颠覆式突破袁但是它在加快数字政府智能化建设的同时并未改变行政治理活动的原则性理念袁能够坚守并弘扬数字法治价值遥首先袁ChatGPT 模型的嵌入提高了数字行政的公平合理性遥 在传统的行政治理活动中袁行政机关在行政授权的范围内享有行政裁量权遥 在此情形下袁政务服务和行政决策等行政活动受施行主体的价值判断尧价值选择尧社会地位等因素影响较大遥 而在 ChatGPT 模型辅助数字政府建设的过程中袁预定的算法设计趋于标准化尧统一化袁依托的训练数据库存有海量数据
17、袁决策主体受行政相对人个人因素的影响程度相对较低袁行政决策及实施效果的主观差异相对较小遥 同时袁ChatGPT 模型依托的大型语言模型和反馈式的强化学习模型袁能够针对野行政相对人冶的教育背景尧年龄学段尧所属行业尧所属地区等的客观差异进行智能化回应袁满足公共服务供需层面的双向交互袁有效降低行政治理活动因行政主体差异而存在的歧视风险遥 通过保护数字公民的权利和自由袁能够有效增强数字行政的公平合理性遥14其次袁ChatGPT 模型的嵌入提升行政信息的公开性袁增加算法行政的透明度遥 行政治理活动形式的变化并不能豁免政府自身行政信息公开的义务遥15在 ChatGPT 模型介入数字政府建设的过程中袁智能机
18、器尧智能算法虽然参与到行政治理活动中袁但其规则制定者和最终操控者仍然是行政机关袁而 ChatGPT 模型居于辅助性地位尧起到工具性作用遥 ChatGPT 模型能够从以下两方面助力于政府信息公开行为院一方面袁ChatGPT 模型可以增加政府信息公开的内容深度袁通过交互式人机对话袁为野行政相对人冶提供精细化尧系统化尧多面向的公开行政信息曰另一方面袁ChatGPT 模型助力于技术弱势群体的信息获取方式袁ChatGPT 模型作为生成式人工智能的典型代表袁相较于以往的人工智能而言袁其技术门槛相对较低袁能够基于前期收集的数据和信息自动化生成野用户画像冶袁从而为老弱病残尧受教育水平相对较低以及缺乏相关专业知
19、识的技术弱势群体提供文本尧图像尧图画等多维度的信息展现袁提高行政信息的公开度和透明度遥最后袁ChatGPT 模型的嵌入增强了行政行为的公正性遥 依托于 LLM渊Large Language Model袁大型语言模型冤的 ChatGPT 拥有强大的自主学习能力袁可以自主形成语言模式袁以自动化调整模型参数来适应不同算法和场景的工作要求遥 在 ChatGPT 模型介入数字政府建设的过程中袁行政机关能以 LLM 对话中存留的数据信97息袁以此为基础开展预训练袁且在自主调整模型的生成策略和语言模式的同时模拟并生成智能化内容袁从而满足不同野行政相对人冶的公共需求袁促进实质正义的实现遥 此外袁ChatGPT
20、 模型在应用至数字政府建设的过程中袁能通过训练数据库和算法设计方案将传统的行政执法程序尧所需文本材料尧行政执法监督等程序内容进行标准化尧统一化建设袁在保护野行政相对人冶公正参与的同时袁降低行政裁量行为对野行政相对人冶的差异化对待袁为行政行为结构的公正提供程序上的保障遥 在此情况下袁ChatGPT 模型能助力提升行政治理活动的精准性袁促进程序正义的进一步实现遥渊三冤重塑院ChatGPT 模型在数字政府中的交互实现建设数字政府的目的就是优化政府服务效率袁提升公共服务能力和公民办事的便捷程度遥 因此袁数字政府的建设需要有技术作为支撑袁一个可靠尧高效的人机交互系统对平衡政府和私主体之间的关系尤为重要遥
21、人机交互系统的实现涉及多个因素袁包括用户需求尧技术可行性尧安全性等多方面遥 人机交互系统的优化和完善能够提高公民对数字政府的满意度遥 在目前的数字政府建设过程中袁亲民性问题表现突出袁在平台建设中存在大量行政术语和专业板块袁难以被普通民众所理解曰在界面设计和功能布局方面缺乏个性化袁过于冗杂的信息堆砌在平台之中曰同时袁数字平台的输出仅是单方面提供服务袁缺乏平台和用户的双向互动遥ChatGPT 能大幅提高人机交互的亲民性遥 ChatGPT 可以通过系统设定来自主学习和理解人类语言和对话袁并且模仿人类的交流方式遥 第一袁依托个性化定制遥 ChatGPT 具有普适性尧低门槛尧通用性等优势袁可以更充分了解
22、各类型受众的需求遥16ChatGPT 根据用户提供的对话袁分析用户的需求和偏好袁定制个性化信息遥ChatGPT 通过识别对话上下文的信息尧理解用户对话的逻辑关系尧利用对话信息生成更加准确的答案袁有针对性地加以回答遥在对话过程中袁用户对 ChatGPT 的答案更加容易理解遥 第二袁智能化的沟通交流遥 中国政府在叶国民经济和社会发展第十四个五年规划和 2035 年远景目标纲要曳明确要求野全面推进政府运行方式尧业务流程和服务模式数字化智能化冶遥ChatGPT 支持自然语言尧口语化语言尧网络语言尧方言等多种语言表达方式袁针对不同用户的对话需求袁深度解析用户的问题袁利用自然语言技术得出自然流畅的答复袁提
23、供用户满意度遥第三袁满足沟通对话的安全距离遥 ChatGPT 的回复更加符合人们的交际方式袁让民主和政府在安全距离下参与政府治理遥 这既能够保障公民个人信息安全的合法权益袁又能够促进政府政务在公开尧透明的状态下进行遥四尧主权尧社会与信息院ChatGPT 模型对数字政府的冲击随着 ChatGPT 在数字政府建设的应用袁算法逐渐取代人力成为新的治理模式遥算法行政格局中的权力形式和监管就成为需要解决的问题遥 要警惕权力扩张和异化风险袁发挥 ChatGPT 对数字政府建设的积极作用遥渊一冤主权院ChatGPT 模型对数据安全的冲击智能算法通过数据自主学习生成决策袁在应用中反客为主袁甚至成为野算法权威冶
24、指导人类行为和决定信息真实性遥17ChatGPT 模型的训练数据主要来自互联网的大量文本和信息袁可能存在数据泄露尧信息篡改等问题袁引发数据安全风险遥 ChatGPT 模型在数字政府领域应用范围广泛袁可能会对政府的机密信息和公民的个人隐私产生影响遥 在大国博弈的背景之下袁各国争夺数据资源袁数据的完整性尧准确性能帮助国家在经济活动中实现战略目标遥 因为数据安全作为新型生产要素袁随着数字中国的建设起着重要作用袁也影响着国家经济的发展遥 例如袁2020 年韩国社交机器人 Iruda 便因违反韩国 叶个人信息保护法曳 而被停止服务遥18在ChatGPT 模型的发展中依然存在大量监管真空地带袁我国目前颁布
25、的叶互联网信息服务深度合成管理规定曳叶生成式人工智能服务管理办法渊征求意见稿冤曳等文件尚无法对 ChatGPT 模型进行全面有效的规制袁因此数据安全问题依然影响国家数据主权安全建设遥1.技术垄断引发的霸权现象权力作为社会学意义上的概念袁意指凡是特定主体拥有的足以支配他人或影响他人的资源袁均可称之为权力遥19西方国家一直以来通过技术垄断和数据监控威胁我国数据安全袁挤压商业经济发展遥 数字政府建设ChatGPT 模型融入数字政府建设研究:风险尧基础与路径982023 年第 10 期关乎公民个人隐私和政府公共信息等敏感信息袁 在我国当前 ChatGPT 模型技术尚不成熟的情况下袁将ChatGPT 引
26、入数字政府建设中袁可能会出现技术被卡脖子尧研发迟缓的困境遥Open AI 目前尚未对中国内地和中国香港开放袁 这体现了西方技术霸权依然制约技术的合作遥 不只是OpenAI 公司袁许多西方公司在技术领域中也具有市场垄断地位袁比如谷歌尧苹果等所拥有的技术和知识产权使其长期在市场竞争中占据优势地位袁控制整个市场的产业链遥 我国在 ChatGPT 技术领域依然处于被动地位袁容易导致数字政府的建设出现技术困境遥2.敏感信息造成的安全隐患技术算法的应用要考虑国家安全遥 通过大量的文本训练数据的学习袁ChatGPT 能不断生成相似的文本袁这个特性会导致 ChatGPT 在数字政府应用过程中不断抓取敏感信息袁
27、甚至在回答过程中生成包含敏感信息的文本遥 而这些信息和文本一旦被恶意使用袁容易让不法分子从中获取更多敏感信息的细节遥叶数据出境安全评估办法曳第 8 条规定院野数据出境安全评估重点评估数据出境活动可能对国家安全带来的风险冶遥ChatGPT 模型能够通过文本的分析获取国家情报和公民个人信息袁在数据的出入境过程中袁这些信息一旦被泄露袁就会引发国家数据安全风险遥 西方国家会通过信息数据的渗透袁将错误的价值观输入我国袁会在我国数字政府的建设中影响整个政务系统袁造成数据安全隐患遥渊二冤社会院ChatGPT 模型对社会文化的侵蚀1.资本异化院政府公共属性的消解近年来袁西方国家的技术企业不断在我国开展业务袁通
28、过自身强大的技术资源袁改变既有商业规则袁攫取高额利润袁通过数字资本不断增殖袁对本土市场产生负面影响遥 技术资本侵蚀不仅影响市场的公平竞争袁还使这些技术企业的政治影响力不断扩大遥 一旦权力从人类转交给技术或机器袁就可能削弱数字政府治理主体的主动性遥4技术资本甚至会逐步渗透到国家政策中袁在无形中改变国家的政权结构袁从而加大政府监管的难度袁威胁我国政治安全遥数字化带来信息高度透明化和可溯化袁数字化的发展更加依赖于算法技术遥 同时袁信息不对称或错误会导致公共行政机构的决策失去公信力袁影响数字政府的建设遥 技术资本在数字化的过程中袁其强大的控制力和主导能力不容忽视袁与行政权力的公共属性强调的公正性之间存
29、在矛盾袁政策的制定和执行一旦被技术垄断袁公众参与度会大幅降低袁行政权力的公共性会被消解遥2.资本同化院政府主体属性的消解将 ChatGPT 模型应用在数字政府领域是公私合作的重要手段袁但是技术资本的参与会导致公共服务被商业利益所控制袁加剧公共资源的市场化遥商业利益往往更关注经济利益最大化袁而公共服务则追求公正性遥数字政府容易出现以企业效率为导向的行政管理模式遥 此外袁在 ChatGPT 赋能数字政府建设过程中袁行政机关可能将责任转嫁给 ChatGPT 算法技术遥ChatGPT 无法成为法律意义上真正的责任人袁所以一旦行政决策出现错误袁私主体会面临无法追责的情况遥 这会加剧公权力机关和私主体之间
30、的不平等关系袁而且会使决策缺乏透明性袁损害政府公信力遥算法本身是一种机器设计袁行政机关要通过不断的训练用 ChatGPT 提高公共服务效率遥 行政机关可能会认为算法是独立运行的袁ChatGPT 的决策结果与行政机关的决策行为无关袁从而出现责任转嫁的问题遥 然而算法需要依赖行政机关提供的数据和规则袁因此政府决策是基础袁而 ChatGPT 只是数字政府建设的辅助工具遥 但是在 ChatGPT 与数字政府的合作过程中袁算法的设计和执行通常不存在明确的法律规定和法律解释遥 如果第三方开发者介入袁会在 ChatGPT 辅助数字政府的过程中扮演着管理者的角色袁而一旦对其施加责任袁则可能会面临混淆市场行为和
31、行政行为的困境遥 行政责任和技术责任的混淆会导致数字政府建设中的追责链条断裂袁从而消解政府主体的公共属性遥渊三冤信息院ChatGPT 模型对生活秩序的破坏ChatGPT 模型为数字政府建设从数智化角度持续赋能袁满足社会公众对数字政府的愿景袁也推动行政部99门效率不断提升遥 但是 ChatGPT 模型作为目前最先进的人工智能技术袁在信息的收集尧处理尧存储等方面仍然存在秩序混乱的问题遥 在 ChatGPT 模型赋能数字政府过程中袁应在数字政府的行政效率和公民个体的数据权利之间寻求平衡遥1.ChatGPT 模型无度尧无序的信息收集过程ChatGPT 模型拥有庞大的训练数据库袁这些数据来源于互联网中搜
32、集存储的信息袁主要的开源语料可以分成 5 类院书籍尧网页爬取尧社交媒体平台尧百科尧代码遥 2016 年 3 月袁叶中华人民共和国国民经济和社会发展第十三个五年规划纲要曳20提出院把大数据作为基础性战略资源袁全面实施促进大数据发展行动袁加快推动数据资源共享开放和开发应用袁助力产业转型升级和社会治理创新袁力争从野数据大国冶变成野数据强国冶遥 数据在数字经济时代已经成为生产生活的稀缺要素袁 掌握数据资源就能在市场经济中处于优势地位遥 然而袁ChatGPT 问世以来袁出现过多起数据泄露事件曰引起企业和公民的广泛关注袁也为数字政府的建设发出预警袁比如三星员工将企业机密信息上传至 ChatGPT 导致的数
33、据泄露事件曰ChatGPT 虚假指控一名澳大利亚的市长胡德曾因贿赂入狱服刑的诬陷事件曰还有 ChatGPT 泄露部分 ChatGPT Plus 订阅者的个人信息的数据泄露事件遥 在数字政府的建设中使用 ChatGPT 先进的自然语言处理技术来处理政府部门收集的信息袁会充分发挥底层数据的利用效率袁数据的价值也会被放大遥大型语言数据模型在数字政府建设中的应用袁会通过大量数据积累和分析袁使语言模型背后的研发公司能获得更准确和更全面的信息袁来实现对信息数据的野权力控制冶袁这会助长其在个人数据和收集利用方面存在的道德风险遥 因此袁个人数据的合理使用和保护问题需要进一步加强管理遥2.ChatGPT 模型无
34、端尧无限的信息支配方式一方面袁ChatGPT 模型赋能数字政府的过程中可能存在过度整合个人数据信息的问题遥 数据整合并非对原有模式的颠覆袁而是把各种资源整合起来为业务服务袁包括数据的收集尧整理尧分析和变换等步骤遥21在数字政府的建设过程中袁ChatGPT 模型可以通过网络爬虫等方式袁收集来自不同信息数据源的语料数据袁通过理解语言规则和信息的含义袁进而支持自然语言应用遥 而面对 ChatGPT 模型的算法黑箱袁如果政府部门无法确定ChatGPT 模型收集的数据仅仅为数字政府建设所用袁则有可能在数字政府建设过程中将公民个人信息作为稀缺商业资源而用于商业用途遥 一旦技术因假设误导而作出错误的道德决策
35、袁风险便随之而来22袁对公民的个人信息造成威胁遥此时数据的匿名化即是数据安全的重点袁个人会面临身份信息暴露的风险遥算法相关合规义务的履行情况是利用 ChatGPT 模型提供服务的算法服务者在提供服务过程中需要回答的问题遥而在我国围绕算法推荐服务制定的叶算法管理规定曳缺乏对算法备案公开的信息明确规定遥 同时袁如果利用 ChatGPT 模型收集公民个人信息对私主体进行群体画像袁就会成为不法分子侵犯公民人格财产权利的工具遥23另一方面袁ChatGPT 模型赋能数字政府的过程中可能存在过度治理个人数据信息的问题遥与传统人工智能算法相比袁ChatGPT 模型的学习更依赖数据的质量和数量袁 未经充分的隐私
36、保护会导致公民的隐私被滥用袁尊重隐私权的人工智能算法则可能会受到负面影响遥 数字政府的建设过程中袁ChatGPT 模型可能会利用公共数据谋求商业利益袁加剧资本对公民人格尧财产权的侵蚀遥3.ChatGPT 模型无故尧无边的信息泄露事故ChatGPT 模型赋能数字政府的过程中袁在存储信息的阶段也可能引发风险遥 首先袁数据隐私泄露风险遥ChatGPT 模型需要通过大量的数据训练来辅助数字政府的建设袁政务人员需要以语料库尧文本语料和对话记录等数据资源为基础训练 ChatGPT 模型遥 如果这些数据没有在应用过程中得到充分保护袁公民个人信息的数据泄露后果就难以估计遥 其次袁数据安全性风险遥 政务人员若缺
37、乏对 ChatGPT 模型的相关专业性能力袁被用于数字政府建设的公民数据则可能遭到黑客利用袁个人信息可能被窃取甚至篡改遥 个人信息作为重要的战略资源袁是网络信息系统的核心内容袁因此个人信息权遭受侵犯也会直接危及整个网络信息系统的安全遥24ChatGPT 模型的数据质量的正确性会受到影响袁数字政府的建设进程就难以推进遥最后袁个人数据的无限期不当存储风险遥 按叶个人信息保护法曳第十九条规定袁除法律尧行政法规另有规定外袁个人信息的保存期ChatGPT 模型融入数字政府建设研究:风险尧基础与路径1002023 年第 10 期限应当为实现处理目的所必要的最短时间袁由此可见袁我国并没有直接规定明确的个人信
38、息保护期限遥 若OpenAI 公司不采取限制数据的存储时间袁ChatGPT 会在数字政府的建设中不断积累公民个人信息袁 公民的个人信息就存在被滥用甚至被攻击的风险遥五尧制度尧权利与原则院ChatGPT 模型融入数字政府的基础ChatGPT 模型应用于数字政府建设必须坚持体系思维袁从技术融入风险防范袁关涉到其中的技术尧人员基础袁要做好顶层设计袁建构制度规范袁将 ChatGPT 模型应用于数字政府建设的风险控制在最低限度内遥渊一冤技术院自主知识产权的 ChatGPT 模型之研发和推广除了美国 Open AI 公司发布的 ChatGPT 以外袁 我国的一些公司也在进行该人工智能语言系统的研发袁如百度
39、的野文心一言冶当前已经投入市场使用遥 从实际效果来看袁我国科技企业研发使用的类 ChatGPT 模型效果还不尽如人意袁在语言分析尧数据处理尧结果反馈等方面还有较大的提升空间遥 然而出于对国家数据主权以及个人信息安全的考虑袁未来数字政府建设必须与具有自主知识产权的 ChatGPT 模型相融合袁因此加大科技研发力度袁提升模型适用效果是 ChatGPT 与数字政府建设相融合的首要关键遥类似于 ChatGPT 这样的人工智能系统袁进行一次大规模学习就需要花费上千万美元25袁因此除了企业这一研发主体之外袁政府要给予企业必要的支持力度袁助力 ChatGPT 模型的技术能力进一步提升遥 要合理运用产业政策尧
40、补贴政策尧财税手段等对高新科技企业予以扶持袁同时加强与科技企业尧研发院所的沟通协调袁集中多个层面的科技创新资源袁发挥举国创新体制优势袁加快我国具有自主知识产权的 ChatGPT 模型研发遥渊二冤制度院基于数据分级的 ChatGPT 模型之基准和规制当前我国数据监督管理状况呈现为行业分散监管的局面遥 根据我国叶数据安全法曳的规定譹訛袁相应的数据分类分级制度主要由行业主管部门自行制定袁如工信部出台的叶工业数据分类分级指南渊试行冤曳袁科技部出台的叶科学数据安全分级分类指南曳遥 此种行业分散监管的格局也带来了一些问题袁如科技数据尧工业数据之间并非截然分明袁具有一定的交叉区域袁倘若分类分级的标准不一袁则
41、可能阻碍 ChatGPT 助力于数字政府建设的有效实践遥要统一协调数据分级分类制度袁打好 ChatGPT 模型融入数字政府建设的底层基础遥叶数据安全法曳第 6 条规定袁野国家网信部门依照本法和有关法律尧行政法规的规定袁负责统筹协调网络数据安全和相关监管工作遥 冶这就需要国家网信主管部门发挥其统筹协调作用袁在国家层面首先建立数据分类分级的总体性框架和目录袁在此框架和目录之下袁再由各行业主管部门制定各行业分别的数据分类分级规范曰遇有制度规范不一时袁应当赋予国家网信主管部门一定的决定权袁由其根据数据敏感程度尧运作方式尧运行目的等标准袁确定某一类数据应当如何进行分类分级袁减少行业主管部门之间的矛盾与摩
42、擦袁因地制宜地制定数据分类分级目录遥渊三冤权利院基于责任分配的 ChatGPT 模型之链条和溯因ChatGPT 模型辅助数字政府建设中有两个主要主体院一个是 ChatGPT 模型或者其背后的技术服务提供者曰另一个则是政府遥 当在前者辅助后者的过程中对相对人权益造成损害时袁要明晰二者各自需要承担的责任遥承担责任的前提在于相关主体负有一定的义务袁对于政府而言袁一方面负有 ChatGPT 模型引入阶段的安全审查义务袁另一方面负有 ChatGPT 模型引入之后的算法结果审查义务遥 就安全审查义务袁政府既要充分考虑到服务提供方的技术能力袁同时也要对其数据存储尧数据备份以及数据安全中心的建设情况进行全面考
43、察袁审慎选择合作对象遥 就结果审查义务袁应当始终秉持 ChatGPT 模型融入数字政府的辅助性原则袁无论是利用其算法还是人工语言交互系统袁ChatGPT 模型都只是手段而非目的遥 因此袁即使是运用算法对大数据进行精准分析袁政府也仍然需要承担结果审查义务袁对算法结果进行全面审查之后才能将其运用至行政决策当中遥 倘若因政府的安全审查尧结果审查不到位而给相对人权益造成损害袁则政府需要承担行政责任遥ChatGPT 模型的服务提供者在部分情况下需要承担民事责任遥如根据其算法或数据库袁为行政相对人或101政府提供了错误的指导信息袁其必须根据与政府签订的技术服务合同承担民事责任遥行政机关由此获得的经济赔偿可
44、以作为向野行政相对人冶予以赔偿或补偿的经济来源遥渊四冤原则院基于伦理规范的 ChatGPT 模型之应用和服务野科学技术的发展究竟是给人类带来幸福还是灾难袁完全取决于人类自己而非工具遥 冶26ChatGPT 模型可以说是当前人类新兴技术的野集大成者冶袁其能够自主学习的强大技术优势使人工智能系统第一次真正地拥有类人化的能力遥 无论如何袁该模型的研发和运用都要具体的现实的人进行操作袁虽然无法对 ChatGPT 模型进行科技伦理规范袁但是可以对其背后的研发者尧应用者进行数字时代的科学技术伦理教育袁切实发挥伦理调节器尧伦理评估工具以及伦理督导的功能作用 袁使科技创造更多的价值遥算法并非完全中立且客观袁在
45、研发与使用过程当中袁可能因运用人员自身价值观的偏狭而导致技术中立的美好理念被破坏遥 因此袁在数字时代袁还要通过制度化尧规范化的方式加强对 ChatGPT 模型研发与运用人员的科学技术伦理教育袁防范运行风险袁促进科学技术效用的最大化发挥遥对于研发人员而言袁不仅要对其所属机构研发产品进行伦理审查袁行政监管部门还要切实履行职责袁及时发现算法或者其他人工智能产品存在的技术伦理问题袁并加以法律责处和纠正遥 对于技术应用人员而言袁在数字政府建设当中则是指具体的政府工作人员袁虽然不要求其知悉 ChatGPT 模型的技术原理袁但是在运用算法及算法结果时袁政府部门也要加强对其科学技术伦理教育袁因为最终作出决策的
46、还是该类人员遥 要始终坚持比例原则尧最小损害原则袁在加快数字政府建设以及推进服务型政府的同时袁利用新型技术更好地服务公民遥27六尧事前尧事中与事后院ChatGPT 模型融入数字政府的全程ChatGPT 模型辅助数字政府建设的制度目的在于对 ChatGPT 数据进行系统的整理与优化袁 推动ChatGPT 模型数字政府建设袁更好地服务于人民遥 国家尧政府与公民各自承担相应的责任与义务袁既要防止公共性建设过度地进入公民的私人领域袁又要对其产生的问题提供切实可行的办法遥 此外袁还需要不同治理状态空间之间的相互配合遥渊一冤事前院有法可依在人工智能时代袁为减少公民基本权利的不确定性袁国家要在事先履行风险预
47、防义务遥28风险预防义务是国家积极保护义务在数据权领域的体现袁要求国家必须完善有关立法的规定袁从而有效防止第三人对数据权的不当侵犯遥风险预防义务是防止第三人对公民数据权侵害的事前阶段的保护袁是国家对其产生的潜在威胁所进行的预防措施遥 如蒂埃里 窑 布雷顿渊Thierry Breton冤所言袁ChatGPT 带来的权利侵害风险袁凸显制定预防性规则的迫切需要遥29因此袁为了有效防止 ChatGPT 模型在数字政府建设过程中对公民数据权的侵犯袁必须围绕叶个人信息保护法曳优化野知情要同意冶规则遥有效的野知情要同意冶规则应遵循野明确告知要充分知情要自主自愿要明确同意冶的逻辑路径遥首先袁野明确告知冶环节仍
48、存在一定不足袁这就要求立法者在今后的法律中细化 ChatGPT 模型的告知义务袁并且以一种简洁透明尧通俗易懂的方式向权利主体作出解释和说明袁且由于数据处理的风险与告知规则的明确程度相关袁因此程度越高袁告知规则就要越明确袁只有这样袁权利主体的野数据同意冶才更真实可靠遥16其次袁立法机关的风险预防义务是一个长期的过程袁并不是一蹴而就的袁在主客观条件改变时袁立法者也应及时对法律进行修改和补充袁否则同样不能起到风险预防的作用遥渊二冤事中院风险管控在 ChatGPT 模型植入数字政府建设过程中袁政府拥有着双重身份袁既是数字平台的合作者袁又是数字平台的监管者袁强调通过发挥政府的监督与管理功能袁为权利主体提
49、供实时性的野防火墙冶遥 政府的监管功能主要体现在规则的实效性将会大大增强袁对保护公民数据权起到一定作用袁同时也促使 ChatGPT 模型更加合理地提供数字服务袁满足政府与公民的需求袁推进数字政府的加快建设遥 与此同时袁ChatGPT 模型对公民数据权也产生一定的侵犯袁所产生的法律问题也要求行政机关必须完善相应的行政处罚机制袁加大处罚力度袁对ChatGPT 模型融入数字政府建设研究:风险尧基础与路径1022023 年第 10 期不法行为加以制裁袁通过行政处罚进一步保障公民的合法权益袁为数据权主体行使权利保驾护航遥30此外袁公民在面对违规处理行为时也可以通过向行政机关举报等方式积极主动地维护自身的
50、合法利益袁 行政机关在接收到举报时应积极核实袁 一旦发现情况属实应立即强制 ChatGPT 数据平台及时整改并采取行政处罚措施袁有效规范数据平台的信息处理行为袁调动公民的积极性袁从而全方位保障公民数据权遥 此外袁行政监管并不是无界限的袁应避免因为过度监管而侵犯 ChatGPT 模型服务提供者的经营自由权袁阻碍数字政府的建设袁所以在实践中也应当注意行政机关与 ChatGPT 数据平台的经营自由之间的平衡遥渊三冤事后院司法救济司法救济是维护公民数据权的最后一道防线遥 在 ChatGPT 模型植入数字政府建设过程中袁事前尧事中保障并不能充分发挥作用时袁司法救济则成为其最后的保障机制袁这也是我国愈发重
浙ICP备2021020529号-1 | 浙B2-20240490 
