类ChatGPT技术嵌入政务服务网的应用场景、风险隐患与实施建议.pdf

信息与电脑2023年第10 期Information&Computer类ChatGPT技术嵌入政务服务网的应用场景、风险隐惠与实施建议人工智能与识别技术杨军农1王少波？（1.中国移动湖北公司云网系统集成中心解决方案部，湖北武汉2.华中科技大学公共管理学院，湖北武汉430023;430074)摘要：政务服务网是企业和用户在线办理政务事项的统一平台。文章结合类ChatGPT人工智能的技术原理、运行条件、能力范围以及安全风险，分析在政务服务网不同的功能场景下嵌入类ChatGPT技术的必要性、可行性、安全性，并提出政务服务网嵌入类ChatGPT技术的安全隐患和实施建议，对建设数字政府和提高政府治理水平具有重要意义。关键词：类ChatGPT人工智能；政务服务网；数字政府中图分类号：TP18The Application Prospects,Risks,and Implementation Paths of ChatGPTTechnology Embedded in Government Service Networks文献标识码：A文章编号：10 0 3-9 7 6 7（2 0 2 3）10-18 3-0 4YANG Junnong,WANG Shaobo?(1.Cloud Network System Integration Center Solution Department of China Mobile Hubei Company,Wuhan Hubei 430023,China;2.College of Public Administration,Huazhong University of Science and Technology,Wuhan Hubei 430074,China)Abstract:The government service plaform is a unified platform for enterprises and citizens to handle government affairsonline.This paper combines the technical principles,operating conditions,capabilities and security risks of ChatGPT-likeartificial intelligence to analyze the necessity,feasibility and security of embedding ChatGPT-like technology in differentfunctional scenarios of the government service platform.Puts forward the security risks and implementation suggestions ofembedding ChatGPT-like technology in the government service platform,which is of great significance for building digitalgovernments and improving government governance levels.Keywords:ChatGPT-like artificial intelligence;government services platform;digital government0引言聊天生成预训练转换器（ChatGenerative Pre-trainedTransformer，Ch a t G PT），被译为“生成式聊天机器人”，是人工智能公司OpenAI推出的人工智能聊天机器人程序，除了可以用自然语言进行对话交流，还可以用来辅助编写程序代码和自动总结文档摘要等多种任务。OpenAI于2 0 2 2 年11月推出ChatGPT，上线5d后已有100万用户，上线两个月后已有上亿用户，利用搜索引收稿日期：2 0 2 3-0 4-2 8作者简介：杨军农（19 7 1一），男，湖北武汉人，硕士研究生，工程师。研究方向：移动通信技术在行业信息化中的应用。擎以“ChatGPT”为关键字共有7.46 亿个搜索结果。基于此，文章分析并探讨类ChatGPT技术在我国政务服务网的应用场景，对建设数字政府和提高政府治理水平具有重要意义。1类ChatGPT技术原理、运行条件、能力范围以及安全风险1.1类ChatGPT技术原理类ChatGPT技术的底层逻辑是用于分析语言的大型183信息与电脑人工智能与识别技术Information&Computer语言模型（LargeLanguageModel，L L M），即向计算机输入大量的书籍文章作为数据集，利用数据集计算输出某一组文字标点后最大概率相连的文字或标点，再将这个文字或标点添加到原来的文字标点组合后面并形成新的组合，同时计算输出下一个最大概率相连的文字或标点，依次逐渐生成句子、段落、文章。为了使依据数学模型生成的内容更加符合实际情况，首先需要基于人反馈的强化学习算法对底层模型进行有侧重点的训练，即使标记员协助机器撰写答案，训练师修改模型算法参数，对机器回答的结果按准确程度进行排名，从而生成新的数据集，以提高正确答案出现的概率。其次，将人工训练对话数据集和初始数据集（InstructGPT）混合，并将其转换为对话格式，形成了ChatGPT。最后，根据这些强化学习算法模型，增加数据集的体量和模型参数的数量，并多次迭代，可提高ChatGTP的准确性。利用此原理开发的人工智能技术即为类ChatGPT人工智能技术（简称类ChatGPT技术）。OpenAI团队的ChatGPT是此技术的代表性产品，我国阿里云计算有限公司的“通义千问”与科大讯飞股份有限公司的“星火认知”也属于类ChatGPT技术产品1.2类ChatGPT技术运行条件类ChatGPT需要较大的计算量。目前，ChatGPT的总算力消耗约为36 40 10 l5F-days（即每秒计算10 0 0 万亿次，需要计算36 40 d），因此需要7 8 个投资规模30亿、算力为50 0 10 lF的数据中心才能支撑运行。类ChatGPT技术需要较大的数据量。ChatGPT是基于8 0 0 0 亿个单词的语料库，包含17 50 亿个参数，使用的最大数据集在处理前容量达到了45TB。类ChatGPT技术需要较大的训练量。ChatGPT必须在大规模语言模型的基础上，依托于大量的人工标注数据，才能实现对人指令的精准理解。1.3类ChatGPT技术的能力和风险类ChatGPT技术的能力可以分为数据生成器、知识挖掘工具、模型调度以及人机交互4种。数据生成器主要用于人机对话和生成文案等；知识挖掘工具是对已有的文档数据进行分析提炼，如生成摘要、翻译、润色等；模型调度指调用其他的算法模型和专业功能软件来完成音视觉任务或其他功能；人机交互指将类ChatGPT技术嵌人特定应用，如微软的Office365Copilot辅助办公和GitHubCopilotX辅助编写程序代码等。类ChatGPT技术安全风险体现在准确率、安全性、数据隐私以及可解释性等方面。例如，ChatGPT3.5不能2023年第10 期准确理解提问者的真实意图，时常根据用户提问的关键词写出似是而非的答案 2 。另外，类ChatGPT技术的安全机制可能存在漏洞，如泄露敏感信息或他人隐私数据、输出有害内容。由于ChatGPT技术的底层模型运用神经网络和强化学习模型，其输人和输出并非一一对应的关系，其运行机制类似一个灰箱，可解释性和透明度较差。2类 ChatGPT技术在政务服务的可应用场景2.1现有政务服务网的聊天机器人（Chatbot）使用情况政务服务网是数字政府的重要建设内容，可分为国家级和省级两类，具备查看办事指南、在线办理事项、咨询评议及政务公开等基本功能。经过多年的建设，各部委职能部门、省区市非涉密的依申请类政务服务事项均已人驻政务服务网，是企业和用户在线办理政务的统一网上办事平台。国家级和各省级政务服务网嵌入的聊天机器人功能非常有限，智能化、人性化、便利化程度偏低，仅停留在“能用”的水平，距离“够用”“好用”的建设目标相差甚远。JU等人研究大多数政务服务网的聊天机器人没有表现高水平的主动性和责任心，企业和用户更希望政务服务网的聊天机器人能采用多回合对话模式，可以提供办事指南以外的信息，语言风格更通俗易懂而非官方的长篇大论3。2.2类ChatGPT技术在政务服务网的可应用场景2.2.1使申请人准确知晓办理指南可在政务服务网查询和办理的事件分类称为事项。各政务服务网的事项数量为10 万10 0 万，传统的信息检索方式查找效率低、结果准确率低。而利用类ChatGPT技术的数据生成器能力，可以通过多次对话的方式帮助申请人快速知晓办事人口、办理条件、办理材料等办事指南信息。政务服务网办事指南的所有要素具有结构化且唯一的特点，即尽管有多种提问方式但是答案只有一个。为了确保回答的准确性，必须利用各政务服务网的数据作为语料库对类ChatGPT技术产品进行特殊训练，排除其他相关但不准确的答案。2.2.2辅助申请人填写申请表在政务服务网办理事项一般都要填写申请表。申请表可分为结构化填写部分和开放式填写部分。对于申请表的结构化填写部分，政务服务网已有校验规则。开放式填写部分是申请人填写和政务服务网核验的困难点，申请人填写内容和政府需要考察内容之间时常发生不匹配的情况。184信息与电脑2023年第10 期Information&Computer利用类ChatGPT技术的人机交互界面和模型调度功能，可以辅助申请人准确填写申请表。类ChatGPT技术填写申请表所需要训练的数据集是基于他人的填写申请表，训练数据中可能带有他人隐私或知识产权，因此在自助填表时可能存在隐私泄露风险或侵犯他人知识产权风险。2.2.3辅辅助申请人编写申请材料在政务服务网领域，狭义上的申请材料指除申请表格以外申请人自行编写的文档，不包括政府部门颁发的证照和批文。申请材料一般没有固定的格式要求，根据事项要求不同，申请材料的字符数量在几百字到几万字不等。材料类型包括文本、照片、图纸等多种类型。如果利用类ChatGPT技术编写申请材料，需要基于历史数据进行训练，但存在隐私泄露风险和侵犯他人知识产权风险。在现有的技术条件下，类ChatGPT在生成长文本方面能力较弱，很可能存在前后文主旨不一致和衔接不顺畅的情况。2.2.4自动审查事项申请作为一项专业且严肃的工作，政务事项审批对准确率有极高要求，而类ChatGPT技术现有的准确率无法满足复杂情况下的审批要求，且类ChatGPT技术的可解释性差，很难实现自动化监管，一旦审批出错很难追踪溯源。另外，在短期内，利用类ChatGPT技术对事项申请进行自动审查的难度较大，只能利用其模型的调用能力整合其他工具，整理归类申请资料中的信息，辅助专业人士进行审查。2.2.5评价评议受技术条件和管理成本的限制，以往政务服务网只采用评分式评价机制。利用类ChatGPT技术的数据生成能力，可以开通文字留言功能。政务服务网能对文字留言评价进行实时回复，改善申请人的用户体验。同时，可以利用类ChatGPT技术知识挖掘能力，以低成本、高效率的方式分析申请人对政务服务网的意见和建议。2.3.6其他场景政务服务网的办理进度查询、协助预约线下办理、表1类ChatGPT技术在政务服务网的可应用场景和必要性、技术可行性、安全性业务场景所能提供的能力使申请人准确知晓办理指南数据生成器辅助申请人准确填写申请表人机交互界面、模型调度辅助申请人准备申请材料人机交互界面、模型调度对事项申请进行自动审查知识挖掘工具评价评议模型调用能力其他场景模型调用能力人工智能与识别技术个人信息管理等辅助功能，在现有的情形下不利用类ChatGPT技术也能完成。如果利用它的模型调用能力将相关功能整合，一定程度上提升了申请人的满意度。类ChatGPT技术在政务服务网的可应用场景和必要性、技术可行性、安全性的分析，如表1所示。3类ChatGPT技术嵌入政务服务网风险隐患和实施建议3.1类ChatGPT技术嵌入政务服务网的安全风险隐患3.1.1错误信息政务服务网的事项有大项和小项两类。大项是各地区和各部门根据“三定方案”“权力清单”等相关政策法规规定拥有的审批职责，如区县级公安局的“户口迁移审批”事项。小项是各部门根据实际需要依情形将大项进一步细分，例如“户口迁移审批”可进一步细分为“军队干部家属随军”“大中专毕业生回原籍落户”“高级专业技术人才落户”等2 0 余个子项。不同子项的办事指南和申请材料高度相似，而类ChatGPT技术模型表现出对提问表述方式的高度敏感性，因此很容易产生错误信息。3.1.2主体缺失类ChatGTP技术产品在政务服务网可以帮助申请人快速查询信息、填写表格、编写材料，虽然短时间内其专业水平尚不能达到人类技术专家的水平，但是其用户体验和工作效率却远高于传统的搜索引擎检索和电话咨询人工客服等方式。随着申请人对类ChatGPT技术的信任增加和依赖程度增加，类ChatGPT技术可能代替申请人完成了业务申请工作，而处于技术弱势地位的人们可能会处于“智能失权”状态。在政府治理中，所有行政行为的主体都应是自然人，在“智能失权”的状态下，如果类ChatGPT技术产品出现错误，并给社会公众和政府部门造成损失，可能会导致主体责任模糊难以界定责任。3.1.3隐私泄露在类ChatGPT技术使用的过程中，用户可能会录入类ChatGPT技术嵌人必要性技术可行性安全性预期成效帮助申请人快速查询办事信息辅助申请人准确快速地填写申请表辅助申请人准确快速撰写申请材料自动审核申请材料协助申请人便捷查询提升满意度高高高中中高高中低低高高高中低中高高185一信息与电脑人工智能与识别技术Information&Computer身份证号码、实际住址、实际财务情况以及实际生产经营情况等大量的个人和企业的敏感数据。类ChatGPT技术的训练数据集需要基于真实的数据，因此类ChatGPT技术可能泄露其他用户的隐私。另外，政务服务网用户基数庞大、采集数据广泛、直接暴露于互联网等特殊性，类ChatGPT技术产品造成信息泄露或侵犯知识产权的风险更高，危害更大，因此必须确保数据不泄露和不滥用。3.2类ChatGPT技术嵌入政务服务网的实施建议3.2.1安全可信根据生成式人工智能服务管理办法（征求意见稿）所体现的法规精神，应当加强人工智能算法和框架等基础技术的自主创新、推广应用、国际合作，优先采用安全可信的软件、工具、计算、数据资源。训练数据集应当和生产数据相分离，训练前必须对数据进行脱敏处理。利用类ChatGPT技术采集和生成的数据必须存储于政务内网。优先采用自主知识产权的软硬件，如果必须采用非自主产权算法和国外生产的软硬件产品，则应当脱离国际互联网的运行和使用。3.2.2政企合作类ChatGPT技术开发投入巨大。和整个经济社会相比，类ChatGPT技术在政务服务网的嵌人只是一个非常小众的垂直应用领域，因此从经济性角度考虑，政府应当和国内可信可控的互联网公司合作。企业投人硬件资源配置和底层模型的研发，并向政府提供软件即服务（So f t w a r e-a s-a-Se r v i c e，Sa a S），政府向企业提供数据资源和具体的应用场景，培育本土人工智能企业发展壮大。政务服务属于低频次和高刚需的服务，而国内头部互联网企业的主营业务集中于低刚需、高频次的生活娱乐服务，将政务服务融入国内头部互联网企业的服务，有利于拓展政府的服务渠道，扩大企业的服务范围，便利人们享受政务服务，实现政府、企业、公众3方共赢 5-7 。3.2.3统分结合类ChatGPT技术的建设运营需要足够的资金支持和智力支持。如果完全统一建设，难以及时响应各省级政务服务网的个性化建设需求和个性化数据训练要求，不利于调动各省的积极性。因此，采用统分结合的建设方式。国家平台负责底层平台和基础算法的建设采购，出台相关的建设运营规范；各省级政务服务网负责按国家平台的建设运营规范，基于国家底层平台和基础算法对本省的数据进行训练，将得到符合本省省情的接口服务嵌入本省政务服务网，实现兼顾投资效率和个性需求。2023年第10 期3.2.4分步实施类ChatGPT技术应当按包容审慎的原则，分步展开实施。既要在使用场景方面分步实施，如按类ChatGPT技术嵌人政务服务网的必要性、技术可行性、安全性进行排序，逐场景分步嵌人使用，又要按地域和事项类别分批次进行试点，如浙江、江苏、上海等省市的信息化水平高、基础好，先行先试，取得经验后向中东部省份推行，最终逐步向全国各省份推广。4结语类ChatGPT技术对我国数字政府建设产生广泛而深远的影响。文章从预期成效、必要性、技术可行性、安全性4个维度对政务服务网可嵌人类ChatGPT技术的场景进行分析，提出了若干实施建议，以期能促进学术界和产业界对类ChatGPT技术的理性客观分析，推动ChatGPT技术能更好、更快地在政务服务网等业务场景落地实施，提高企业和用户参与政务服务的便捷性和安全度。参考文献1桑基韬，于剑.从ChatGPT看AI 未来趋势和挑战 .计算机研究与发展,2 0 2 3,6 0(6):119 1-12 0 1.2OpenAI.Introducing ChatGPTEB/OL.(2022-11-30)2023-03-19.https:/ J,MENG Q,SUN F,et al.Citizen preferences andgovernment chatbot social characteristics:evidence froma discrete choice experimentJ/0L.(2023-02-09)2023-03-12j.https:/ EB/OL.(2023-04-11)2023-04-20.http:/ .学海,2 0 2 3(2):41-47.6黄璜.赋物以”智,赋治以 慧：简论ChatGPT与数字政府建设 J.学海,2 0 2 3(2):35-40.7张夏恒.类ChatGPT人工智能技术嵌入数字政府治理：价值、风险及其防控 J.电子政务,2 0 2 3(4):45-56.8樊博.ChatGPT的风险初识及治理对策 .学海,2 0 2 3(2):58-6 3.186