生成式人工智能及潜在司法应用场景_肖凤.pdf

法治在线风云际会生成式人工智能及潜在司法应用场景文/肖凤随着科技的发展，数字化正在改变我们的生活，也在改变司法工作的方式。如何运用ChatGPT这类新技术，服务司法工作，助力国家治理现代化？上海市人民检察院、同济大学人工智能社会治理协同创新中心、百度智能云、科大讯飞相关专家积极建言献策。追根溯源：ChatGPT 的原理和发展历程曹晓烨：风靡全球的AI技术正式拉开第四次科技浪潮大幕。我们见证了ChatGPT风靡全球的结果，但对其原理和发展历程却不是非常了解，请各位嘉宾为我们介绍一 下。陈吉栋：ChatGPT实质是人工智能程序，其工作原理是先给它提供一个庞大的语料库（通常是直接从互联网上爬取），让模型通过上千亿个参数对这些文本进行打散、标记、学习，构建起一个复杂的预测模型。从2018年起，OpenAI就开始发布GPT,每一代GPT模型的参数量都在爆发式增长，堪称“越大越好”。2022年11月发布的ChatGPT，参数量超过1750亿。今年3月15日发布的GPT-4，与ChatGPT所用的模型相比，其回答准确性不仅大幅提高，还具备更高水平的识图能力。崔世鹏：ChatGPT底层依赖的是语言大模型、大数据、大算力、强算法，以及基于人类反馈的强化学习技术等。从其本身的概念范畴来讲，它更多的是人工智能领域下基于大模型的深度学习应用。前面陈教授也提到ChatGPT的学习训练参数规模已达千亿级别，它还可以基于指令学习的方式，主动自我学习、适应输入。同时，基于其强化学习的人类反馈，训练这个模型的开发团队基于人工调参的模式（人工标注训练的过程）将人工评价的机制训练成奖励模型，再基于这个奖励模型进一步训练、优化ChatGPT模型。ChatGPT更多的是文本类的基于大模型的应用。而GPT-4是一个跨模态大模型，结合了文本和图像的能力，然后在此基础上给上层应用提供相应的模型服务。孔维骏：关于ChatGPT技术，其主要具备以下特性：第一是信息的全量记忆。ChatGPT在对话过程中会记忆上下文信息，不断积累的前段信息记忆会在后续处理过程中辅助结果生成。第二是具备一定程度复杂逻辑的推理能力。第三是多风格生成。ChatGPT在文本生成的过程中，风格是多变、多元的。第四是它能够进化，比如问ChatGPT一个问题，它回答错了，纠正之后，下次再问，它就能正确回答。曹晓烨：刚刚各位嘉宾谈到了ChatGPT的诸多特点，也可以说诸多优点，那么实践运用中，其是否存在一定的不足？丁琪：ChatGPT虽然具有一定的推理能力，但其曹晓烨上海市杨浦区人民检察院党组成员、副检察长Q&A主持人ChatGPT（Generative Pre-trained Transformer的缩写，意为生成式预训练变换模型）是美国人工智能研究实验室OpenAI推出的一种人工智能技术驱动的NLP（自然语言处理）工具。目前，ChatGPT具备语言生成、上下文学习、已知知识储备与输出等功能，一定程度上来说已适应人类的表达预期。Q&A主持人59检察风云 PROSECUTORIAL VIEW2023年第13期知识（数据）主要是基于训练时的数据供给，因此，ChatGPT只能基于训练时所拥有的数据集进行回答。例如它不会像苹果的Siri那样回答今天天气如何等。陈漫卿：刚才各位专家介绍ChatGPT模型的训练需要大量数据，这就会导致在ChatGPT未经大量语料训练的领域缺乏“人类常识”和引申能力，甚至会一本正经地胡说八道。趋势探讨：ChatGPT 技术的发展曹晓烨：随着人工智能技术的发展，ChatGPT这类技术的发展趋势是怎样的，是否会对我们的工作、生活以及对司法工作带来颠覆性影响？崔世鹏：相关数据显示，2020年中国人工智能行业市场规模约为1858亿元，预计2023年将达约5298亿元。业界预计未来几年ChatGPT的市场份额将迅速增长。国家科技部也表示，将在今后几年加大对人工智能行业技术的支持。由此可见，ChatGPT的发展前景非常可观。随着技术的发展，ChatGPT的应用场景，包括但不限于智能客服、智能对话等。如智能客服方面，ChatGPT技术可以自动生成新的语言，帮助用户更好地理解相关信息，用户因此可以更加便捷地获得服务。由此可知，ChatGPT主要是起到辅助作用，其在司法场景的运用亦是如此。司法人员可以运用ChatGPT辅助查询、类案推送以及简单的归纳整理案件材料。孔维骏：ChatGPT的出现标志着人工智能技术的发展取得了从量变到质变的飞跃，甚至会对人类社会带来颠覆性影响。但这种颠覆性影响并不是说能够完全取代人类的工作，正如刚才崔世鹏专家所说，更多的是起到辅助作用。在司法工作领域，简单重复性的工作可以由人工智能技术代替或辅助。如有了语音识别的人工智能辅助之后，书记员的工作从全程录入变成了修改完善庭审记录，工作效率大大提高。但在专业性强、复杂场景下的工作，ChatGPT则很难做到和人类一样，更多的还是提供辅助判断和数据推送等。陈漫卿：有媒体认为，软件技术类、新闻媒体类、法律工作类、客服人员的工作将更容易被ChatGPT抢走。但我认为，这种观点过于绝对。技术的发展虽丁琪上海市人民检察院检察官崔世鹏百度智能云政务产品检法负责人陈漫卿上海市人民检察院检察官孔维骏科大讯飞司法业务部总监Q&A嘉 宾Q&A嘉 宾Q&A嘉 宾Q&A嘉 宾陈吉栋同济大学副教授、上海市人工智能社会治理协同创新中心研究员 Q&A嘉 宾知识（数据）主要是基于训练时的数据供给，因此，ChatGPT只能基于训练时所拥有的数据集进行回答。例如它不会像苹果 陈漫卿：刚才各位专家介绍ChatGPT模型的训练需要大Q&AQ&A嘉 宾Q&A嘉 宾孔维骏60法治在线风云际会然赋予人工智能“智慧”，但也只是人类智慧的初级阶段，不具备复杂的脑力劳动能力。上述工作中简单的重复类工作可能被“抢走”，但复杂专业性强的工作应该“抢不走”，或者说要“抢走”还有很长的路要走。陈吉栋：在未来哪些工作可能会被以ChatGPT为代表的人工智能取代呢?首当其冲就是大规模重复性劳动。对于ChatGPT是否会取代司法人员的工作，我持否定态度。原因在于，法律是上层建筑，没有哪个国家会允许人工智能来办案，最多只是辅助作用。场景展望：ChatGPT 这类技术的潜在司法应用曹晓烨：面对席卷而来的ChatGPT浪潮，大家预见的是强人工智能时代的未来将至。就司法领域而言，2023年1月30日美国哥伦比亚法院在裁判中使用了ChatGPT辅助办案的文本生成功能来增加说理依据，在裁判文书中，ChatGPT给出了具体的法律条款、适用情形以及宪法法院判例等。从中可见，以ChatGPT为代表的大型语言模型在辅助司法工作中有发挥的空间。结合我国司法实践来看，ChatGPT这类技术可以有哪些潜在场景应用，想听听各位嘉宾的观点。孔维骏：ChatGPT这类人工智能技术在司法领域的应用主要涉及语音、认知等技术领域，面向数据处理、智能分析等场景提供智能化服务，主要包括以下几个方面：一是提供全流程智能辅助办案应用，构建智能审查、量刑预测、文书生成、自动编目、笔录生成等业务能力，通过智能化技术辅助办案人员的常规工作。二是提供全方位司法监督管理应用，建设视频自动巡查、案件裁判偏离预警、案件智能核查等监督能力，及时发现和解决问题，加强司法工作流程的规范化。三是提供司法大数据深度挖掘应用，在海量的法律文本中搜索和推荐相关案例、法规和法律文献等信息，探索司法规律和趋势，为司法改革和法律制定提供数据支持。丁琪：美国哥伦比亚法院在判案时首次使用ChatGPT作为辅助工具，标志着ChatGPT首次对司法审判产生助力。确实，目前ChatGPT已经表现出很强的归纳能力，但它是否能够将一个复杂案件中的争议焦点提炼出来，是否能够对这些法律适用问题进行归纳，是否能够比较准确地定罪量刑，还有待进一步考察、验证。陈吉栋：法律的适用并非简单地引用法条，不同的案件中需要结合具体案情进行分析与调整，甚至有的案件存在多种罪名竞合的情况。因此，在实际办案中，需要归纳出焦点问题并进行全面分析，最终得出正确的判定。传统人工智能工具或者搜索引擎并无此种功能。而ChatGPT因其具有的推理能力则可以结合案件事实加以分析，并给出在不同情形下应当考虑的法律认定因素。其给出的建议具有一定参考价值，可以起到辅助作用。崔世鹏：百度从底层自研的昆仑芯片到国内首个深度学习框架，从文心1.0开始到今年3月16日发布的文心3.0（文心一言），表明了在大模型的领域具备完整的开发能力。百度当前的搜索引擎也用到了大模型的能力。为此，不管是当前还是未来，ChatGPT这类技术可以有效助力法律检索，得益于庞大的预训练数据库。ChatGPT这类技术虽然并非专为信息检索用途研发，但借助合理的提问方式，其往往能够给出比传统信息检索范式的搜索引擎更加精准而全面的回答。在司法领域，司法人员对法律相关文献资料的检索有着庞大的日常需求。通过合理的提问设置，ChatGPT这类技术能够为使用者提供大量文献与相关资料，帮助用户快速了解相关信息。陈漫卿：实践中，司法人员办案主要是对案件的审查，包括证据审查、法律适用等，在侦查、检察、审判等不同环节上对司法人员的工作要求是一致的。ChatGPT出来以后，基于它具有深度的阅读理解能力、能够进化以及具有一定的归纳推理能力等，可以运用ChatGPT这类技术辅助司法办案。比如在日常的环节中借助ChatGPT这类技术快速地从案情中提取出相应的内容，帮助办案人员减少机械性、烦琐性的工作。像上海检察机关全流程全息在线办案综合平台总体规划中关于全息助手的应用场景完全可运用ChatGPT这类技术研发替代场景。可以运用ChatGPT这类技术通过对海量的法律法规、历史案件、办案规则、专家意见等进行反馈式学习，让司法人员在办案过程中随时获取最贴切最实用的信息，形成案件定性的具体指引、辅助构建法律监督模型等。曹晓烨：感谢各位嘉宾的精彩分享。今天我们围绕ChatGPT技术原理及潜在司法应用场景进行了深入讨论和展望，我们期待以ChatGPT技术为代表的人工智能技术能够更好赋能检察履职、经济社会发展和“数字中国”建设。（声明：本内容仅代表嘉宾观点，不代表本刊立场）编辑：夏春晖