ChatGPT在犯罪中的潜在应用分析及执法应对策略初探.pdf

刑事技术前沿探讨2023 年 第 48 卷 第 4 期DOI：10.16467/j.1008-3650.2023.0025ChatGPT在犯罪中的潜在应用分析及执法应对策略初探孟庆振1，王少峰2,3，温玄林4，张炜琛4，周 红1，陈 松1,*（1.公安部鉴定中心，北京 100038；2.中国人民公安大学，北京 100038；3.北京市公安局，北京 100740；4.公安部科技信息化局，北京 100741）摘 要：ChatGPT甫一问世即引发广泛关注。本文以ChatGPT为例，简述了大语言模型的用途、技术特点和优势，并对当前面临的争议、伦理困境和信息安全风险进行了梳理分析。本文重点分析了大语言模型在犯罪中的可能应用场景，从利用 ChatGPT 辅助犯罪技能获取、实施网络犯罪、网络钓鱼攻击、散布虚假信息等方面进行探讨。本文还对执法层面利用 ChatGPT 服务犯罪打击、犯罪预防、执法决策、执法能力建设等进行了探析。本文认为，执法部门应保持开放态度，密切关注以ChatGPT为代表的人工智能技术应用对犯罪的影响，加强研究跟进，从“积极”和“消极”两个方面做好应对，应用新技术助力执法、提升效能。关键词：ChatGPT；犯罪；网络犯罪；电信诈骗；执法；个人信息保护中图分类号：DF793.2 文献标识码：A 文章编号：1008-3650(2023)04-0331-09 Potential Application of ChatGPT in Crime and Preliminary Study on Law Enforcement Response StrategiesMENG Qingzhen1,WANG Shaofeng 2,3,WEN Xuanlin 4,ZHANG Weichen 4,ZHOU Hong 1,CHEN Song 1,*（1.Institute of Forensic Science,Ministry of Public Security,Beijing 100038,China;2.Peoples Public Security University of China,Beijing 100038,China;3.Beijing Public Security Bureau,Beijing 100740,China;4.Science and Technology Information Department of the Ministry of Public Security,Beijing 100741,China)ABSTRACT:As soon as ChatGPT came out,it attracted widespread attention.This article takes ChatGPT as an example,briefl y describes the use,characteristics and advantages of large language models,and analyzes the current controversies,ethical dilemmas and information security risks.This paper focuses on the analysis of the possible applications of large language models in crimes,and discusses the use of ChatGPT to assist in the acquisition of criminal skills,the implementation of cybercrimes,phishing attacks,and the dissemination of false information.This paper also explores the use of ChatGPT at the law enforcement fields,including serving crime fighting,crime prevention,law enforcement decision-making,and law enforcement capacity building.This paper believes that law enforcement agencies should keep an open attitude,pay close attention to the impact of the application of artificial intelligence technology on crime,represented by ChatGPT.Law enforcement agencies should strengthen research and deal with ChatGPT from both aspects of“positive”and“negative”attitude,applying new technologies to help with law enforcement activities and improve effi ciency.KEY WORDS:ChatGPT;crime;cybercrime;telecom fraud;law enforcement;personal information protection 第一作者简介：孟庆振，男，山东邹城人，硕士，副高级警务技术任职资格，研究方向为刑事技术综合管理和国际化。E-mail:*通信作者简介：陈松，男，安徽宿州人，学士，主任法医师，研究方向为法医遗传学、刑事技术国际化。E-mail: 网络首发时间：2023-04-27；网络首发地址：https:/doi.org/10.16467/j.1008-3650.2023.0025刑事技术Forensic Science and Technology3322023 年 第 48 卷 第 4 期ChatGPT 自 2022 年底问世以来，因其“智商高”、互动性强、应用场域广1-3，引起了公众的极大关注。科技进步造福人类社会，也塑造着人自身。科技是造福人类，还是对人类造成危害，取决于其如何被应用。ChatGPT 对各行业的可能影响引起热议，其对犯罪的影响同样引起专家学者的注意4。在 ChatGPT 之前，人工智能（artifi cial intelligence,AI）在犯罪中的应用及公安执法中的实践已有广泛报道。如 AI 在案件侦查5-6、犯罪预测预防7-8、监所安防9、安检10、现场勘查11-13等方面应用已有不少研究，在刑事科学技术鉴定中，AI 在法医14-16、指纹17、足迹18-19等方面的应用亦多有报道。同样，人工智能在深度伪造20、滥用个体生物信息21等方面的可能滥用及对犯罪的风险22，也已得到关注。当前，以 ChatGPT 为代表的大型语言模型（large language model,LLM）应用异军突起，与以往 AI 应用相比，有其独特性。尽管 OpenAI 公司未在我国开展 ChatGPT 业务，但以大型语言模型技术为基础的应用可影响到我国，并且我国互联网企业也开始开发基于大型语言模型技术的应用系统，大型语言模型技术应当引起我国执法部门的关注。本文以ChatGPT 为例，梳理分析了 LLM 在犯罪中的可能应用，探讨我国执法部门如何有效借助类似应用服务执法、提升效率，并对执法部门应对大语言模型技术带来的安全风险和新挑战进行展望。1 ChatGPT及其特点ChatGPT，全称聊天生成预训练转换器（chat generative pre-trained transformer），是 OpenAI 开 发的人工智能聊天机器人程序，于 2022 年 11 月推出。ChatGPT 基于 GPT-3.5 架构的大型语言模型并以强化学习训练，呈现出交互式人工智能界面，能够通过解决后续问题、识别自己的错误、质疑不一致和拒绝某些请求来参与对话23，能够“理解自然的人类语言”，并为复杂的问题提供信息和解决方案。2023年 3 月，OpenAI 推出 GPT-4 版本24。该应用软件的核心是大型语言模型，该模型通过大量文本数据（如书籍、文章和网页）训练，允许 ChatGPT 理解语言的模式和结构，并生成与它所学的风格和语气相似的新文本。1.1 ChatGPT用途ChatGPT 用途广泛，有编写和调试计算机程序的能力，能够创作音乐、电视剧、童话故事和学生论文；用于回答测试问题，并在某些测试情境下，水平高于普通人类测试者；写诗、写歌词；模拟 Linux 虚拟机等25。特别值得关注的是 GPT-4，除了像 ChatGPT 一样能够完成文本对话，还能够进行更复杂的图像理解任务。GPT-4 发布后,微软已宣布将其整合入 Offi ce 办公软件，并推出人工智能助理 Copilot。未来，用户通过自然语言描述需求，Copilot 即可完成相应功能，例如在 Word 中起草文章草稿，在 PowerPoint 中整合素材并制作美观的幻灯片,在 Excel 中完成数据分析与图表生成。Copilot 的发布或将极大提高人类在知识创造方面的生产力26。1.2 ChatGPT技术特点ChatGPT 使用无监督预训练（unsupervised pre-training）技术，在预训练阶段，模型通过分析数据中的模式和关系来学习理解和生成自然语言，这个阶段的训练所用的语料是静态的，而在投入运行后将在与用户的交流和对话中强化学习，相当于 ChatGPT的上亿用户的每次使用都是对它的训练，促进其成长27。有研究分析称，ChatGPT 给出的答案论述条理清晰、井然有序，更难得的是符合大众日常语言习惯，势必会给各行业带来巨大冲击和挑战，同时也意味着新机遇的诞生26。ChatGPT 效果强大，主要包括两个原因：一是训练语料的质量和多样性，这主要依托强大的数据收集、标注和运算能力。一般而言，AI 语料数据来源有互联网数据、企业数据、用户生成数据以及机器生成数据28。ChatGPT 的训练数据包括大规模文本数据和公共数据集，如维基百科、新闻文章、图书、论坛帖子等。此外，互联网语料数据搜集基于爬虫技术，通过对数据的抽取、标注、去重、去噪、关联、转换等清洗过程，将数据转换成结构化的标准数据使用29。二是基于人类反馈的强化学习（reinforcement learning from human feedback,RLHF），即利用人类的反馈优化目标模型，让模型输出更符合人类直觉的结果。RLHF 更关注在动态环境中持续地进行学习和优化，能够处理大量的数据、通过反馈调整策略，并进行在线学习。其核心特点包括：需要人工标注数据，即需要人工给出每个数据点的正确答案，从而用于模型的训练和优化；适用性广泛，可用于各种不同类型的任务，包括图像分类、自然语言处理、机器翻译等；可提高模型性能，根据反馈逐渐优化性能，提高准确度和鲁棒性；依赖标注数据的质量，由于人工反馈增强学习需要依赖标注数据进行训练，因此标注数据的质量会直接影响模型的性能30。3332023 年 第 48 卷 第 4 期孟庆振,等：ChatGPT在犯罪中的潜在应用分析及执法应对策略初探1.3 ChatGPT优势作为聊天机器人，ChatGPT 在经过大量数据训练后，可根据接收到的输入生成响应，且更自然、更多样化。专家分析称，ChatGPT 的优势包括：知识渊博，ChatGPT 可获得大量信息和知识，涉及广泛主题；反应灵敏，ChatGPT 可迅速回答问题并提供帮助；个性化，ChatGPT 可根据用户的输入给出个性化的答复；微调性，ChatGPT 的反应和整体性能可根据用户反馈进行快速微调纠正31。总体而言，“更为智能的交互”是 ChatGPT 显著特点和优势，也是其引起全球广泛关注的主因。特别是，由于 ChatGPT 具有代码理解和生成能力，因此极大地拓宽了其应用场景32。2 ChatGPT风险挑战ChatGPT 问世后用户量激增，成为人类科技史上消费者增长速度最快的应用程序。ChatGPT 已成为 AI 发展历程中现象级事件。纽约时报称其为“有史以来向公众发布的最佳人工智能聊天机器人”33，赞扬者称其“可能会改变我们对工作方式、思考方式以及人类创造力的想法”34。与广阔应用前景引起的热议相对应的是，ChatGPT 同样引发广泛争议。有批评者将其比作“随机鹦鹉”35，称其对内容“一无所知”且“错误率高”，甚至是“一本正经的胡说八道”。特别是，其在数据安全、生成内容归属权、学术伦理等方面，存在着诸多争议。2.1 ChatGPT与数据信息安全ChatGPT 的效能依托于海量数据信息，对数据信息进行加工处理，最后生成以数据信息为形式的答案。由此，其对数据信息进行收集、存储、加工、输出、利用的过程中，带来的安全问题至少包括两个层面：一是就数据信息本身而言，存在数据安全风险36。正如前文介绍，ChatGPT 使用的语料库部分通过爬虫技术获取互联网数据，但爬虫的爬取会导致核心数据泄漏、失窃29。而且，更多的用户使用 ChatGPT、更海量的信息涌入，可能导致服务的误用或滥用，甚至将部分内部数据和敏感数据输入到人工智能平台，成为其算法模型的语料，数据信息安全风险加大。何况，用户个人信息的泄露也存在侵犯隐私权问题。此外，用户使用 ChatGPT 完成任务时，服务提供方同样可以捕捉用户输入文本间的内在联系，并将计算结果综合起来“还原”出用户的意图，且可在开源环境下通过用户的行为数据，实现对用户的精准画像，使得用户反而成为竞争对手监视的目标，造成重要情报泄密37，尤其是在政府、商业和情报竞争方面使用 ChatGPT 存在较大泄密风险。二是就数据信息表达的内容而言，存在内容的误导和误用。ChatGPT 会根据不同语言的数据源进行自我训练，显示出一定的语言和文化差异。已有测试显示，ChatGPT 对同一个问题可能给出不同甚至相反的回答，特别是涉及政治、文化、历史、地理等方面的问题。同一个问题，按中英文输入后的显示存在差别乃至相反，对于使用者可能产生误导。更有甚者，或可专门“喂料”，专门强化其对某些问题的倾向性，使其成为对外输出虚假信息的工具36。2023 年 3 月，意大利个人数据保护局发布信息称，ChatGPT 不重视用户资料，且无法核实用户年龄，该机构已封锁 ChatGPT，限制 OpenAI 处理意大利用户信息数据，同时对其隐私安全问题立案调查38。欧洲部分国家对此关注，法国、德国、爱尔兰等或效仿意大利的做法，加强对 ChatGPT 的监管39。2.2 ChatGPT与生成内容的知识产权争议学术界关于人工智能生成的文章是否属于著作权法中界定的“作品”存在争论，而 ChatGPT类大语言模型或使该问题更严峻。一般认为，人工智能是算法、规则和模板运用下的产物，不能体现创作者独特的个性，也不是创作者的精神活动，不能算作法定“作品”40。但同时也应承认，人工智能“生产”的内容，是人类干预的结果，也反映了人类意志，具有“可版权性”。如前述，ChatGPT 依托于数据输入、训练优化，处理的海量信息中难免涉及数字化作品，如未能得到著作权人的授权，可能面临侵犯版权风险。2023 年 4 月，国家互联网信息办公室起草了生成式人工智能服务管理办法（征求意见稿），已明确要求“提供者应当对生成式人工智能产品的预训练数据、优化训练数据来源的合法性负责”，包括“不含有侵犯知识产权的内容”，“数据包含个人信息的，应当征得个人信息主体同意或者符合法律、行政法规规定的其他情形”41。2.3 ChatGPT与学术伦理争议ChatGPT 强大的文本生成能力，使其在学术论文撰写、完成学生作业方面具有显著优势，易为科研人员、学生广泛使用，引起抄袭、学术剽窃等问题。2023 年 2 月，香港大学即声明，禁止在大学的任何课程、作业和评估中使用 ChatGPT 或其他人工智能工具，否则将被大学视为“剽窃”42。美国语言学家诺姆 乔姆斯基（Noam Chomsky）认为，刑事技术Forensic Science and Technology3342023 年 第 48 卷 第 4 期ChatGPT 从海量数据中发现规律，并依照规则将数据串连在一起，形成像人写的文章和内容，这本质上是一个高科技剽窃系统43。乔姆斯基强调，AI 和人类在思考方式、学习语言与生成解释的能力及道德思考方面差异极大。如 ChatGPT 式的机器学习程序继续主导人工智能领域，那么人类科学水平以及道德标准都可能降低43。系统本身是非道德性的，因此，ChatGPT 及类似应用，本质上也无法在自身生成内容的能力与相关社会法律、文化、伦理的约束之间进行平衡。结果是，ChatGPT 可能同时生成真相和谎言、同时支持道德和不道德，或者不对相关问题进行倾向性表态。3 ChatGPT在犯罪中的可能应用场景分析当前，新型犯罪形态呈现智能化、网络化、集团化、隐蔽性等特点44。犯罪分子往往对新技术较为敏感，利用新技术尚未普及时的监管漏洞从事违法行为。ChatGPT 问世后仅几周就发现了其被用于犯罪的案例。近期，欧洲警察署创新实验室发布研究报告ChatGPT大语言模型对执法的影响（ChatGPT:The Impact of Large Language Models on Law Enforcement）45，探讨犯罪分子如何滥用ChatGPT，以及如何应用该工具协助调查。本节对ChatGPT 在犯罪中可能应用的场景及产生的影响进行了探析。3.1 ChatGPT用于“升级犯罪技术”ChatGPT 能够快速提供可应用于大量不同上下文的现成答案。虽然设计中考虑了负面应用的屏蔽，即“不对有害输入请求进行回应”，但用户很容易找到绕过内容过滤系统的方法，获取犯罪“知识”。如 ChatGPT 可以输出“制作管制炸药或可卡因的方式”45。如果犯罪分子对某些犯罪领域一无所知，ChatGPT 可以“显著加速其学习和研究过程”。ChatGPT 可以学习许多犯罪领域的知识，如入室盗窃、恐怖主义活动、网络犯罪和虐待儿童等。尽管很多犯罪知识信息已在互联网上公开，但 ChatGPT使得特定犯罪行为的实施方法“更易于查找和理解”46。特别是，犯罪分子对公安侦破手段的研究，也可作为其提高“反侦查能力”的重要途径。此外，在暗网上，犯罪分子可能训练于有害数据的语言模型，而这些模型没有内容过滤器，相关知识更容易获取。3.2 ChatGPT用于网络犯罪只要提供明确需求，ChatGPT 就可使用多种不同的编程语言生成用户所需的代码，这对没有编码或开发技术能力的犯罪分子特别有利，可将 ChatGPT作为辅助工具，生成恶意代码45。特别是，GPT-4模型在理解代码上下文、纠正错误和修复编程等方面更为高效，高级用户可利用这些功能进一步完善甚至自动化生成复杂的网络犯罪操作。此外，有研究表明，安全研究人员发现一些网络犯罪分子研究如何使用 ChatGPT 创建一个完全自动化的暗网市场，用于交易被盗的银行账户和支付卡数据、恶意软件工具、毒品、弹药和各种其他非法商品47。3.3 ChatGPT用于生成虚假信息ChatGPT 能够快速、成规模地生成逼真的语音文本，可成为“宣传和散布虚假信息”的重要工具，或被用来散布恐怖材料、支持恐怖主义45。ChatGPT可用于更方便地收集促进恐怖主义活动的信息，如进行恐怖主义融资或匿名文件共享；也可用于生成在线宣传，促进或捍卫某些已被揭穿的观点。媒体报道称，ChatGPT 可帮助降低宣传成本，有可能操纵用户“做出违背其最佳利益的事情”，因此，可用来实现操纵选举、破坏民主进程和传播虚假信息，或成为国际社交媒体上认知战、信息战、舆论战的重要工具48。此外，部分犯罪人或利用 ChatGPT 为自己“代言”，通过伪造、篡改 ChatGPT 的响应而提出观点，关系政治安全、国家安全。特别是，信息发布主体的认定困难，或导致执法困境。3.4 ChatGPT用于诈骗ChatGPT 起草高度逼真的文本的能力，使其易于成为用于网络钓鱼的工具45。由于 ChatGPT 能够复制语言模式，甚至可以模仿特定个人或群体的讲话风格，或被犯罪分子用来伪装身份并锁定受害者。一旦被骗目标点击虚假电邮链接，其个人资料将被盗取。网络安全研究公司 Check Point Research报告49显示，聊天机器人可用来撰写钓鱼电子邮件渗透网络系统。虽然 ChatGPT 设置中有内容审查等防护措施，一般不会回答被归类为有害或有偏见的问题，但使用者可通过巧妙的提示词予以规避。在 ChatGPT 帮助下，这些类型的网络钓鱼和在线欺诈或呈现更快、更真实、规模显著增加的态势。以上可能应用场景，更多是从犯罪人的主观“有意为之”来分析。除此外，如第 2 章所述，ChatGPT用户的“正常使用”或滥用，即便非恶意，亦可能涉及侵犯知识产权、侵犯公民信息、侵犯隐私、侵犯商业秘密等，客观上成为犯罪。3352023 年 第 48 卷 第 4 期孟庆振,等：ChatGPT在犯罪中的潜在应用分析及执法应对策略初探4 ChatGPT在执法中的潜在应用场景分析当前，以 ChatGPT 为代表的人工智能仍在初步发展阶段，而其能力或将随时间而大幅跃升。同样基于大语言模型的国产版“文言一心”“混元”“通义”“盘古”“MOSS”等加速布局，未来将深刻影响人类生产生活的诸多方面。结合大语言模型的功能特点和执法业务流程，笔者认为 ChatGPT 在执法中同样具有广泛的应用潜力。4.1 ChatGPT用于打击犯罪和执法实践打击犯罪是公安主业。结合执法业务流程，在执法实践中利用 ChatGPT，似可以从以下方面考虑。1）辅助撰写报告。执法人员或面临各式各样的报告，详细记录其观察和行动，如现场勘查报告、询问笔录。ChatGPT 可根据人员提供的输入生成标准化报告，从而使报告撰写过程更加自动化。以现场勘验为例，ChatGPT 可通过使用自然语言处理技术从文本数据中提取相关信息，可训练 ChatGPT 进行地形地貌分析，提取犯罪场地、建筑物、植被、气候等信息，作为现场勘验的环境数据参考；可训练 ChatGPT 为图像生成说明，用于描述潜在目标的特征，如大小、形状和位置，辅助现场勘验记录。2）智能分析文本数据，提高工作效率。执法机构需处理大量文本数据，如电子邮件、社交媒体帖子、聊天记录、口供等。可训练订制 ChatGPT 用于分析这些数据，并抓取重点，获得可能与调查相关的意见，提升处理效率。此外，可训练 ChatGPT 分析图像、视频，以检测和识别物体、人物或其他选定特征，因此可用来服务实验室检验鉴定，进行个体识别和种属判定，在刑事科学技术中的应用前景广阔。3）辅助询问嫌疑人和证人。ChatGPT 可用于创建虚拟助手，可对嫌疑人和证人进行访谈。虚拟助手可以通过编程来询问相关问题并记录回答，可为执法机构节省时间和资源。4）语言翻译，辅助跨国执法合作。ChatGPT 可用于将文本从一种语言翻译成另一种语言，且准确率较高。在一些调查特别是跨国案件调查和执法合作中，语言障碍仍是一个挑战。ChatGPT 可帮助进行更有效沟通，辅助跨国调查与执法合作。5）应急处置和危机管理。ChatGPT 可用于开发虚拟助手，以帮助开展应急响应工作，例如在自然灾害、恐怖袭击、重大突发事件等期间向公众提供信息或协调救援工作，响应用户查询，为公民提供实时信息和指导。6）受害者支持。ChatGPT 可用于为犯罪受害者提供支持和资源，如有关法律权利和咨询服务的信息。4.2 ChatGPT用于犯罪预防利用人工智能技术辅助犯罪预防，已经有所探讨。更新犯罪预防模式不仅能够加强对犯罪态势的感知、认知、预测和预警，而且降低了犯罪预防的成本，拓展了犯罪预防的深度和广度7。结合 ChatGPT特点，可重点关注：1）诈骗预警。如 3.4 所述，ChatGPT 或被用于诈骗。魔高一尺道高一丈，执法部门亦可考虑利用ChatGPT 分析文本数据并检测欺诈或其他犯罪活动的模式，针对网络钓鱼骗局或欺诈性电子邮件进行分析锁定，及时发布预警。2）辅助进行危险识别。ChatGPT 可用于分析文本数据的情感，似可用于情报研判。如对社交媒体帖子、在线论坛或聊天日志进行分析，帮助识别潜在的威胁或可疑活动。4.3 ChatGPT用于辅助执法决策智慧警务建设已开展多年，有效整合公安业务信息系统数据资源，服务执法决策。结合 ChatGPT，似可重点关注：1）犯罪形势分析。ChatGPT 可在情报报告和其他相关文本的数据集上进行训练，对一段时间的犯罪数据、犯罪类型、趋势等进行分析挖掘，识别关键信息，有助于警力部署、资源调配，进行更科学决策。2）舆情分析。如可利用 ChatGPT 监控社交媒体平台并提取有关舆论、情绪和热门话题的信息，并根据相关内容生成社会情绪和热词频率的分析报告，为治安管理、舆情研判提供参考。3）调查研究。ChatGPT 可用于进行调查研究，如对某一类案件进行分析，挖掘其犯罪特点、发案趋势，促进“警力跟着数据走”，服务基于数据的决策、以问题为导向的警务。4.4 ChatGPT用于执法能力建设执法能力与执法规范化建设，事关公安工作法治化水平和执法公信力。借助 ChatGPT 可辅助培训，促进以专业化保障规范化，提升执法主体能力水平。1）辅助培训设计。可利用 ChatGPT 积累和扩展现有执法专业知识、编写培训材料、完善培训体系、拓展培训手段，提升培训的精准度和针对性。2）搭建培训工具。可探索“订制”使用执法专业数据、特定文本，为公安量身打造专门的大语言刑事技术Forensic Science and Technology3362023 年 第 48 卷 第 4 期模型的可能性，作为执法能力培训的重要工具，节省培训资源、提高培训效率。3）建设执法资料库。可利用 ChatGPT 辅助在执法中创建、共享、管理和使用执法信息，搭建专门的资料库，促进知识的传承、共享和隐性知识的显性化。5 执法部门应对策略笔者认为，执法部门要保持开放态度，密切关注 ChatGPT 等生成式人工智能给执法实践带来的风险和新挑战，从“积极”和“消极”两个方面采取行动。消极方面，要关注 ChatGPT 等生成式人工智能被恶意应用的可能和执法部门的新挑战，做好准备，更好地预测、预防和调查不同类型的滥用，尽快发现和解决潜在漏洞；积极方面，须加大正向研究，广泛探讨其可能应用场景，利用 ChatGPT 等基于大语言模型的生成式人工智能服务执法、提升效能、造福社会。5.1 关注ChatGPT给执法带来新挑战ChatGPT 如被犯罪分子广泛使用，必将给执法部门带来更多新挑战。一是认定犯罪主体更难。由于 ChatGPT 自动生成内容的特点，信息存在被篡改利用甚至恶意“喂料”后定向输出的风险，即犯罪分子故意利用 ChatGP 输出如涉恐、诱导犯罪等信息，撇清自身责任，使得犯罪主体的认定更加困难。二是犯罪数量猛增的可能，给执法更大压力。ChatGPT类应用可助推非接触式犯罪快速增长，降低犯罪门槛。借助此类应用，犯罪分子更容易操控合成产生更加真实的诈骗场景，更容易搜集用于犯罪的原料，整合碎片化信息的能力更强，也更容易拼凑被害人的完整拼图，使得犯罪更有“效率”，给执法带来压力。三是执法监管更难。使用 ChatGPT 可快速生成具有攻击性和隐蔽性的恶意软件代码片段，提高攻击效率和复杂度，并可在图像文件中隐藏恶意代码，降低被发现和追踪的可能性。这也将使得监管部门更难检测到恶意软件。5.2 重点关注电信网络诈骗犯罪新特点电信网络诈骗犯罪已成为近年来发案最多、上升最快、涉及面最广、人民群众反映最热烈的犯罪类型，以 ChatGPT 为代表的大语言模型或将使电信网络诈骗形势更加严峻。利用 ChatGPT 搜集个人基本信息、账户信息、图片信息、声音信息，生成更加真实、针对性强的“剧本”，或使更多人易于受骗。有分析称，多模态人工智能系统能将会话聊天机器人与可产生合成媒体的系统结合起来，实现具有高度说服力的深度伪造，包括视觉和听觉等感官能力50。犯罪分子整合利用现有 AI 技术，如利用 ChatGPT 生成文本，Text to Speech 将文本转语音，Faceswap 等软件进行视频换脸乃至调整嘴型，完全可实现电信诈骗“技术一条龙”，形成逼真、高效的 AI 式诈骗。特别是，利用 ChatGPT 生成语音文本，对于相关调查取证、锁定犯罪嫌疑人、固定证据带来新挑战。可见，人工智能技术对于电诈的影响是全链条、全领域的，值得加强研究、积极应对。5.3 高度重视AI带来的信息安全和伦理问题信息的收集处理是人工智能存在的基础，人工智能非法应用也必然伴随着对于信息的侵害51，因此信息安全保护尤为迫切。已有分析称，ChatGPT可能会收集用户账户信息、对话相关内容、互动中网页内的各种隐私信息（Cookies、日志、设备信息等），或将信息共享给供应商、服务提供商，数据共享过程可能会有未经授权的攻击者访问到模型相关的隐私数据，包括训练/预测数据泄露，模型架构、参数、超参数等，并可能涵盖用户信息52。欧洲执法部门对 ChatGPT 带来的数据保护问题亦提出疑虑：未来大语言模型服务将如何处理用户数据？是否会保存对话记录并将机密信息暴露给未经授权的第三方？如用户产生有害内容，是否应该向执法机构报告？45 ChatGPT 及国内大语言模型相关人工智能应用的发展，涉及如何处理相应信息和数据，应从技术、行业、政策、法律层面加强研究，更好地保护个人信息和数据。在应对以 ChatGPT 为代表的生成式 AI 伦理规制方面，需要用户、开发者、平台以及政府等多主体参与治理。政府在制定法律方面应当完善数据分类分级、数据获取以及数据利用制度53，加强数据监管，应对文本数据偏见；建立算法审查制度，以阻断价值渗透与算法偏见强化；构建使用者追责制度，以治理算法滥用54。同时，应研究出台与人工智能技术特点以及发展趋势相适应的权利责任体系，确保人工智能的健康发展。执法部门本身亦当注重发挥职能优势，既在法律框架下完成执法任务，也积极为立法、政策制定发挥积极作用。5.4 加大力度开展研究攻关ChatGPT 的诞生过程经历了数次技术路线变革，技术迭代快、影响面极广。执法部门对 ChatGPT 及相关应用的研究跟进，应是今后一个时期的战略议题。一是加强顶层设计，加强相关技术及法治研究、3372023 年 第 48 卷 第 4 期孟庆振,等：ChatGPT在犯罪中的潜在应用分析及执法应对策略初探人才储备、机构设置方面研究布局，将以 ChatGPT为代表的大型语言模型技术在助力预防、打击犯罪方面的应用研究作为重点项目予以支持。二是就ChatGPT 在犯罪中的可能应用进行研究，针对性地开发相关工具，堵住疏漏，并形成防范策略，服务政策制定和相关立法。如针对执法机构工作特点和证据采集需求，研究开发专门检测 ChatGPT 及类似人工智能生成内容的工具，区分 AI 生成与人类自主创作。三是就 ChatGPT 在执法中的潜在应用开展研究，促进各领域业务流与 ChatGPT 的融合研究，完善执法业务流、信息流、数据流，积累数据、总结经验，提升公安实战效能。四是注重加强标准制定和国际合作，以问题和需求为导向，及时总结固定新技术、新方法、新经验，形成技术标准，并推动在国际执法合作中应用。如制定使用 ChatGPT 犯罪的电子物证取证技术标准。五是重视加强警企合作，注重与高科技企业的合作联动，促进优势资源向公安需求、公安实战、公安技术的转移转化。参考文献 1 BISWAS S S.Role of ChatGPT in public health J .Annals ofBiomedical Engineering,2023,51(5):868-869.2 赵瑞雪，黄永文，马玮璐，等.ChatGPT 对图书馆智能知识服务的启示与思考 J .农业图书情报学报，2023,35(1):29-38.(ZHAO Ruixue,HUANG Yongwen,MA Weilu,et al.Insightsand reflections of the impact of ChatGPT on intelligentknowledge services in libraries J .Journal of Library andInformation Science in Agriculture,2023,35(1):29-38.)3 CARVALHO I,IVANOV S.ChatGPT for tourism:applications,benefits and risks J/OL .Tourism Review.2023-04-09 .https:/doi.org/10.1108/TR-02-2023-0088.4 MIJWIL M M,ALSAJRI M.Towards artificial intelligence-based cybersecurity:the practices and ChatGPT generated waysto combat cybercrime J .Iraqi Journal for Computer Scienceand Mathematics,2023,4(1):65-70.5 李赪.人工智能在经济犯罪侦查领域的应用 J .辽宁警察学院学报，2020,22(3):24-30.(LI Cheng.On the application of artificial intelligence in thefi eld of economic crime investigation J .Journal of LiaoningPolice College,2020,22(3):24-30.)6 李江楠.试析人工智能在侦办拐卖儿童犯罪中的应用 J .江西警察学院学报，2020(3):32-37.(LI Jiangnan.On the application of artificial intelligence ininvestigating child abducting and traffi cking crimes J .Journalof Jiangxi Police Institute,2020(3):32-37.)7 刘钊，林晞楠，李昂霖.人工智能在犯罪预防中的应用及前景分析 J .中国人民公安大学学报(社会科学版)，2018,34(4):1-10.(LIU Zhao,LIN Xinan,LI Anglin.Analysis on applicationand prospect of artifi cial intelligence in prevention of crime J .Journal of Peoples Public Security University of China(SocialSciences Edition),2018,34(4):1-10.)8 胡向阳，丁寒.人工智能犯罪预测 J .中国刑警学院学报，2020(6):5-11.(HU Xiangyang,DING Han.Prediction on artifi cial intelligencecrime J .Journal of Criminal Investigation Police University ofChina,2020(6):5-11.)9 沈宇行.人工智能与大数据在公安监管场所安防中的应用 J .数字通信世界，2019(10):187.(SHEN Yuxing.The application of artificial intelligence andbig data in the security of public security supervision places