ChatGPT技术对国家安全领域的挑战与应对策略研究--基于传播学的分析视角.pdf

青海社会科学2 0 2 3年第3期ChatGPT技术对国家安全领域的挑战与应对策略研究基于传播学的分析视角陈积银贾超然摘要：随着人工智能技术的不断研究与应用，各国普遍意识到新一代人工智能技术，尤其是以ChatGPT为代表的生成式人工智能的运用在提升国家竞争力的同时，也对维护国家安全提出了新的挑战。从国家安全视角来看，ChatGPT大模型具有逻辑操纵的政治性、场域渗透的隐蔽性、行为影响的颠覆性等特点，因此，有必要在分析GPT模型和ChatGPT技术的训练原理的基础上，从传播学5W理论出发，对新一代人工智能技术可能诱发的风险进行分析并提出应对策略。关键词：ChatGPT；政治安全；传播学；5W模式中图分类号：G206一、问题的提出近年来，人工智能技术发展迅速，根据数据的体量大小、算法的精密程度、算力的高低，可以将人工智能划分为前人工智能时代（AI1.0时代）与新一代人工智能时代（AI2.0时代）。前人工智能时代，指的是人工智能发展的早期阶段。这一阶段，人工智能的研究主要集中在符号主义（Symbolic AI）框架下，以逻辑推理和知识表示为核心。人工智能产业的第一轮爆发源自2 0 12 年AlexNet模型的问世，开启了卷积神经网络（CNN）在图像识别的应用。2 0 15年机器识别图像的准确率首次超过人（错误率低于4%），开启了计算机视觉技术在各行各业的应用，带动文献标识码：A文章编号：10 0 1-2 338（2 0 2 3)0 3-0 12 7-0 5了AI1.0时代的创新周期，AI+开始赋能各行各业，带动效率提升。AI1.0时代在技术层面显著表现为基于传统的机器学习方法和规则基础系统，如专家系统（ExpertSystems）、机器学习（MachineLearning）、支持向量机（SupportVectorMachine，SVM）等，但存在模型碎片化、AI泛化能力不足等问题。2017年以来，人工智能技术进入AI2.0时代。AI2.0时代，人工智能研究以谋求大模型下的新技术突破为方向，利用海量数据和强大算力，通过神经网络的构建和训练，使机器具备更高的智能和自主决策能力。AI2.0时代的现象级应用是生成式人工智能（Generative AI）。2 0 17 年GoogleBrain团队提出Transformer架构，奠定了大模型基金项目：国家万人计划一青年拔尖人才项目“智能信息传播与社会治理”。作者简介：陈积银，博士，西安交通大学新闻与新媒体学院教授、博士生导师，国家外文局新闻发布专家库专家；贾超然，西安交通大学新闻与新媒体学院博士研究生。-127-青海社会科学12 0 2 3年第3期领域的主流算法基础。2 0 2 2 年，OpenAI团队推出了能够理解人类语言进行交流互动的智能聊天机器人ChatGPT，并于2 0 2 3年推出了跨时代的人工智能大模型：GPT-4，该模型虽然在许多现实场景中不如人类，但在各种专业和学术基准上表现出人类水平。作为引领新一轮变革与发展的战略性技术与核心驱动力，新一代人工智能技术已是各国密切关注并竞相发展的热点领域。随着人工智能技术的不断研究与应用，各国普遍意识到新一代人工智能技术，尤其是以ChatGPT为代表的生成式人工智能在提升国家竞争力的同时，也对维护国家安全提出了新的挑战。习近平主持召开的二十届中央国家安全委员会第一次会议强调，“国家安全工作要贯彻落实党的二十大决策部署，切实做好维护政治安全、提升网络数据人工智能安全治理水平、加快建设国家安全风险监测预警体系、推进国家安全法治建设、加强国家安全教育等方面工作。”2 从国家安全视角来看，ChatGPT大模型具有逻辑操纵的政治性、场域渗透的隐蔽性、行为影响的颠覆性等特点3，可能对国家安全造成负面影响，因此有必要对新一代人工智能技术诱发的风险进行分析。二、ChatGPT的工作原理（一）什么是GPT？GPT（G e n e r a t iv e Pr e-t r a in e d T r a n s f o r m e r）技术是一种机器学习模型，其核心在于使用大量文本数据来训练神经网络从而生成自然语言文本。该训练将算法暴露于大量文本数据中并使用数据中的统计模式预测接下来应该出现什么词来学习生成文本。GPT模型的训练包括两个阶段。第一个阶段是语言建模阶段，该阶段主要用于训练模型预测单词序列中的下一个单词可能是什么，并给定序列中的所有优先单词。这有助于模型学习语言的统计模式，例如常见的单词组合和语法规则。第二个阶段是微调阶段，在这个阶段模型将针对特定任务，如对语言翻译或情感分析等进行微调。通过对特定任务进行微调，使模型可以学习生成-128适合不同任务特定需求的文本。GPT技术的主要优势之一是，它可以生成听起来非常自然的文本，以至很难与人类编写的文本区分开来。（二）如何训练ChatGPT？ChatGPT使用的训练算法是Transformer架构的变体，Transformer架构是一种旨在处理数据序列的神经网络。Transformer架构包括多个计算层，每个计算层都以不同的方式处理输入数据。输入的内容首先被转换为一组特征向量，然后由多层自注意力和前馈神经网络进行处理，并使用最后一层的输出来生成输出文本。通过使用反向传播技术（backpropagation）来优化Transformer的最终输出，该技术根据预测输出和实际输出之间的差异调整神经网络的权重。当该模型在多个时期进行训练时，,其准确性会随着时间的推移而提高。（三）ChatGPT如何运作？ChatGPT根据其训练的数据提供对用户查询的响应。该响应过程分为两个步骤。1.语言理解。当用户输人信息时，ChatGPT使用其语言理解组件处理文本，该组件将文字转换为数值及向量来表达输入信息的语义和句法含义。随后，这些数值及向量被输入到语言生成组件中来生成响应。2.生成响应。在生成响应时，ChatGPT会考虑输入信息的内容及其上下文，以及对话的历史记录，以确定最合适的响应。该模型使用一种称为集束搜索（beam search）的技术来生成多个可能的响应，然后根据每个响应的流畅性、连贯性以及与输人信息的相关性对其进行评分，选择得分最高的响应作为最合适的响应输出给用户。三、传播学视角下ChatGPT技术诱发国家安全风险的逻辑ChatGTP技术本质上是利用算法对海量数据进行深度学习而成的一种具备模拟人类思维方式及行为方式，并具备一定决策能力的智能算法模型。该模型本身无法对公众直接产生作用，但其输出的内容能够影响公众的认知，并进一步诱发安全风险。“5W”传播模式由美国传播学家QINGHAI SOCIAL SCIENCES丨社会学研究哈罗德拉斯韦尔提出，阐释了传播过程的5个集能够使经其训练的算法模型更加客观。但是，基本构成要素，即：谁（Who）说了什么（SaysChatGPT技术对中国的文化环境、社会共识、意What）、通过什么渠道（InWhichChannel）、向谁识形态等缺乏了解，无法给出较为客观、准确的说（ToWhom）、有什么效果（WithWhat Effect）。回应。此外，西方敌对势力在网络上捏造的反华、该模式能够较为全面地阐释ChatGPT技术如何影辱华等不实信息，这也使该数据集有被污染的可响公众，进而诱发政治安全风险的全过程。能性，导致经其训练的ChatGPT技术在涉及中国（一）传播者层面的提问中存在歧视与偏见。最后，OpenAI官方ChatGPT技术是整个传播链条中的显在传播也在其博文中承认ChatGPT仍有局限，可能提供者，然而，该技术潜在的、真正的传播者是设计有害的或有偏见的内容。架构技术底层逻辑的编码者。算法模型的编码者（三）传播渠道层面赋予ChatGPT以生命。从传播学“把关人”理论国内公众接触ChatGPT输出的信息有两种的角度来看，他们作为ChatGPT底层逻辑的缔造渠道：一种是直接使用ChatGPT的第三方镜像者，能够在开发及运营ChatCPT的过程中轻易将网站接口与其进行互动；另一种是境外敌对势力自己的意识形态、价值偏见等嵌人技术当中，导通过ChatGPT生成符合其利益与价值取向的文致人工智能技术在部分问题上无法保持客观、中本，通过网站、社交媒体等渠道进行传播。这两立。2 0 2 1年，美国人工智能国家安全委员会发种渠道均可能对我国国家安全产生威胁。首先，布的最终报告（Final Report）统筹制定一项ChatGPT的第三方镜像网站直接“复制”ChatGPT同中国竞争的人工智能战略。2 0 2 2 年，美国白的平台代码，负面信息也将原封不动地被“复制”。宫发布美国国家安全战略报告，在该报告中，当不明真相或缺乏媒介素养、信息素养的个体使美国首次将中国明确定义为“优先考虑的，唯一用这一接口搜索信息或进行互动时，有可能会误的全球头号竞争对手。”由此可见，美国已经将信其提供的错误信息，从而导致负面的行为。其人工智能技术视为维护美国数字霸权，打压中次，敌对势力也可能借助ChatCPT有针对性地向国技术发展，抹黑、污蔑中国形象的武器。在我国互联网散播负面、虚假信息。虽然在互联网ChatGPT开发的过程中内嵌意识形态斗争及污蔑中散播负面信息、虚假信息扰乱舆论环境的行为中国的价值偏见可能是其选择之一，从而对我国早已有之，但是ChatGPT的介人将使这一行为更的国家安全产生威胁。难被监测、防范。该技术与社交机器人技术相结（二）传播内容层面合，更是为这类非法活动提供了新的传播渠道，传播内容直接作用于受众，因此传播内容层即通过社交机器人有针对性地输出高度模仿人类面是ChatCPT技术诱发安全风险最重要的层面。思维、难以分辨真假的信息，实现“精准传播”根据前述分析可知，ChatCPT通过对数据集的集与“逻辑操纵”，让部分不明真相、缺乏媒介素束搜索（beam search）来生成多个回复内容，并养与信息素养的个体误信。从中选取“得分”最高的内容输出给用户，这就（四）受众层面使得数据集的质量高低直接影响到其输出内容的受众是ChatGPT诱发政治安全风险的作用质量。目标。ChatGPT具有高度的专业性，其运行过根据OpenAI官方公开信息可知，ChatCPT程较为复杂，由此导致的算法黑箱容易诱发政技术是通过人类编写的互联网数据（包括对话）治信任风险。ChatGPT能够通过强大的学习能进行训练的，部分网络信息源指出该技术使用的力，模仿人类的语言结构及情感态度，输出大核心数据集是CommonCrawl。该数据集包含了自量以假乱真且缺乏来源引证的信息。部分缺乏2008年以来收集的各类互联网数据，囊括了原信息素养的网民，可能误信人工智能的“客观始网页数据、提取的元数据以及其他文本数据，中立”，单纯采信其给出的虚假信息，被蒙蔽和总量达到了PB级。理论上讲，如此巨大的数据利用。-129-青海社会科学12 0 2 3年第3期（五）传播效果层面对受众产生效果，影响受众的行为是ChatGPT诱发国家安全风险的最终环节。在这一层面，ChatCPT可能通过以下两个层面诱发政治安全风险。一是意识层面，ChatGPT能够通过输出内容潜移默化地改变用户对某一问题的看法、观点等。二是行为层面，已有国外案例表明，生成式人工智能技术可能会教唆用户采取不当行为。因此，我国需要加强监管，防止ChatGPT输出不合适的内容，尤其是教唆用户进行不当行为的相关信息。四、ChatGPT技术对国家安全的挑战（一）进行政治干预主权独立和领土完整是国家生存发展的前提和基础。ChatGPT凭借其模拟人类的能力以及开放式内容创作能力，其输出的内容愈发以假乱真。通过对ChatGPT的实际操作发现，给ChatGPT输人多段具有阴谋论及虚假信息的提示，并要求其根据提示生成逻辑合理的文本时，ChatGPT会在短时间内将提示融合处理，输出结构合理且具有逻辑的虚假信息，为敌对势力进行政治干预提供了机会。（二）“数据投毒”ChatGPT在输出端所展现出的创造力与人机互动能力，奠基于源源不断的数据“投喂”和深度学习。而这些数据资源除“人工投喂”外，还来源于网络。这为敌对势力通过“数据投毒”污染人工智能训练模型提供了可乘之机，使ChatGPT成为输出极端言论的新渠道。（三）协助舆论认知战ChatGPT具备先进的神经网络架构，能够实现具备较高真实感的拟人化互动，能够被用于舆论认知战。ChatGPT由美国团队OpenAI开发，其学习语料以欧美发达国家信息为主，在底层逻辑及语料库中不可避免会掺杂价值观竞争的内容。这将导致公众在使用ChatGPT搜索信息、进行问答时误以为其输出的虚假信息为公正客观的信息，从而产生误信。（四）协助进行“灰色宣传”ChatGPT的核心基础之一是对海量数据的计-130-算、学习与分析。这种分析能力将大幅度提升开源情报（OSINT）分析能力。借助新一代人工智能技术，过去很难通过人工联系起来的信息，将可能被融合分析，并得出接近现实的情报；过去容易被忽视的宣传角度，将被重新发现；过去需要大量人力混合真实信息与虚假信息，捏造“灰色信息”进行的“灰色宣传”，也将被高效输出，精准投放。海量“虚中带实”“假中含真”的信息将极大地提高政府辟谣的难度。（五）政治舆论操控信息化、数字化时代，公众发声、获取信息的渠道丰富多样，网络舆情的发生、扩散机制越发复杂，处置难度也不断提升。在这一背景下，网络舆情对公众生活、政治的影响也越发巨大。现阶段，社交机器人在社交媒体等场景的应用已经对奥论场造成了较大影响。如若将生成式人工智能与社交机器人进行有机结合，将极大地提升鉴别难度，使互联网中出现更多难以分辨的“高智能社交机器人”。利用这种“高智能社交机器人”，敌对势力不仅能更容易地搅乱舆论场，还能更轻易地逃避监管，造成较大的负面影响。（六）“捏造记忆”“操控遗忘”信息化、数字化时代，人类的记忆逐渐数字化，越来越多的人试图记起某件遗忘的事情或细节时，第一反应是查询网络信息，给敌对势力利用互联网信息不断覆盖的特点来操纵和篡改记忆提供了机会。敌对势力可以通过ChatGPT技术生成相关内容，从小范围输出开始，以“时间”积“空间”，通过长时间地替换信息、输出内容，潜移默化地“捏造记忆”或有目的有计划地“遗忘”部分信息细节。这种行为极易导致历史虚无主义的盛行，威胁主流意识形态。五、关于ChatGPT技术对我国国家安全领域形成挑战的应对策略（一）重视人才培养，提升技术水平从技术角度来讲，现阶段我们所能使用的ChatGPT、G PT 4 等均为经过调试后封装面世的产品，这些产品适应的是西方国家，尤其是美国的需要。由于技术黑箱的存在，这些技术是否内QINGHAI SOCIAL SCIENCES丨社会学研究置了西方的意识形态竞争，其“微调”阶段是否因此，政府应建立数据集审核制度，对“投喂”给为了适应西方的政治需求而进行了有针对的调正处于训练阶段的人工智能的数据集进行审核，从试，我们均不得而知，只能通过使用来侧面证明。源头上防止错误的底层逻辑。也因为技术黑箱，我们同样无法获取ChatCPT、（四）提前布局研究，保护“网络历史记忆”GPT4等先进技术的开源代码，无法有针对性进针对敌对势力借助新一代人工智能技术对行调试，因此无法保证这一先进技术进人我国后网络信息进行替换以达到“捏造记忆”与“掌能够适配社会主义核心价值观的要求。新一代人控遗忘”的行为，政府应加强对各类信息的监管，工智能技术需要高专业技术人才，人工智能技术提前布局相关研究以保护网络历史记忆。政府的底层逻辑，在于开发者对其编码与训练。因此，可提出研究课题，邀请相关科研团队针对互联为了进一步开发符合社会主义核心价值观的先进网信息进行分类研究，科学分析哪类信息被替人工智能平台，我国必须要注重对人工智能专业换后会对我国意识形态安全造成较大影响，哪技术人才的培养。类信息更有可能被替换，有针对地加强互联网（二）开发内容检查技术，防止负面信息过载信息审核与监管，防止各类信息被替换后造成针对敌对势力借助新一代人工智能技术散播的严重后果。虚假信息进行政治干预、开展舆论认知战等行为，（五）加强全民信息素养教育，提升公众辨加快研究开发与之相匹配的内容检查技术，防止别能力由人工智能生成的虚假信息大范围传播。有研究新一代人工智能技术对个体来讲固然是一种提出，预训练语言模型是基于海量的文本进行学良好的工具，能够帮助个体更好地发挥专长，弥习，近似于对常见的、高频的词汇组合、表达方补短板。但这一技术在带给个体便捷与机会的同式等进行分析，以学习整个语料库的公共特征。时，也隐藏着不良信息、虚假信息和谣言，用而人类撰写的文本则带有作者特定的词汇组合及户需要具备较高的信息素养才能有效辨别这些信表达方式的习惯，这些文本与语言模型学习到的息。现阶段我国网民的信息素养不高，网络信息常见高频特征在一定程度不相符，不经过特殊指分析与识别能力不足，尤其是中小学生极易被网导较难生成。这种方法需要通过大量的文本提高络不良信息误导、毒害。因此，应大力开展全民准确度，但目前对一些短信息都较难分辨。因此，信息素养教育，尤其重视中小学生的信息素养教呕须加快内容检查技术研究。育，提高全民网络信息辨别能力。（三）加强信息监管，建立数据集审核制度新一代人工智能技术是基于机器学习的自然语言生成技术，具有自主学习和自我演进的特点，这就意味着技术监管难度比较大，数据安全防护难度较高。为了防止重要信息、数据泄露，降低敌对势力通过新一代人工智能技术获取大量有价值的开源信息，政府应加强信息监管，防止敏感信息泄露。此外，数据质量是影响新一代人工智能技术准确性和真实性的关键因素之一，决定着其是否能够输出公正客观的、符合社会主义核心价值观的正确信息参考文献：1曾张旭阳，朱启超，曾力宁.安全情报视角下美国人工智能维护国家安全的战略动向研究一一基于NSCAI报告分析J.情报杂志,2 0 2 2(2):4-11.2习近平主持召开二十届中央国家安全委员会第一次会议强调加快推进国家安全体系和能力现代化以新安全格局保障新发展格局N.人民日报，2 0 2 3-0 5-31(0 1).3贾珍珍，刘杨铖.总体国家安全观视域下的算法安全与治理J.理论与改革,2 0 2 1(2):135-148+156.-131-