ChatGPT新一代人工智能技术发展的经济和社会影响_郑世林.pdf

郑世林等：ChatGPT 新一代人工智能技术发展的经济和社会影响 5 ChatGPT 新一代人工智能技术发展的经济和社会影响新一代人工智能技术发展的经济和社会影响 郑世林 姚守宇 王春峰*摘 要：ChatGPT 作为新一代人工智能技术，将深刻地影响人类的经济和社会发展。本文分析了 ChatGPT 在人工智能产业、劳动力与就业、教育以及科学研究和科技伦理等多个领域的发展机遇与挑战。研究认为，ChatGPT 加速了生成式 AI 布局、劳动力市场结构演进和教育体系重塑，但与此同时也带来了科技与学术伦理、价值渗透、信息泄露等问题。此外，ChatGPT 也存在着潜在威胁，其快速产业应用或将给传统产业带来了难以估量的调整成本，相应的认知污染可能会引发知识和价值观偏差。为充分利用好 ChatGPT 带来的发展红利，加速各种应用场景落地，并防范其可能引发诸多冲击和风险，本文最后提出了系列政策建议。关键词：ChatGPT；人工智能；技术冲击；社会变革；政府监管 DOI：10.19313/10-1223/f.20230310.002 一、引 言 自 2010 年起，社会技术革新进程日益加快，人工智能领域呈现出飞速发展和逐步广泛应用的态势（何哲，2016）。以新一代信息技术为支撑的人工智能正逐渐成为新时代产业革命与社会经济发展的新型支撑力量。学界已有大量研究表明人工智能对经济增长、生产率与技术创新、劳动力市场、收入分配、市场结构与产业组织、法律规则与法律秩序等诸多方面产生影响（Autor 等，2003；Acemoglu&Restrepo，2020；Acemoglu 等，2022；Fumagalli 等，2022；吴汉东，2017；曹静和周亚林，2018；陈彦斌等，2019）。2022 年 11 月 30 日，美国人工智能公司 OpenAI 发布的 ChatGPT以其“对话式”的直接互动方式及“人性化”的语言文本服务让人们进一步感受到人工智能的魅力，打破了对于生成式人工智能技术的传统认知。仅在发布短短两个月后，ChatGPT 的月活跃用户数已达一亿，成为史上用户数增长最快的消费者应用。ChatGPT 的出现掀起了人工智能技术投资与发展的浪潮，改变了现有的产业格局，给传统产业带来了强烈的冲击和重大的发展机遇。那么，ChatGPT作为一种广泛影响人类经济生活的新一代人工智能技术，应该采取何种政策加以规范和引导正逐渐成为重要的研究问题。从现有研究成果来看，国内外学者已经就 ChatGPT 对科学研究方面的影响进行了探究。Bert Gordijn 等（2023）认为 ChatGPT 的发明可能会提升科研人员的工作效率。例如，当学者们文思枯竭时可以将 ChatGPT 作为一种工具或一种搜索引擎，甚至可以让 ChatGPT 作为讨论者加入这场头脑风暴，在碰撞中产生新的思想火花，提升科研工作效率。进一步，Eva 等（2023）发现已有研究人员使用这种对话式的人工智能来进行统计分析、总结文献内容以及撰写论文和演讲内容，加速了*郑 世 林，中 国 社 会 科 学 院 数 量 经 济 与 技 术 经 济 研 究 所，研 究 员，中 国 社 会 科 学 院 大 学 应 用 经 济 学 院，教 授Email:；姚守宇，天津大学管理与经济学部，讲师；王春峰，天津大学管理与经济学部，教授。通信作者：姚守宇，E-mail:。本论文在完成过程中也要特别感谢李珈、郭宗颖、刘云翔、温露露、王博、霍雨欣、谢美辰及李珂垚的助研工作，感谢国家自然科学基金面上项目（71573272）的资助，本文是中国社会科学院重大创新项目（2023YZD010 和 2023YZD017）的阶段性成果。产业经济评论 2023 年第 3 期 6 创新进程，缩短发表时间，帮助人们更流畅地写作。然而，ChatGPT 带来机遇的同时，也使人类暴露于诸多危险与挑战中。ChatGPT 作为“非人类”，无法拥有人的思考能力以及道德伦理观念，它所需要的是源源不断大数据的滋养，进而消化吸收，在不断读取数据的过程中训练其深度学习的能力。一方面，ChatGPT 所生成的文本内容容易出错。例如，它可能会编造并不存在的文献，且输出内容冗长重复（Gordijn&Have，2023），这会降低研究的质量以及透明度，从根本上改变科研人员的自主性（Eva 等，2023），使得科学研究结果不再可靠。另一方面，ChatGPT 输出的文本内容又很难被识别。研究人员将 ChatGPT 所生成的摘要送去评审时，仅有 63%的内容被审稿人识别（Thorp，2023），这必然会影响所发文章的科学性与公正性。同时，ChatGPT 在引用文章回答用户问题时，是否会侵犯被引用文章作者的权利？ChatGPT 能否作为文章写作的工具？倘若作者使用ChatGPT 是否需要将生成内容标注？这些都是需要进一步深刻思考的问题。此外，ChatGPT 的“爆红”有极大可能改变甚至颠覆人们的生存与交往方式，重新塑造社会的资源分配方式。然而，由于ChatGPT 推出时间较短，目前鲜有研究系统剖析 ChatGPT 对经济和社会发展的影响，更未系统讨论 ChatGPT 的潜在威胁，以及政府应采取的监管对策。在上述背景下，本文以 ChatGPT 技术冲击为切入点，从传统人工智能产业、劳动力与就业、教育以及科学研究与科技伦理四个方面进行探讨，探究新一代人工智能技术发展对经济与社会的影响。本文研究认为，ChatGPT 加速了生成式 AI 布局的同时也可能对传统人工智能产业的生存造成打击并引发伦理与安全挑战。在劳动力与就业方面，ChatGPT 的出现对不同技能劳动者的影响是不同的，中等技能劳动者受到影响较大，而高等和低等技能劳动者受到影响相对较小。在教育方面，ChatGPT 对教育体系的冲击加速了人们对教育方式、教育侧重点和教育评价的思考。在科学研究与科技伦理方面，由于 ChatGPT 生成的学术研究不满足严谨性和科学性，从而助长了虚假信息传播和剽窃抄袭等行为并影响了整个学术生态。同时，ChatGPT 创建者所在的大型企业利用技术的垄断也带来了科技伦理问题和价值渗透问题。最后，本文也分析了 ChatGPT 对社会运行机制、社会安全和社会主体层面的潜在威胁，展望了 ChatGPT 自身技术的完善和应用场景的落地，并提出了相应的监管政策建议。与国内外既有文献相比，本文的主要贡献体现如下：一方面，开拓了 ChatGPT 对经济和社会等方面影响的探索。已有文献主要集中在 ChatGPT 对科学研究的影响方面，而本文则从人工智能产业、劳动力与就业、教育以及科学研究等诸多方面分析了 ChatGPT 所带来的影响，讨论 AI 行业中科技哲学及伦理问题，分析了 ChatGPT 对于经济和社会潜在的威胁及未来发展趋势，并就这种潜在的颠覆性技术的影响讨论应对策略。另一方面，以 ChatGPT 为研究对象，本文拓展了人工智能领域对经济和社会影响的研究视角。ChatGPT 作为新一代生成式人工智能产品，对它的研究将会进一步丰富人工智能领域的相关文献，从而对新一代人工智能领域所带来的产业发展空间具有启发意义，对人工智能监管模式变革具有政策参考价值。本文余下部分的结构安排为：第二部分对 ChatGPT 的概念及其发展脉络进行梳理；第三部分在总结前人的观点的基础上，从传统人工智能行业、劳动力与就业、教育行业等方面探讨 ChatGPT带来的机遇，以及可能造成的产业冲击；第四部分则进一步分析了 ChatGPT 的潜在威胁与未来发展趋势；第五部分在上述论述基础上，结合以往的相关政策文件，提出针对类似 ChatGPT 的人工智能监管的可行性建议。二、ChatGPT 的概念与主要特征 ChatGPT（Chat Generative Pre-trained Transformer）的中文全称为生成型预训练变换模型。它是郑世林等：ChatGPT 新一代人工智能技术发展的经济和社会影响 7 美国人工智能研究实验室 OpenAI 于 2022 年 11 月 30 日发布研发的聊天机器人程序，使用了Transformer 神经网络架构（GPT-3.5 架构）。ChatGPT 是一款人工智能技术驱动的自然语言处理工具，通过海量数据存储和高效设计架构理解和解读用户请求，可以以近乎人类自然语言的方式生成具有“较高复杂度的回应文本”，甚至能完成撰写、视频脚本、文案、机器翻译、分类、代码生成、对话 AI 等任务。ChatGPT 的原理是在 GPT3.5 的基础上增加了人类反馈强化模型，使用人类偏好作为奖励信号来微调模型，并引入“人工标注数据+强化学习”来反复训练（令小雄等，2023）。特别地，由 OpenAI 团队近期最新发布的新一代多模态预训练大模型 GPT-4，相较于上一代模型而言，更是在输入限制、识别能力以及内容生成准确性和多样性等多个方面实现了飞跃式的提升，并在各种专业测试和学术基准上有着人类水平的表现。与传统人工智能技术相比，ChatGPT 及其迭代更新代表了未来人工智能的发展趋势，它可以基于大数据集自己生成内容，在语言能力、语言风格、论证效力及思想深度上赋予了新一代人工智能技术的鲜明特征。第一，在语言能力方面，ChatGPT 的可互动性是基于 OpenAI 公司开发的 GPT-3 架构的大型语言模型 LLM（Large Language Model）。通过在大量的文本数据上进行预训练，ChatGPT 可以实现出色的语言理解能力，生成更自然、更流畅的文本。同时，基于人类反馈的强化学习模型和微调技术，ChatGPT 能够有效记忆所有历史对话，从而可以显著提升连续多轮对话的能力。普通人工智能机器人大多使用的是基于规则的模型或基于机器学习的模型。基于规则的模型通常需要手动编写大量的规则，对特定的问题和回答进行匹配，因此训练效率低、准确率差、连续对话能力弱。在普通的人工智能对话系统中，经多轮对话后，话题的一致性难以保障。相对比而言，ChatGPT 在理解准确度、用户意图有效捕捉、连续对话能力等核心功能上有显著提升，并敢于质疑人类提问的不正确及承认回答中的错误。作为人机互动的辅助工具，ChatGPT 具有更高的适应性，其语言理解和生成水平的便捷性能够更快更好地回答客户问题，能够广泛应用于业界和客户服务，在教育、医疗、媒介、法律等领域发挥重要作用。第二，在语言风格方面，ChatGPT 基于强大的自然语言生成式模型，其训练的“自然语言处理”（NLP）模型使 ChatGPT 具有拟人化风格，为提供各种灵活性话术、更人性化风格的语言文本服务赋能（令小雄等，2023）。普通的人工智能机器人语言表达方面具有“非自然语言生成式”特点，其语言风格呈现出明显的僵硬化和机械化，不便于同人类的交流与合作。相比于普通的人工智能，ChatGPT 克服了以往人工智能语言非人化的缺点，能够提供更加自然、人性化的对话体验，被称为“有史以来向公众发布的最好的人工智能聊天机器人”。但是，ChatGPT 在涉及人类情感细微之处的理解或措辞的使用方面还不太准确，整体语言风格也缺乏个性化，更像是多种混合的中性风格。ChatGPT 表现的语言趋同化或同质化将对语言伦理产生影响。第三，在论证效力方面，ChatGPT 在以往大语言模型的基础上，其语料库中构建了逻辑模型或数理模型。通过使用更高的计算资源，ChatGPT 在回答逻辑推理相关的问题时能够展示出较详细的逻辑推理步骤和推理结果。普通人工智能论证能力的实现，本质上是通过大量参数模型对海量数据进行拟合，按照固定的程序运行，其严重依赖于数据。如果训练集中尚未存在某种情况，普通的人工智能很难对此展现出逻辑思考能力。因此，ChatGPT 获得了比普通人工智能更高的计算能力、准确性和逻辑上的连贯性。但由于技术盲区限制，ChatGPT 目前仍然是深度学习模型，仅仅学会了推理的表面逻辑，不具备较强的逻辑推理能力和因果关系的数理运算能力。ChatGPT 只能依靠语料库驱动中的概率匹配，在相近数据中得出一个估计值。因此，在基本的四则运算中ChatGPT 还经常出错。产业经济评论 2023 年第 3 期 8 第四，在思想深度方面，ChatGPT 是基于各知识领域数据库和在巨大的文本语料库基础上进行预训练的大型语言模型。ChatGPT 基于的是内在逻辑，具备思考或深度学习能力。基于训练数据库和模型结构的自动学习生成能力，语料库可以无限扩充，ChatGPT 的学习力和涉猎认知范围将不断增加，拥有举一反三的能力。因此，ChatGPT 的思考或计算的样本范围极其庞大。然而，普通人工智能在复杂问题理解方面还不具备与人类近似或同等的智能行为，只能通过“喂养”大量数据之后，基于对应关系进行模仿。如果没有按照人工智能习惯的方式进行提问，普通人工智能其回答往往答非所问。此外，ChatGPT 还拥有上下文矫正的能力，即 ChatGPT 被指出问题后会立刻意识到问题所在，并及时准确地修正相关信息，而以往的人工智能尚未拥有交互修正能力的通用模型。但是，ChatGPT 只是在庞大的语料库基础上通过深度学习实现仿风格化，在创作时有抄袭痕迹（令小雄等，2023）。此外，新一代模型 GPT-4 是 ChatGPT 的进一步突破，并体现出更多的可能性。从目前的进展来看，相对于 GPT-3.5，GPT-4 更可靠、更有创意，并且能够处理更细微的指令和新的、令人兴奋的任务。语言能力方面，GPT-4 在 26 种语言测试的 24 种中的性能表现优于 GPT-3.5 和其他 LLMs的英语表现，包括如拉脱维亚语、威尔士语和斯瓦希里语等低资源语言，另外，在一些最初基于人类设计的模拟考试中，GPT-4 也表现出更好的成绩，而且已被团队内部用来帮助人类评估人工智能的输出。输入功能方面，GPT-4 在原有文本输入的基础上进一步支持图像提示，实现了可视化输入。可操纵性方面，目前开发者已经可以通过在“系统”消息中描述一些方向来规定他们的 AI 的风格和任务，而不是只具有固定的冗长、语调和风格的经典 ChatGPT 个性，即系统消息允许 API 用户在一定范围内显著自定义用户体验。当然，尽管 GPT-4 在测试评估和功能实现上较 GPT-3 而言展现了略好的表现，但仍存在和早期模型类似的局限性，并非完全可靠，比如产生事实“幻觉”，错过微妙的细节，生成有害建议、错误代码或不准确的信息，存在“越狱”风险等，以及其附加功能将带来的新的风险面。在不久的将来，开发团队将进一步部署安全技术来弥补缺陷，并不断优化模型的预测能力，从而为社会提供来自未来模型预测的更好的指导（OpenAI，2023）。三、ChatGPT 对于经济和社会的机遇与挑战（一）对人工智能产业的影响 ChatGPT 的推出被视为人工智能技术历史上的重要里程碑，其以强大的算力支撑，从量变走向质变，达到了当前 AI 技术的巅峰水平。正是由于 ChatGPT 所具有的重要意义，国内外科技巨头纷纷加快了针对以 ChatGPT 为代表的生成式 AI 的布局，加速了 AI 智能化时代的进一步推进。这一进程为人工智能产业带来了机遇，但同时也伴随着许多未知的风险。1机遇：加速了 AI 时代进程，促进国内外科技巨头积极布局生成式 AI ChatGPT 将人机对话推向了新的高度的同时，也为推动人工智能产业的发展走向新篇章带来机遇。国内外科技巨头纷纷展开新一轮 AI 竞赛，积极布局生成式 AI。ChatGPT 模型的研发主要基于强大算力和资金支持，OpenAI 研发的 GPT-1 在 2018 年仅有 1.17 亿参数，而到 2020 年的 GPT-3就实现了 1 750 亿参数量。在 OpenAI 基础上，国内科研团队也相继推出了许多大型模型。例如，由清华大学联合智谱 AI 于 2022 年发布的中英双语模型 GLM-130B，参数规模为 1 300 亿参数，已经达到了 GPT-3 的水平。据慧博智能投研中所公布的 Pitch Book 统计数据，2022 年生成式 AI 赛道总共获得约 14 亿美元的融资，几乎达到了过去 5 年的总和。除了 OpenAI、Stability AI 等明星公司，其他郑世林等：ChatGPT 新一代人工智能技术发展的经济和社会影响 9 初创企业如 Jasper、Regie.AI、Replika 等也获得了资本的关注和支持，获得上亿美元的融资。在 ChatGPT 的应用探索中，微软公司作为 OpenAI 的最大投资方也是最大受益方，开始围绕ChatGPT，将其整合入旗下所有产品中（例如，Bing 引擎、Office 全家桶等），以提升产品竞争力，实现多种应用场景的落地。亚马逊公司已经将 ChatGPT 集成在多种工作职能中。Jasper 公司通过采用OpenAI下的GPT-3作为技术底层，提供高质量文本内容。美国新媒体巨头Buzzfeed也在ChatGPT浪潮的风口上宣布计划采用 ChatGPT 协助内容创作等。此外，为应对 ChatGPT 带来的对搜索引擎领域的颠覆性改变，国内外互联网巨头纷纷布局AIGC，其不仅是类 ChatGPT 产品，还包括多种相关场景应用。例如，谷歌旗下的 DeepMind 公司于 2022 年推出 Sparrow 机器人，采用一种基于人类反馈的强化学习（RL）框架，并将在 2023 年末进入测试阶段。同时，谷歌宣布向 ChatGPT 的竞争对手 Anthropic 公司投资约 3 亿美元，以建立新的合作伙伴关系。Anthropic 公司于 2023 年公布名为 Claude 的 AI 聊天机器人，但目前仍处于实验阶段。除此之外，亚马逊与 AI 制图平台 Stability AI 合作，为其提供亚马逊 Tradium 芯片。在国内，近期各互联网大厂也在筹备类 ChatGPT 的相关计划，华为诺亚方舟实验室联合多部门推出首个 2 000 亿参数中文预训练模型盘古；百度官宣类 ChatGPT 大模型文心一言（ERNIE BOT）；腾讯则在 2 月 3 日公布了一项人机对话专利。2.挑战：对传统人工智能产业的生存打击及可能引发的伦理与安全挑战 作为一种基于自然语言处理技术的搜索引擎服务，ChatGPT 具备自学习和自优化能力，可以通过对海量数据的处理不断改进自身算法和模型，实现更加智能化、人性化的搜索。ChatGPT 的出现对传统搜索引擎的商业模式构成了挑战。根据 Statcounter 数据，2020 年至 2022 年间，谷歌的全球市场份额超过 90%，是全球搜索引擎市场的绝对霸主，而由 OpenAI 研发的 ChatGPT 的出现对谷歌的搜索引擎形成了挑战。然而，ChatGPT 也存在自身缺陷，包括数据泄露风险、信息准确性风险和 AI 伦理风险。ChatGPT以海量数据库信息为依托，其中包括了大量的互联网用户自行输入的信息。因此，如果用户个人输入私密信息，ChatGPT 可能将其纳入自身语料库。虽然 ChatGPT 所属公司承诺删除所有个人身份信息，但未说明删除方式。同时，在无法对 ChatGPT 的数据来源进行事实核查时，仍需注意数据泄露风险。此外，ChatGPT 提供的信息并不总是准确的，需要一定的专业知识辨别真伪。同时，也可能存在有不法人士利用 ChatGPT 进行诈骗等违法行为。最后，随着 ChatGPT 等人工智能技术发展越来越成熟和先进，人工智能与人的边界会受到冲击与挑战。此外，也有可能存在算法歧视问题。目前的研究表明，预训练语言生成模型可能会再现有害的社会偏见和刻板印象。例如，GPT-3 可能存在明显的宗教偏见和性别歧视等问题（Abid A et al.，2021；于洋，2022）。（二）对劳动力与就业的影响 随着人工智能技术的迅速发展，AI 逐渐在一些具有简单规则性、应用经济性、技术实现性的工作领域替代人类。ChatGPT 的出现对于那些只依靠旧有技能和方法工作的人可能产生巨大挑战。同时，ChatGPT 的出现对不同技能的劳动者的影响也是不同的，其中中等技能劳动者受到影响较大，而高等和低等技能劳动者受到影响相对较小。1ChatGPT 出现将不断加快人工智能对人类常规工作的替代 人工智能技术的不断发展和进步，正在改变着我们的生活和工作方式。从既往路径来看，AI 可以替代的工作通常具有简单规则性、应用经济性和技术实现性的特点（金峰，2023）。简单规则性产业经济评论 2023 年第 3 期 10 的工作是指一些通常需要执行重复性的任务，并且具有清晰的指导原则和明确步骤的工作，在很大程度上可以由 AI 代替。例如，在文档撰写中，AI 可应用于类似做“填空题”的自然灾害快报。在确定好时间、地点、事件类型、伤亡人数等固定信息后，AI 可以根据预先设置的规则快速准确来填写。应用经济性的工作是指那些应用人工智能技术涉及到的机器成本小于人工成本的工作，从而使得使用人工智能技术成为越来越经济划算的选择。例如，工厂可以使用智能机器来完成一些简单、重复性的工作，从而减少成本，进而提高企业的竞争力和盈利能力。技术实现性的工作是指那些规则性的、简单的工作，AI 可以通过算法和模型来实现自动化代替。例如，在外卖配送中，根据客户的地址信息和订单内容，AI 可以计算出最优配送路线和时间。ChatGPT 的出现会不断地蚕食人类的工作领域。一方面，大规模预训练模型的发展让人工智能进入了更为复杂的规则阶段。人类的思维和行为模式受到所谓的规则控制，这些规则数量庞大但并非无限。然而，现在构建的千亿、万亿级别的参数实际上就是这些规则，它让人工智能掌握的规则数量不断接近人类。因此，那些仅仅依靠遵循旧有规则而工作的人将面临越来越大的竞争压力。另一方面，经济性的提高让 AI 朝着商用正循环的方向发展。从供给侧来看，算力设施和数据的丰富以及单位成本的几何级下降，使得人工智能成为“有本之木”，而预训练模型参数的数量和所使用的数据量也随着技术的进步在不断增长。从需求侧来看，ChatGPT 等 AI 应用逐渐摆脱了“最后一公里”的状态，受到了个人和企业用户的欢迎和支持，因此愿意为这些应用付费。这也意味着，那些仅依靠旧有技能和方法工作的人将面临着更为严峻的挑战。2ChatGPT 对未来不同技能劳动者的就业的影响 首先，ChatGP 对低技能的劳动者就业难以构成威胁。张刚等（2020）指出，与之前“技术偏向性技术进步”有所不同的是，以人工智能为代表的技术进步会导致“程序偏向性技术进步”，将劳动力市场中的岗位按技能高低分为高技能工作岗位、中等技能工作岗位和低技能工作岗位。人工智能的普及和广泛应用会增加高技能和低技能工作岗位，而导致中等技能工作岗位的减少。从技术与人的竞争来看，低技能的体力劳动者的竞争对象是终端、机械，当前尚无切实有效的替代方案。如搬运、清洁等需要身体力量的工作，这些任务需要人类的身体能力和灵活性，而 ChatGPT 目前无法具备体力劳动能力。Acemoglu 等（2011）通过研究也发现，随着人工智能的不断发展，美国劳动力市场中岗位极化趋势主要表现为低技能服务业岗位与就业人数的增加。其次，ChatGPT 将对中等技能脑力劳动者就业构成愈来愈大的挑战和威胁。中等技能的脑力劳动者在当前的竞争环境下，其竞争对象是“有迹可循”的规则。这些规则可能是由市场、技术或政府法规制定的，而这些规则的正确应用对于企业或个人的成功至关重要。然而，随着人工智能技术的发展，ChatGPT 等基于巨量数据资源和强大学习能力的人工智能，可能会对人类脑力劳动者造成威胁。从技术角度来看，人工智能的优势主要在于它强大的数据处理能力、极度的专注力和高效的多任务处理能力。ChatGPT 作为一种新兴的人工智能，它可以比人类更高效地完成数据整理、文稿编辑、机械重复类工作，实现数据的及时收集和分析。它能够快速地利用已有的知识和成熟的框架完成工作，使得许多中等技能的脑力劳动者的工作可能会被取代。因此，ChatGPT 可能会对从事软件技术类、新闻媒体类、法律工作类、市场研究分析师、教师、金融分析类、交易员、平面设计师、会计师、客服人员造成威胁。ChatGPT 相比人类具有更高的准确率和更低的成本，它可以利用已有的知识和成熟的框架，轻松地完成这些工作。例如，金融分析师可以使用 ChatGPT 来分析市场走势和交易数据，教师可以使用 ChatGPT 来自动批改作业。因此，ChatGPT 在这些领域中的应用，郑世林等：ChatGPT 新一代人工智能技术发展的经济和社会影响 11 可能会导致大量中端脑力劳动者失去就业机会。此外，ChatGPT 对高技能劳动者就业替代的可能性比较小。相比之下，高社交频率和创造性强的高技能劳动者，如工程师、设计师、心理医生等，在他们的专业领域中拥有着丰富的知识和经验，并且具备创造力和创新思维。他们通常需要在“无规则”的情况下进行创新和解决问题。这些情况可能包括未知的挑战、不确定的需求、不确定的信息来源等等，而AI 目前尚难以渗透这些领域。这是因为 AI 往往需要有大量的数据和标准化的问题才能发挥作用。在“无规则”的情况下，数据可能不够充分或者存在太多的不确定性，这就使得 AI 很难做出准确的决策或者提供有用的建议。最后，ChatGPT 最终难以替代人类社交、沟通、创新、思想创造等工作。虽然 ChatGPT 已经在生活和工作中展现了高超的技术和能力，但这绝不意味着它具有绝对的优势，能够称霸职场。与人类相比，AI 也有做不到的事情。首先是情感共鸣。AI 和人最大的区别在于人有情感、会思考。然而，AI 与人的交流依托的是大数据和理论，即便有简单的情绪感知能力，也很难与人类产生情感共鸣。其次是，创新。虽然 AI 可以通过学习和储存大量数据来模仿人类的思维过程，但它并没有自主思考和创造的能力。AI 的创新依赖于人类，只能通过学习人类的思考方式来生成新的想法。虽然 ChatGPT 可以通过大量数据分析来撰写文章、新闻稿等，但这些信息都是人类灌输进去的，AI 本身并没有创新性和自主性，无法将对某个时刻的思考转化成意识。综上所述，ChatGPT 的出现，可能会深层次改变劳动力市场的就业结构，导致不同技能岗位的数量和比例发生较大变化，也使得劳动者技能和知识的更新变得越来越重要。对于那些从事中等技能的脑力劳动者来说，需要不断地学习新的技能，以适应新的工作环境。而高技能劳动者则需要不断提升自己的专业水平和创新能力，以保持竞争优势。在这个过程中，人类需要和 AI 共同进步，发挥各自的优势，逐步推动实现万物互联和万事协同，促使全面智能成为可能。（三）ChatGPT 对传统教育的冲击和影响 ChatGPT 可以帮助使用者完成论文、快速实现一段命令的程序代码、快速识别题目并给出多种方法的答案等。它在提供了新的学习途径的同时也会减少使用者本应深度思考的机会，对教育体系产生冲击，从而对现有教育方式、授课内容和教育体制改革方向进行重塑。1ChatGPT 重塑传统的教育方式 人工智能（AI）的发展正在显著地重塑教育服务的劳动市场。最新的研究表明，人工智能有可能替代或部分替代通常由熟练专业人员完成的创造性工作，例如，学术写作、编码等（Li 等，2023）。Qin 等（2023）对 ChatGPT、GPT-3.5 进行了特定任务数据微调的研究，发现 ChatGPT 在许多推理性任务上表现良好。但是，也有文章明确表示 AI 对教育的重塑是必然的。作为最近研究人员开发的聊天机器人和对话式 AI 系统，ChatGPT 正在潜移默化地影响着传统的教育方式。传统教育方式的第一步是训练系统，通常是通过记忆构建一个概念的支架，再通过主观获取知识，并将其沉淀形成个人智慧。ChatGPT 的出现对个人记忆的储存产生强烈的冲击。这款对话式 AI极大缩短了获取信息的时间，并且对待不同语序、关键词的提问都能给出相似的回答，甚至可以承认自己回答中的错误，拒绝不适当的查询。这些功能提供了新的学习机会，但也引起了教育从业者的担忧。因为学生可能会使用 ChatGPT 作弊、代写论文，从而使学生失去独立思考的机会并产生依赖心理。但这也从另一个角度映射出传统教育工具箱的单调，如果教育从业者对教育的测量工具进行反思、对传统教育工具箱的滞后进行思考，那么将形成新的教育教学模式，并重塑传统的教育方式。2ChatGPT 迫使教育工作者思考教育内容的侧重点 普通的教育方式是通过大量知识记忆，促进神经元突触的广泛链接，从而极大提高大脑机械翻产业经济评论 2023 年第 3 期 12 译官的速度，最终积淀成为智慧。而 ChatGPT 的智能是由类脑神经网络和大量的语料训练催生的，且记忆速度远高于人类，这将引发教育工作者思考 ChatGPT 下教育内容的侧重点。不少学者认为，人工智能虽然相比于普通的程序能更像人类进行思考，但是，在一些创造性的工作与项目中，如突出创新能力的作业、体现实践智慧和动手能力的考察、解决复杂问题的过程等，ChatGPT 和人类相比仍有很大差距。Frey（2017）认为教育应侧重于提高学生的创造力和批判性思维，而不是一般技能。思维方式的多元性将决定人类智慧的多样性，我们应该培养和创造更多样的思维，而不是试图让学生掌握更多的知识。面对 ChatGPT 等 AI 辅助工具，教育工作者必须通过创新教学设计，彻底改变作业和学习任务，以培养学生超越 AI 能力的独特技能，而不是抗拒甚至逃避 AI 带来的便利与挑战。同时值得注意的是 AI 不是人类判断和专业知识的替代品，它应该被视为增强和支持的工具，而不是取代教育工作者的角色。3ChatGPT 推进教育评价体系的变化和改革 随着教育体系越来越注重基于量化成绩的考核方式，越来越多的学生开始专注书本知识的记忆与运用，而价值观、思维方式、同理心、创造力、合作精神等无法量化的内容也因“马太效应”逐渐被忽视。ChatGPT 作为一种快速知识记忆并能够准确检索的人工智能，提醒了教育工作者与受教育者需要区分人与人工智能的区别，充分发挥人类的优势，发掘无法进行量化的方面。这就需要对教育评价体系进行改革，教育工作者必须考虑对教育学习目标、学习任务和评估进行调整，以更好地培养未来的公民。尽管目前对教育学习目标的独特分类法并未达成共识，但人们普遍认为教育应该为学生准备认知、社会和情感技能，以及针对特定学科的知识来处理现实世界的问题（Pellegrino，2014）。综上所述，ChatGPT 能够准确、高效地处理信息，减轻人类工作负担。而在教育领域，虽然对ChatGPT的不当使用可能会产生负面影响，但更值得关注的是以ChatGPT 为代表的AI 最新技术，正在推动教育体制全方位的改革，教育工作者应该借此改进传统的教育模式，引导受教育者达到以知识为载体的全面发展。（四）ChatGPT 对科学研究与科技伦理的影响 ChatGPT 因其基于大型语言模型（LLM）的生成式对话能力受到各大领域的青睐。尤其是，ChatGPT 给学术研究带来了极大的便利，帮助学者进行初步信息收集和数据处理，甚至可以快速整理文献综述，显著减少撰写论文所需的时间。但也正是 ChatGPT 具备的这项技术，引发了对科学研究和伦理方面的争议。例如，ChatGPT 时常出现的错误回答降低了学术研究的严谨性和科学性，进而促使虚假信息传播给社会带来重大危害。同时，ChatGPT 产生的信息涉及的剽窃抄袭等行为也影响到了整个学术生态。特别地，ChatGPT 创建者所在的大型企业利用其技术的垄断地位，带来了科技伦理问题和价值渗透问题。1ChatGPT 虚假信息传播会降低学术研究的科学性 ChatGPT 是基于语料库的生成式对话模型，其虽然能够生成连贯且语法正确的文本，但并不具备甄别虚假信息的能力。ChatGPT 会不断产生其认为的客观答案，可能生成虚假的学术文本，或者经刻意训练后提供虚构的科学研究、引用一项不存在的科学研究，进而引起专业研究的不准确、偏见和抄袭。而且随着语言模型的进一步优化和相关技术的成熟，将更大程度降低虚假内容生成门槛和信息传播成本，从而加速这种虚假传播，同时，语言风格的高度逼真实际上也将强化虚假内容的可信度和影响力，加大学术风险。现有研究表明，ChatGPT 事实上会写出听起来似是而非的错误或郑世林等：ChatGPT 新一代人工智能技术发展的经济和社会影响 13 荒谬的答案（Van 等，2023；Thorp，2023）。使用 AI 模型时仍需谨慎，ChatGPT 被当成“嘴替”或“文替”，数据的滥用或对知识的不完整性采用，将为错误信息的传播埋下风险和隐患。不专心的审稿人可能会被一篇由人工智能撰写的论文所欺骗，接受其漂亮、权威的散文（Van等，2023）。此外，ChatGPT 很有可能通过产生误导性或不准确的内容引发危害，从而引起对学术错误信息的关注。例如，在 COVID-19 流行期间，医学期刊中错误信息的传播可能会带来重大的社会危害（Diseases，2020）。2ChatGPT 容易引发科技与学术伦理问题（1）面临科技伦理的“污染”与盲从 人工智能完备的问题包含科技伦理中对人类道德的衡量。ChatGPT 初步具有道德判断力，它会注重政治正确和道德伦理尊严（令小雄等，2023）。ChatGPT 利用其学习到的伦理价值，验证使用者的提问是否合法合规或符合道德伦理规则，甚至有时会直接拒绝回答某些伦理上有偏差的问题。ChatGPT 代表的人工智能技术的进化，也是科技伦理自身的跟进和不断完善。而由于伦理的学习成本巨大，一旦 ChatGPT 在语料库中受到“伦理的污染”或“投毒”，其重新认知新的伦理判断需要一个很长的过程。尽管 ChatGPT 在大多数情况下努力保持道德实践的理性主义态度，但随着各种不良测试者和调教者的质疑及恐吓等语言威胁，ChatGPT 在某些时候无法确定什么才是真正正确的伦理。人工智能的出现使人的思想能力逐渐陷入停滞，技术被垄断在少数绝对强者手中，产生严重的阶级固化和技术壁垒。当以 ChatGPT 为代表的人工智能盲目服从命令而不质疑其伦理偏见或不具备预设道德伦理的正确导向时，将会产生科技伦理困境。人的从众心理将转变为从 AI 心理，在广泛的社会语境中被认为是个性化的叙事方式被 AI 以潜移默化的方式改变，语言的长期改变会渗透其情感认知、伦理行为和整体行为的走向，对人们的价值信仰、态度和行为产生重要影响。这既是值得关注的科技哲学问题，也是伦理问题（令小雄等，2023）。（2）引发一个新的学术伦理命题 ChatGPT 本身确实有其进步性的一面，它可以协助学者更好地完成日常工作（Gordijn&Have，2023）。但作为一种研究工具，它存在一个明显的缺点，尤其是在科学诚信方面，过度依赖 ChatGPT生成的内容可能会引起抄袭、欺诈和版权侵权的风险。令小雄（2023）指出，如果让 ChatGPT 以诗人李白的风格写一首诗。虽然，ChatGPT 能够生成一首新诗，但其中的语句与现有的古诗相似，从而可能带有“学术伦理”或“抄袭”痕迹。同时，学生可能会使用 ChatGPT 制作本不属于其自身的作品，从而导致抄袭和剽窃等不道德行为的出现，进而影响教育和学术生态。这种行为将导致成果并不能反映学生的能力和知识，而只能反映语言模型的处理能力，这将形成不平等的竞争环境，导致一些学生在评估中拥有不公平的竞争优势。此外，Else（2023）认为 ChatGPT 是根据过去的信息进行训练的，而社会和科学的进步往往来自于与过去不同的思维或开放思维，过多使用将导致批判性思维和创新能力的匮乏。更深远的学术伦理问题在于，ChatGPT 有能力撰写在权威期刊上通过同行评审的论文。从长远来看，人工智能驱动的系统甚至可能完全接管整个科学研究领域。国际象棋领域中 AlphaGo 就是一个典型的例子。此外，也有的作者试图将 ChatGPT 作为合著作者来避免以上的学术伦理问题。在已发表的论文中，ChatGPT 至少获得了四份作者署名（Stokel-Walker，2023）。但包括Nature在内的期刊表示这样的做法是不被接受的，原因是任何作者署名都表示其对作品负有责任，而人工智能无法承担这样的责任。产业经济评论 2023 年第 3 期 14 针对以上产生的学术伦理问题，Van 等（2023）