生成式人工智能：发展演进及产业机遇.pdf

43 0 引言当 OpenAI 在 2022 年 11 月 30 日发布 ChatGPT 的时候，没有人会意识到，新一代人工智能浪潮将在接下来的6个月给人类社会带来一场“眩晕式”的变革。自2012年深度学习问世以来，人工智能进入第三次高潮。而 2017 年 Transformer 算法将深度学习推向了大模型时代。OpenAI 基于 Transformer 的 Decoder 部分建立起 GPT 家族。ChatGPT 一经面世便风靡全球，人们惊讶于其能够进行连贯、有深度对话的同时，也惊异地发现了它涌现了推理、思维链等体现智能的能力。伴随AI预训练大模型持续发展、人工智能生成内容（AIGC）算法不断创新、多模态 AI 日益主流化，以 ChatGPT 为代表的 AIGC 技术加速成为 AI 领域的最新发展方向，推动 AI 迎来下一个大发展、大繁荣的时代，将对经济社会发展产生重大的影响。1 AIGC技术的定义及背景1.1 生成式人工智能的定义AIGC（Artificial Inteligence Generated Content），指的是通过人工智能技术自动生生成式人工智能：发展演进及产业机遇文/徐思彦（腾讯研究院，北京 100080）摘要：在多重因素驱动下，AIGC 成为近年来 AI 领域最具变革性的技术方向之一，近年来在各产业领域的应用逐渐兴起。本文旨在全面梳理生成式人工智能的发展演进、产业应用现状及前景。本文梳理了生成式人工智能发展的基础条件，并概述了其在文本生成、图像生成等八大领域的典型应用前景及产业机遇。同时，针对生成式人工智能在产业应用中面临的可解释性及安全伦理挑战进行了探讨。最后，本文展望了生成式人工智能在产业应用中的未来发展趋势，以期推动生成式人工智能在产业应用中的持续发展和创新。关键词：生成式人工智能；生成对抗网络；AIGC；ChatGPT；OpenAI中图分类号：TP18 文献标志码：A 文章编号：2096-5036(2023)04-0043-08DOI：10.16453/j.2096-5036.2023.04.005生成式人工智能：发展演进及产业机遇 44 专题：AIGCAI-VIEW2023 年第 4 期成内容的生产方式。通过训练模型生成新的、与训练数据相似的内容。与传统类型的 AI 主要关注识别和预测现有数据的模式不同，AIGC 着重于创造新的、有创意的数据，其关键原理在于学习和理解数据的分布，进而生成具有相似特征的新数据，在图像、文本、音频、视频等多种领域都有广泛的应用。AIGC 目前最引人注目的应用当属 ChatGPT。ChatGPT 是基于 OpenAI 公司的大型语言模型 GPT-3.5 训练、调试、优化的聊天机器人应用，同一个AI模型可以处理各种各样的文字和推理任务。ChatGPT发布仅两个月即获得1亿月活用户，超越了历史上所有互联网消费者应用软件的用户增长速度。以大型语言模型、图像生成模型为代表的 AIGC 技术，成为新一代人工智能的平台型技术，助力不同行业实现价值跃升。1.2 生成式人工智能的基本原理与关键技术 AIGC 大爆发的背后，普遍认为三个领域的 AI 技术的发展为其提供了肥沃的土壤，分别是生成算法、预训练模型和多模态技术。第一，随着各种生成算法的不断创新突破，AI 现在已经可以生成文字、代码、图像、语音、视频物体等各种类型的内容和数据。AIGC与过去最显著的区别是从分析式AI（Analytical AI）发展为生成式AI（Generative AI）。分析式AI模型是根据已有数据进行分析、判断、预测，最典型的应用之一是内容智能推荐；生成式 AI 模型则是学习已有数据后进行演绎、生成、创造全新内容。第二，预训练模型，也就是我们常说的大模型，引发了 AIGC 技术能力的质变。在过去，研究人员需要针对每一个类型的任务单独训练 AI 模型，训练好的模型只能从事特定任务，不具有通用性。而预训练的大模型技术显著提升了 AIGC 模型的通用化能力和工业化水平，让 AIGC 模型成为自动化内容生产的“工厂”和“流水线”。生成式 AI 模型，包括 ChatGPT、GPT-4 等大语言模型（Large Language Models，LLM）和 Midjourney、Stable Diffusion 等图像生成模型，又被称为基础模型（Foundation Models），其作为基于种类丰富的海量数据预训练的深度学习算法，展现出强大的、更加泛化的语言理解和内容生成能力。以大型语言模型（LLM）为例，经过海量的互联网内容数据的训练，语言模型的参数可以达到万亿，甚至百万亿级别。这大大增强了语言模型的生成能力，同一个语言模型可以高质量地完成各种各样的文字和推理任务，例如作诗、写文章、讲故事、写代码、提供专业知识等。因此，大模型已经成为了各大企业竞相追逐的AI方向。第三，多模态 AI 技术的发展。多模态技术让 AIGC 模型可以跨模态地去生成各种类型的内容，比如把文字转化为图片、视频等,进一步增强了AIGC 模型的通用能力1。以下是 AIGC 领域的一些基本技术。1）生 成 对 抗 网 络（Generative Adversarial Networks，GAN）：GAN 是 由 Ian Goodfellow 等人于 2014 年提出的一种生成式模型。它由生成器（Generator）和判别器（Discriminator）两部分组成。生成器负责生成新的数据，判别器负责判断生成数据与真实数据的相似程度。通过不断地训练，生成器能够生成越来越逼真的数据。2）变分自编码器（Variational Autoencoders，VAE）：VAE 是一种基于概率生成模 45 生成式人工智能：发展演进及产业机遇型的生成式方法，它通过编码器（Encoder）和解码器（Decoder）两部分实现数据的生成。编码器负责将输入数据映射到潜在空间中的一个分布，解码器负责潜在空间中的分布采样数据，并生成新的数据。3）循环神经网络（Recurrent Neural Networks，RNN）：RNN 是一种用于处理序列数据的神经网络结构。RNN 具有记忆功能，能够捕捉序列数据中的时序信息。在生成式人工智能中，RNN 可以用于生成文本、音乐等序列数据。4）Transformer 模型：Transformer 是一种基于自注意力（Self-Attention）机制的神经网络结构，它在自然语言处理领域取得了显著的成果。Transformer模型可以用于生成式任务，如文本生成、机器翻译等。5)其他相关技术：除了上述技术外，还有一些其他的生成式模型和技术，如PixelRNN、PixelCNN、WaveNet 等。这些技术在图像和音频生成等领域也取得了一定的成果。1.3 生成式人工智能在产业应用中的重要性大语言模型等生成式 AI 技术带来了新的 AI 发展范式，其应用前景十分广阔。对于大众而言，生成式AI意味着新的创造力工具，将在更大程度上解放个体的创造力和创意生产。除此之外，AIGC还将改变获取信息的主要方式。ChatGPT在寻找答案、解决问题的效率上已经部分超越了如今的搜索引擎，ChatGPT 或许在未来会改变我们获取信息、输出内容的方式，AIGC 有望成为数字经济时代驱动需求爆发的杀手级应用。比尔盖茨将人工智能的发展与微处理器、个人电脑、互联网,以及智能手机相提并论，认为其将重塑所有的行业。微软公司首席执行官 Satya Nadella 认为，ChatGPT是知识工作者的“工业革命”，断言人工智能将彻底改变所有类型的软件服务。目前，搜索、办公、在线会议等诸多软件服务都已融入了生成式 AI 的能力。OpenAI 公司首席执行官 Sam Altman称，多模态的 AI 大模型有望成为继移动互联网之后的新的技术平台。这意味着，开发人员基于预训练的 AI 大模型，可以通过模型微调快速开发出垂直领域的模型应用，并予以部署使用，人工智能的革命性正在于此2。2 AIGC的应用领域2.1 文本生成领域自然语言生成是一种 AIGC 技术，可以生成逼真的自然语言文本。生成式 AI 可以编写文章、故事、诗歌等，为作家和内容创作者提供新的创作方式。同时，它还可以用于智能对话系统，提高用户与 AI 的交流体验。ChatGPT 全名为 Chat Generative Pre-trained Transformer（对话生成式预训练变换模型），它是由 OpenAI 开发的一个人工智能聊天机器人程序，于 2022 年 11 月推出。该程序使用基于 GPT-3.5 架构的大型语言模型，并通过强化学习进行训练。ChatGPT 目前仍以文字方式互动，可以解决包括自动文本生成、自动问答、自动摘要等在内的多种任务。46 Jasper AI 已经依靠 AIGC，为谷歌、脸书等知名公司提供商业服务。2.2 图像生成领域图像生成是AIGC技术中最为普遍的应用之一。Stability AI发布了Stable Diffusion（稳定扩散）模型，通过开源快速迭代，大幅降低了 AI 绘画的技术使用门槛，消费者可以通过订阅旗下产品 DreamStudio，输入文本提示词生成绘画作品，产品已经吸引全球 50 多个国家超过 100 万的用户注册。2.3 音视频创作与生成 AIGC 技术可以用于语音合成，即生成逼真的语音。例如，通过学习人类的语音特征，生成式模型可以生成逼真的语音，从而用于虚拟助手、语音翻译等应用。AIGC 技术可以用于生成音乐。生成式 AI 可以根据给定的风格和旋律创作新的音乐作品，为音乐家提供新的创作灵感。这种技术还可以帮助音乐家更有效地探索音乐风格和元素的组合，这些曲目可以用于音乐创作、广告音乐等应用。2.4 电影与游戏生成式 AI 可以用于生成虚拟角色、场景和动画，为电影和游戏制作带来更多的创意可能。此外，AI 还可以根据用户的喜好和行为生成个性化的故事情节和游戏体验。2023 年 3 月，腾讯 AI Lab 在 GDC（游戏开发者大会）上提出了 3D 虚拟场景自动生成解决方案，能够帮助游戏开发者以更低成本创造风格多样、贴近现实的虚拟城市，提升 3D虚拟场景的生产效率。其中，腾讯重点分享了城市布局生成、建筑外观生成和室内映射生成三大能力。整个路网生成和微调过程仅需要不到30分钟，相比手动设计效率提升近100倍；而单个独特建筑的制作时间也降低至17.5分钟，大大提升了场景制作的效率。2.5 科研与创新生成式人工智能可以在化学、生物学、物理学等领域探索新的理论和实验方法，帮助科学家发现新的知识。此外，生成式 AI 还可以用于药物设计、材料科学等领域，加速技术创新和发展。2.6 代码生成领域 经过自然语言和数十亿行代码的训练，部分生成式人工智能模型已经精通十几种语言（包括 Python、JavaScript、Go、Perl、PHP、Ruby 等），能够根据自然语言的指令生成相应的代码。GitHub Copilot 是一个 GitHub 与 OpenAI 合作产生的 AI 代码生成工具，可根据命名或者正在编辑的代码上下文为开发者提供代码建议。根据官方介绍，其已经接受了来自GitHub 上公开可用存储库的数十亿行代码的训练，支持大多数编程语言。腾讯云新一代 AI 代码助手 CODING Wise 将大模型 AI 能力赋能给开发者，增强开发专题：AIGCAI-VIEW2023 年第 4 期 47 生成式人工智能：发展演进及产业机遇体验，提升开发效率。CODING Wise 支持多种编程语言、主流开发框架和常用 IDE。具备代码补全、生成单元测试、代码纠错等能力，能辅助开发者加速开发过程，提升开发质量。CODING Wise 能力覆盖沟通、编码、评审等关键环节 沟通环节：通过对话方式，进行上下文推理给出代码回复，帮助开发者理解代码逻辑；研发环节：根据当前代码类型、代码上下文等信息进行代码补全；能根据代码反向生成注释和单元测试代码；排错环节：进行代码查错、定位问题，并辅助生成建议，随后给出建议代码、替换错误的代码块；评审环节：辅助开发者生成代码提交信息，也可以辅助评审者生成评审建议；调试环节：可通过自然语言指令实现快速的代码修改和调优。2.7 内容理解与分析腾讯会议发布 AI 小助手，只需通过简单自然的会议指令，基于对会议内容的理解，就可以完成信息提取、内容分析、会管会控等多种复杂任务。会后可以自动生成智能总结摘要，还能够基于智能录制的能力，帮助用户高效回顾，提升用户开会和信息流转效率。彭博社于近期发布了为金融界打造的大语言模型（LLM）BloombergGPT。它使用了类似于 ChatGPT 的技术原理，即使用 Transformer 模型和大规模预训练技术实现自然语言处理，拥有 500 亿参数。BloombergGPT 的预训练数据集主要来自彭博社的新闻和金融数据，构建了一个 3630 亿个标签的数据集，支持金融行业的各种任务。BloombergGPT 的目标是帮助用户更好地理解和分析金融数据和新闻。它可以根据用户的输入，生成与金融相关的自然语言文本（如新闻摘要、市场分析、投资建议等）。它的应用场景主要包括金融分析、投资咨询、资产管理等领域。例如，在资产管理领域，它可以根据历史数据和市场情况，预测未来的股票价格和交易量，为投资经理提供投资建议和决策支持。在财经新闻领域，BloombergGPT 可以根据市场数据和事件，自动生成新闻摘要和分析报告，为读者提供及时、准确的金融信息。2.8 AI智能体（AI Agent）AI智能体（AI Agent）被认为是OpenAI的下一个方向。自2023年3月Auto-GPT推出后，Generative Agent、GPT-Engineer、BabyAGI项目的爆发将LLM的叙事代入了新的阶段，从“超级大脑”到真正有可能成为“全能助手”。2.9 Auto-GPT2023 年 4 月，一个名叫 Auto-GPT 的开源项目在 Github 上发布了，截止至 2023 年 4月 16 日，该项目已经获得 70K+星。Auto-GPT 是一个由 GPT-4 驱动的可以自主实现用户设定的任何目标的开源应用程序。当用户提出一个需求或任务时，Auto-GPT 会自主分析问题，给出具体的执行计划并开始执行，直到完成用户提出的要求。Auto-GPT 的出现意味着 AGI（通用人工智能）正逐渐向更加自主化和智能化的方向发展。首先，它可以使人工智能应用更加普及和便利。目前，Auto-GPT 能够自主分析并执行任务，大大降低了应用的门槛和成本，让更多的人能够轻松地使用人工智能技术解决问题。48 其次，Auto-GPT 能够提高人工智能应用的效率和精度。传统的人工智能模型需要从头到尾地执行整个任务，这会浪费很多时间和计算资源，并且容易出现错误。Auto-GPT 可以自主分析任务，并且提出具体的执行计划，这样可以大大缩短执行时间，并且减少错误率3。尽管 Auto-GPT 还在非常早期的实验阶段，但其开创了一种全新的 AI 交互方式，即由机器主动提出任务和计划，人类只需要给出任务目标。这种交互方式不仅提高了 AI 智能体的自主性和灵活性，同时也拓展了人与AI之间的交互方式，打破了人类对于人工智能的“控制”想象，使得人工智能技术能从“工具”走向人类的“伙伴”。除了独立的AI智能体之外，未来还可能出现由多个AI智能体组成的“虚拟智能社会”。Generative Agents在由斯坦福大学和谷歌联合发表的文献4 中，研究者们成功地构建了一个“虚拟小镇”，其中的25个智能体在小镇上生存。借助AIGC，其中的NPC（非玩家角色）具备了可信人类行为，并对周围环境变化做出适当的反应，使得可以用现实社会现象去填充赛博空间。国外商业咨询机构预测，到 2030 年，AIGC 和生成式人工智能市场规模将达到 1100 亿美元。正如“互联网+”一样，“AIGC+”有望渗透到各行各业，在教育、医疗、金融、政务、制造、机器人、数字人、元宇宙、广告营销、电子商务、市场和战略咨询等众多领域带来新的应用形式，深度赋能千行百业，助力高质量发展。3 AIGC的产业应用中的挑战与问题3.1 可解释性与可靠性生成式人工智能的可解释性问题是指生成式人工智能（Generative Artificial Intelligence）所产生的结果难以解释或理解。生成式人工智能是一种基于深度学习的人工智能技术，其通过学习大量数据生成新的数据或图像。但是，生成式人工智能所产生的结果通常很难理解和解释，因为其内部的运作过程非常复杂，而且很难直观地描述。这种可解释性问题对于许多应用场景都非常重要，比如医疗诊断、金融风控、自动驾驶等领域。在这些领域中，人们需要了解生成式人工智能的内部运作过程，以便更好地理解其产生的结果，并且能够对其进行调整和优化。解决生成式人工智能的可解释性问题是当前人工智能研究的一个重要方向，研究人员正在探索各种方法使生成式人工智能的结果更加可解释和可理解。这些方法包括可视化技术、可解释性模型、对抗性样本等。3.2 AI大模型的价值对齐问题所谓人工智能的价值对齐（AI Alignment），就是让人工智能系统的行为符合人类的目标、偏好或伦理原则。价值对齐是AI安全研究的一个核心议题。在理论上，如果一个强大的AI 系统所追求的目标和人类的真实目的意图和价值不一致，就有可能给人类带来灾难性后果。就目前而言，大语言模型的价值对齐问题主要表现为，如何在模型层面让人工智能理解人类的价值和伦理原则，尽可能地防止模型的有害输出，从而打造出更加有用，同时更加符专题：AIGCAI-VIEW2023 年第 4 期 49 生成式人工智能：发展演进及产业机遇合人类价值观的 AI 模型。在这方面，RLHF（人类反馈强化学习）是一个有效的方法，通过小量的数据就可能实现比较好的效果。简而言之，RLHF 要求人类专家对模型输出内容的适当性进行评估，并基于人类提供的反馈对模型进行优化。其目标是减少模型在未来生产有害内容的可能性。实际上，RLHF 算法不仅是确保 AI 模型具有正确价值观的关键所在，而且对于生成式 AI 领域的长期健康可持续发展也十分重要5。3.3 塑造负责任的AI创新生态大语言模型等生成式 AI 的进展，在让人们看到通用人工智能曙光的同时，也带来更加复杂难控的风险，包括对人类未来生存的潜在风险。AI时代需要成为一个负责任创新的时代，而非另一个“快速行动、打破陈规”的时代。人们需要建立合理审慎的 AI 伦理和治理框架，塑造负责任的 AI 生态，打造人机和谐共生的未来。生成式 AI 领域的创新主体则需要积极探索技术上和管理上的安全保障措施，为生成式AI的健康发展和安全可控应用构筑起防护栏。在科技向善理念之下，人工智能时代不应成为另一个“快速行动、打破陈规”的时代（即先快速把产品做出来，事后再通过修补、补救等方式解决其社会问题），而应成为一个负责任创新的时代，通过建立合理审慎的 AI 伦理和治理框架，塑造负责任的 AI 生态，打造人机和谐共生的未来6。4 AIGC在产业应用中的未来发展趋势4.1 多模态带来创新应用蓝海多模态 AI 是指能够处理和理解多种类型信息的人工智能（如文本、图像、音频、视频等）。这种 AI 不仅能够处理单一数据类型的任务，而且可以在不同数据类型间建立联系和融合，从而实现一个综合、全面的理解多模态。AI能够对各种不同类型的数据进行关联分析，为解决复杂问题提供支持。在多模态技术发展初期，不同模态的 AI 开始进行集成，比如图像识别和自然语言处理技术的结合。除了 ImageBind 打通六种模态外，多数仍在探索文本与图像的融合，但进展飞快。例如 UniDiffuser，除了单向文生图，还能实现图生文、图文联合生产、无条件图文生成等多种功能。OpenAI 开发了许多多模态 AI（如 DALLE、CLIP 等），可以识别图像中的对象，同时生成与图像相关的描述性文本，或由文本指导生成有关物品的新图像。随着多模态技术的进展，多模态AI在理解和处理不同类型数据时，能够实现更高程度的融合。算法和模型可以在不同数据类型之间建立联系，提取跨模态的共享信息，这使得AI能够深度理解和解决复杂问题。未来，在诸多创新领域，多模态技术的发展将带来创新应用的蓝海5。4.2 生成式AI带来更贴近人的交互方式从使用键盘-鼠标等方式跟电脑交互，到使用手指滑动屏幕跟手机交互，再到人们用唤醒词跟智能音箱等交互，人机交互从识别机器指令，到识别人的动作、语音，不断朝着更贴 50 专题：AIGCAI-VIEW2023 年第 4 期近人的习惯的交互方式演进。生成式AI的发展，让人类有机会用自然语言的方式跟机器对话，而机器也借由大模型拥有了极强的理解人类语言的能力，有望带来一场全新的交互变革。正如历次交互变革带来从终端到连接，再到各类应用的颠覆式变革，生成式 AI 也必将带来产业链、价值链和生态链的重塑。生成式 AI 的技术突破，带来了大模型理解能力的大幅提升。大模型可以更好地理解人类表达的含义，并生成更符合人类价值观的回答。其技术成熟度已经可以在很多场景下达到可用，甚至好用的程度。在科技公司不断投入对齐工作的进展中，大模型的“幻觉”被持续降低，从而让人类有可能完全以自然语言对话的方式跟机器交流。这也是人类发掘机器智能最简单直接、最有效的交互方式之一。在此背景下，我们可以想象，所有 APP 都可以利用生成式 AI 重新制作一遍，并可能产生原生 AI APP。一方面，当前的所有软件，在后端不变的情况下，前端的交互可以直接换成自然语言对话的方式，这样让更多的APP拥有了智能对话的能力，给用户带来全新的体验。另一方面，更具市场想象力的是原生的 AI APP，未来很可能出现一个万能的个人助理，他可以回答人的各种问题，帮人出主意，甚至做会议预定、文章撰写、艺术创作等更多的工作。“机器生成+人脑筛选”在可预见的将来，会成为人机协作的重要方式6。5 结束语综上所述，生成式人工智能在发展演进过程中取得了显著的成果，为人类社会的进步和发展提供了强大的技术支持。从深度学习、自然语言处理等技术的发展，再到生成式人工智能在各个产业中的应用，都展示了其强大的潜力和价值。然而，伴随着技术的不断创新和突破，生成式人工智能在应用过程中也暴露出了一些问题，如数据安全、隐私保护、伦理等方面的挑战。因此，未来的研究应关注如何在保障技术创新的同时，解决这些潜在问题，以实现生成式人工智能的可持续发展。此外，各国政府、企业、研究机构等应加强合作，共同推动生成式人工智能的研究与应用，以实现人类社会的共同繁荣与进步。参考文献1 胡晓萌,胡璇,徐思彦,等.AIGC发展趋势报告 2023：迎接人工智能的下一个时代R.腾讯研究院,2023.2 陈楚仪,曹建峰.AIGC技术的发展趋势、影响和展望J.中国银行业,2023(4):36-38.3 宋嘉吉,金郁欣.Auto-GPT评测更聪明的AGIR.国盛证券研究所,2023.4 PARK J S,JOSEPH C O,CARRIE J C.Generative agents:interactive simulacra of human behaviorEB/OL.(2023-04-07)2023-07-19.https:/arxiv.org/abs/2304.03442.5 曹建峰.迈向可信AI：ChatGPT类生成式人工智能的治理挑战及应对J.上海政法学院学报（法治论丛）,2023,38(4):28-42.6.司晓,施骞,谢恩,等.人机共生大模型时代的AI十大趋势R.腾讯研究院,2023.腾讯研究院高级研究员、华东分院秘书长。清华大学博士，美国麻省理工学院访问学者。主要研究领域为互联网产业经济。负责对互联网前沿技术与趋势跟踪研究，研究前沿数字科技带来的创新经济模式，主要关注AIGC、Web3等领域。牵头研究并撰写 产业区块链 2019腾讯区块链白皮书产业互联网：构建智能+时代新经济图景等。徐思彦