专题序言二.pdf

党的二十大报告指出：“加快建设制造强国、质量强国、航天强国、交通强国、网络强国、数字中国”。“网络强国”和“数字中国”对于我国推进社会主义现代化建设具有重大的战略意义。大模型和生成式人工智能（Artificial Intelligence Generated Content，AIGC）的兴起和热潮，进一步推进了我国“网络强国”和“数字中国”战略的实施。顾名思义，AIGC 是指通过人工智能的算法，生成文本、图像、声音、视频等内容。通过学习训练数据的模式和结构，AIGC 能够生成具有相同特征的新内容。AIGC 的发展经历了三个时代机器学习时期、深度学习时期和大模型时期。在机器学习时期，AIGC 的基础模型是统计学方法，对训练数据进行分析和建模，并进行推理和预测。在深度学习时期，AIGC 的基础模型是深度学习，包括变分自动编码器（Variational Autoencoder，VA）、生成对抗网络（Generative Adversarial Network，GAN）等，实现了训练数据的判别和生成。在大模型时期，AIGC 的基础模型是 Transformer 网络，并发展出了面向文本生成的 GPT、ChatGPT、LLaMA 等模型，还发展出了面向图像和视频生成的 Stable Diffusion、Midjourney、DALLE 2 等模型。大模型和 AIGC 的热潮推动了产业的快速发展，海外厂商纷纷推出自己的预训练模型，如谷歌、微软、Meta、OpenAI、Hugging Face 等，国内科技公司亦加速布局，如百度的“文心一言”、科大讯飞的“星火认知”、腾讯的“混元”等。与此同时，一大批创业公司也积极投身于大模型和 AIGC，如光年之外、MiniMax、智谱 AI、月之暗面、澜舟科技、深言科技、聆心智能、衔远科技、面壁智能、生数科技等，部分头部企业的估值已经接近百亿元。随着大模型和 AIGC 的参数量越来越大，配套算力也相应提高。例如，GPT-3.5 的参数量是1750 亿，配套算力需要达到万亿级别。GPT-4 的参数量将达到万亿级别，GPT-5 的参数量将达到十万亿级别。大模型和 AIGC 的算力来源主要是 GPU、服务器和智算中心。目前，GPU 的主要生产厂商包括英伟达、AMD、英特尔等。我国学术界和产业界在 GPU 领域也取得了长足进步。我国高校和科研机构已研究出开源 GPU，包括上海交通大学的“青花瓷”、清华大学的“承影”等；我国企业也实现了 GPU 产业化，头部公司包括龙芯中科、海光、寒武纪、摩尔线程、壁仞、沐曦、景嘉微、凌久微等。在技术快速演进、产业不断发展的同时，AIGC的规范应用还需要加强监管。2023年8月15日，由国家互联网信息办公室等七部门联合发布的生成式人工智能服务管理暂行办法正式施行，这是我国首个针对生成式人工智能产业的规范性政策。该办法的出台不仅仅起到推动 AIGC 健康发展的作用，还具有鼓励人工智能自主创新的积极意义。党的二十大报告强调：“加快发展数字经济，促进数字经济和实体经济深度融合，打造具有国际竞争力的数字产业集群。”我们有理由相信，大模型和AIGC将推动我国构筑数字经济新优势，促进经济持续发展与繁荣，为推进我国高质量发展添砖加瓦。中国科学院计算技术研究所2023 年 8 月专题序言二