构建基于大模型的新型智能服务体系-助力我国数智经济的高质量发展.pdf

0构建基于大模型的新型智能服务体系助力我国数智经济的高质量发展中国移动研究院中国移动研究院 邓超邓超101 大模型催生新的范式2 通用智能正在催生社会发展的新范式以大模型为代表的通用智能技术正在催生世界发展的新范式，它将深刻地改变我们现有的科学技术体系、产业布局及社会治理模式游牧文明农业化工业化数字化智能化经济产出时间170019712023在通用智能时代：?=?+?+?(?)人类文明发展程度文明的累积效应人类获取利用能量的水平人类生成运用信息的水平增长型函数能量信息融合创新无限可能性能量和信息融合创新开启能量和信息融合的新范式科学技术体系产业布局社会治理模式改变图片参考：https:/ 可 信、泛 在、普 惠、公 平数 据模 型能 力算算 网网运营对象运营内容编排调度安全规划建设维护优化体 系 化强 运 营多 样 化网 内 生全要素OTN/OXC分布式算力（网）分布式算力（中心）分布式算力（边）OTN/OXC分布式算力（网）OTN/OXC分布式算力（中心）统一IP算网底座全光底座分布式算力（端）分布式算力（端）分布式算力（边）生产社会治理全场景生活客服家庭医疗通信工业交通.政务司法安防.调度编排5新的业务赋能模式：从X+AI转向AI+X充分发挥通用人工智能技术的变革性作用，激发内生赋能模式，重塑业务流程、形态、服务模式、价值呈现 X+AIAI+X投 诉 用 户投 诉 用 户客 服 接 听生 成 工 单工 单 处 理在 现 有 行 业 业 务 流 程 中，以 智 能 化 技 术 提 升 业 务 成 效A I 赋 能语 音 识 别实 体 词 识 别.客 服 接 听生 成 工 单工 单 处 理新形态新产品大模型智算基础设施新模式A I 内 生AI+网络AI+产品AI+客服AI+OA以 通 用 人 工 智 能 技 术 重 构 业 务 内 核，实 现 全 新 业 务 形 态 与 模 式6通 信政 务工 业客 服医 疗通 用 基 础 大 模 型行 业 大 模 型行业知识行业特色数据问诊语音识别病例OCR口罩识别医疗中文分词肺部CT影像分析文本脱敏声纹识别医疗主题词识别目标检测医疗文本分类医疗近义词分析医疗中文分词单任务AI小模型分立式小模型创新体系化大模型协同创新智 算 基 础 设 施司 法充分融通和激发全产业算力、知识、数据价值，打造以通用大模型为基座，共建行业大模型的合作新模式新的产业合作模式：向体系化协同创新转变702 中国移动智能服务实践8建设面向通用智能的“人工智能大平台”，包括大规模智算中心、数据汇聚平台、人工智能模型训推服务平台、面向国民经济主体的通用智能大模型、行业大模型等，基于泛在的算力网络提供开放、高效、安全、可控的社会级智能化服务面 向 国 民 经 济 主 体 的通 用 基 础 大 模 型人 工 智 能 训 推 技 术 服 务 平 台测评系统基础设施智算引擎体系化人工智能产业合作新生态运 营入 驻 通 用 大 模 型行 业 大 模 型数 据 汇 聚 平 台大 规 模 智 算 中 心算 力 网 络HAI OS生 产生 活社 会 治 理开 源 通 用 大 模 型供 给汇 聚运 营行 业 大 模 型行 业 大 模 型行 业 大 模 型总体目标：建设面向通用人工智能的新载体9中国移动发挥网、算、数一体全要素资源优势，构筑领先的算力网络、智算中心，提供丰富的人工智能数据资源打造领先智算基础设施网：网：全球最大的通信网络全球最大的通信网络算：算：算网覆盖广、规模大、时延低算网覆盖广、规模大、时延低数：数：海量高质量数据海量高质量数据 4 G 基 站 数 3 3 5.4 万 5 G 基 站 数 1 7 0.6 万 千 兆 宽 带 覆 盖 住 户 数 3 亿“4+N+3 1+X”数 据 中 心 布 局 总 算 力 达 到 9.4 E F L O P S 全 国 2 0 m s、省 域 5 m s、地市 1 m s 的 三 级 算 力 时 延 圈 汇 聚 高 价 值 数 据 6 5 0 P B 打 造 大 数 据 分 布 式 协 同 计 算 平 台10构筑领先的算力网络中国移动围绕算力网络“三层两域”总体架构，体系化推动算力网络构建和发展算网一体的基础设施融数注智的算网大脑融合统一的运营服务算算网网基基础础设设施施层层OTN/OXCOTN/OXC全光底座OTN/OXC统一IP算网底座分布式算力（端）分布式算力（边）分布式算力（网）分布式算力（中心）分布式算力（中心）分布式算力（边）分布式算力（网）分布式算力（端）编编排排管管理理层层 数据湖数据湖 算网统一编排算网统一编排 基础算网管理基础算网管理 人工智能引擎人工智能引擎 算网智能化算网智能化运运营营服服务务层层TaaSTaaS意图感知意图感知统一运营统一运营能力开放能力开放算力并网算力并网MaaSMaaS绿色算网运营算网大脑算网底座数字孪生数字孪生一体编排一体编排泛在调度泛在调度意图网络意图网络算网自智算网自智算力解构算力解构安全形成通智超多维、云边端多级、主体多元的一体化算力供给深度融合多要素，统一编排、统一调度，实现端到端业务质量保障开创算力并网、任务式等新型服务模式11构筑领先的智算中心基础设施基础设施智算平台智算平台ROCmROCmCUDACUDACANNCANNTesnsorFlowTesnsorFlowPyTorchPyTorchPaddlePaddlePaddlePaddleDeepSpeedDeepSpeed文件文件对象对象块块存储存储计算计算CPUCPUGPUGPU液冷液冷高效供电高效供电机房配套机房配套冷却水系统冷却水系统应用使能应用使能.跨架构编译器跨架构编译器算力抽象运行时算力抽象运行时算力原生算力原生智算运维智算运维裸金属实例裸金属实例虚拟机实例虚拟机实例容器实例容器实例DPUDPU 高速互联计算总线高速互联计算总线内存池内存池融合存储融合存储全局统一存储全局统一存储Hypervisor+Hypervisor+AIAI开发框架开发框架智算运营智算运营跨节点分布式跨节点分布式训练调度训练调度编排调度编排调度计量计费计量计费算力交易算力交易用户界面用户界面运营管理模块运营管理模块开发管理开发管理交付管理交付管理运维管理模块运维管理模块虚机虚机容器容器IaaSIaaS管理模块管理模块裸机裸机存储存储网络网络网络网络RoCERoCEGSEGSE平台平台存储存储互联互联节能节能算效算效CIMCIM强化互联技术、深化算力协同、定义新型存储、新增算力原生、升级绿色节能，构建标准统一、技术领先、软硬协同、兼容开放的NICC新型智算中心技术体系12以“九天”人工智能平台为核心实现新型智算引擎“九天”人工智能平台汇聚多样化智能算力、深度学习框架，提供大模型训推一体化研发能力和新型MaaS能力算力管理（计算资源池化、异构算力混合调度、性能加速等）算力管理（计算资源池化、异构算力混合调度、性能加速等）训 推技 术服 务平 台推理服务测评服务（安全、性能等）模型部署云边协同模型监控训练服务模型加速智能交互自动建模分布式训练单机训练数据标注智能推荐数据清洗领域训推服务网络智能化毕昇教育城市AI.行业大模型客服大模型政务大模型工业大模型能源大模型 能 力+模 型（M a a S）基础大模型中国移动基础大模型AI能力机器视觉智能语音感知智能自然语言数据分析诊断智能预测智能控制智能入驻国产基础大模型业界开源基础大模型规模化人工智能服务 规 模 化 应 用 830+个 年 赋 能 价 值 39亿+算 法 能 力 370个 平 台 型 产 品 8个13建立“体系化人工智能”原创技术体系1、AI能力原子化重构（Atomized AI）2、大闭环（Big Loop AI）3、网络原生（Network Native AI）4、安全可信（Trusted AI）体系化人工智能（Holistic AI）是人工智能技术探索发展的方向之一，主要研究对人工智能技术进行体系化重构所需的理论、技术、机制、范式和框架，其主要特征为AI服务大闭环、AI能力原子化重构、网络原生AI及安全可信AI。体系化人工智能依托泛在的网络和AI算力，在开放环境中实现对AI能力进行灵活且高效的配置、调度、训练和部署，以满足日益丰富的数智化业务需求，同时确保AI业务可信可控安全泛AI算力云/网/边/端/GPU/ASIC/NPU/CPU/可信AI能力大闭环原子化网络原生可信业务可信体系化AI OS14建立供给、汇聚和运营一体化的大模型服务运营体系数据原子化能力大闭环视觉类语音类语言类结构化数据.基础设施物理环境网络设备硬件算力仿真环境.无线覆盖异常检测无线覆盖异常根因分析基于图像的工参异常发现基于仿真的天线参数分析天线参数决策控制通用智能大模型1小模型1小模型2通用智能大模型2.小模型3小模型4.行业智能智慧政府智慧工业智慧教育智慧网络.行业智能大模型1行业智能大模型2.算网融合服务东数西算算力交易全局优化服务保障智算服务算、网、智一体化服务运营算网智脑入云网络移动云云间网络无线接入算网基础设施智能编排智能感知智能分析智能调度算、网、智一体化调度编排融合边缘云社会三方算力安全服务能力AI智算/大模型15基于国家级重大平台、专项合作计划打造产业合作新生态智慧网络国家新一代人工智能开放创新平台“九天揽月”人工智能产业合作生态AI芯片厂商 11家头部高校及科研机构超 20所头部AI科技公司超 50家业界主流的AI行业组织超 10个投资的AI公司超 20家 中 央 企 业中央企业人工智能协同创新平台中央企业人工智能协同创新平台行 业 组 织国 内 骨 干A I 企 业学 术 机 构1603 中国移动九天大模型17中国移动九天人工智能大模型体系基础大模型：加快构建适用于泛场景的自主可控通用基础大模型，打造国家级通用智能底座行业大模型：聚焦供给侧，加快构建行业大模型，加速各行业各领域智能化转型升级，促进我国整体生产力跃升L1行业大模型衍生支撑L0基础大模型语言大模型视觉大模型语音大模型政务模型城市模型.政府治理能源模型工业模型工业生产.民生服务医疗模型司法模型.行业智能化应用通信特色网络模型客服模型.结构化数据大模型多模态大模型大 模 型测 评 与 运 营性能评测基于算力网络运营安全评测数据评测18基础大模型和行业大模型的关系符 合 生 产 指 标任 务 主 导性行业大模型强 理 解 能 力强 生 成 能 力强 信 息 集 成 能 力基础大模型高 动 态 自 适 应复 杂 系 统A I云边端可弹性灵活部署高 准 确 率持续学习行业规范与知识专业数据提供基础19中国移动九天客服大模型02中国移动九天海算政务大模型01中国移动在世界人工智能大会发布行业大模型20中国移动九天海算政务大模型九天海算政务大模型以通用大模型为基础，融合政务领域数据进行精调，并引入政务领域约束模型对输出进行限制。现已应用于政务数字人、政务智能客服等多个场景。行业应用层通用大模型平台层底层服务支撑层智能对话智能对话智能审批智能审批辅助决策辅助决策知识图谱知识图谱智能分派智能分派慧眼识事慧眼识事知识搜索知识搜索公文助手公文助手算力调度算力调度数据服务数据服务人工智能训推技术服务平台人工智能训推技术服务平台多模态大模型多模态大模型大语言模型大语言模型视觉大模型视觉大模型“精调”场景化大模型应用“预训练”通用大模型算法21九天海算政务大模型演示22中国移动九天客服大模型面向客户服务全场景的行业大模型知识库业务数据服务日志API+100B+57B10B数据基础大模型面向客服面向客户业务咨询业务咨询.面向运营.情感关怀情感关怀业务办理业务办理业务投诉业务投诉客户画像客户画像话术生成话术生成智能点选智能点选智能摘要智能摘要知识采编知识采编热点话题挖掘热点话题挖掘智能质检智能质检投诉分析投诉分析九天客服大模型面向企业级智能客服场景，基于10086海量客服数据、业务知识和服务经验，精准洞察用户需求，及时自动生成个性化的回复，让每个用户都拥有24小时在线的“专属管家”，极大提升传统人工客服的工作效率。23九天客服大模型演示24谢 谢