人工智能大平台与九天·众擎基座大模型的建设与实践.pdf

人工智能大平台与九天众擎基座大模型的建设与实践吴 娜中国移动研究院2023年11月01组建高水平研发团队在央企中超前布局人工智能中国移动集团AI人才超1500人成立“九天”人工智能特区IEEE Fellow、中国移动集团级首席科学家 冯俊兰 博士领衔AI人才投入2013 攻关智能客服和大数据分析沉淀平台、拓展语音、图像领域 正式发布九天人工智能平台 成立九天团队“特区”“九天”成为集团人工智能品牌起步探索跨越发展 获批建设“智慧网络国家新一代人工智能开放创新平台”牵头组建“中央企业人工智能协同创新平台”201920222016拓展突破全面布局300+家外部客户科 创 国 家 队央 企 领 头 羊39亿 年赋能价值27 大领域智能化应用牵头组建“中央企业人工智能协同创新平台”建设“智慧网络国家新一代人工智能开放创新平台”承担国家级科创项目承担科技部、发改委、国资委、工信部、教育部共 16 项人工智能重大重点项目丰 富 的 能 力 供 给领 先 的 技 术 水 平显 著 的 赋 能 成 效129 篇顶会顶刊论文19 大国际竞赛（DNS 2022、CIKM AnalytiCup等）TOP10742项发明专利研发大模型：通用大模型+行业大模型研发 全领域算法：200+视觉、语音、NLP等算法100+网络智能化算法7.2万亿 能力调用次数智能交互平台AutoX平台AI能力平台深度学习平台智能推荐平台网络智能化平台毕昇教育平台城市AI平台基础大模型客服、政务等行业大模型100+项：网络智能化200+项：视觉、语音、NLP.医疗工业交通教育政务管理市场网络安全客服人工智能是新一轮科技革命和产业变革的战略性技术，对经济社会发展具有渗透性、扩散性和颠覆性作用，既是大国综合国力竞争的战略高地，也是我国加快建设现代化产业体系的关键所在基础设施层平台能力层应用层2023 成立九天人工智能研究院 打造国资人工智能大平台个人应用（C）家庭应用（H）政企应用（B）网络应用（N）管理应用（M）300+单位10亿+客户39亿+年赋能价值善 智 者，动 于 九 天 之 上智能编排智能调度模型部署插件管理知识向量化基于体系化人工智能的算、网、智一体化服务运营 入 驻 通 用 大 模 型开 源 通 用 大 模 型+算 力 网 络大 规 模 智 算 中 心人工智能训推技术服务平台九 天 基 础 大 模 型九 天 行 业 大 模 型+模型评测大小模型协同模型体验数据汇聚安全审核大大大9.4 EFlops算力规模算力网络前瞻布局5.5 EFlops超大单体智算中心训推一体九天人工智能平台打造新型MaaS能力汇聚700PB高质量数据共建共享九天众擎基座大模型自主攻坚九天基础大模型打造多类行业大模型业务体系化AI OS大闭环泛AI算力云/网/边/端/GPU/ASIC/NPU/CPU/AI能力大闭环原子化网络原生泛在网络资源提供方 泛AI算力提供方AI 核心能力及模型提供方行业及个人客户可 信可 信可 信1、AI能力原子化重构（Atomized AI）2、大闭环（Big Loop AI）3、网络原生（Network Native AI）4、安全可信（Trusted AI）主要研究对人工智能技术进行体系化重构所需的理论、技术、机制、范式和框架，其主要特征为AI服务大闭环、AI能力原子化重构、网络原生AI及安全可信AI。体系化人工智能依托泛在的网络和AI算力，在开放环境中实现对AI能力进行灵活且高效的配置、调度、训练和部署，以满足日益丰富的数智化业务需求，同时确保AI业务可信可控安全体系化人工智能（Holistic AI）02多 种 类 型 基 础 大 模 型特 色 一特 色 二特 色 三在71%的中文测试集主流指标上，超过业界同等参数规模模型3B/7B/57B/100B+中国移动自主构建语言、视觉、语音等多种类型大模型，具备供给侧增强、持续训练、异构软硬件灵活部署几大显著的技术特色，整体性能指标实现国内主流水平，能更好满足企业全场景全部署的大模型落地需求测评系统智算引擎 九 天 基 础 模 型通 信能 源航 空医 疗政 务建 筑交通运输基础设施冶 金人 工 智 能 训 推 技 术 服 务 平 台算 力 网 络大 规 模 智 算 中 心数 据 汇 聚 平 台01自主技术攻坚 以九天基础模型为基础，联合通信、能源、航空等行业的骨干企业，共建共享“九天众擎”基座大模型，加速国民经济主体行业的智能化转型升级，促进我国战略性新兴产业发展，带动我国整体生产力提升 训练数据规模超两万亿Tokens，融合通信、能源、钢铁、建筑、交通等8大行业专业知识，叠加专项训练和优化自主设计自主开发全链路核心技术掌控03安全可信可控完善安全保障机制解决幻觉痛点05专业高效服务快速响应持续支持赋能全场景业务需求两万亿Tokens融入8大行业知识专项训练和优化02行业定向增强开放算力基础模型训推平台04普惠开放共享汇聚多样化智能算力、深度学习框架，提供PaaS大模型训推一体化研发能力和新型MaaS（模型即服务）能力管理中心GPUCPU国产AI推理芯片高性能存储高速网络GPUCPU国产AI训练芯片高性能存储模型体验专业助手模型推理场景能力提示工程训练日志模型应用生态合作解决方案教程比赛容器/微服务/资源调度/性能监控/平台运维数据采集数据处理数据标注数据清洗版本管理数据回流分布式训练模型微调状态监控RLHF断点续训模型管理服务监控推理加速服务日志模型评估服务部署调试压测项目管理配额管理角色管理访问控制认证鉴权计量开发环境算法框架镜像管理插件发布知识库管理零代码微调模型评估模型库插件库组件库数据集共建共享大模型预训练、微调、推理一体化研发工具链，支持大模型体验及企业级大模型推理服务，同时提供企业定制化模型微调工具及行业解决方案，支持构建私域知识增强及业务助手，实现与业务快速闭环服务能力，降低大模型在行业应用门槛申请体验地址：http:/jiutian.hq.cmcc/largemodel/llmstudio/大模型体验私域知识增强及业务助手技术特色面向企业智能化转型痛点提供简洁极致的用户体验打造开放的插件集成生态实现与业务的快速闭环落地提供基础专业数据行业大模型复杂系统AI及强系统集成能力持续学习行业规范与知识高动态自适应强任务主导性高准确率高可靠性符合生产指标基础大模型强信息集成能力强理解能力强生成能力 强稳健性，在业务稳健性和大模型多样性之间取得平衡 高可控性，实现大模型和信息场的联动 复杂AI系统强系统集成能力网络大模型客服大模型海算政务大模型.医疗大模型司法大模型能源大模型运输大模型航空大模型 10月中国移动合作伙伴大会发布九天网络大模型，升级客服、海算政务大模型95%40%100%60%九天网络大模型于中国移动自智网络分论坛发布，优先服务四大场景，驱动向“AI+网络”全面演进100B+57B13.9B知识库API业务数据服务日志基础大模型行业数据九天客服大模型焕新升级版本于中国移动数智服务创新分论坛发布，率先应用在10086这一全球最大的客服系统，驱动客服领域行业应用破冰面向客户服务全场景的行业大模型中国移动于2023年先后在上海世界人工智能能大会，中国移动全球合作伙伴大会期间发布九天海算政务大模型和九天海算政务大模型V2.0版本九天海算政务大模型发布2023.7.8 上海九天海算政务大模型V2.0发布2023.10.12 广州任务优化知识增强能力提升更全面更明确更友好九天海算政务大模型焕新升级版本为一网通办、一网协同、一网统管注智赋能，助力开创数字政府建设新局面03关键技术联合攻关构建先进智算基座共建大模型，增强九天行业市场落地能力共同制定AI标准，以开源带动产业技术发展基于“九天揽月”人工智能产业合作计划，全新设立“九天”人工智能大模型开放合作生态。目前已有36家合作伙伴加入“九天”人工智能大模型开放合作生态，包括9家高校和新型研发机构、17家人工智能基础软硬件骨干企业、1家三甲医疗机构、5家中央企业、4家行业和标准化组织智算中心国产算力占比国产算力基准评测项适配国产算力种类适配国产边端设备厂商