中国移动研究院刘光毅在网络AI产学研合作论坛活动上的演讲：6G内生AI架构及AI大模型.pdf

6G内生AI架构及AI大模型刘光毅2023年10月目录216G内生AI的驱动力36G与AI大模型26G内生AI架构设计及关键特征泛在智能的需求3人工智能已成为新一轮产业升级的核心驱动力，产业的自动化、数字化、智能化需要泛在智能运行与维护应急通信智能覆盖定制网络机器翻译智能导航个性化推荐安全监控机器人救援智能制造声纹识别医疗识别网络自治需要AI用户需要AI企业需要AI6G与AI的融合包括“AI赋能网络”和“网络使能AI”两个方面4AI赋能网络性能的驱动力移动通信技术的发展遭遇瓶颈，迫切需要技术创新和交叉学科融合发展利用AI赋能网络性能提升成为主要解决思路之一传统通信系统的性能提升遭遇瓶颈网络运维运行效率、复杂度和成本之间产生矛盾AI赋能通信网络性能提升通信更精确的信道信息更精确的定位更强大的干扰消除能力更高的能效谱效容量空口更均衡的流量调度更快速的组网干扰规避更精细的业务识别更准确的故障定位网络6G提出更挑战的需求指标现有技术难以完全满足6G需求更大规模MIMO信道估计困难更密集的基站部署干扰更严重更复杂的系统设计带来能耗上升海量异构设备组网路由复杂多样化通信场景需求碎片化IMT-2030新增6项能力IMT-2030增强的9项能力更快速的场景适应能力4网络运维效率网络复杂度成本矛盾三角5网络使能AI的驱动力ITU将6G场景扩展到泛在智能，需要将AI打造成6G通信网络的新能力和新服务，实现AIaaSITU将6G场景扩展到泛在智能6G网络内生提供AI服务55G6G通信服务AI服务通信能力通信能力+计算能力感知能力数据能力AI模型能力随时随地获得AIAI服务质量保障支持移动式AI低时延AI推理/训练AI安全隐私保护6面向6G与AI融合需求，场景用例驱动、外挂或嫁接式的现有AI设计方式通用性和效率有待提升5G网络智能的挑战AI赋能网络网络赋能AI在网络中新增AI服务器或AI相关网络功能，如NWDAFAI 服务器CNRANUE网管NWDAF云AI服务提供商在用户提交订单后提供尽力而为的AI服务UE网络云AI服务提供商提交AI服务订单网络传输外挂或嫁接式AI存在问题：网络作为透明管道，数据上传云端，难以高效利用网络中泛在的通感算数智等资源，无法保障AI的服务质量和安全存在问题：数据的实时性、有效性和一致性难以保证，性能难以达到预期；难以实现数据采集、训练、推理、优化、验证的AI全流程，试错成本高；针对特定空口、网络优化用例设计单独的AI模型场景用例驱动式AI海量流量数据信道条件多变切换性能降低智能数据分析天线权值调优用户移动预测针对不同第三方AI场景设计不同AI服务流程存在问题：AI模型泛化性较低，开发周期长、成本高存在问题：通信网络无法根据差异化场景需求，快速部署AI服务车联网智慧工厂XR/VR高速智能跟随实时多智能体协作用户移动预测5G智能到6G的转变内生AI6G内生AIQoAISQoAISAIaaS工业互联网智慧农业车联网智慧医疗云游戏/云XRAIaaS1.从 场景驱动 到 泛在智能的网络与AI一体化服务供给框架云AI供应商远程AI服务基于QoAIS的网络AI服务3.从 尽力而为 到 按需可得和服务保障 2.从 外挂叠加 到 内生一体面向6G泛在智能的愿景，网络与AI的融合需要有三大转变，6G网络将是内生AI网络智能优化网络使能AI场景AI赋能网络场景目录816G内生AI的驱动力36G与AI大模型26G内生AI架构设计及关键特征6G网络逻辑架构面向泛在智能等多种服务需求，6G将新增多个逻辑面，提供通信、感知、计算、AI、大数据、安全等一体融合的多维网络能力，以及平台化、一体化的服务体系9数据开放需求计算服务需求AI服务需求通信需求安全服务需求用户需求：数字孪生数据面：管理网络数据，提供数据服务计算面：管理计算并提供计算服务智能面：为原生AI提供全生命周期的运行环境与5G网络不同，6G网络将定义新的数据面、智能面、计算面等，并有望扩展传统的控制面和用户面6G智慧内生架构设计AI服务的完成需要通信、数据、计算、智能面的协同基于上述融合架构，东西向流程实现AI赋能网络，南北向流程实现网络使能AI，满足内外AI服务的QoAIS要求。10数字孪生通信面计算面通信控制通信承载数据控制数据处理数据面计算控制计算执行通信面的数字孪生AI训练、推理、压缩、验证等的结果AI赋能网络网络使能AI智能面AI管理和编排AI任务管理模型控制模型操作AI用例生成及策略服务QoS解析网络功能编排AI任务全生命周期管理四要素资源控制AI任务调度1.泛在智能的网络和AI一体化服务框架2.从外挂叠加向内生一体转换3.从尽力而为向按需可得转换AI服务质量（QoAIS）指标体系，突破传统QoS体系中以会话和连接性能为主要关注指标，将安全、隐私、自治和资源开销作为新的评估维度纳入，形成一套标准化的AI服务质量评价体系，为用户AI服务质量的衡量和保障机制的设计提供了统一的依据QoAIS是管理编排和任务管理/控制的重要输入，管理编排需要将服务QoS分解为任务QoS，再映射到对连接、计算、数据和算法等各方面的资源QoS要求上为保障QoAIS的达成，需要“三层闭环”的保障机制AI服务质量（QoAIS）指标体系QoAIS保障机制QoAIS指标体系是网络对AI服务的质量和效果进行保障所使用的一套指标体系QoAIS包含AI服务的QoS、AI任务的QoS、AI资源的QoS三个层次上的指标，三层指标间具有映射关系算网基础设施层OTN/OXCOTN/OXC全光底座OTN/OXC统一IP算网底座分布式算力（端）分布式算力（边）分布式算力（网）分布式算力（中心）分布式算力（中心）分布式算力（边）分布式算力（网）分布式算力（端）平台化服务网络智慧城市智慧工业智慧生活 智慧园区 智慧娱乐管理编排任务管理任务控制11服务QoS例如：任务优先级、算法资源保障优先级、数据资源保障优先级等例如：推理速度、能源消耗、计算安全、数据隐私、模型可控性等例如：性能指标界、训练耗时、计算开销等关键特征1：AI服务质量（QoAIS）关键特征2：AI计算与通信深度融合6G传统网络中提供AI服务需要通信和计算协议之间频繁的交互与协调，需要设计一套通算融合的内生AI协议，实现对计算和通信的协同管控与承载，满足AI所需的连接和分布式计算服务、以及基于AI的连接和计算融合控制需求。编排管理、控制面、用户面三个维度实现计算和通信深度融合模式三模式二xNB用户面：联合设计“计算协议+通信协议”满足QoAIS+均衡分配网络资源，满足“性能+开销”上的需求。5G MEC边缘计算缺点管理面融合的松耦合设计效率低成本高安全性隐私性不够6G内生AI的算力需求高计算效率低能耗、低时延满足各类AI场景差异化QoAIS需求编排管理：计算和通信资源的协同编排管理。优势：宏观网元连接关系、各类资源状态，保证网络级性能指标较优。RRC控制面：计算和通信深度融合的三种模式RRCCRCxNBCRC模式一CRC：Computing Resource ControlNC：Node Compute优势：当QoAIS指标发生恶化时，可快速调整，保障QoAIS目标的持续达成。CRC集中控制关键特征3：数据生成与可靠AI需要采集的数据类型、体量、频次等生成的场景数据模型优化（如精准度优化）数据采集需求数据生成需求数据孪生建模需求已处理的网络数据（如用户、业务等数据）网络AI需求外部需求自生成的需求预测的网络变化数据数据按需生成数据采集无线物理网络数据模型库数字规划体云化无线网虚拟化核心网DUCUAAU网络虚拟场景数字孪生体构建场景面向网络中AI的海量训练数据需求和极高的试错风险，需要网络数字孪生实现按需的数据生成与可靠的AI与验证数据生成及优化旨在降低孪生网络从物理网络采集和传输数据的开销，提高数据采集和处理效率，解决传统真实数据获取难等问题；技术：GAN数据增广技术AI预验证旨在不影响网络运营的情况下完成网络决策的性能预验证，降低网络运维操作及 AI 决策可能导致网络性能恶化的潜在风险；差异化的网络AI需求需要通信、计算、数据、智能面网络功能的灵活组合，基于服务化的网络架构设计和实现为按需灵活编排提供基础14关键特征4：服务化计算面连接与路由层通信与算力层（无线通信，光通信，计算，存储）网络功能层VNFs通信面数据面智能面VNFsVNFsVNFsOSS/BSS等业务编排器编排层SDN-ONFV-O其他功能全局数据库数据采集与分析策略微服务支持API目录1516G内生AI的驱动力36G与AI大模型26G内生AI架构设计及关键特征6G与AI的融合迎来新机遇：通用大模型时代认知智能能理解会思考计算智能能存会算感知智能能听会说能看会认动力智能能动会控通用智能时代(强AI时代)弱AI时代AI迈入通用智能时代，大模型的出现将为6G与AI的融合带来巨大变革16发展模式新跃迁当前网络AI泛化性有限ChatGPT现象级事件，标志着人工智能进入通用智能时代从“能听、会说、能看、会控”，走向“能理解、会思考、会创作”，甚至能“自主决策、自主处理问题”行业大模型（泛娱乐）基础大模型(普适通用，如NLP，CV，多模态)行业大模型（网络）行业大模型（教育）小模型小模型小模型.小模型小模型小模型.小模型小模型小模型.小模型.从小模型到大模型，生产效率跨越式提升基础通用大模型具有泛化性，网络智能化将从用例驱动转变为能力驱动，迅速降低应用开发门槛，加速AI工程化、规模化落地6G网络内生AI如何使能AI大模型？如何设计赋能网络的AI大模型？流量数据分析天线权值调优用户移动预测流量数据分析天线权值调优用户移动预测网络使能AI大模型：可能模式6G6G内生AI为AI大模型的训练过程提供链接、数据服务，为推理过程提供链接、计算、模型拆解/分发服务。17AI训练服务AI推理服务AI大模型需要较大的储存空间和较强的AI推理芯片，单基站无法满足该需求。在实现合理模型分割的前提下，可将大模型分布式的部署到无线网络中，提供AI推理服务。在6G网络中分布式部署AI大模型，更靠近用户侧，可能在时延方面具有优势。UE6G网络云AI供应商海量数据采集数据处理处理后数据UE6G网络云AI供应商推理请求AI推理处理后数据AI大模型训练通常在数据中心的多台服务器中，服务期间需要用高速率光纤连接，难以将AI大模型的训练过程部署到无线网络中。AI大模型需要哪些特殊的数据分析技术？数据处理功能分布式部署后网络中数据该如何合理调度？分布式部署导致推理时延增加和靠近用户侧传输时延减少该如何权衡？大模型分割、压缩、加速等技术是否可行；大模型分布式部署后节点之间数据如何合理调度？特点6G网络承担数据采集、预处理等数据服务，节省网络中的数据传输，为云AI训练AI大模型提供更好的数据服务。服务从用户、网络中采集大量数据，数据的预处理和流量的调度，支撑AI大模型的训练。潜在增益未来问题AI Agent?1.面向上述场景，可考虑分阶段探索，首先探索网络运维人工智能大模型从小规模、离线入手，向大规模、实时发展，最终探索是否可以实现统一。2.当前大模型主要用来生成文字，语音，图像等内容，无法直接影响网络。因此在通信网络环境中最终演进是否是包含了大模型功能，且能控制影响网络的AI Agent。18与ChatGPT不同，网络中存在大量结构化数据，且网络不同问题间的共性不清晰，网络AI大模型面临较大挑战AI大模型赋能网络：演进路径（待细化）运维通用模型运行通用模型无线运维通用模型核心网运维通用模型网络AI大模型发展？小规模大规模统一离线实时？物理层网络层业务层小模型1小模型2小模型N？无线运行通用模型核心网运行通用模型所需数据（特征）场景实例数据来源网络运行东数西算类、算网融合类、超算智算类等算网服务场景；智能需求分析、智能策略匹配、智能服务优化等标准化数据：基础资源状态、拓扑、性能、成本、能耗、告警等数据；业务数据流信息数据、KPI监控数据、XDR、运行日志，告警等数据网管/云管系统数据编码调制、语义+编码调制、波形、多址、MIMO、干扰消除非标准化数据：上下行信道、语义信息、语义特征、小区内/间干扰网络设备内部数据、语义信源数据基于无线栅格的切换、智能AMC、网络流量检测和拥塞控制、网络流量预测和调度优化标准化数据：MR测量数据、MDT数据；非标准化数据：链路级BLER、端口数据流信息数据（端口流量、时延等）终端测量上报；网络设备内部数据业务识别和感知、异常行为监测标准化数据：业务数据流信息数据（IP五元组、URL、PFD等）网络设备内部数据无线组网动态负载均衡、无线组网动态干扰规避、网络节能、智能寻呼、IP网络智能路由标准化数据：MR测量数据、MDT数据、KPI监控数据（PRB利用率、小区吞吐量等）、控制面信令数据、业务数据流信息数据网络设备内部数据网管系统数据感知类：智能业务识别诊断类：智能故障处理预测类：智能扩容规划标准化数据：KPI等监控数据、XDR数据、告警数据、MR数据、拓扑等资源数据非标准化数据：日志数据、图片数据、文档/案例数据等网管系统数据网络运维6G与AI大模型：数据需求19AI赋能网络的场景主要分为网络运维和网络运行两大类，能否用一个AI大模型解决多种场景的问题？数据是AI大模型的基础，如何获取适合AI大模型训练的数据面临极大挑战20网络运维的数据是以分钟/小时粒度数据为主，来源较为统一；网络运行的数据时间粒度、标准化程度、数据来源更为多样和复杂，获取较为困难6G与AI大模型：数据开放数据获取难数据质量差联合业界共同制定新增数据采集规范，制定按需动态数据采集粒度方案标准化持续梳理和积累网络智能化数据集，对外开放，构建智慧网络创新系列生态，助力研究数据开放数据开放和标准化业界联合的数据开放6GANA联合九天平台等多家单位发布4大数据集，打造业界数据共享生态，助力网络AI研究！问题思考21数据/模型应用场景如何探索网络使能AI大模型的潜在应用场景，挖掘场景价值？如何构建统一的网络大模型？对于网络而言，Al领域如何建立可解释性理论模型，保障网络中AI大模型决策的有效性和可靠性?如何解决数据离散、设备数据获取难等问题？如何评价AI大模型赋能网络的价值和增益？算力如何利用算力的泛在和流动性，使能大模型，如chatGPT、语义大模型？架构如何细化网络使能AI和AI赋能网络的统一架构，实现智能面/计算面功能、接口及流程高效设计？架构如何支持AI大模型的分布式训练？如何利用数字孪生网络生成高质量数据，并对AI大模型进行验证？22共同推进全球6G AI合作研究国内外产学研界30余家单位，于2020年联合成立民间性质的全球Network AI交流平台6GANA专注于6G网络AI相关技术研究、标准化和落地，致力于形成国内外6G网络AI产业和标准统一 6GANA顾问委员会：邬贺铨、于全、张平、尤肖虎、童文、黄宇红、陈运清、陈山枝、朱近康、牛志升、梁应敞（排名不分先后）下设7个工作组和两个SIG，从需求、场景、架构、数据和安全、算法、编排、系统验证、对外合作、网络大模型、数字孪生网络等方面对网络智能展开全面研究，从技术和生态角度，积极推动AI成为6G网络的内生能力和服务(AIaaS)，加速智能普惠时代的到来22TG1TG2TG3TG4TG5TG6TG7AI大模型SIG数字孪生SIG欢迎参加2023年底的6GANA 全体会议！谢 谢！