算网一体技术研究及发展探讨.pdf

算网一体技术研究及发展探讨 目录 2 算网一体新技术探索 1 算网一体提出的背景 3 总结与展望 2 中国移动提出“算力网络”新理念 一年多来持续开拓创新，全力推进算力网络发展，形成一系列创新成果，在业界取得了广泛共识 中国移动算力网络白皮书 算力网络是以算为中心、网为根基，网、云、数、智、安、边、端、链（ABCDNETS）等深度融合、提供一体化服务的新型信息基础设施。杨 杰 董 事 长提 出“算 力网 络”概 念与愿景 成为“5G+算力网络+能力中台”新型信息基础设施的关键一环 发布算力网络技术白皮书，提出十大技术方向 提出新概念 发布中国移动算力网络白皮书和发展倡议 发布新理念 融入新战略 开创新方向 2021.8 2021.11 2022.1 2022.6 2022.12 发布算力网络创新成果；CFITI试验网与中国算力网、信息高铁三方互联，打造科学装置 开启新征程 迈向新阶段 完成CFITI试验网一期总结验收，形成案例集；发布世界最长距离400G光传输试验网络；成立算力网络子链专家委员会，成立14支攻关战队 2023.3“算网一体”是中国移动算力网络发展的深化 4 算力网络的发展经过三个阶段的发展，逐渐深化 2021-2023 2024-2025 2025 十四五阶段 十五五阶段及更长期 起步阶段：泛在协同 发展阶段：融合统一 跨越阶段：一体内生 网随算动 智能编排 算网一体 一站服务：一站开通算网服务 协同运营：云网运营双入口拉通 融合服务：产品融合、确定性服务 统一运营：统一入口、统一平台 一体服务：多层次智简无感服务 模式创新：多方算力可信交易 运营服务 编排管理 基础设施 算网融合 智慧内生 协同编排 算网一体架构及总体设计 5 极致互联 混合控制 联合感知 算力信息 网络信息 前提 支撑 作用 ISP1 ISP2 CSP4 CSP3 CSP2 CSP1 拓扑信息 拥塞状态 SLA指标 CPU利用率 异构算力 算力规模 集中式控制 分布式控制 任务分解与 调配 节点1 节点2 消费侧 节点3 节点4 算网一体通过“联合感知”“混合控制”“极致互联”构建面向智能化时代的数字基础设施 架构 关键技术 算力路由 广域吞吐敏感网络 在网计算 突破RDMA长距传输瓶颈，实现广域高性能互联 创新互联网架构协议，基于算网资源联合感知实现动态融合决策选路 网络内生算力，基于集中式控制，实现 计算任务跨云、网、边、端分布式协同 ISP：网络服务提供者；CSP：算力服务提供者 目录 2 算网一体新技术探索 1 算网一体提出的背景 3 总结与展望 6 1、算力路由:概念和技术 7 2018年开始研究算网融合技术，面向云边协同和边边协同的“性能反转”等问题，提出在路由域引入计算信息进行联合调度 通过仿真发现在路由中引入算力信息在低、中、重载情况下均有一定的优化效果（1）感知：路由系统感知计算资源（2）路由：综合网络和计算信息寻址选路 解决思路 在路由中引入计算信息，进行联合调度,边缘节点 边缘节点 中心云 问题本质 计算和网络是独立系统，算的负载和网的拥塞信息没有产生关联 算：降低负载、计算资源预留.网：增加带宽、配置专线.增加网络建设、运维成本 造成大量计算资源的闲置-计算负载高及网络队列深的条件下，边缘响应平均时延及尾时延远大于中心云-算的负载状态以及网的拥塞情况均是问题来源 发现问题 云边以及边边调度之间出现“性能反转”形成算力感知网络CAN的核心方向-算力路由 批量100个客户端通过 http 连续访问服务端程序 1、算力路由：得到国际同行高度认可 场景和需求达成共识 讨论技术路线，工作组章程 获取关注，凝聚初步共识 历经4年，中国移动在IETF发起成立算力路由工作组(CATS,Computing-Aware Traffic Steering)并担任主席，是IETF 7大领域133个工作组中近10年由中国高校/公司牵头成立的两个工作组之一 8 CATS面向AR/VR、车联网等新型多节点部署服务的场景，制定算力路由的场景、需求、架构标准 范围 基础工作：问题声明、场景、需求、技术分析等 总体架构：定义、组网、功能模块等 其他基础工作：计算指标的分析、控制面和数据面的定义、基于现有协议的实现、潜在新协议需求的分析 里程碑/计划 2023年7月，采纳问题声明、场景、需求、技术分析等基础文稿 2024年7月，采纳架构文稿 2025年11月，提交架构文稿至RFC发布序列 https:/datatracker.ietf.org/wg/cats/about/2019.11 2020.112021.03 牵头在IETF召开首次算力路由研讨会side meeting IETF113次会议，牵头召开 第一次BOF 召开第二次、第三次算力路由研讨会side meeting 2022.03 IETF CATS WG成立，中国移动担任主席 2023.03 里程碑 IETF116次会议，牵头召开 第二次BOF 2022.11 当前，许多服务会创建多个服务实例，这些实例通常在地理上分布在多个站点。CATS工作组主要考虑网络边缘网络边缘节点节点如何引导服务的客户端和提供服务的站点之间如何引导服务的客户端和提供服务的站点之间的流量的问题的流量的问题。CATS WG Charter 1、算力路由：IETF CATS工作进展 CATS目前已经有20篇文稿，即将在IETF117召开第二次会议，聚焦在架构、需求、计算指标定义等 https:/datatracker.ietf.org/wg/cats/document/场景：draft-yao-cats-ps-usecases-00，即将立项 draft-an-cats-usecase-ai-00，CATS+AI大模型场景 需求：draft-yao-cats-ps-usecases-00，draft-yuan-cats-end-to-end-problem-requirement-00 draft-huang-cats-ps-and-requirements-of-l2-cats-01 架构：draft-ldbc-cats-framework-01 draft-yao-cats-awareness-architecture-00 计算Metric:draft-du-cats-computing-modeling-description-00 draft-dunbar-cats-edge-service-metrics-00 其他：draft-ddcb-cats-sfc-bgp-applicability-00(sfc-bgp方案)draft-jaehwoon-cats-mobility-00(cats支持移动性方案)draft-wang-cats-green-challenges-00（cats绿色低碳考虑）draft-shi-cats-ipv6-based-con-00（cats与IPv6的应用）9 https:/datatracker.ietf.org/doc/draft-ldbc-cats-framework/https:/datatracker.ietf.org/doc/draft-yao-cats-awareness-architecture/CATS 架构核心组件 Ingress CATS-Router：CATS Traffic Classifier(C-TC):区分是否是CATS流量，决定服务节点 CATS Path Selector (C-PS)：选择网络转发路径 Egress CATS-Router：CATS Network Metric Agent(C-NMA):收集和分发网络指标 CATS Service Metric Agent(C-SMA):收集和分发服务和计算指标 CATS-control center：CATS Computing information Base(C-CIB)：维护细粒度的计算信息 CATS Network Metric information Base(C-NIB):维护细粒度的网络信息 CATS Path Calculation Unit(C-PCE):计算最合适的网络路径和选择服务节点 CATS-SBI interface:CATS-control center与CATS-Router的接口 CATS WG目前的个人文稿 1、算力路由:实践进展 10 算力路由系统的实现根据网络部署情况，支持集中式、分布式、混合式等多种组网方案。从集中式方案开始，分阶段逐步推进算力路由实验验证 阶段I集中式方案 开展规模性部署的CATS技术方案验证开展CA-BGP等新型协议的验证测试分布式算力路由样机已进入平台测试阶段完成算网控制器和算力路由网关原型样机开发，构建业内首个集中式算力路由验证系统推进广东珠海现网试点验证，验证业务承载量提升30%以上，算网综合资源利用率提升32%以上阶段II 端到端算力路由系统验证 总体测试方案 算网控制器 算力路由网关 云管理平台 算力路由网关 算网控制器 算力路由网关 算力路由网关 算力路由网关 算力路由网关 云资源池 Restful BGP-LS Telemetry BGP SRv6 Policy BGP-FS Netconf 云资源池 用户 应用APP 应用APP 5 4 3 1 分布式算力感知 2 分布式网络感知 3 集中式算网一体感知 4 集中式多策略调度 5 算力路由转发 分布式算力路由样机 算网一体技术体系关键技术创新案例荣获CCSA TC6102022年度“最佳实践案例”算力感知和算力路由构建算网一体化调度荣获工信部2022年ICT优秀案例“卓越科技创新奖”算力感知和路由方案通信世界全媒体“2023年度算力应用案例十大标杆”CA-BGP CA-BGP CA-BGP CA-BGP 算网一体感知协议CA-BGP-LS 1 2 分布式：1 2 5 集中式：5 3 4 2、广域吞吐敏感网络：数据异地迁移的需求越来越多 11 东数西算需求 数据上云需求 云迁移需求 东数西存 东数西训 东数西渲.自动驾驶 影视制作 科学计算 云迁移 多云灾备 多云协同计算.海量数据跨广域网传输的场景越来越多，数据异地上云、云迁移等场景的数据规模越来越大 2025年中国数据量将达到48.6ZB，其中适合东数西算的温、冷数据占比95%自动驾驶训练数据上云 单车日产数据几TB至十几TB，完成L3训练预计产生8EB数据，L4训练预计产生20EB数据 综艺原始素材上云 综艺原始素材总量一年达500PB，10TB100TB量级/日/节目 基因测序数据上云 国内某基因企业基因测序数据年数据100PB，TB100TB量级/次 FAST观测数据上云 FAST每年200+以上观测项目，产生数据15PB左右，TBPB量级/次 为保证数据的安全存储以及有效管理，云灾备市场规模不断扩大，2019年达到了32亿元，2023年达到了51亿元，年复合增长率约为12.4%2、广域吞吐敏感网络：以“两高两低”为目标 12 实现高吞吐、高可靠、低时延、低算力损耗“两高两低”特性的算网高性能互联网络 广域网TCP传输吞吐受限 时延由1ms增加到10ms时，吞吐下降10倍 原生RDMA丢包敏感，难以直接用于广域网 丢包率达到0.5%，有效吞吐接近为0 广域吞吐敏感网络 新型拥塞控制算法，提升吞吐，降低丢包丢包快速恢复算法，减少重传，降低时延丢包精确重传机制，实现RDMA有损部署数据安全加密协议，实现数据高安全传输4个关键技术，实现长距高吞吐传输 人工硬盘快递：操作复杂、流程繁琐、占用人工多，且快递过程中存在硬盘损坏、丢失等风险在线网络传输：“低带宽等不起，高带宽用不起”，公网传输速率太慢，专网按月付费模式性价比低2、广域吞吐敏感网络技术：组网架构 实现海量数据长距传输即送即达，满足数据高效低成本搬运和安全迁移的需求 广域互联 云PE 云PE 智算/超算中心 数据快递站（机房/营业厅）数据源（私有云/公有云）运营平台 算网大脑 任务下发 资源自动分配 弹性带宽 负载均衡 安全加密 普算中心 数据量大 TBPB/次 专线传输 小时达 数据可靠 安全加密 综合成本低 一站式服务 小时达 当日达 次日达 超高带宽实时传输 数十TB/小时 聚合空闲带宽实时传输 数百G数TB/小时 夜间空闲带宽错峰传输 数十TB/小时 差异化 服务 多 快 好 省 3、数字孪生网络：典型应用场景 数字孪生网络（DTN）通过网络本体与虚拟孪生体间的实时交互映射，助力实现网络的全生命周期管理以及创新优化策略的低风险、高效率部署，是面向算网一体的关键技术之一 分布式流量工程 数字孪生网络感知真实网络流量状态 为模型训练提供充分空间，可提升路由决策的有效性 策略下发前的孪生预验证，可降低对物理网络的影响 数据中心网络运维 网络的高保真呈现、状态的实时监控 网络流量均衡调度，异常流量识别和处理等场景 网络配置预验证，网络策略的双闭环验证 中国移动某省公司 数据中心网络 3、数字孪生网络：国际标准 15 牵头构建数字孪生网络国际化标准体系，在国际标准化组织ITU-T、IETF中同步推进多个标准项目 中国移动2019在ITU-T SG13完成DTN首个标准立项 2022年3月，发布全球首个DTN标准Y.3090：DTN需求和架构，被评为四个优秀标准之一 DTN方向成为SG13重点研究方向之一 基于Y.3090，正在同步推进3个标准项目：DTN能力分级及评估方法，DTN数据域技术要求，DTN管理和编排 2020年，在IRTF牵头开启DTN标准化研究 2022年3月在NMRG组完成DTN概念及架构立项，得到多家单位支持，DTN概念、架构、应用场景和价值已形成共识，预期2023年底推进发布Informational RFC DTN已成为NMRG当前三大研究方向之一 目前5个项目在研，多厂家（华为、法电、Telefonica，NICT）共同推进：数据采集，DTN接口，性能评估，基于DTN的流量模拟，基于DTN的时延测量 ITU-T：需求、架构、能力评估等 IETF：架构及关键技术 3、数字孪生网络：国内标准 16 数字孪生网络标准体系 概念与需求 架构与技术 评价与评测 应用与服务 定义术语 构建准则 技术需求 数据采集 数据存储 数据服务 安全与合规 网元建模 可视化呈现 接口规范 测试规范 评价指标 拓扑建模 数字线程 虚实映射 孪生体管理 评价方法 应用场景 信息安全 功能安全 服务规范 服务管理 场景建模 分级体系 隐私保护 系统架构 面向信息通信网络的业务和管理需求，CCSA TC3 成立“数字孪生网络”工作子组，已凝聚国内DTN研究核心力量，推进DTN标准体系构建 2021年10月，中国移动牵头成立“数字孪生网络”子工作组；中国移动，中国电信，中国联通，华为，中兴，信通院、中信科等多家单位参与 已召开5次子组会议：60+专家参会 11个项目同步推进：中国移动牵头4项（总体技术要求，数据服务，网络建模和数字地图），参与5项。其中总体技术要求、评估方法2个项目待报批，数据服务、网络建模、数字地图、DTN路由控制等9个项目在研 工作子组研究进展 3、数字孪生网络：数据生成和优化关键技术（1/3）AI模型可助力构建实时性高、轻量级、高精度的DTN，但面临数据挑战 DTN AI建模的数据挑战 真实数据缺失：生产网络数据具有较高价值，但较难获取，且数量、类型和精度有限 多源数据：网络数据来源多样，质量不一，难以直接用于DTN AI模型 问题抽象 问题设置：基于某DTN AI模型（如RouteNet-Fermi模型），基于小规模网络生成高质量训练数据，能够扩展到大规模网络 评价指标：路径平均时延的预测平均绝对百分误差 3、数字孪生网络：数据生成和优化关键技术（2/3）面向DTN AI模型构建，提出AutoOPT方案，通过数据生成和优化，得到高质量数据 阶段阶段1 阶段阶段2 数据生成（阶段1）基于历史流量数据及多样化配置，生成模拟数据 生成网络配置：尽可能覆盖更多场景，包含拓扑（PLOD算法）、路由策略（最短路径及其变种）和流量矩阵（多样化流量密度）生成候选数据：利用模拟器（OMNeT+，NS-3等）或AIGC技术（GPT，LLaMA等）生成模拟数据 数据优化（阶段2）从多源数据中自动筛选出高精度、多样化、且贴合真实数据实际情形的高质量数据 种子样本选择：训练特征提取器&特征提取（链路状态/队列状态/流状态）-聚类-选择类中心&最近邻-领域知识验证 增量优化：筛选器对剩余候选数据进行筛选（简单样本选择-困难样本挖掘-分布外(OOD)检测-领域知识验证），得到高质量数据 3、数字孪生网络：数据生成和优化关键技术（3/3）实验结果表明通过AutoOPT可得到高质量数据，能够提升DTN AI模型精度和泛化能力 Mei Li,Cheng Zhou,Lu Lu,Yan Zhang,Tao Sun.AutoOPT:Data Generation and Optimization for Digital Twin Network(DTN).IEEE CLOUD 2023.效果测试 可扩展性（表1）数据优化的有效性（表2）与已有方法相比结果接近，但开销更低 已有方法 细粒度验证集分析（例如，Snowyowl）大规模候选数据（例如，GhostDucks生成270,000个候选样本）AutoOPT 粗粒度验证集分析 较小规模候选数据（阶段1生成约500个候选样本）4、数字孪生网络：学术期刊/专刊征稿 https:/soc.org/publications/magazines/ieee-network/cfp/network-digital-twin 数字孪生网络专刊 截稿日期：2023年7月15日，欢迎踊跃投稿！Digital Twin国际期刊 DT网络通信领域，长期欢迎投稿！IEEE DTPI Session:Digital Twin Network Session Chairs Dr.Tao Sun China Mobile Dr.Diego R.Lopez Telefonica 截稿日期：2023年7月15日 Submission Link:https:/2023.dtpi.org/submission/online-submission 目录 2 算网一体新技术探索 1 算网一体提出的背景 3 总结与展望 21 总结与展望 22 “算网一体、智能内生”将是未来网络领域后续几年最大的发展趋势 算网一体是我国主导提出的原创技术体系，目前在算力路由、网络数字孪生、在网计算等关键技术方向取得了积极成果“联合感知”、“混合控制”、“极致互联”是算网一体的特征 相关技术将继续在未来几年吸引大家的关注，存在很大的创新空间 算网一体将对6G网络架构的设计起到重要影响