边缘内生智能白皮书.pdf

1/90摘要摘要边缘计算作为下一代无线网络的关键技术，推动了网络与计算设施的边缘化。更加靠近用户终端的边缘服务器可使得业务的服务时延大大降低，并能够应对不断涌现的新型场景。同时，人工智能的迅速发展对边缘计算的性能提升具有显著推动作用，有助于边缘计算设备应对急剧增加的边缘侧数据。因此，可将边缘数据的计算本地性和人工智能的强计算能力相结合，即边缘智能，来增强边缘侧的数据处理能力，提高无线通信系统的整体性能，并改善用户的服务体验。边缘智能近年来研究火热并处于快速发展阶段，因此本白皮书旨在分析当前边缘智能的研究进展。主要包括：（1）6G 边缘智能网络和基础设施：首先分析面向 6G 网络的边缘内生智能架构；然后对边缘智能算力基础设施进行介绍，包括边缘智能硬件和云平台；最后描述边缘智能网络基础设施，包括边缘智能接入网和核心网。（2）边缘内生智能的关键技术：从模型轻量化、边云协同智能、边缘智能化部署和深度边缘节点这几个方面分别进行介绍，并对无线联邦学习中的边缘智能进行详细的讲解，包括联邦学习中的模型稀疏化和模型量化。（3）边缘内生智能应用：分析智慧交通、智能制造和智能节能等面向边缘内生智能的典型应用。2/90目录目录1.引言.41.1 背景.41.2 边缘计算与边缘内生智能发展概述.41.3 边缘内生智能的重要性.52.6G 边缘智能网络和基础设施.72.1 面向 6G 的边缘内生智能架构.72.1.1 架构整体概述.72.1.2 内生智能面的设计与实现.82.2 边缘智能算力基础设施.112.2.1 边缘智能硬件.112.2.2 边缘智能云平台.192.3 边缘智能网络基础设施.282.3.1 边缘智能接入网.282.3.2 边缘智能核心网.363.边缘内生智能的关键技术.433.1 模型轻量化.433.1.1 剪枝.443.1.2 知识蒸馏.453.1.3 量化.473.1.4 NAS.483.2 边云协同智能.493.2.1 联邦学习.493.2.2 分割学习.513.2.3 模型分割.523.3 无线联邦学习中的边缘智能.543.3.1 无线联邦学习.543.3.2 联邦学习中的模型稀疏化.573.3.3 联邦学习的模型量化.603.4 边缘智能化部署.633.4.1 无线侧智能化驱动力.633.4.2 智能化部署.633.4.3 算力部署.663.5 深度边缘节点.673.5.1 深度边缘节点的无线网络可编程.693.5.2 深度边缘节点的网元融合.693.5.3 深度边缘节点的跨域 AI 设计.724.边缘内生智能应用.754.1 智慧交通.754.1.1 智慧交通边缘计算系统概述.754.1.2 智慧交通边缘计算类型.764.1.3 智慧交通边缘计算应用.784.2 智能制造.803/904.2.1 智能制造边缘计算系统概述.804.2.2 智能制造边缘计算类型.824.2.3 智能制造边缘计算应用.834.3 智能节能.864.3.1 场景概述.864.3.2 对边缘智能的潜在需求与应用.865.边缘内生智能的发展与挑战.876.致谢.904/901.引言引言1.1 背景背景从 1G 到 5G，通信技术经历了多次升级和变革，显著提高了数据传输速率，降低了延迟，并扩大了网络覆盖范围。然而，随着物联网和人工智能等技术的飞速发展，万物互联且应用场景日益复杂，现有的网络架构已无法满足新的需求。因此，作为下一代通信技术，6G 必须具备更高的性能和更强大的智能化能力，推动边缘侧网络从“万物互联”向“智能互联”转变。为了更好地适应未来多样化且复杂的用户请求和应用场景，将智能技术融入通信系统的设计和实现，内生智能的概念应运而生1。近年来，人工智能（AI）的理论与技术得到了进步，并广泛应用于工业场景。但是大部分的 AI 服务通常部署在云服务器上。随着“万物互联”时代的到来、终端设备数量和生成的数据迅速增加。集中式数据处理的形式即把所有的数据上传至云端的形式无法满足用户低时延的需求。因此，边缘计算随着物联网（IoT）以及人工智能的发展而出现。然而，目前对边缘计算的研究实施无法满足复杂的业务场景。因此，边缘内生智能有潜力成为边缘计算的下一个研究热点2。边缘内生智能能够在原生网络中实现各个单元之间的自我动态感知以及自我优化的能力，打破了原有外挂式 AI 架构，通过将 AI 深度融入至网络各层中以提 高系统整体网络效能，并实现网络架构中整体生命周期的自主感知以及自我管理3。1.2 边缘计算与边缘内生智能发展概述边缘计算与边缘内生智能发展概述边缘计算边缘计算：为了缓解云数据中心的处理压力，边缘计算的概念被提出。边缘计算是一种将计算过程从中心服务器迁移到设备边缘的技术。它的核心思想是将网络、计算、存储和应用服务整合到一个靠近数据源头的平台上，可以就近提供服务。这种技术有助于减少云计算的处理负载和解决数据传输延迟的问题，满足用户在实时业务、应用智能、安全与隐私保护等方面的需求。5/90边缘内生智能边缘内生智能：边缘智能是边缘计算发展到一定程度后的下一个阶段。随着边缘计算和人工智能技术的快速发展和迭代，边缘智能的概念应运而生，在边缘执行人工智能算法，这是更复杂的数据分析任务。在边缘节点，特别是在移动设备和物联网设备上部署人工智能应用，就需要边缘计算支持。首先，边缘节点需要提供相应的硬件和编程库，以满足人工智能的基本操作。其次，需要一个边缘计算平台来实现边缘节点的资源管理和任务调度。最后，需要解决云端协作式人工智能中的任务卸载和数据安全问题4。随着人工智能技术的不断发展，边缘设备智能化程度得到了提升。最初，边缘智能主要关注在边缘设备上运行人工智能算法和模型，以实现数据的快速处理和响应。这种方式的智能化程度相对较低，因为边缘设备的功能和性能有限，无法实现复杂的人工智能算法和模型的运行5。随着技术的不断发展，边缘设备的性能和智能化程度得到了显著提升。在这个过程中，边缘内生智能的概念逐渐兴起。边缘内生智能强调将人工智能技术集成到边缘设备中，使其具备自主的数据处理和分析能力。这种方式使得边缘设备能够更好地适应复杂的应用场景，提高数据处理和响应的速度和效率6。1.3 边缘内生智能的重要性边缘内生智能的重要性边缘内生智能的重要性包含如下方面：（1）在网络边缘侧生成的数据需通过 AI 完全释放其潜能：由于移动设备数量激增，设备端将产生大量的数据（例如音频、图片和视频）。此时 AI 算法的引入将是必不可少的，因为它能够快速分析这些庞大的数据量，并从中提取特征，从而做出高质量的决策，提高了数据处理的效率和可靠性。这有助于减少人工干预和错误率，提高业务的效率和可靠性7。（2）边缘内生智能以更丰富的数据和应用场景扩展智能算法部署范围：传统的云计算模式中数据源一般会上传并存储至云端，因为云端具有非常高的计算性能8。然而，随着万物互联时代的快速发展，传统的云计算模式逐渐向边缘计算模式转变。未来边缘侧将会产生海量的物联网数据，若上述数据需要全部上传至云端进行 AI 算法处理，那么将会占据大量的带宽资源并为云计算数据中心带来非常大的计算压力。面对上述挑战，通过将云端计算能力下沉至边缘，实现6/90了低延迟的数据处理，从而实现高性能的边缘智能处理模式9。（3）边缘内生智能具有更好的系统可用性和可扩展性：AI 技术己经在日常生活中的许多数字产品与服务中取得了巨大的成功，如视频监控、智能家居等。AI 也是创新前沿的关键驱动力，如自动驾驶、智能金融。因此，AI 应该更接近人、数据和终端设备，在实现上述目标的过程中，由于数据处理在本地进行，所以当中央服务器遇到问题时，边缘设备仍然可以继续运行。此外，随着新应用的添加或现有应用的升级，边缘设备可以轻松扩展或修改，提供了更好的灵活性。（4）边缘内生智能增强了人工智能应用的可用性和可访问性：由于边缘设备的处理能力增强，更多的人工智能应用可以在设备上运行，而不仅仅是依赖云服务器。这增加了人工智能的可用性和可访问性10。参考文献参考文献1 S.Talwar,N.Himayat,H.Nikopour,F.Xue,G.Wu and V.Ilderem,“6G:Connectivity in the Era of Distributed Intelligence,”IEEE CommunicationsMagazine,vol.59,no.11,pp.45-50,Nov.2021.2 M.Elsayed and M.Erol-Kantarci,“AI-Enabled Future Wireless Networks:Challenges,Opportunities,and Open Issues,”IEEEVehicular TechnologyMagazine,vol.14,no.3,pp.70-77,Sep.2019.3 S.Deng,H.Zhao,W.Fang,J.Yin,S.Dustdar and A.Y.Zomaya,“EdgeIntelligence:The Confluence of Edge Computing and Artificial Intelligence,”IEEE Internet of Things Journal,vol.7,no.8,pp.7457-7469,Aug.2020.4 M.Pan,W.Su and Y.Wang,“Review of Research on the Curriculum forArtificialIntelligence and Industrial Automation based on Edge Computing,”2021 International Conference on Networking and Network Applications(NaNA),Lijiang City,China,2021,pp.222-226.5Y.Xiao,G.Shi,Y.Li,W.Saad and H.V.Poor,“Toward Self-Learning EdgeIntelligence in 6G,”IEEE Communications Magazine,vol.58,no.12,pp.34-40,Dec.2020.6 H.Hu and C.Jiang,“Edge Intelligence:Challenges and Opportunities,”2020International Conference on Computer,Information and TelecommunicationSystems(CITS),Hangzhou,China,2020,pp.1-5.7 M.Mukherjee,R.Matam,C.X.Mavromoustakis,H.Jiang,G.Mastorakis and M.Guo,“Intelligent Edge Computing:Security and Privacy Challenges,”IEEECommunications Magazine,vol.58,no.9,pp.26-31,Sep.2020.8Y.Sun,B.Xie,S.Zhou and Z.Niu,“MEET:Mobility-Enhanced EdgeinTelligence for Smart and Green 6G Networks,”IEEE CommunicationsMagazine,vol.61,no.1,pp.64-70,Jan.2023.9 Q.Cui,Z.Gong,W.Ni,Y.Hou,X.Chen,X.Tao,P.Zhang,“Stochastic OnlineLearningforMobileEdgeComputing:LearningfromChanges,”IEEECommunications Magazine,vol.57,no.3,pp.63-69,Mar.2019.7/9010 M.Yao,M.Sohul,V.Marojevic and J.H.Reed,“Artificial Intelligence Defined5G Radio Access Networks,”IEEE Communications Magazine,vol.57,no.3,pp.14-20,Mar.2019.2.6G 边缘智能网络和基础设施边缘智能网络和基础设施2.1 面向面向 6G 的边缘内生智能架构的边缘内生智能架构作为下一代无线网络的关键使能技术，多接入边缘计算（Multi-access EdgeComputing,MEC）能够支撑大量的新兴业务。随着人工智能（ArtificialIntelligence,AI）的不断发展，其在 MEC 中的应用越来越广泛，但 AI 在 5G 网络中仅作为外挂式应用来协助 MEC。6G 网络中的 MEC 将在设计之初考虑 AI，并将其作为 MEC 系统的组成部分，以此来提高 MEC 的灵活性和开放性，更好地应对不断涌现的应用场景和用户需求。由此，边缘内生智能架构被提出，本架构基于 AI 功能的解耦和重构来为用户提供定制化的 AI 服务。2.1.1 架构整体概述架构整体概述边缘内生智能架构由“四层三面”组成，如图 2.1 所示。其中，“四层”包含基础设施层、虚拟化层、功能层和应用层；“三面”包含控制面、AI 面和管理编排（management and orchestration，MANO）面。图 2.1 边缘内生智能架构8/90（一一）四层：）四层：基础设施层：基础设施层：位于边缘内生智能架构的最下层、涵盖了系统中的所有通信、存储和计算资源。其中，通信资源包括 WiFi、互联网等；存储资源包括内存、硬盘驱动器（Hard Disk Drive，HDD）和固态驱动器（Solid State Drive，SSD）等；计算资源包括中央处理器（Central Processing Unit，CPU）、图形处理器（Graphics Processing Unit，GPU）等。虚拟化层虚拟化层：位于基础设施层之上，将底层资源抽象为资源池供上层的网络功能使用。当业务需求到来时，虚拟化层可创建 Docker 容器并使其在资源池上运行，来供给网络功能以保障其正常运转，进而保证定制化的 AI 服务。功能层：功能层：位于虚拟化层之上，包含被解耦的网络功能，即控制功能和 AI 功能，以及一条服务总线。不同的网络功能能够根据业务需求进行实时的激活、释放和重组，并通过服务总线串联。应用层应用层：位于边缘内生智能架构的最上层，包含多样化的网络应用。应用层与用户直接交互，并在用户请求到达时，自动调用功能层的网络功能和虚拟化层的 Docker 容器来为用户提供服务。（二二）三面：）三面：控制面：控制面：负责从基础设施层到应用层的控制信令传输和处理。MANO 面面：将控制面的服务请求转化为 MANO 指令，并对系统的功能和资源进行协调和管理。MANO 面包含虚拟基础设施管理器（VirtualizedInfrastructure Manager,VIM），功能 MANO 和应用 MANO，分别用于对资源、功能和应用的管理编排。AI 面面：也叫做内生 AI 面，作为边缘内生智能架构的核心面，用于学习用户和网络的行为和需求，实现网络的自运营。其虚拟化层为 AI 应用提供运行环境库，如 pytorch、tensorflow 等，可根据应用请求和资源状态进行选择；其虚拟化层包含被解耦的 AI 功能和一条服务总线；其应用层包含一个模板选择器和一个智能算法模型库，用于实现边缘内生智能的灵活重构。2.1.2 内生智能面的设计与实现内生智能面的设计与实现在边缘内生智能架构中，基于微服务的 AI 面被解耦为独立的 AI 功能，AI9/90功能可被按需激活和调用；在应用请求到来时，被解耦的 AI 功能可以按需组合来为用户提供 AI 服务，以实现内生智能。（一一）内生智能面解耦：）内生智能面解耦：如图 2.1 所示，在内生智能面中，AI 服务被解耦为数据采集功能（DataCollection Function,DCF），数据预处理功能（Data Preprocessing Function,DPF），模型训练功能（Model Training Function,MTF），模型验证功能（Model ValidationFunction,MVF）以及数据存储功能（Data Storage Function,DSF），各功能介绍如下：DCF：采集 AI 模型训练所需的原始数据并生成相应的训练数据集。DPF：对包含无效成分的原始数据进行预处理，通过数据采样、特征提取和降维等操作将原始数据中的无效或偏移内容移除，将其转化为 AI 模型训练所需的数据格式。MTF：根据业务需求选择相应的 AI 算法，训练 AI 算法的核心模型。MVF：在模型训练或实时推理的过程中评估 AI 模型的性能。DSF：存储和管理 AI 面的所有数据及 AIF 的相关参数。不同 AI 功能之间通过统一的服务总线进行通信与交互。同时，AI 功能可通过服务总线与控制功能进行信息传递，并根据业务类型由功能 MANO 来激活。（二二）内生智能面重构：）内生智能面重构：边缘内生智能重构借鉴了模板与实例化思想，依据业务类型进行 AI 功能激活、运行环境配置和资源分配，以实现定制化的 AI 服务。模板：模板：通过提取和抽象一类边缘智能业务的共性为其提供通用的解决方案。边缘内生智能模板涉及模板信息（Template information,Tinf）和模板标识符（Template identifier,Tid）两个关键要素。其中，模板信息包含 AI 应用的组成元素，即应用所需的 AIF 类型、资源和运行环境，存储在智能算法模型库中。模板标识符用于区分不同 AI 应用对应模板的标识，存储在模板选择器中。在模板使用前，需对模板进行预定义操作，即根据特定 AI 应用需求定义该应用所需的功能激活、资源分配和运行环境配置相关参数。实例化实例化：根据模板中定义的参数，创建 AI 应用实例，以对 AI 服务请求做出响应。如图 2.2 所示，边缘内生智能的实例化流程包含以下步骤：10/901）MANO 对应用层持续监测，在接收到应用请求时向模板选择器发送模板选择请求2）模板选择器更具应用类型选择相应的模板，并将其 Tid 发送至智能算法模型库来请求 Tinf3）智能算法模型库提取模板对应 Tinf，并将其反馈回模板选择器4）模板选择器将收到的 Tinf 发送至 MANO 面5）MANO 面根据收到的 Tinf 进行实例化操作：（a）配置应用所需的运行环境库（b）分配所需资源（c）激活相关 AIF图 2.2 边缘内生智能实例化流程11/902.2 边缘智能边缘智能算力算力基础设施基础设施2.2.1 边缘智能硬件边缘智能硬件随着技术的飞速发展，边缘智能硬件逐渐成为了物联网、人工智能和云计算三大技术交汇的焦点。这种智能硬件不仅具备实时、高效的数据处理能力，还能够在网络边缘进行智能决策，从而大大减轻了云端的数据处理压力，提高了整体系统的响应速度和效率。在客户需求方面，边缘智能硬件面向各行各业，从环境适应性、实时性、安全性、稳定性等各方面都提出了较高的需求。例如，在智能制造领域，可以通过边缘智能硬件对环境恶劣的工厂生产线上的各种数据进行实时采集、处理和分析，实现生产过程的自动化和智能化。在医疗领域，可以通过边缘智能硬件对病人的生理数据进行分析，实现远程医疗和智能化诊断。在技术特点方面，边缘智能硬件采用了先进的算法和数据处理技术，可以实现高效的数据处理和分析。同时，它还采用了多种传感器、通信技术和软件定义，可以实现与各种设备和系统的互联互通。此外，边缘智能硬件还具有低功耗、高可靠性等特点，可以满足各种恶劣环境下的使用需求。在产品形态方面，边缘智能硬件可以以各种形式出现，如智能摄像头、智能传感器、智能机器人、边缘服务器等。这些设备可以与各种设备和系统进行连接，实现数据的共享和协同处理。同时，它们还可以通过云端进行远程管理和控制，实现设备的远程监控和维护。(一一)边缘智能硬件需求边缘智能硬件需求如下表所示，从硬件部署位置与数据中心的距离来看，边缘智能可分为近边缘（Near Edge）和远边缘（Far Edge）。近边缘主要是云计算的下沉，功能上与云数据中心类似，具备强大且综合的计算能力，硬件产品形态包括一体化机柜、重边缘服务器等。远边缘更加侧重于边缘现场的应用，功能上与具体应用有很强的相关性，如数据聚合/转换、协议解析、工业控制、AI 推理等，硬件产品形态的形式丰富多样，比如工控机、PLC、网关、MEC 等。12/90功能功能产品示例产品示例近边缘近边缘Near Edge深度边缘计算区域数字中心、CDN（内容分发网络）、电信数据中心、托管服务商深度边缘计算本地数据中心，重边缘服务器，微数据中心（一体化机柜）远边缘远边缘Far Edge聚合分析和控制、数据管理AI Box、MEC、HCI（超融合基础设施）聚合、转换、过滤、数据缩减、转发网关、小单元、路由器、接入点模拟数字转换（传感器）、发送控制数据（执行器）、直接分析/控制工控机、PLC（可编程逻辑控制器）、DCS（分散性控制器）等边缘计算硬件产品具备自己的独特性，与云计算和端计算的硬件产品形态存在明显差异。究其原因，边缘计算面临以下几个主要需求：1.复杂多样的应用场景复杂多样的应用场景：（1）边缘部署领域的多样性需要不同的基础设施组合。边缘部署跨越许多行业应用、用户场景和垂直领域，包括广泛的基础设施解决方案，从产品形态、配置到管理工具等，使边缘解决方案生态系统高度复杂化。（2）边缘计算在电信、公用事业、制造业和金融业等行业增长迅速。电信运营商积极构建边缘计算平台，引领市场发展。其他行业，尤其是公用事业、制造业、金融业也在通过部署专用的边缘计算来加速边缘计算用户场景的效率，如工业互联网、电网管理、智能商业大厅等。（3）人工智能、机器学习、大模型、异构计算等技术的蓬勃发展进一步推动了边缘计算市场的增长。计算密集型分析工作负载在许多行业领域和用例中变得无处不在，以释放其潜力对于尚未开发的数据，其中大部分驻留或生成在边缘。预计 AI 原生计算能力赶上新的分析平台的性能需求将推动许多新的边缘基础设施部署将增长。而 AI 应用的多样性也使得边缘计算硬件、软件、服务和解决方案的需求变得更多丰富。2.长生命周期产品诉求长生命周期产品诉求：（1）在以交通、医疗、能源、工业为代表的众多行业的边缘计算应用中，如轨道交通控制系统、中大型医疗设备、变电站/配电站采集控制单元、工业控制 DCS/MES 等，往往需要经历漫长的产品设计、研发、测试验证、实施运行和13/90后期维护等阶段。因此，边缘计算产品 5-7 年甚至更长的生命周期对于这些应用场景来说尤为关键，这不仅意味着更高的稳定性，也意味着更低的后期维护成本；（2）长生命周期面向的是整个业务系统，不仅包括边缘计算硬件设备，也包括运行在硬件设备上的平台、业务应用、协议以及产生的数据；（3）同时，长生命周期也不仅仅包含运行时间，也包括了硬件设备的后续持续供应、服务、更新，以及平台、业务应用等的持续迭代等；3.严苛的工作环境严苛的工作环境：（1）更严苛的物理环境由于边缘计算部署位置分散，面临的物理环境复杂，对应的温度、湿度、电磁辐射等环境条件都参差不齐。总体来说，边缘计算的物理环境可以分为室内和户外。与数据中心统一规划和管理的机房环境不同，边缘计算的室内环境通常为普通机房，或者是如工厂车间、零售门店之类的人机共处的环境。这类环境中往往空调制冷能力有限、空气洁净度也无法与数据中心相比。因此，防尘、温度的要求会略高一些，在人机共处的情况下，还对边缘计算设备的噪音有一定要求。边缘计算的户外环境更加复杂和严苛，环境温度可能达到-2060，防水、防雷击、抗震等指标要求对边缘计算硬件设备也造成了很大的挑战。（2）更严格的数据安全环境边缘计算的飞速发展也将网络攻击威胁引入了网络边缘，而常见的应对手段仍然是较为传统的网络安全防护技术，很难抵抗边缘计算中多源、跨域的入侵和攻击。边缘计算架构的节点计算能力、存储能力和能量均受限，现有的安全防护手段不能完全适用于边缘节点，攻击单个计算节点或服务节点的成本较原本功能强大的中心服务器大大降低，因此更容易获得攻击者的关注。网络边缘更贴近万物互联的设备，涉及大量的用户个人隐私数据；网络边缘的通信、决策方式一旦被攻击会更直接地影响到系统功能的实现，攻击者单次攻击成果不菲。边缘计算架构下，攻击的更低成本、更高收入使其面临着不容忽视的安全威胁。安全威胁存在于边缘计算节点本身、边缘管理节点和层与层之间等多个环节。此外网络边缘存在资源受限、软硬件异构性大、海量终端分布广等特征，传统的数据中心安全防护方案无法适用。14/904.分布式部署分布式部署：边缘计算更接近数据的产生地，不同于云计算的集中式部署，边缘计算更多的是分散部署到不同的区域或位置。随着边缘计算、云边协同的发展，现场管理精益化的需求日益明显。同时，边缘智能、物联管控、软件定义边缘和 5G/6G专网等技术方向使得分布式部署可以充分满足边缘计算场景对于低延时、高吞吐以及应用灵活部署调度等方面的需求，持续推动边缘计算在客户现场的部署和应用。当有数百或数千个位置时，管理所有这些计算节点成为了一个巨大的挑战，同时还需要考虑到后续在边缘侧的进一步扩展。对于高度参与物联网的企业来说，有些情况下，这些企业会发现自己需要管理数百万个不同的端点。这就是需要尽可能多地自动化操作的地方，因为这样就不需要人来管理日常活动。（二）边缘计算的技术特点（二）边缘计算的技术特点1.边缘异构加速计算边缘异构加速计算：在边缘计算的碎片化市场中，非结构化数据占到 80%，大量并行计算和复杂模式识别仅凭 CPU 难以高效处理，CPU+智能算力（GPU/FPGA/ASIC 等）的异构计算更高效的处理不同的工作负载，同时带来能耗的显著优化，是后摩尔时代的科技趋势。非结构化数据碎片化客户应用场文本视频位置信息传感器音频图片AR/VR工业实时控制自动驾驶数字孪生多媒体处理AIoT异构计算多样工作负载的高效、低耗处理中国信通院预测，到 2023 年智能算力（GPU/FPGA/ASIC 等）占总算力规模的 70%非结构化数据涉及大量并行计算和复杂模式识别 仅凭 CPU 难以进行高效处理图 2.3 应用场景多样性推动边缘异构加速计算发展2.边缘软件定义边缘软件定义：随着边缘计算在各种行业和场景的应用，软件定义逐渐成为边缘计算领域的重要技术趋势。通过运用通用化的硬件、软硬解耦等方式可有效的提高硬件资源的利用率、降低硬件成本、提升边缘硬件资源的可管理性。应用场景包括软件定义 5G 网络、软件定义工控设备、软件定义边缘安全、软件定义汽车等。以软件定义工控设备为例，典型代表就是软硬件解耦和分布式控制的新一代的 PLC。它满足可靠、易用的同时，拥有数据互操作性、内生信息安全，既满足传统应用自15/90动化系统运行过程和控制相关的实时数据处理，也可以服务新型应用，如非实时数据的分析、存储、运算等要求。3.原生边缘智能原生边缘智能：边缘 AI 是指 AI 算法运行在边缘设备上或靠近边缘的服务器上。边缘场景复杂多样，原生边缘智能更强调在边缘侧进行模型训练与推理，这与云原生有本质区别。基于多任务泛化的行业预训练模型，在边缘场景下基于边缘的数据在边缘侧的微调压缩和量化，形成边缘侧的小模型将是一种主流趋势。随着大模型的发展和应用，大模型将进一步推动人工智能在边缘长尾场景落地，这也提出了更强的边缘原生智能算力需求。（三）边缘计算硬件产品形态（三）边缘计算硬件产品形态边缘智能硬件产品形态多种多样，本章节主要介绍四种典型的智能边缘硬件产品形态：边缘服务器、工业计算机、网关和边缘一体化机柜。1.边缘服务器边缘服务器：边缘服务器被定义为部署在边缘数据中心或靠近边缘现场的服务器，包括用于边缘计算场景的通用服务器（general-purpose）和专为边缘场景设计的边缘优化型服务器（edge-optimized）。其中用于边缘计算场景的通用服务器（general-purpose）与用于数据中心场景的通用服务器在硬件上几乎没有差别，往往应用于环境相对友好的场景中。边缘优化型服务器（edge-optimized）与通用服务器相比，在外观、功能、稳定性等多方面进行了优化（如下表），例如低能耗、更宽的工作温度范围、多种安装方法、安全性和 OT 集成等。从产品形态来看，边缘优化型服务器（edge-optimized）又可以细分为定制型边缘服务器（purpose-built）和边缘微服务器（micro server）定制型边缘服务器（purpose-built）是针对特定功能进行设计和构建，部署在安防、视频监控等特定用例中的小型服务器，具有特定的外形尺寸、低能耗、广泛的工作温度和多种接口类型等特性，以适应恶劣环境。通常不会部署在标准数据中心，而是部署在边缘数据中心。边缘微服务器是一种坚固耐用的融合计算设备，专为各种环境条件下的现场嵌入式使用场景而设计的微型服务器，能够提供企业级计算和管理功能。16/90边缘优化型服务器（边缘优化型服务器（edge-optimized）特性）特性设计设计具有更宽的温度范围、防潮、防尘、耐腐蚀、抗震、电磁兼容性等特点。机箱机箱比通用服务器更小机箱深度，以适应现有基站站点、边缘数据中心或特定的工业现场位置。操作与维护操作与维护自动操作和维护以及远程控制，最大限度地减少手动操作和维护。提供统一的运维管理界面。安全安全在复杂的部署环境下，需要防止潜在的网络攻击，以确保数据的安全性、高可用性和一致性，并在硬件层面防止恶意破坏。I/O前端 I/O 设计，提供更方便的操作和部署。安装方式安装方式多种安装方式，如壁挂式安装。安装和拆卸简单。功耗功耗低能耗，可限制直流、交流、布线等。网络网络高可靠性、低延迟、无线支持等。2.工业计算机工业计算机：工业计算机是专为工业场景设计的计算机，具有丰富的输入输出接口，能够连接各种工业控制系统设备，如传感器、执行器、仪表等；同时具有较高的可靠性和稳定性，能够适应各种恶劣的工作环境。随着工业互联网的发展，工业计算机和边缘计算的结合将越来越紧密。通过将人工智能、大数据分析等技术应用于边缘计算，工业计算机将变得更加智能，能够实现更高效、更精准的自动化控制和决策。工业计算机有以下特点：可靠性可靠性：工业计算机具有在粉尘、烟雾、高/低温、潮湿、震动、腐蚀和快速诊断和可维护性，其 MTTR（Mean Time to Repair）一般为 5min，MTTF10万小时以上，而普通 PC 的 MTTF 仅为 1000015000 小时。实时性实时性：工业计算机对工业生产过程进行实时在线检测与控制，对工作状况的变化给予快速响应，及时进行采集和输出调节（看门狗功能这是普通 PC所不具有的），遇险自复位，保证系统的正常运行。扩充性扩充性：工业计算机由于采用底板+CPU 卡结构，因而具有很强的输入输出功能，最多可扩充 20 个板卡，能与工业现场的各种外设、板卡如与道控制17/90器、视频监控系统、车辆检测仪等相连，以完成各种任务。兼容性兼容性：能同时利用 ISA 与 PCI、PCIE 及 PICMG 资源，并支持各种操作系统，多种语言汇编，多任务操作系统。上架式工控机嵌入式工控机塔式工控机工业一体机/工业显示图 2.4 工业计算机示意图3.边缘网关边缘网关：边缘网关是具有边缘计算能力的物联网网关，对海量终端数据进行本地分析处理。边缘网关和基于云的物联网平台共同组成了边缘计算物联网架构。边缘网关通常支持丰富的工业物联网接口（如 PLC、RF、RS-485、DI）和协议，灵活接入各种传感器和终端。同时开放软硬件资源，支持容器部署。行业应用可按需部署在容器中，实现接入终端设备数据本地处理。而物联网平台可以与各种行业应用系统互联，实现终端设备的智能连接。18/90行业应用路灯配电设施电梯控制器传感器&终端Internet云化物联网平台5G/4G/ETH边缘计算网关IP 化 PLC/RF/RS485/DI容器管理行业 APP图 2.5 边缘计算物联网架构示意图随着计算技术的提升，更小型化更高效的处理器使算力下放。传统的数据通信及转换作用的网关，被赋予了更多的任务和期待。各种复杂协议的解析转换，先分析再传输，边缘快速决策等等，大大提升了端-边-云的综合效率。不断更新制程的处理器，异构加速等等，使 CPU/GPU/NPU 等算力和功耗比不断提升。而随着 5G、6G 通信技术的提升，更快速、更可靠的无线通信逐步替代部分有线数据传输，使部署更加灵活。4.边缘一体化机柜边缘一体化机柜：边缘一体化机柜是集成边缘服务器节点、交换机、存储、PDU、配电、机架空调等多种设备的整机柜产品，以整机柜形式为最小产品颗粒度，集成业务所需机柜内设备，并预装客户应用软件，可实现 IT 设备快速边缘部署及业务快速上线，并能在无机房场景部署边缘应用。边缘一体机化机柜主要组成部分包括服务器、交换机、配电箱、PDU、UPS、电池包、机架式空调、应急风扇、监控显示屏、监控主机、动环侦测网关、烟感侦测器、温湿度侦测器、水浸侦测器、照明、前后门开关侦测器等。与数据中心机柜相比，边缘一体化机柜需要考虑更多复杂边缘计算用户环境的影响因素，如防尘、防水、无法外挂空调机柜等。行业 APP19/90智能照明与门磁单元配电单元水浸应急风扇温湿度UPSIT 设备PDU电池模块制冷设备图 2.6 边缘一体化机柜示意图2.2.2 边缘智能云平台边缘智能云平台如 2.1.1 所述，边缘计算设备数量繁多，千差万别，分散部署到不同的区域或位置。为了协同使用这些设备，减小应用适配难度，降低部署、运营管理的复杂度，需要一个分布式的软件平台在解决这些问题的同时，满足日益增长的智能化应用需求。边缘智能云平台就是这样的分布式软件平台，它采用云原生技术，是部署在边缘和云上的系统，实现以容器为载体的微服务的统一、快速部署。总体架构包括三个主要部分：边侧、云侧和协同机制。边侧边侧：这部分包括边缘硬件及运行在上面的边侧内生智能平台。边缘硬件可以是单个边缘设备，也可以是多个边缘设备组成的边缘集群。边侧内生智能平台是边缘智能云平台的关键组成部分，它提供了在边缘设备上使用容器运行应用程序和服务的解决方案。边侧内生智能平台提供边缘计算环境中所需的基础设施和服务，包括容器编排、数据存储、安全性管理和监控等功能。云侧云侧：这部分包括云侧计算系统和云侧管理平台。云侧计算系统是运行在云端的数据中心，可以是一个位于云端的运行边侧内生智能平台的集群，也可以是一个运行云原生平台的集群。它与上述位于边侧的边侧系统进行协同工作，例如20/90它可以接收来自边侧的数据，并进行大规模数据处理和分析，同时将处理后的数据反馈给边侧设备。云侧管理平台则是对边侧和云侧计算系统统一管理、调度和监控，对应用服务统一编排和生命周期管理，以确保系统的正常运行和服务的有效提供。协同机制协同机制：这部分包括云边通信协议、云边数据同步和云边应用协同。云边通信协议是边侧和云侧进行数据传输和通信的规范和标准，它保证了数据传输的稳定和安全。云边数据同步是边侧和云侧的数据进行同步和协调的过程，它保证了数据的完整性和一致性。云边应用协同是边侧和云侧的应用程序进行协同工作的过程，它实现了应用程序的分布式计算和智能化服务。图 2.7 边缘智能内生云平台总体架构如图 2.7 给出了一种边缘智能云平台实现，它与各种边缘设备深度融合，以软硬一体机的形式提供便捷的边缘计算赋能。平台支持多边缘计算、存储、网络、轻量虚拟化及全融合管理，提供包括 4G/5G，WiFi，固网等多网络边缘接入及网络感知能力，支持边缘应用和资源动态感知调度、跨边缘智能编排及云边协同，以及统一自主的智能运维管理。在云侧，提供多边缘集群管理，云边资源协同、应用分发及业务数据交互等能力，可以部署于客户云数据中心或公有云上。在边侧，基于为边缘打造的边缘计算服务器，构建软硬件一体化、计算存储网络全融合的异构轻量