雾计算中延迟优化的服务动态部署方法仿真_陈孟雨.pdf

收稿日期:2021-07-06 修回日期:2021-09-15 第 40 卷 第 4 期计 算 机 仿 真2023 年 4 月 文章编号:1006-9348(2023)04-0480-06雾计算中延迟优化的服务动态部署方法仿真陈孟雨,贾敏智(太原理工大学电气与动力工程学院,山西 太原 030024)摘要:雾计算作为一种新兴架构,将云计算服务通过分布式雾服务器扩展到了靠近用户的网络边缘,但是由于雾服务器的资源有限,某些物联网应用程序服务对资源的突发使用容易导致资源不足,高延迟等问题。所以提出一种雾计算中延迟优化的服务动态部署方法。先结合雾计算框架的特点,提出一种雾计算中应用程序服务部署模型,设计了上述模型下应用程序服务延迟的计算方法,采用改进的 MDAF 算法对雾计算中服务进行动态部署,找到最优动态雾服务部署方案,并与基于云计算的仅云部署和静态雾服务部署方法进行对比实验。仿真结果表明,改进的 MDAF 算法可以找到动态雾服务部署的最佳方案,提高雾中资源利用率的同时,保证了 IoT 应用程序的低延迟,具有较高的实际应用价值。关键词:雾计算;服务延迟;服务;延迟违规中图分类号:TP391 文献标识码:BSimulation of Services Dynamic Deployment Methodwith Delay Optimization in Fog ComputingCHEN Meng-yu,JIA Min-zhi(College of Electrical and Power Engineering,Taiyuan University of technology,Taiyuan Shanxi 030024,China)ABSTRACT:As an emerging architecture,fog computing extends cloud computing services to the edge of the net-work close to users through distributed fog computing servers.However,due to the limited resources of the fog com-puting server,the sudden use of resources by some Internet of Things application services may easily lead to the prob-lems such as insufficient resources and high latency.Therefore,a dynamic service deployment method based on delayoptimization in fog calculation was designed in the paper.Combined with the characteristics of the fog computingframework,an application service deployment model in fog computing was proposed first,and then the calculationmethod of application service delay under the model was designed.Finally the improved MDAF algorithm was used fordynamic deployment of services to find the most optical fog service deployment scheme,and compare experimentswere conducted with cloud-based deployment and static fog service deployment methods.The simulation results showthat the improved MDAF algorithm can find the optimal scheme of dynamic fog service deployment,improve the re-source utilization rate in the fog,and ensure the low latency of the IoT application,which has a high practical appli-cation value.KEYWORDS:Fog computing;Service delay;Services;Delay violation1 引言随着智能设备在日常生活中越来越流行以及用户体验要求的不断提高,推动着大数据和机器学习领域越来越多复杂应用程序的兴起,这些应用程序将是数据密集型、延迟敏感和实时的1。传统的云计算架构将云服务器部署在远离生成应用程序数据的地方,一些延迟要求比较高的应用程序不能容忍云计算所带来的巨大且不可预测的延迟2,3。为了保证对延时敏感的应用程序的服务质量(QoS)4,思科提出了雾计算框架5,通过将计算、存储和网络资源放在更贴近用户的位置,雾计算可以减少 IoT 应用程序服务延迟6、网络带宽使用和成本,提供上下文感知,并增强对延迟敏感的应用程序的 QoS。然而,某些物联网应用程序在空间和时间维度上对雾中资源的使用是突发性的,并且对雾资源的使用会随着时间或空间变化,是一种动态模式。因此,通过在雾资源中动态部署应用程序服务来降低延迟,已经成为084雾计算领域中的重点研究问题。Sami H7等人通过动态将软件模块推向雾节点,实现了一个雾计算中动态资源重新分配的方案,该研究为雾中的存储和成本感知动态服务供应提供了算法和理论基础,但该方案并未考虑超低延迟要求和延迟违规度量。Ghobaei-AraniM8等人将雾中的服务布局问题建模为整数线性规划优化,它们的优化目标是在考虑应用 QoS 要求的情况下最大限度地利用雾景。仿真结果表明,该模型降低了处理成本,且不违反应用期限。但该优化是一个 NP-hard 问题,几乎不可能大规模求解。Skarlat O9等人提出了一种感知驱动的雾化服务部署模型,该模型中传感器发射数据到雾中,利用雾资源对数据进行处理,最后驱动执行器进行必要操作,该模型具有较好的实际应用价值,但所提出的模型并未考虑物联网节点上引入组件的开销,以及物联网节点运行雾软件和虚拟化技术。尽管上述研究对物联网中应用程序服务部署具有实质性贡献,但它们不能直接应用于延迟敏感的雾化物联网应用程序服务的动态部署。为解决雾计算中传统服务部署方式在延迟方面存在的不足,本文提出一种雾计算中延迟优化的服务动态部署方法。通过设计雾计算中应用程序服务部署模型,根据该模型提出了应用程序服务延迟的计算方法,并采用改进的 MDAF算法对雾计算中服务进行动态部署,找到动态雾服务部署方案的最优解。通过实验验证了该方法提高了在雾计算中动态部署和释放的物联网应用程序服务的速度,减少了应用程序服务的平均服务延迟,具有良好的适用性和可扩展性。2 雾计算框架雾计算是思科创造的一个术语,被定义为一种分布式计算模式,它将云提供的服务扩展到网络的边缘10。使从云数据中心到网络边缘设备(包括互联网服务提供商、网关、蜂窝基站和私有云部署等中间设备)的基础架构无缝融合到一系列资源中,这些资源将被提供给多个租户用于托管应用程序11-13。雾计算的系统架构由多层组成,每层负责特定的任务,以方便更高层的操作。在该架构中,最底层由物联网设备组成,这些设备与现实世界交互,是数据的来源或接收器,分布在不同的位置,并通过网关将数据发送到上一层进行进一步处理。下一个逻辑层是边缘层,边缘设备位于其中,例如WiFi 接入点,路由器和交换机等,边缘计算通常在该层的边缘设备上进行。最顶层是云层,大型云服务器和配置完善的数据中心位于其中,云层中的云服务器和数据中心通常部署在远离物联网设备生成数据的地方。边缘层和云层之间发生雾计算的整个资源连续体称为雾连续体,雾连续体不仅限于边缘层,它包括边缘层并扩展到云。因此,雾计算是分层的,它提供了从云层到物联网任何地方的计算,联网,存储和控制等,而边缘计算往往是边缘层的计算13,14。雾计算系统的基本架构如图 1 所示。图 1 雾计算系统基本架构3 系统模型用于动态部署雾服务的系统架构如图 2 所示。IoT 请求到雾节点的聚合传入流量率由流量监控代理监控,这些监控代理具有丰富的流量监控北行 API,用于监控应用程序级流量15,16。最终,流量率监控在雾服务控制器的流量监控模块中完成。图 2 动态雾服务部署系统架构雾服务控制器是实现雾服务动态部署的核心地方,其通过监控到雾节点的传入流量和其它参数来决定部署和释放服务,从本质上解决了动态雾服务部署问题。雾服务控制器有一个服务数据库模块,用于存储接收到的应用程序服务和每个服务的延迟及其它参数。雾服务控制器根据服务数据库去部署雾节点所需要的服务,这类似于最近提出的的容器184注册表17。当某一特定服务的流量需求增加时,控制器的提供计划模块在相应雾节点部署一个新的服务来减少 IoT 服务延迟。另一方面,如果对某一特定服务的需求并不大,则提供计划模块会释放该服务,以节省资源成本。部署和发布操作都是根据延迟要求执行的,例如,当流量需求较低,但某项业务的延迟要求比较严格时,会导致该业务不被释放。在本文中,提出一种相关优化问题的解决方案以解决动态雾服务部署问题。假设一组雾节点由 F 表示,一组云节点由 C 表示,一组物联网应用程序服务由 A 表示,并且服务 a 所期望的延迟等级表示为 qa(0,1),延迟阈值由tha表示。一组雾节点和云服务器被建模为曲线图 G=(V,E),其中节点集 V 包括雾节点 F 和云服务器 C,边缘集 E 包括节点之间的逻辑链路。雾节点和云服务器可以位于雾连续体中的任何地方,并且对物理网络拓扑没有限制。每个边缘 e(src,dst)E 与俩个数字相关联:逻辑链路 E 的传输速率 re和逻辑链路 E 的传播延迟 de。优化问题的主要决策变量是布局二进制变量,定义如下xaj=1,服务 a 托管在雾节点 j 上0,其他(1)xak=1,服务 a 托管在云服务器 k 上0,其他(2)式中,xcuraj表示在雾节点 j 上的服务 a 的当前位置,可以将其视为优化问题的输入,以便找到雾节点 xaj和云节点 xak;二进制变量 xak表示每个云服务器 k 上服务 a 的位置。3.1 流量模型由于不同的 IoT 请求的处理时间不同,为了准确评估雾节点或云服务器的等待时间,需要考虑不同 IoT 请求的处理时间。为此,以每单位时间内的指令(MIPS)表示雾节点的流量传入率,vaj表示雾节点对于服务 a 的指令到达率。这时,由雾节点 j 所接收的传入请求的指令的到达率定义如下vaj=LPainajxaj,j F,a A(3)式中,LPa表示每个请求的服务 a 所需要的处理量。如果服务 a 没有部署在雾节点,由于 xaj=0,故 vaj=0。这种情况下,流量传入率 inaj将不会被雾节点接收,而是直接传到云服务器。这时,流量“拒绝”率定义如下outaj=inaj(1-xaj),j F,a A(4)式中,inak表示服务 a 到云服务器 k 的流量传入率,则服务 a到云服务器 k 的指令到达率表示为vak=LPainakxak,k C,a A(5)3.2 资源模型雾节点和云服务器的资源使用率不应该超过它们的容量,如下公式表示:aAxajLSa KSj,aAxajLMa KMj,j F(6)aAxakLSa KSk,aAxakLMa tha0,其他,j F,a A(12)然后根据定义的延迟要求来度量给定服务的延迟违规,由于来自物联网节点的超过延迟阈值的延迟样本的百分比不应超过1-qa,则服务 a 的延迟违规定义如下V%a=jinajuajjinaj,a A(13)式中,inaj是从流量监控模块中得到的雾节点的传入流量,V%a由雾服务控制器测得,以 inaj为权重,作为 uaj的加权平均值。4.2 改进 MDAF 算法根据雾计算环境下物联网应用程序服务的部署模型以及延迟计算方法,提出一种改进 MDAF 算法以解决雾服务的动态部署问题,旨在最大程度减少延迟以及延迟违规,算法如下:算法 1 改进 MDAF 算法输入:服务 a 的状态,qa,tha,inaj输出:最小延迟违规时服务 a 的位置1)根据等式(2)部署/发布云上的服务 a2)读取服务 a 到雾节点的流量传入率3)List L 按流量率降序排列雾节点4)CalcViolPer(qa,tha,inaj)更新 V%a5)canDeply=true6)WhilecanDeply and(V%a1-qa)do 部署7)从数组 L 删除的下一个雾节点 j 的索引8)If L is empty then9)canDeply=false10)end if11)If(服务 a 没有部署在雾节点 j 上)and(雾节点 j有足够的存储和内存)12)部署服务 a 在雾节点 xaj=113)CalcViolPerc(qa,tha,inaj)更新 V%a14)end if15)end while16)canRelease=true17)whilecanReleasedo 释放18)从数组 L 的尾部获取一个已经部署服务 a 的雾节点 j19)Set xaj=020)CalcViolPerc(qa,tha,inaj)更新 V%a21)If V%a1-qathen22)释放雾节点 j 上的服务 a xaj=023)else24)Set xaj=1,and canRelease=false exit25)end if26)end while改进 MDAF 算法背后的原理是在雾节点上部署需求量高的服务,并从雾节点上释放需求量低的服务,同时保证延迟要求,违规较低。首先,从流量监控模块读取到雾节点的流量传入速率,雾节点基于此速率按降序排序(第 2-3 行)。接下来,使用算法 2 的 CALCVIOLPERC()方法计算违反物联网对服务 a 的请求的百分比 V%a。算法 2:计算延迟违规百分比输入:xaj,tha,inaj输出:不满足延迟请求的服务 a 的百分比 V%a1)procedureCalcViolPerc(xaj,tha,inaj)2)根据等式(11)计算雾节点服务 a 的延迟 daj3)根据等式(12)计算雾节点服务 a 的 uaj4)根据等式(13)计算 V%a5)returnV%a6)end procedure只要延迟违规百分比大于1-qa(第 6-15 行),该算法就会继续在雾节点上部署服务,并且一旦V%a1-qa,它就会退出循环。布尔变量 canDeploy 用于消除 while 循环的阻塞,当遍历该列表后 V%a值不低于1-qa时,canDeploy 变为 false。当V%a1-qa时,仍可以在雾节点上以较小的流量传入率释放服务,而不会违反延迟要求。第二个循环(第 17-26 行)以较小的传入流量释放雾节点上的服务。首先,尝试从排序列表 L的末尾开始找到一个传入流量较低的雾节点,并检查释放已部署的服务是否会导致任何延迟违规(第 19-20 行)。如果释放并没有引起违规(第 21 行),继续释放服务(第 22 行);否则,不会释放服务并退出(第 24 行),因为在具有较高传入流量的下一个雾节点上释放服务将导致更多的延迟违规。5 仿真与结果分析5.1 仿真环境为了验证改进 MDAF 算法的动态雾服务部署方法的有效性,实验从 Ac-cess2000 中获取流量数据,采用开发工具JDK7.0 实现改进 MDAF 算法,利用 iFogSim 模拟器进行仿384真。系统建模中的符号定义与模拟器参数取值如表 1 所示。表 1 参数取值与符号定义参数取值参数取值qaU(90,99.999)%thaU(8,80)msd(Ia,j)U(1,2)msd(j,k)U(15,35)msPaU(2,5)%lrqaU(10,26)KBlrpaU(10,20)BLpaU(50,200)MIPSLSaU(50,500)MBLMaU(2,400)MB 在仿真中,根据当前云计算实例的容量大小,假定每个雾节点的处理能力 KPj是 U(800,1300)MIPS,每个云服务器的处理能力 KPk是雾节点的 20 倍。由于对于典型的 Linux 容器,每个服务所占存储空间大小 LSa通常是 U(50,500)MB,假设雾节点的存储容量 KSj为 25GB,最多大约容纳 50 个服务,云服务器是存储容量 KSk是雾节点的 10 倍。相应的,假设雾节点和云服务器的内存容量 KMj和 KMk分别为 8GB 和 32GB。每个雾节点处理单元的个数 nj为 4,每个云服务器处理单元的个数 nk为 8。5.2 结果与分析根据上述的参数取值进行仿真,针对不同阈值情况下,将改进 MDAF 算法的动态雾服务部署方法与静态雾服务部署以及私有云部署方法进行对比,以此验证改进 MDAF 算法的性能以及动态雾服务部署的优越性。图 3 三种方法的平均服务延迟对比图 3 为不同延迟阈值条件下不同部署方法的平均服务延迟对比。当延迟阈值小于 38 毫秒时,所有方法的平均服务延迟都不会改变,这是由于当前设置中的仿真参数值的设置,所有方法在雾节点和云服务器上放置相同数量的服务。此时,仅云部署的平均服务延迟约为 58ms,静态雾服务部署的平均服务延迟约为 45ms,而本文改进 MDAF 算法的动态雾服务部署方法的平均服务延迟约为 27ms,与仅云部署方法和静态雾服务部署方法相比,平均服务延迟分别降低了大约 21ms 和 18ms,优化效果显著。当延迟阈值大于 38ms 时,随着延迟阈值的不断增大,静态雾和动态雾部署方法的平均服务延迟都会增加,最终达到仅云部署的平均服务延迟 58ms。这是因为,当延迟阈值较大时,改进 MDAF 算法倾向于在雾节点上部署较少的服务,更多的请求将在云中进行部署,因此服务延迟有所提高。另一方面,与仅云部署和静态雾部署相比,改进 MDAF 算法的动态雾服务部署方法的平均服务延迟最低。由此可知,本文方法能够在雾计算中雾服务静态部署的基础上,得到最优部署解,有效降低平均服务延迟。图 4 三种方法延迟违规百分比对比图 4 为不同延迟阈值条件下不同部署方法的延迟违规百分比对比。可以观察到,当延迟阈值小于 38ms 时,由于当前实验中的模拟参数值进行的设置,所有方法的延迟违反都不会改变。此时,以仅云部署的延迟违规率为 100%作为参考,静态雾服务部署的延迟违规率约为 82%,改进 MDAF 算法的动态雾服务部署方法延迟违规率约为 58%,相比仅云部署方法降低接近 40%,相比静态雾服务部署方法降低接近15%。并且随着延迟阈值的不断增大,所有方法的违规百分比都将变小,最终趋近于 0。由此可知,本文改进 MDAF 算法的动态雾服务部署方法延迟违规率最低,而仅云部署的延迟违规率最高,静态雾的违规是中等的,因为它们并未针对最小延迟违规的目标进行调整。图 5 显示了当延迟阈值小于 38 毫秒时,由于延迟要求较高,动态雾部署将发挥其性能优势在雾中部署最多的服务,平均雾服务约为 38 个;静态雾次之,约为 17 个;仅云部署方法在雾中没有服务,平均雾服务个数为 0。随着延迟阈值的不断增大,当其大于 38ms 时,改进 MDAF 算法将在雾节点上动态部署了更少的服务,更多的服务在云服务器上进行部署。当延迟阈值大于 75ms 时,基于以上三种方法的服务都被部署在云中,没有在雾节点上部署服务,因此也不会发生延迟违规。484图 5 三种方法平均雾服务个数对比6 结束语针对传统的雾计算在部署应用程序服务方面存在的高延迟问题,本文提出一种雾计算中延迟优化的服务动态部署方法。通过对传统的应用程序服务部署模型进行改进,提出了一种在雾中动态部署应用程序服务的模型,设计了该模型下平均服务延迟及延迟违规率的计算方法,并基于改进MDAF 算法对雾中应用程序服务进行动态部署。仿真结果表明,与仅云部署和静态雾服务部署方法相比,基于改进MDAF 算法的动态雾服务部署方法将应用程序服务的平均服务延迟分别降低大约 21ms 和 18ms,延迟违规率分别降低大约 40%和 15%。因此,在延迟阈值的约束下,与仅云部署和静态雾服务部署方法相比,本文所提出的雾计算中延迟优化的服务动态部署方法的平均服务延迟和延迟违规率较低,优越性能显著,具有较高的实用价值。参考文献:1 杨光松,陈朝阳,袁飞.水声无线传感网中延迟敏感应用的跨层方案J.厦门大学学报(自然科学版),2014,53(3):336-341.2 罗军舟,金嘉晖,宋爱波,等.云计算:体系架构与关键技术J.通信学报,2011,32(7):3-21.3 杨照峰,王启明,吕海莲.基于任务延迟的云计算资源调度算法研究J.计算机测量与控制,2014,22(2):499-502.4 Xia F.QoS Challenges and Opportunities in Wireless Sensor/Actu-ator NetworksJ.Sensors,2008,8(2):1099-1110.5 Dastjerdi A V,Buyya R.Fog computing:Helping the Internet ofThings realize its potentialJ.Computer,2016,49(8):112-116.6 Mahmud R,Ramamohanarao K,Buyya R.Latency-aware applica-tion module management for fog computing environmentsJ.ACMTransactions on Internet Techno-logy(TOIT),2018,19(1):1-21.7 Sami H,Mourad A.Dynamic on-demand fog formation offering on-the-fly IoT service deployment J.IEEE Transactions onNetwork and Service Management,2020,17(2):1026-1039.8Ghobaei-Arani M,Souri A,RahmanianA A.Resourcemanagement approaches in fog computing:a compre-hensivereviewJ.Journal of Grid Computing,2020,18(1):1-42.9Skarlat O,Nardelli M,Schulte S,et al.Optimized IoT serviceplacement in the fogJ.Service Oriented Computing and Applica-tions,2017,11(4):427-443.10 Chen X,Jiao L,Li W,et al.Efficient multi-user computation of-floading for mobile-edge cloud compu-ting J.IEEE/ACMTransactions on Networking,2015,24(5):2795-2808.11Georgakopoulos D,Jayaraman P P,Fazia M,et al.Internet ofThings and edge cloud computing roadmap for manufacturingJ.IEEE Cloud Computing,2016,3(4):66-73.12 施巍松,孙辉,曹杰,等.边缘计算:万物互联时代新型计算模型J.计算机研究与发展,2017,54(5):907.13 Cheng B,Li T Y,Wei P C,et al.Layer-edge device of two-di-mensional hybrid perovskites J.Nature communi-cations,2018,9(1):1-7.14 兰卓睿,夏玮玮,吴思运,等.移动边缘计算系统中基于并行拍卖的无线资源与云资源联合分配J.东南大学学报(英文版),2019,35(2):153-159.15 Surez-Varela J,Barlet-Ros P.Sbar:Sdn flow-basedmonitoring and application recognitionC.Proceedings of theSymposium on SDN Research.2018:1-2.16 Zang H,Nucci A.Traffic monitor deployment in IP networksJ.Computer Networks,2009,53(14):2491-2501.17 Ahmed A,Pierre G.Docker container deployment in fogcomputinginfrastructures C.2018IEEEInternationalConference on Edge Computing(EDGE).IEEE,2018:1-8.作者简介陈孟雨(1997-),男(汉族),山西省晋城市人,硕士研究生,主要研究领域为雾计算。贾敏智(1963-),男(汉族),山西省太原市人,副教授,硕士研究生导师,主要研究领域为智能控制理论及其应用。584