云计算环境下的负载均衡技术综述

制作和主办：Elsevier沙特国王大学学报云计算环境下的负载均衡技术综述Dalia Abdulkareem Shafiq，新西兰阿兹温？阿卜杜拉？詹吉？马来西亚梳邦再也泰勒大学计算机科学工程学院阿提奇莱因福奥文章历史记录：2020年12月3日收到2021年1月11日修订2021年2月14日接受2021年3月2日网上发售保留字：云计算虚拟化任务调度负载均衡资源优化算法A B S T R A C T云计算是一个强大的模型，允许用户和组织根据他们的需求购买所需的服务该模型提供了许多服务，如存储、部署平台、对Web服务的方便访问等。负载平衡是云中的一个常见问题，这使得很难保持与服务质量（QoS）测量相邻的应用程序的性能，并按照云提供商对企业的要求遵守服务水平协议（SLA）文档。云提供商努力在服务器之间分配相等的工作负载有效的LB技术应该通过有效地利用虚拟机的资源来优化并确保高用户满意度本文全面回顾了静态、动态和受自然启发的云环境中的各种负载平衡技术，以解决数据中心响应时间和整体性能问题。对算法进行了分析综述，并对该领域未来的研究方向提出了研究空白。这项研究还提供了一个图形表示的审查算法，突出的业务流程。此外，本文提出了一个容错框架，并探讨了其他现有的框架在最近的文献。版权所有©2021作者。由爱思唯尔公司出版代表沙特国王大学这是一个开放的访问CC BY许可下的文章（http://creativecommons.org/licenses/by/4.0/）。内容1.导言. 39111.1.研究重点贡献贡献39121.2.调查计划组织39122.文献综述39132.1.现有综述文章39132.2.负载平衡39132.2.1.负载平衡模型。................................................................................................................................................................................................................. 39132.2.2.负载平衡指标39152.2.3.现有的常见负载均衡算法39162.3.负载平衡的最新文献2.3.1.基于负载均衡的节流算法39172.3.2.基于负载均衡的等分布电流执行39172.3.3.基于循环调度的负载均衡39192.3.4.基于负载均衡的加权轮询39202.3.5.基于负载均衡的Min-Min算法39202.3.6.基于负载均衡的蜜蜂算法39212.3.7.基于遗传算法的负载均衡。.............................................................................................................................................................................................3922*通讯作者。电子邮件地址：daliakareem7@gmail.com（D.A. Shafiq），noorzaman.jhanjhi@ taylors.edu.my（新西兰）。Jhanjhi），Azween. taylors.edu.my（A. Abdullah）。沙特国王大学负责同行审查https://doi.org/10.1016/j.jksuci.2021.02.0071319-1578/©2021作者。由Elsevier B.V.代表沙特国王大学出版。这是CC BY许可下的开放获取文章（http://creativecommons.org/licenses/by/4.0/）。可在ScienceDirect上获得目录列表沙特国王大学学报杂志首页：www.sciencedirect.comDalia Abdulkareem Shafiq，新西兰Jhanjhi和A.阿卜杜拉沙特国王大学学报3911De伎俩M恩恩特模式2.3.8.基于负载均衡的粒子群算法39222.3.9.基于蚁群优化算法3922的2.3.10.其他现有的最新负载均衡算法39233.框架39254.讨论39264.1.已审查算法的总结39264.1.1.响应时间39264.1.2.容错39264.1.3.服务质量（QoS）优先级39284.1.4.其他39284.2.可用的实施工具39304.3.对未来研究的建议39315.结论39316.未来的工作3931竞争利益声明致谢3931参考文献39311. 介绍云计算是提供服务（私有和公共）的突出技术，例如，通过互联网（云）容易地访问数据、程序和文件，在线可扩展存储服务而不是在用户 的 机 器 （ 诸 如 计 算 机 或 电 话 ） 上 本 地 存 储 的 文 件 。 RamnathChellappa教授在1997年提出了这项众所周知的技术（Agarwal和Srivastava，2017），并且众所周知，它还可以为客户提供动态服务，例如（Nazir，2012）廉价，可扩展的替代品（Abdalla和Varol，2019）和各种服务。它是一种增强全球业务的技术，因为它旨在降低硬件成本。该技术利用按次付费模式的概念，其许多服务在著名的技术公司中常见，例如，Google，Microsoft，IBM等。这种模式允许客户根据他们的需求购买所需的服务，类似于计量服务，或者更被称为子服务。- 是的这种类型的模型广泛用于软件即服务（SaaS）交付模型（Lowe和Galhotra，2018）。云计算的概要见下图1。所有的云实体一起工作来处理云环境。例如，云审计师充当云中的警察，确保CSP提供的服务具有高质量和完整性。云运营商确保有一个稳定的连接来将服务传输到客户端（云用户）。私有云中的数据中心位于组织的网络内部在典型的云计算环境中，有两个组件：前端和后端。前端在用户侧，在用户侧可以通过互联网上的连接来访问前端（Odun-Ayo等人，2018年）。而对于后端，它处理云服务模型。如图2所示，它由一个数据中心组成，其中多台物理机Fig. 1. 云计算概述。图二. 云计算架构。私人混合动力连接检 查服务质量云提供商服务公共运输提供服务预定（内部）场外交易（CSP）云审核者软件即平台即基础设施即服务（SaaS）服务（PaaS）服务（PaaS）云用户服务提供模式部署模型业务组织互联网消费者虚拟化层物理机数据中心应用云实体后端Dalia Abdulkareem Shafiq，新西兰Jhanjhi和A.阿卜杜拉沙特国王大学学报3912存储（称为服务器）。即将到来的用户请求从应用程序接收动态调度和资源分配给客户端通过虚拟化。虚拟化技术用于处理云中的动态资源以及平衡整个系统中的负载。它还负责调度（Jyoti等人，2019年，有效配置资源。用户通过互联网发送请求，这些请求存储在虚拟机（VM）中，每个交付模型中的CSP必须通过确保用户发送的请求可以在特定的截止日期内执行和完成来维护QoS（Adhikari和Amgoth，2018）。将用户任务分配给适当的VM的过程取决于调度策略（数据代理），该策略反过来应该能够在机器和服务器之间实现平衡的工作负载。通过设计和开发一个动态负载均衡器1.1. 研究重点贡献我们的研究的贡献可以概括如下：58个现有的负载均衡算法的调查，以及他们的问题和优势，除了现有的综述论文，算法的流程图，以及汇编的实验结果也包括基于特定的指标，如响应时间和处理时间。此外，提出了一个框架来解决负载均衡算法中的容错问题，以增强迁移技术，避免节点故障。虽然，这个问题在过去已经被研究人员稍微解决了，但是，大多数都集中在使用单个负载均衡器上。所提出的容错模型通过使用双负载均衡器和机器学习工具来预测主动负载均衡器中的故障来解决故障。未来的研究可以通过确定合适的预测模型来增强该模型。作者还根据年数和分析因素对现有综述文章的比较结果进行了汇编，如下图3所示。1.2. 测量计划组织此调查包括云计算中负载平衡领域的几篇最新文章。本次调查的计划总结如下：综述研究文章的选择：调查中包含的文章是基于云计算中的负载平衡 从 各 种 知 名 来 源 （ 如 ScienceDirect ， ResearchGate ，SpringerOpen和IEEEEXplore）中选择的。过滤是根据文章的标题，然后是摘要来完成的。最后，通过对文章内容质量、算法质量的分析，对文章进行了筛选，并对现有的常用算法进行了改进。调查论文的介绍：本文的组织和介绍是为了让读者更容易理解云环境中负载平衡的核心概念文章综述如下：o 首先，对该方法的核心算法进行了识别，如该方法正在尝试对Round Robin等算法进行改进，这样可以使读者了解这些算法的目的以及如何正确地利用它们来实现负载均衡的各种目标。然后，确定该方法的目标以及所考虑的参数，如资源利用率，响应时间，最大跨度等。o 其次，给出了算法的操作流程图.o 最后，在可能的情况下，给出了实验结果。除了文字解释外，还包括图像和图形表示，以进一步解释概念以更清晰、更容易理解的方式呈现给读者对已审查算法的分析：然后，基于所使用的性能度量、算法的性质（静态、动态或自然启发的）、算法的类型（多目标或单目标）来检查所检查的算法。这将有利于读者根据不同的负载均衡目标选择具体的、合适的算法。论文结构：论文其余部分的结构如下。第2包括文献综述，其中包括对该领域现有调查的回顾，然后解释负载平衡概念及其模型，与此概念相关的指标，并由作者用于分析文章，常见负载平衡算法的分类，最后，现有算法的文献综述及其流程图和实验结果。第3提出了一个解决一个方面的拟议框架图3.第三章。现有综述文献的因素（交互图）。网址：https://datawrapper.dwcdn.net/xcIkf/5/●●●●●Dalia Abdulkareem Shafiq，新西兰Jhanjhi和A.阿卜杜拉沙特国王大学学报3913文献综述2.1现 有 综述文章2.2负载平衡2.3最近的文献2.2.1模型2.3.1基于LB的节流2.3基于LB的均匀分布当前执行2.3.3基于LB循环赛2.3.3.1LBBased加权轮询2.2.2度量2.3.4基于LB的最小-最2.3.5LB基于蜜蜂2.3.6基于LB的遗传2.2.3常用算法2.3.7基于LB的粒子群2.3.8基于LB的Ant殖民地2.3.9其他现有算法LB =负载平衡见图4。 文献综述部分组织。这篇文献中的研究空白。第四部分是对研究空白的归纳。第五节我们的研究最后，对本文的研究内容和研究思路进行了总结，并对今后的研究方向提出了建议。最后，在第6节中，对未来的主题提出了建议。2. 文献综述这一部分包括本文的文献综述。首先，将提供现有综述文章的综述。然后将解释负载平衡的概念，重点介绍其模型、度量和现有的常用算法。导致最近的文献负载平衡的研究人员提出的算法进行解释和分析。其次是最近的研究人员在负载平衡领域提出的新算法。第2节的组织结构图如图所示。下面4个。2.1. 现有综述文章在云计算中，开发负载均衡器对于数据中心中节点的均匀分布至关重要，这会导致节点中更好的资源利用率和更少的故障（Shiny，2013）。从下面的表1中可以看出。关于负载平衡和算法的已发表综述数量众多，作者综述了过去七年（2014-2020年）该领域的三十（30）篇综述论文该表的目的是将当前综述论文与表中引用的现有论文进行比较。现有综述论文仍有一些局限性，例如，作者综述了最新的最新技术水平，但由于不包括比较分析，因此解释有限（10）。这是做评论时的一个基本功能，因为它提供了对文章的深入分析，并使读者很容易在未来的研究中发现需要改进的地方。大多数综述论文不包括流程图（26），因此没有提供所综述算法的操作流程。许多论文缺乏对综述文章中使用的性能指标（17）的解释和评价，这是当前综述论文的另一个贡献。发现很少有作者关注实验结果（4），现有综述包括基于模拟的综述文章的实验结果升降平台。这样做是为了便于理解并减少搜索此类结果的麻烦。该文件的结构，以审查算法的基础上的共同的算法。这种方式使读者更容易利用特定的算法，如轮循，遗传算法等。这篇评论分类算法的基础上，他们的研究差距解决三个主要方面的负载平衡：响应时间，容错，其他（如Makespan，等待时间，等等）。此外，本文提出了一个框架，以解决上述方面之一，这是容错。2.2. 负载平衡负载均衡是一种在云计算环境中优化虚拟机资源的方法。 云计算环境中的负载均衡是确保工作负载均衡、动态分布和资源有效利用的重要技术之一。工作量的有效平衡导致更高的用户满意度和更好的资源分配。在云系统中，应用负载平衡可以减少发送和接收数据的延迟（Kaur和Luthra，2014），并防止影响云数据中心QoS的节点过载情况。因此，解决有关负载平衡的问题并增强基于云的应用程序的性能非常重要，这将在本节中详细讨论。2.2.1. 负载均衡模型定义云计算中的负载均衡器的工作流的模型在下面的图5中呈现。系统将分析用户请求，并根据资源的可用性将其传递到选定的数据中心。这些服务器（VM）不应该过载或欠载，它们之间需要平等分配。这就是负载平衡概念的由来。为了保持云应用程序的性能，必须提供有效的负载均衡器。不均匀的负载分布可能存在于许多因素中，其中之一就是任务调度。如果没有适当的任务调度，资源将无法得到有效利用。负载平衡发生在云的后端。因此，作者在本文中回顾的文章都是针对云计算的服务器端设计的。在云中，负载平衡有两个重要目标（Shafiq例如， 2019）：资源分配和任务调度。首先，地图-Dalia Abdulkareem Shafiq，新西兰Jhanjhi和A.阿卜杜拉沙特国王大学学报3914表1现有综述文章的比较分析。S/N参考文献年比较分析计量标识最新技术水平图形表示流程图Taxonomy实验结果框架介绍？参考文献数量1.我们的审阅2021UUUUUUUU1362.纸（库马尔和2020U✗UUU✗✗✗213.Chawla，2020）（Mishra等人，UUUU✗UU✗554.2020年）（Duraisamy，2019U✗U✗✗✗✗✗145.2019年度）（库马尔和UUUU✗U✗✗1276.Kumar，2019年）（KamleshU✗✗✗UU✗✗35例如， 2019年度）7.8.（Afzal和Kavitha，2019）（Kathalkar和2018U✗U✗UUU✗✗✗U✗✗✗✗✗71119.Deorankar，2018年）（库马尔和✗✗U✗✗✗U✗1410.Raj，2018年）（Kaur和U✗U✗✗✗✗✗1911.Verma，2018）（Hota等人，U✗U✗✗✗✗✗3812.2019年度）（马拉和U✗✗✗✗U✗✗3313.Prasad，2018年）（Hamadah，2017U✗U✗✗U✗✗1414.（2017年）（Sutagatti和✗✗✗U✗✗U✗1515.Kulkarni，2017年）（Deepa和U✗✗U✗U✗✗916.Cheelu，2017年）（Archana和✗U✗U✗✗✗✗1517.Shastry，2017）（Gupta等人，✗UU✗✗✗✗✗4718.（2017年）（Thakur和UUUUUU✗✗16219.Goraya，2017年）（阿拉姆和UUU✗✗✗UU3120.AhmadKhan，2017年）（Joshi和✗U✗U✗✗✗✗15Kumari，2017年）21.22.（Singh和S.Bhat J.，R.Raju，和R. D.'Souza，，2017）（Jafarnejad✗U✗UUU✗U✗✗UU✗✗✗✗2710823.Ghomi等人，（2017年）（米拉尼和2016UUUU✗U✗✗8424.Navimipour，2016年）（Elngomi，✗✗UU✗✗✗✗1225.（2016年）（Goyal和✗✗U✗✗✗✗✗1926.Verma，2016）（Gabi等人，2015UUUU✗✗✗✗2527.（2015年）（Karthika和U✗U✗✗✗✗✗11Dalia Abdulkareem Shafiq，新西兰Jhanjhi和A.阿卜杜拉沙特国王大学学报391528.Kanakambal，2015年）（Aslam和UUUU✗U✗✗6429.Shah，2015年）（Kapoor，2015）U✗U✗✗✗✗✗930.（Mj等人，2014UUU✗✗✗✗✗1031.2014年度）（Sanghavi和✗✗✗U✗✗✗✗16Patalia，2014年）* （p）表示在综述论文中存在该特征; *（X）表示在综述论文中不存在该特征Dalia Abdulkareem Shafiq，新西兰Jhanjhi和A.阿卜杜拉沙特国王大学学报3916云负载均衡指标定量度量定性度量负载平衡性能测试精度可靠性SLA违例预测性个依赖性度量虚拟机创建总加工成本重载节点数碳排放欠载节点数完成时间执行时间容错响应时间扩展性独立度量数据中心处理时间资源利用率程度的平衡周转时间能耗功耗完工时间迁移时间负载方差吞吐量个依赖性度量用户请求123n物理机器用户基础请求数据中心控制器123n123n虚拟机负载平衡器图五、修订后的负载平衡模型采用（阿拉姆和艾哈迈德汗，2017年）。见图6。 负载均衡的分类应执行ping任务以纠正VM，从而不应存在过载节点或空节点或具有较少的工作负载。其次，在分配过程完成后，应用任务调度技术，根据用户需求，加强任务的完成过程，以满足SLA文档中规定的截止日期。2.2.2. 负载平衡指标在本小节中，提供了大多数作者在审查最新技术水平时考虑的指标。这些指标在设计和开发负载平衡算法时是必不可少的。这些指标决定了算法在云应用程序中的性能质量。其中一些参数被研究人员用来评估所提出的算法，它们应该被调整（Hung和Phi，2016），以防止云计算环境中的不平衡情况。（Afzal和Ganesh，2019）的作者强调了现有文献中使用的指标，并将这些指标分为两类：定性和定量，如税收图表所总结下面的图6（Afzal和Ganesh，2019年）已经修改，其中包括基于最近文献的新参数，以提供最新版本并改进图的准确性。这篇综述论文集中于9个主要的定性和定量指标（Mishra等人，2020年; Thakur和Goraya，2017年），以分析以下列出和解释的最新文献：资源利用率（RU）：资源（如内存、CPU等）的利用程度。系统中它是衡量云数据中心的RU程度。只要服务需求增加，RU就必不可少。负载均衡算法的良好性能需要最大RU。可扩展性（S）：与系统类似，算法应该在任何意外情况下都能很好地执行。这意味着无论任务和负载的数量如何增加，算法都应该保持可扩展性。高度可扩展的负载均衡算法的良好性能。吞吐量（TP）：表示VM中单位时间内已成功执行和处理的作业请求数的度量。它是从一个地方传输到另一个地方的数据量。高TP的负载均衡算法性能良好。响应时间（RT）：算法响应任务所花费的时间。它考虑了等待时间、传输时间和服务时间。它是响应用户查询所需的时间。一个好的负载平衡算法需要最小的RT。Makespan（MS）：完成所有任务并将资源分配给系统中的用户所需的总完成时间。它是云环境中调度过程中的重要指标它是用来衡量处理一组任务所花费的时间一个好的负载均衡算法需要最小的MS●●●●●Dalia Abdulkareem Shafiq，新西兰Jhanjhi和A.阿卜杜拉沙特国王大学学报3917小蜜蜂蚁群自然启发粒子群遗传负载平衡算法动态静态节流当前执行的平均分布至少C对翁内蒂最小-最小循环赛加权循环赛见图7。 负载平衡算法的分类。关联开销（AO）：执行负载平衡算法时形成的开销量。这可能是由于大量的任务迁移和进程间通信。负载均衡算法使系统负载均衡，开销最小容错（Fault Tolerance，FT）：负载平衡应该能够很好地执行，尽管某些系统元素出现故障。这意味着如果一个VM过载，另一个可用的VM应该能够执行任务。高FT的负载平衡算法的性能良好迁移时间（MT）：将任务从一个VM迁移到另一个VM所需的总时间。迁移过程应该在不影响系统可用性的情况下进行。它高度依赖于云中的虚拟化概念。低MT的负载均衡算法性能良好SLA违规：表示在最后期限约束、优先级等方面SLA违规因素的减少数量。由于资源（VM）因为超负荷而无法使用最低SLA更高的用户满意度。2.2.3. 现有的常见负载均衡算法本小节介绍负载平衡技术的分类。在云环境中使用的常见静态算法（如Round-Robin）不再适合和有效，因为许多限制，例如节点上负载的不均匀分布，其中一些机器可能会过载，而其他机器可能没有负载（Adaniya和Paliwal，2019）。除了使用导致上下文切换的静态量子之外从而导致延迟和任务被拒绝。这造成任务分配不当和工作量不平衡因此，许多作者都致力于开发算法，通过负载平衡概念来增强云应用程序的性能。这些技术可以由开发人员在用户端（称为Service BrokerPolicy）或数据中心端（Choudhary和Kothari，2018）实现。下面的图7说明了常见的现有负载平衡算法的分类。该图的目的是根据本综述论文中使用的基本方法对算法进行分类。有各种常见的负载均衡算法用于提高CC的性能。这些算法通常根据其底层环境分为三种主要类型：静态、动态和自然启发算法，如下所述。静态负载平衡（SLB）算法：在静态环境中，负载平衡算法先验信息的示例可以包括存储器、存储容量和处理能力。这样的信息表示系统的负载基于静态的算法不考虑运行时期间负载的动态变化（Mj等人， 2014年）。因此，这些算法的主要缺点是由于负载的突然变化而导致的低容错性。动态负载平衡（DLB）算法：这些类型的算法被认为是更好的，适用于负载平衡。与SLB算法不同，在动态环境中，负载均衡算法会考虑系统的先前状态（Alam和Ahmad Khan，2017）。因此，这些算法的主要优点是灵活性，尽管它们123n请求VMVMVMVM响应可用重载空闲客户端2VM的状态客户端1分配表见图8。 节流算法环境。●●●●●●Dalia Abdulkareem Shafiq，新西兰Jhanjhi和A.阿卜杜拉沙特国王大学学报* （N/A）表示未作评价;根据作者3918用户--网站首没有请求VM找到了是的If（index =0）没有返回-1是的索引= 0端返回VMID平衡器TA负载查找第一个可用虚拟机数据中心开始图9.第九条。采用的修正节流算法流程图（Bhagyalakshmi和D. Ma lhotra ，“A Review，，2017）.可能看起来很复杂，并且可能导致系统的高开销，因此在这一类别中新提出的算法应该避免这样的缺点。自然启发的负载平衡（NLB）算法：此类算法代表基于人类本性的生物过程或活动（Thakur和Goraya，2017），例如蜜蜂寻找蜂蜜的搜索方法的遗传过程。对这些过程进行数学建模，采用自然过程在CC中进行负载均衡。这些智能算法的开发对于复杂的动态系统表现得更好。动态算法比静态算法更好，因为不需要先验知识，并且它采用系统的当前状态，这使得它对于分布式云系统更有效（Fatima等人，2019年）的报告。此外，动态算法消除了存储系统先前状态的开销，并且与静态 算法相 比，这 些算法 具有更 高的运 行时复 杂度（Kamboj 和Ghumman，2016; Haryani和Jagli，2014）。自然启发的算法被认为是更智能的，因为它们属于负载平衡算法的元启发式类别，并且可以类似于自然科学解释的自然现象（Siddique和Adeli，2015）。2.3. 负载平衡的最新文献本节涵盖了作者已经审查的最新方法。以下方法旨在通过提供有效的负载平衡技术来提高云计算的性能。的算法进行审查，说明他们的优点和缺点。2.3.1. 基于负载均衡的Throttled算法本小节解释了Throttled算法的概念，以及如何使用它来解决研究人员提出的云计算中的负载平衡挑战。节流算法（TA）（Somani和Ojha，2014）：这被称为动态LB算法。如在下面的图8中可以看到的，负载均衡器的目的是在接收到来自客户端的请求时搜索合适的VM以执行任务。TA将保留所有虚拟机及其索引值的列表，这称为索引表或分配表中的相应状态（例如，可用/繁忙/空闲）的VM的数据也被存储如果VM可用并且具有足够的空间，则任务被接受并分配给VM。如果没有找到可用的VM，则TA返回1，否则请求被排队以进行快速处理。然而，TA比Round Robin算法执行得更好，它没有考虑负载平衡的更高级要求，例如处理时间（Patel et al.，2015年;Bhagyalakshmi和Malhotra，2017年）。节流算法的过程在图中进一步解释。 9在下面的流程图中：与传统的TA算法类似，Modified Throttled in（Nayak和Vania，2015）维护所有VM及其状态的索引表。然而，作者通过选择第一个索引处的虚拟机（如果它可用）来改进响应时间和虚拟机利用率，分配请求并将1返回给数据中心。在选择第一个索引后移动VM，以此类推。这与传统TA不同，传统TA在每次有请求时都会选择研究人员（Ghosh和Banerjee，2016年）提出了一种基于改进的节流算法（PMTA）的优先级方法，该方法改进了现有算法的执行时间。它的重点是通过使用切换队列来停止执行低优先级任务以首先运行高优先级任务并在多个VM之间分配相等的工作负载来分配传入任务。与已有的TA和RR算法相比，该算法虽然提高了响应时间和等待时间，但对于低优先级的作业，仍然可能造成饥饿和高响应时间。TMA算法（Phi等人， 2018）通过维护两个具有状态的VM表来处理相等的工作负载分布：可用&忙。与传统的TA不同，它为所有VM保留一个表，因此该算法将响应时间从402.66（ms）略微降低到402.63（ms）。因此，需要更多的优化来提高算法的性能下表2中的比较分析提供了对基于TA方法解决负载平衡的研究文献的实验结果的回顾。2.3.2. 基于负载均衡的等分布电流执行本小节解释了均摊电流执行算法的概念，以及如何将其与表2基于改进节流算法的仿真工具性能比较号算法负载平衡工具响应时间处理时间1.TMA（Phi等人， 2018年）回应时间处理时间CloudAnalyst402.63毫秒173.04毫秒2.修改节流（xxxx）响应时间N/A161.182毫秒N/A3.PMTA（Ghosh和Banerjee，2016）响应时间、处理时间数据中心请求服务时间CloudSim0.065毫秒1.32毫秒●Dalia Abdulkareem Shafiq，新西兰Jhanjhi和A.阿卜杜拉沙特国王大学学报* （N/A）表示未作评价;根据作者3919-返回-1没有最小负载是的找到VM返回VMIDVM是否过载？请求端VM列表的长度分配VM检查当前分配计数<最大值分配给虚拟机更新队列数据中心计算每个虚拟机上的活动负载ESCEE向VM分配请求将工作负载分配给另一个负载最少的虚拟机如果未分配可用虚拟机，请创建一个新虚拟机查找下一个可用虚拟机开始见图10。 均布电流执行算法流程图。节流算法，以解决云计算中的负载平衡挑战，由研究人员提出。等分布电流执行（ESCE）：这是负载平衡中的一种动态算法。它以作业的大小为优先级，然后将工作负载随机分配给负载较轻的虚拟机。 它也被称为扩频技术，因为它将工作负载分散到不同的节点（Moharana等人，2013年）。ESCE依赖于队列的使用（Falisha等人，2018）来存储请求并在存在过载的VM的情况ESCE的一个常见问题是，由于数据中心控制器和负载均衡器之间的通信，它可能会在更新索引表时导致开销（Lamba和Kumar，2014）。ESCE算法的过程在图10中的以下流程图中进一步解释：作者在（Sachdeva和Kakkar，2017）中提出了一种结合均匀分布并发执行（ESCE）和TA的混合方法，以减少CC中的响应时间。Hybrid LB（TA ESCE）保留一个HashMap列表来保存用户请求，并扫描该列表以查找可用的VM。与TA不同，如果VM繁忙，则返回1，ESCE用于查找具有最小负载的机器以将任务分配给它。另一种类似的方 法 （ Sachdeva 和 Kakkar ， 2017 ） 由 作 者 （ Subalakshmi 和Malarvizhi，2017）提出。增强型LB（TA ESCE）是为了进一步优化资源。他们的目标是使用创建主机功能来减少队列中的等待时间，而不是在VM繁忙的情况下保持队列。这两种算法都能很好地减少响应时间，但是，这两种算法都没有考虑到如果发生任何故障，虚拟机的迁移。使用TA和ESCE的另一种混合方法在（Rathore等人，2018年），以减少任务数量增加时的等待量，与（Sachdeva和Kakkar，2017年;Subalakshmi和Malarvizhi，2017年）中的方法不同，负载平衡混合模型（LBHM）为每个VM保持阈值限制，基于VM的容量进行识别。但是，当节点发生故障时，系统就不能很好地Aliyu和Souley（2019）提出了与Rathore等人（2018）相似的方法。提出了混合方法（TA ESCE），以保持阈值作为每个VM的优先级，以实现相等的工作负载分配。除了响应时间的减少外，它还有利于降低成本。另一种结合TA和ESCE的方法在Khanchi和Tyagi（2016）中作为混合虚拟机负载平衡（Hybrid VM LB）提出。它考虑VM的当前工作负载和状态来决定是否将任务分配给它。通过保存分配的cloudlet列表，他们可以确定过载和欠载的VM。该算法可以减少响应时间，但是数据中心处理时间与传统的ESCE相比并没有很大的改善在Babu et al. （2017）作者还提出了一种混合技术组合（TA&ESCE）算法，通过实现最优消费值来解决云计算中的资源利用不足问题。该算法分为三种情况来处理VM的每种状态（忙、可用等）该算法可以减少等待时间，周转时间，和处理成本，但它具有较低的容错能力，在故障的情况下的虚拟机。Alamin等人（2017）提出的MET再次合并了 TA和ESCE。该负载均衡器利用了两种算法的特点表3基于混合（节流+均布电流执行）算法的仿真工具的性能比较。号算法负载平衡参数工具响应时间处理时间1.增强型LB（TA ESCE）（Subalakshmi和响应时间机器成本CloudAnalyst558.00毫秒N/A2.Malarvizhi，2017年）LBHM（Rathore等人， 2018年）响应时间、处理时间算法成本206.14毫秒0.19毫秒3.4.TA（Somani和Ojha，2014年）混合VM LB（Khanchi和Tyagi，2016）响应时间、处理时间数据中心请求服务时间请求服务时间，响应时间，202.55毫秒92.45毫秒1.32毫秒0.31毫秒5.MET（Alamin等人，（2017年）响应时间、处理时间、成本55 Ms2.16毫秒6.7.混合LB（TA ESCE）（Sachdeva和Kakkar，2017）混合方法（TA ESCE）（Aliyu和Souley，响应时间、处理时间、最早完成时间周转时间响应时间、处理时间、成本CloudSim151.00毫秒315.68毫秒N/A7.57毫秒2019年度）Dalia Abdulkareem Shafiq，新西兰Jhanjhi和A.阿卜杜拉沙特国王大学学报3920应用程序客户端应用服务器软件50服务器-A硬件50服务器-B负载平衡器互联网12应用程序客户端应用服务器软件100服务器-A硬件100服务器-B50负载平衡器新服务器-C互联网见图11。Round Robin算法保留可用VM的列表并统计分配给它的请求数量。然后比较新请求大小是否等于扫描分配过程后找到的可用VM如果不相等，则它将查找最小负载大小的VM。否则，如果请求没有得到服务，则排队的请求可能会导致很长的等待时间。Mishra和Tondon（2016）提出了TA和ESCE的另一种混合算法所提出的混合（TA ESCE）类似于上述将处于过载情况下的VM的工作负载分配给具有最小负载的VM的方法。但是，如果没有找到分配给即将到来的用户请求的空闲VM，它也会创建一个新的VM。使用称为展开谱的技术，使用ESCE算法将载荷分散到不同的节点上面表3中的比较分析提供了对基于TA和ESCE算法的混合方法解决负载平衡的研究文献的实验结果的回顾。2.3.3. 基于循环调度的本小节介绍循环调度算法的概念以及如何使用它来解决负载平衡难题在云计算中，研究人员提出。Round Robin（RR）算法（Kaurav和Yadav，2019）：在循环和有序的过程中工作，每个进程都被分配了一个固定的时隙，没有任何优先级。这是一个非常常见的算法，经常使用，由于其简单的实现。负载均衡中的一个常见问题是，在用户请求之后，VM的分配状态不会被保存和更新。此静态算法的另一个常见问题在下面编译的图11中说明（Villanueva，2015; Round Robin Load Balancing ，2020如图所示，在第一部分中，假设有100个用户请求使用应用程序，负载均衡器将负载稳定地分布在两台服务器之间。现在让我们假设有在Tailong和Dimri（2016）中，作者提出了一种改进的优化响应时间算法，以修改现有的CloudAnalyst中的响应时间服务代理策略。算法计算每个过程的响应时间和等待时间，然后决定调度过程。它可以减少响应时间;但是，它没有解决RR中的时间量问题，这使得该算法不太适合动态云环境。Kaurav和Yadav（2019）提出了使用遗传算法（GA）方法对RR的增强。它的目的是提供一个有效的负载平衡，可以提高能力的数据中心。为了解决RR的问题，该方法通过扫描有效地包含所有VM的散列映射来分配请求。如果VM可用，则分配任务，否则，通过使用GA分析最佳拟合任务来选择最佳VM。实验结果表明，该算法显著缩短了服务器的响应时间。然而，当搜索空间增加时，GA趋于复杂（Katyal和Mishra，2013）。在论文Issawi et al.（2015）中，研究人员通过考虑突发性工作负载问题改进了云应用程序中的QoS。这是由于云服务中用户的突然增加而出现的负载平衡问题，因此，云计算应该考虑这两种情况。因此，提出了自适应负载平衡（自适应LB（RR + Random））算法，以通过在随机（如果工作负载正常）和RR（如果工作负载突发）任务调度策略之间交换来在重（突发）工作负载下有效地向VM提供所接收的任务的均等分配。自适应LB结果显示响应时间减少，但是由于使用RR，因此应用了静态量子，这导致更多的等待时间。在Richhariya等人（2015）和Richhariya等人（2015）中，提出的混合方法是优先级策略和RR算法的组合。改进的RR是一种由两个处理器组成的方法：一个小处理器，用于计算每个进程的时间片;一个主处理器，用于处理以其突发时间作为优先级值，按升序排列。该方法旨在减少响应时间，但没有性能测试来推断结果。上面的表4提供了基于RR方法解决负载平衡的研究文献的实验结果的综述。表4基于仿真工具的改进轮循算法性能比较号算法负载平衡参数工具响应时间处理时间1.修改优化响应时间（Tailong和Dimri，2016）回应时间处理时间CloudAnalyst152.721.66毫秒2.遗传算法（GA）（Kaurav和Yadav，2019）回应时间处理时间161.43毫秒0.55毫秒3.改善RR（Pasha等人， 2014年度）回应时间处理时间CloudSim300.9毫秒1.21毫秒4.自适应LB（RR+随机）（Issawi等人，（2015年）回应时间处理时间370毫秒315毫秒5.WMaxMin（Khatavkar和Boopathy，2017）平均等候时间202.55秒1.32秒Dalia Abdulkareem Shafiq，新西兰Jhanjhi和A.阿