0AASRI Procedia 5 ( 2013 ) 235 – 24202212-6716 © 2013年作者。由ElsevierB.V.出版。由美国应用科学研究学会负责选择和/或同行评审，doi: 10.1016/j.aasri.2013.10.0840ScienceDirect02013年并行与分布式计算系统AASRI会议0用户偏好和服务时间感知的资源0多层云服务的配置策略0Dandan Hu、Ningjiang Chen *、Shilong Dong、Yimin Wan0广西大学计算机、电子和信息学院，中国南宁广西5300040摘要0由于大多数云服务采用多层架构，为资源配置带来了真正的挑战。由于多层云服务存在跨层依赖性，传统的为单层应用程序量身定制的资源配置方法无法直接采用或扩展。云中的资源配置通常受性能预测驱动，因此准确地描述工作负载的波动情况非常重要，以便了解如何分配资源。用户偏好也会影响工作负载的变化。因此，我们提出了一种针对多层云服务的动态资源配置策略，该策略采用(i)用户偏好和服务时间混合感知的工作负载预测方法作为资源配置的基础，以及(ii)基于排队论的动态资源配置策略来确定每个层的资源分配数量。实验结果表明，我们的工作负载预测方法准确，我们的配置策略能够提高资源配置的准确性，减少分配的资源和SLA违规。0关键词：资源配置、工作负载预测、排队论、多层云服务0**通讯作者。电话：+86-771-3236389；电子邮件地址：chnj@gxu.edu.cn。0可在www.sciencedirect.com上在线获取0© 2013年作者。由Elsevier B.V.出版。由美国应用0在CC BY-NC-ND许可下开放访问。0在CC BY-NC-ND许可下开放访问。 0236 Dandan Hu et al. / AASRI Procedia 5 ( 2013 ) 235 – 24201. 引言0云计算提供了将业务应用程序作为复杂服务公开访问的能力，可以通过网络访问。许多IT巨头以按需付费的方式提供计算和存储资源。因此，为了节省基础设施成本或赚取财富，越来越多的服务部署在云中。大多数云服务采用多层架构，[2]证明了使用各种单层配置方法为多层云服务存在局限性。云中的资源配置通常受性能预测驱动[3-9]。为了提高预测精度，需要准确描述工作负载的波动情况。大多数先前的研究仅使用请求量作为工作负载指标。[10]证明了请求服务时间混合也是预测工作负载变化的非常重要的指标。此外，跟踪用户偏好对于预测工作负载变化也很重要。例如，在电子商务网站上，一些用户倾向于浏览，这会给前端Web服务器增加压力，而另一些用户倾向于下订单，这会给后端数据库服务器增加压力。我们提出了一种针对多层云服务的动态资源配置策略，旨在提高工作负载预测的准确性，减少分配的资源和SLA违规。首先，我们介绍了一种基于用户偏好和服务时间混合的工作负载预测方法。通过根据用户偏好和服务时间分别对请求进行分类和聚类，可以更轻松、更精确地预测工作负载变化。然后，我们提出了一种基于排队网络的资源配置策略，用于确定每个层的资源分配数量。实验结果表明，工作负载预测方法准确，资源配置方法有效，可以减少分配的资源和SLA违规。02. 用户偏好和服务时间混合感知的工作负载预测方法0工作负载预测是资源配置的基础。为了准确预测工作负载的波动情况，我们需要以细粒度的方式描述工作负载，特别是在具有不同工作负载特征的多层云服务中。在本文中，我们根据用户偏好和服务时间将请求划分为不同的集合，然后预测每个集合的工作负载变化。预测方法包括三个步骤：分类、聚类和工作负载预测。分类关注用户偏好，聚类关注服务时间。具体步骤如下。0基于用户偏好的分类用户运行应用程序时，某些操作比其他操作更频繁。我们将这种倾向定义为偏好。因此，为了反映用户的偏好，我们收集用户行为信息，然后进行分析以了解用户的偏好。我们检测用户操作，然后将其映射到三个特定的与资源相关的类别：CPU-偏好类、I/O-偏好类和内存-偏好类。一旦完成了基于用户偏好的分类，我们使用服务时间作为指标，将每个类别的请求聚类成几个集合。0基于服务时间的聚类我们使用k均值聚类算法将每个类别划分为不同的集合。聚类指标是服务时间。虽然也可以使用其他聚类算法，但是k均值算法易于理解且广泛研究。并且它可以快速收敛到最优解。传统的k均值聚类算法需要k作为输入，即集合的数量。然而，在本文中k未事先知道，因此需要稍作修改。聚类的具体步骤如下。第1步-确定k和聚类:由于传统的k均值算法需要k作为输入，所以我们需要先计算k。我们使用迭代来确定k。我们选择一个初始的k，并持续调整，直到得到最佳结果。不幸的是，适当的k可能远离初始的k。在聚类后，同一集合中的每个请求都属于由较低和较高服务时间边界定义的相同的服务时间区间。由于我们使用请求的服务时间作为输入，每个请求都属于一个服务时间边界集合。第2步-计算集合均值:集合的均值是属于相同集合的请求的平均服务需求。让T={t1，…，tm}表示服务时间集合，F={f1，…，fm}表示相应的频率集合。集合的均值可以通过以下公式计算。 (1) 0237 Dandan Hu et al. / AASRI Procedia 5 ( 2013 ) 235 – 2420j j0t f mean0第3步-重新计算集合的平均值:随着用户的偏好、服务时间和频率随时间变化，集合的平均值也会相应变化，需要重新计算。当包括分类和聚类的请求划分完成后，请求可以被划分为细粒度的集合，这样我们就更容易捕捉工作负载的变化并预测工作负载的波动。0工作负载预测在划分之后，请求被划分为不同的集合。每个集合都有一个用于预测请求到达率i的预测器。我们使用基于时间序列的方法进行预测。属于同一类的请求的总到达率可以通过以下公式计算。0k0i 1 i r （2）0预测结果用作资源分配的依据。多层服务模型负责计算每个层次所需的资源，资源分配器负责为每个层次进行分配。图1说明了我们系统的分配架构。03. 多层云服务的动态资源分配0动态资源分配方法需要根据工作负载变化来分配适当的资源以维持性能，以避免违反SLA。由于多层云服务的每个层次有不同的资源需求，我们的策略将每个层次作为一个独立实体进行特征化。我们使用第2节中提出的工作负载预测方法来预测每个层次的工作负载波动，然后计算每个层次所需的资源。 (3) (4) ...... 0238 Dandan Hu等人 / AASRI Procedia 5（2013）235-2420图1. 资源分配架构0我们将多层云服务建模为一个排队网络，并将SLA规定为95th百分位数响应时间保证。与平均响应时间相比，95th百分位数响应时间具有易于推理和捕捉用户对服务性能的感知的优点[11]。具体的资源分配步骤如下。步骤1-构建排队网络模型：假设一个多层云服务由M个层次组成，我们将应用程序建模为由M个G/G/1队列组成的排队网络。一个G/G/1队列代表一个层次。我们使用G/G/1队列，因为它可以捕捉任意的请求到达分布和服务时间分布。因此，它可以捕捉不同层次的行为。在G/G/1队列中，服务时间被假定为满足已知的固定分布。请求按先进先出的顺序服务。如果SLA要求95th百分位数响应时间应小于d秒，则最大请求到达率需要满足以下约束。01 2 b 2 a s 2d/3 s01 j0i 1 i0i 1 i m i s0在公式4中，s是平均服务时间，i是集合i中的到达率，可以通过工作负载预测方法获得，mi是集合i的均值。在公式3中，2 a是到达时间的方差，2b是服务时间的方差。由于d是已知的，可以通过将这些值代入公式1中来计算。得到。表示基准容量服务器可以处理的最大请求速率，以满足95th百分位数响应时间约束。然后我们可以计算所需资源与基准容量的比率m。0用户偏好0服务时间0日志0第1层0第N层0信息收集器0工作负载预测器0多层服务0资源分配器 (5) 0239 Dandan Hu等人 / AASRI Procedia 5（2013）235-2420r m0步骤2-资源分配：我们的分配逻辑以四种形式触发：定期触发，由请求量变化触发，由服务时间混合变化触发，由用户偏好变化触发。一旦触发分配逻辑，将计算每个层次的所需CPU、I/O和内存容量，然后资源分配器开始分配或重新收集资源。04. 实验评估0为了评估我们提出的策略的有效性，我们使用TPC-W基准测试来构建我们的实验平台。由于TPC-W的三种固有工作负载混合不能满足我们的实验要求，我们使用LoadRunner生成不同的工作负载混合。我们使用4台物理机构建了一个小型云。其中一台专用于运行资源分配策略，另外三台用于运行TPC-W的不同组件。所有机器的配置为4个Intel Xeon(TM) CPU3.60GHz处理器，2GB内存，70GB磁盘和Linux内核2.6.26。我们将我们的策略与基于服务时间混合的策略进行比较[10]。这两种策略都提供了由TPC-W的3个不同交互（“产品详情”，“搜索请求”和“购物车”）组成的1000个会话的相同工作负载，其中“产品详情”和“搜索请求”属于浏览交互，会对CPU造成压力，而“购物车”属于下单交互，会消耗更多的I/O资源。这三个请求的测量服务时间分别为2.0毫秒、4.4毫秒和4.5毫秒。在前40分钟内，“产品详情”的百分比将逐渐降低，而“搜索请求”的百分比将每十分钟增加。在接下来的40分钟内，“搜索请求”将被“购物车”所取代。在最后40分钟内，“购物车”将被“搜索请求”所取代。图2(a)显示了发送到TPC-W的请求混合。图2(b)显示了平均服务时间。图2(c)显示了分配资源与基准容量的比率，从中可以看出我们的资源分配策略可以更精确地分配资源并减少总分配的资源容量。图2(d)显示了服务的95th百分位数响应时间，并表明我们的策略可以满足95%的SLA，而在t=70分钟时，基于服务时间混合的策略违反了大部分的SLA。与[10]相比，在工作负载预测方面，我们additionally考虑了用户偏好对工作负载变化的影响。通过根据用户偏好和服务时间分别对请求进行分类和聚类，我们可以将请求分成不同的集合，然后使用时间序列方法来预测每个集合的工作负载，从而使预测更加准确。在资源分配方面，基于工作负载预测方法，我们可以精确预测不同资源的需求，并以精细和有针对性的方式进行资源分配。此外，还减少了总分配资源容量和SLA违规。05. 结论0我们主要研究虚拟数据中心中多层云服务的动态资源分配策略。我们分析了工作负载预测策略，并提出了一种基于用户偏好和服务时间混合的新型预测方法。通过将请求分类和聚类为细粒度的集合，可以提高预测的精确性，为资源分配提供基础。然后我们提出了我们的资源分配方法。我们将多层云服务建模为一个排队网络，并计算每个层次所需的资源。与基于服务时间混合的方法相比，实验结果显示我们的方法可以提高工作负载预测的精确性，减少分配的资源，并减少SLA违规。 0204060801001200102030405060708090 100 110 12001000200030004000500000.511.522.533.510 20 30 40 50 60 70 80 90 1001101200240 Dandan Hu等人 / AASRI Procedia 5（2013）235-2420239 Dandan Hu等人 / AASRI Procedia 5（2013）235-2420购物车0搜索请求0产品详情0图2(a)工作负载中的交互混合0服务时间（微秒）0时间（分钟）0图2(b) 平均服务时间0分配的资源/基准容量0混合感知CPU0混合感知内存0混合感知I/O0我们的CPU0我们的内存0我们的I/O0图2(c) 分配资源与基准的比率 0100020003000400050006000700080009000100000241 Dandan Hu等 / AASRI Procedia 5 ( 2013 ) 235 – 2420服务时间（毫秒）0时间（分钟）0我们的方法0混合感知方法0图2(d) 95th 百分位响应时间0致谢0本研究得到了中国自然科学基金（编号61063012），广西自然科学基金（编号2012GXNSFAA053222），广西大学人才支持项目（编号[2011]40）的支持。0广西自然科学基金（编号2012GXNSFAA053222），广西大学人才支持项目（编号[2011]40），广西省科学研究项目（编号[2010]10）。0参考文献0[1]R. Buyya, C. S. Yeo和S. Venugopal.面向市场的云计算：将IT服务作为计算实用工具提供的愿景，炒作和现实.第10届IEEE国际高性能计算和通信会议论文集, 2008, 5-13 [2]B. Urgaonkar, P. Shenoy, A. Chandra等.敏捷动态提供多层次互联网应用. ACM自主和自适应系统交易杂志, 2008, 1-39 [3]Jing Bi, Zhiliang Zhu,Ruixiong Tian等. 云中虚拟化多层次应用的动态供应建模. 2010年IEEE第3届云计算国际会议论文集, 2010, 370- 377 [4]W. Iqbala, M. N. Dailey, D. Carrera等. 云中面向读密集多层次应用的自适应资源供应.未来一代计算机系统杂志, 2011; 27: 871-879 [5]E. Kalyvianaki, T. Charalambous和S Hand.多层次虚拟化服务器应用的资源供应. 计算机测量组（CMG）杂志, 2010; 126: 6-17 [6]H. Goudarzi和M.Pedram. 多维SLA为基础的多层云计算系统资源分配. 2011年IEEE云计算国际会议论文集, 2011, 324 – 331[7]K. Joshi, M. Hiltunen和G. Jung. 面向性能的虚拟化多层应用再生. 预防性失败避免恢复和维护研讨会, 2009.[8]P. Lama和Xiaobo Zhou. 具有控制的高效服务器供应，以实现多层群集的端到端响应时间保证.IEEE分布式系统并行交易, 2012; 23: 78-86 [9]W. Lloyd, S. Pallickara, O. David等.基础设施即服务云中多层应用部署的性能影响：朝着性能建模. 未来一代计算机系统, 0242 Dandan Hu等 / AASRI Procedia 5 ( 2013 ) 235 – 24202013年; 29: 1254–1264 [10]R. Singh, U. Sharma, E. Cecchet等.用于非平稳数据中心工作负载的自适应混合感知供应. 第7届自主计算国际会议论文集, 2010, 21-30 [11]M.Welsh和D. Culler. 适应性繁忙互联网服务器的超载控制. USENIX网络技术和系统研讨会论文集（USITS）,2003, 43-57
我的内容管理
展开
