针对虚拟化数据中心的分析和建议弗雷德里克·杜蒙引用此版本：弗雷德里克·杜蒙。针对虚拟化数据中心的分析和建议并行、分布式和共享计算南特矿业学院，2016年。法语。NNT：2016EMNA0249。电话：01880572HAL ID：电话：01880572https://theses.hal.science/tel-01880572提交日期：2018年HAL是一个多学科的开放存取档案馆，用于存放和传播科学研究论文，无论它们是否被公开。论文可以来自法国或国外的教学和研究机构，也可以来自公共或私人研究中心。L’archive ouverte pluridisciplinaire博士论文弗雷德里克·杜蒙为获得以下文件而提交的备忘录南特国立高等矿业学院博士学位在南特昂热勒芒大学的标签下博士学院：信息科学与技术研究单位：南特-大西洋计算机实验室2016年9月21日论文编号：2016EMNA0249对中心的分析和建议虚拟化数据陪审团主席：M. Noël DE PALMA，格勒诺布尔约瑟夫傅立叶大学HdR教授报告员：Vania MArangozova-MARTIN女士，约瑟夫·傅立叶格勒诺布尔大学人力资源高级讲师M. Daniel HAGIMMONT，HdR教授，INPT/ENSEEIHT图卢兹考试员：Anne-Cécile ORGERIE女士，IRISA雷恩CNRS研究员M. Noël DE PALMA，格勒诺布尔约瑟夫傅立叶大学HdR教授M. Benoit PArrein，南特理工学院HdR讲师MartinDArgent，Easyvirt首席执行官博士生导师：M. Jean-Marc MENAUD，南特矿业公司HdR教授谢谢你本手稿中介绍的工作是首先，我要感谢Jean-Marc Menaud，他是我的论文导师，但最重要的是，他自2010年以来一直是一位杰出的导师（是的，已经是了!）。你是我的导师在硕士1模块题为"研究入门"，我做了我的第一个工作，在虚拟化领域。一开始，我不确定我是否做出了正确的选择，当我还是一名研发工程师的时候，你成了我J’ai ensuite intégré Ea- syvirt 感谢您的可用性，您的建议，您的意见，并指导我在我的没有你，这个CIFRE论文就还要感谢Easyvirt的首席执行官Martin Dargent，他在我还要感谢我的评审团成员：Vania Marangozova-Martin和Daniel Hagimont感谢大家花时间J’adresse最后，感谢我的父母让我走上我想要的道路，即使它并不总是模范的3材料表1简介131.1上下文。 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . ...131.2目标。 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . ...141.3贡献 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . ...151.4文件的。 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . ...161.5科学传播。 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . ...16我 上下文192云计算和虚拟化212.1云计算或 . . . . . . . . . . . . . . . . . ...212.1定义。 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . ...222.1.2服务水平。 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . ...222.1.2.1 IaaS -基础架构即服务。 . . . . . . . . . . . . . . . . . . . ...232.1.2.2 PaaS -平台即服务 . . . . . . . . . . . . . . . . . . . . . . ...232.1.2.3 SaaS -软件即服务 . . . . . . . . . . . . . . . . . . . . . . ...232.1.3IaaS系统。 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . ...232.1.3.1功能 . . . . . . . . . . . . . . . . . . . . . . . . . . . ...242.1.3.2监控 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . ...242.1.4虚拟化，云计算技术。 . . . . . . . . . . . . . . ...252.2虚拟化。 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . ...262.1定义。 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . ...262.2.2不同类型 . . . . . . . . . . . . . . . . . . . . . . . ...282.2.2.1类型1虚拟机管理程序 . . . . . . . . . . . . . . . . . . . . . . . ...282.2.2.2类型2虚拟机管理程序 . . . . . . . . . . . . . . . . . . . . . . . ...282.2.3资源的提供。 . . . . . . . . . . . . . . . . . . . . . . . ...292.2.3.1材料资源。 . . . . . . . . . . . . . . . . . . . . . . . ...292.2.3.2虚拟资源。 . . . . . . . . . . . . . . . . . . . . . . . . ...302.2.4虚拟机。 . . . . . . . . . . . . . . . . . . . . . ...332.3结论。 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . ...33二贡献353监控数据中心中的系统资源373.1性能计数器的研究。 . . . . . . . . . . . . . . . . . . . . . . . . . . ...383.1.1处理器计数器。... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ...383.1.1.1运行。 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . ...383.1.1.2准备就绪。 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . ...393.1.1.3等待 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . ...4056目录3.1.1.4合作停止。 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . ...403.1.2内存计数器 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . ...413.1.2.1术语。 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . ...413.1.2.2共享记忆页 . . . . . . . . . . . . . . . . . . . . . . . ...423.1.2.3。 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . ...433.1.2.4气球。 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . ...443.1.2.5，内存压缩。 . . . . . . . . . . . . . . . . . . . . . . . . . ...463.1.2.6交换。 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . ...463.1.3磁盘计数器。 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . ...473.1.3.1存储体系结构 . . . . . . . . . . . . . . . . . . . . . . . . . . ...47请访问3.1.3.2。 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . ...493.1.3.3磁盘延迟。 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . ...493.1.4网络计数器。 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . ...503.1.4.1网络结构。 . . . . . . . . . . . . . . . . . . . . . . . . . . ...503.1.5虚拟机管理程序。 . . . . ...503.2自我反省 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .523.2.1定义。 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . ...523.2.2背景。 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . ...523.2.3基于内省的主要框架 . . . . . . . . . . . . . . . ...533.2.4语义差距 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . ...543.3贡献。 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . ...553.3.1研究Linux下的内存管理。 . . . . . . . . . . . . . . . . . . ...553.3.2 Linux中进程管理的数据结构研究。 . . . ...583.3.2.1结构任务_结构。 . . . . . . . . . . . . . . . . . . . . . . . . . . ...583.3.2.2结构mm_struct。 . . . . . . . . . . . . . . . . . . . . . . . . . . ...583.3.3对LibVF的扩展。 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . ...593.4结论。 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . ...604系统资源分析614.1物理和虚拟4.1.1与处理器相关的异常分析4.1.1.1检测4.1.1.2在虚拟机管理程序级别检测4.1.1.3在虚拟机级别检测4.1.2与记忆相关的异常分析4.1.2.1主动记忆的详细研究644.1.2.2在虚拟机管理程序级别检测内存过度配置654.1.2.3在虚拟机管理程序级别检测内存争用4.1.3与椎间盘相关的异常分析4.1.3.1在虚拟机延迟664.1.3.2在虚拟机664.1.4与网络相关的异常分析4.1.4.1在虚拟。674.1.4.2重新配置虚拟机674.2数据中心的行为分析674.2.1第67条的现状4.2.2捐款694.2.2.1记录的痕迹694.2.2.2预先确定的行为714.2.2.3非典型行为72材料表74.3结论735实验755.1VMware75探头的评估5.1.1探头对VMware® vCenter77的影响5.1.2抽样持续时间对行为分析的影响5.2Linux78探测器评估5.3行为分析的评价5.3.1寻找预定的行为815.3.2寻找非典型行为835.3.3行为分析工具的评估结论896结论和展望916.1结论916.2前景936.2.1Docker能源研究936.2.2监督调查936.2.3能力管理936.2.4合并计划94图片列表3.1不同虚拟机管理程序中的计数器可用性513.2meminfo57计数器说明4.1数据695.1数据处理器消耗的775.2基于精度的785.3闲置虚拟机的百分比825.4繁忙、超大和超大型825.5懒惰虚拟机的百分比825.6对8个数据875.7分析8个数据879图表2.1云计算的类型242.2虚拟机管理程序体系结构类型1272.3虚拟机管理程序体系结构类型2283.1状态转换[VMw13]393.2内存使用示例3.3气球化插图[Wal02]453.4L’architecture stockage3.5虚拟和物理寻址示例3.6任务结构和mm结构594.1数据705.1VMware探测器对处理器活动的影响5.2内存消耗（KB）795.3meminfo和total_vm80中计数器的演变5.4K-MEANS分区845.5DCScope85分区11L1简介1.1上下文云计算是一种计算范式，旨在提供具有非常高计算能力的服务或基础设施。和存储，根据需求计费（即付即用模式）。不同的云计算产品主要基于3个级别：基础架构即服务（IaaS）、平台即服务（PaaS）和软件即服务（SaaS）。因此，云计算提供的服务可以从提供在线应用程序（SaaS）到提供在IaaS级别，云提供商将这些资源作为虚拟机（VM）提供。对于用户来说，虚拟机与物理机（称为"服务器"）完全相同。由于虚拟化技术允许有效地使用服务器资源（处理器、内存、网络I/O等），因此可以实现虚拟机的设置如今它们是成熟的产品，在企业数据中心中广泛使用对于IaaS服务提供商来说，提供虚拟机（VM）具有双重优势首先，与物理服务器部署相比，它可以在非常短的时间内部署虚拟机。其次，在同一台物理服务器上托管多个虚拟机，从而优化其运营和投资成本。这种快速、轻松的部署意味着IaaS中的虚拟机数量不断增长，根据内部研究，整合率约为每个逻辑核心3台虚拟机，即16个逻辑核心的服务器约为50台虚拟机数量的爆炸式增长促使管理员为自己配备分析工具，以管理成百上千EasyVirt的VMware® DCScope 前面提到的解决方案执行相同的分析，基于我们定义为"预定"的行为。事实上，它们是"预先确定的"，因为很难或不可能改变这些行为的参数。例如，在VCOps中，如果虚拟机的处理器和内存活动从未超过其容量的10%，则将其归类为空闲1314第一章。引言引用。为异构物理服务器共存的数据中心设置固定百分比是没有意义的。这些解决方案还有第二个缺点。它们不允许过滤噪音。虚拟机即使不再使用，也始终具有此活动可能来自操作系统对于管理员来说，能够根据其中心设置"预定义"行为并管理噪声的概念以改进所分析的虚拟机的行为检测是很重要的分析工具还必须能够识别具有非典型行为的虚拟机，以便在具有数百个虚拟机的池中容易地识别要监视的虚拟机事实上，我们知道，在全球范围内，同一数据中心中的虚拟机基本上都在做或多或少相同的事情。如果虚拟机的配置文件（系统资源消耗）与其他配置文件不同，则该虚拟机被称为非典型虚拟机。潜在地，非典型的虚拟机器可以通过其封装的应用程序（垃圾邮件分析器）的正常但独特的操作来解释，但是也可以由损坏或崩溃的应用程序动态、快速和自动地识别非典型虚拟机可以在中心的安全操作方面获得非常显著的收益监控物理服务器上的虚拟机消耗的系统资源也是确保IaaS平台正常运行的关键。典型的指标是处理器或内存占用率、磁盘和网络访问或容量。有许多工具可用于收集这些指标。它们可以根据三种不同但互补的方法进行分类。前者在虚拟机管理程序级别使用系统探测器。这些面向服务器的探测器允许收集有关一个或多个虚拟机的资源消耗的粗粒度数据虽然这些探测器的实现非常简单，但它们不允许收集在虚拟机中运行的进程的资源消耗。因此，第二种方法是在虚拟机内部安装探测器。这些面向进程的探测器以与服务器探测器相同的方式访问操作系统的度量。为了改进与云解决方案的客户端相比，传感器安装可能或多或少具有侵入性。系统探测器可以在没有入侵的情况下部署。进程探测器要求在应用程序探测器可能需要重写客户端应用程序在许多情况下，主要出于安全和维护原因，客户不希望在其虚拟机中安装不受控制的因此，云提供商只能安装系统探测器，从而失去了流程或应用程序探测器所能提供的精细分析1.2目标L’objectif为此，本文提出了四个子目标：• 高级性能指标：衡量和分析不幸的是，IaaS级别的可用指标非常 对于相同的资源，计数器的数量很重要。因此，我们必须了解每个计数器的语义，以便1.3. 捐款15选择代表虚拟机实际活动的活动• 非侵入式调查：部署在虚拟机管理程序级别这些探测器使我们能够收集性能指标，主要是处理器和内存资源。这些探测器的非侵入性允许在云提供商处进行无限制部署，因为它们不需要虚拟机中的任何代理• 行为分析：对我们区分两种类型的分析。第一种方法是查找具有预定行为的虚拟机。这些机器的活动符合已确定的标准。例如，这种类型第二种扫描会寻找具有非典型行为的虚拟机。这• 建议/优化：通过停止或删除这些设备，此分析还允许它通过调整虚拟机的大小，可以显著节省资源。实际上，可以在两个资源上执行调整大小：通过vPDU（虚拟CPU）分配的处理器资源1.3贡献本论文通过以下贡献实现了上述各种目标：• 性能指标研究：我们首先对VMware®中使用的指标进行了深入研究。首先，我们选择使用VMware®，因为它是企业中最常见的IaaS系统。后者有因此，为了更好地使用这些仪表，必须了解这些仪表之间的区别。在第二阶段，我们使用KVM。在KVM虚拟机管理程序上然后，我们研究了不同的内省库，Linux内核结构的研究并在Linux下的各种内存计数器上执行。在研究了不同的指标之后，我们开发了非侵入性的内省工具。第一个是使用VMware®提供的Java软件开发工具包开发的。借助此SDK，我们的传感器可以连接到基础架构，并根据之前选择的性能指标监控物理服务器和虚拟机的活动，直接从vCenter收集数据。第二个工具是从LibVMi库中开发的。它16第一章。引言• 实时跟踪收集和行为分析工具的开发根据这些数据，该解决方案可以在给定的时间段内实时分析预定义的行为。这些行为源自VMWare®规范和建议。然而，为了实际上，在基本定义中，行为检测是严格的（100%的点必须高于/低于特定阈值）。然而，一台机器虽然没有使用，但仍然有一些这不应影响分析。我们的解决方案还可以识别非典型虚拟机，即这种传统的数据分析方法1.4文档的组织本文档分为两部分。第一部分介绍了本文的背景。在第2章中，我们将讨论云计算和虚拟化的主题首先，对云计算进行了介绍。我们定义了云，并介绍了云提供的不同服务级别，其次，我们将重点关注虚拟化，这是云计算所基于的关键技术本节描述虚拟机管理程序的工作方式并第二部分介绍了围绕这一主题所作的各种贡献。第3章介绍了我们还讨论了我们对虚拟机内省的贡献，包括向LibVMi添加一个扩展，以便以非侵入性的方式精确测量KVM虚拟机管理程序中运行在第4章中，我们将讨论分析数据中心的不同方法第5章包括对我们不同贡献的评估最后，第六章通过回顾所做的各种贡献来结束这篇论文，并强调了1.5科学传播这篇论文已成为一份国际出版物和一份国家出版物的主题。在[1]中，我们介绍了我们围绕决策支持工具所做的工作，该工具在[2]中，我们详细介绍了基于非侵入式内省的系统探测器的开发本文介绍之外的工作也在[3]中进行。有阅读委员会的国际会议[1]弗雷德里克·杜蒙和让-马克·梅诺。为研究动态资源系统管理综合真实的云工作负载跟踪。2015年国际云计算和1.5. 科 学 传播17大数据，中国金山，2015年。[3]Ahmed El Rheddane，Noel De Palma，Fabienne Boyer，Frédéric Dumont，Jean-Marc Menaud，Alain Tchana整合服务的动态可扩展性。云计算国际会议，Indus Track，第01-09页有阅读委员会的法语会议[2]弗雷德里克·杜蒙、让-马克·梅诺、西尔维·拉涅普切。基于对虚拟机的内省，按进程监控内存和CPU使用情况。2015年，法国里尔，平行主义、体系结构和系统计算机科学会议
