云智能和物联网控制的五大挑战

ACM Transactions on Internet Technology，Vol.号201.第三条。出版日期：2020年2月云智能和控制面临的五大挑战TAREK ABDELZAHER和YIFAN HAO，伊利诺伊大学香槟分校KASTHURIJAYARAJAH和ARCHAN MISRA，新加坡管理大学PER SKARIN，隆德大学Shuochao Yao，伊利诺伊大学香槟分校杜兰加维拉孔，新加坡管理大学KARL-ERIK EURZÉN，隆德大学连接的嵌入式设备或物联网（IoT）的激增，以及最近的广告，万斯在机器智能，将改变未来云服务的轮廓，并推出各种3新的研究问题，无论是在云应用程序和基础设施层。这些问题集中在通过明智地利用云资源，使资源有限的设备能够在传感和控制方面表现出智能行为。云服务将支持从数据中学习、执行推理和执行控制，所有这些都能保证结果。本文讨论了这些新兴服务，并概述了在物联网时代实现和优化智能云辅助传感和控制的五个新研究方向。CCS概念：·网络→网络服务;云计算;·计算方法学→机器学习;·信息系统→信息系统应用;移动信息处理系统;过程控制系统;附加关键词和短语：物联网，深度学习，边缘智能，智能控制ACM参考格式：Tarek Abdelzaher，Yifan Hao，Kasthuri Jayarajah，Archan Misra，Per Skarin，Shuochao Yao，DulangaWeer-akoon，and Karl-Erik Karzén. 2020.云智能和控制的五大挑战。ACM Trans.互联网技术。20，1，第3条（2020年2月），19页。https://doi.org/10.1145/3366021作者按顺序列出Per Skarin和Karl-Erik Karrzén对期刊修订的贡献最大本材料部分得到新加坡总理办公室国家研究基金会在其新加坡国际研究中心资助倡议下的支持它还得到了瑞典Nordforsk大学网络HI2OT的部分支持。这项研究也得到了NSF的资助，资助金额为CNS 16-18627和CNS 13-20209，部分由美国国家科学基金会资助 陆军研究实验室根据合作协议W 911 NF-09-2-0053和W 911 NF-17-2-0196，部分由WASP（瓦伦堡AI，自主系统和软件计划）资助，由Knut和Alice Wallenberg基金会资助。本文件中包含的观点和结论是作者的观点和结论，不应被解释为代表赞助商、陆军研究实验室、NSF或美国的官方政策，无论是明示的还是暗示的政府的美国尽管本文件载有版权注释，政府仍获授权为政府目的复制及分发重印本作者地址：T. Abdelzaher，S. Yao和Y.伊利诺伊大学香槟分校计算机科学系，201 N。Goodwin Ave，Urbana，IL61801 ， USA;Jayarajah ， D.Weerakoon 和 A. 新 加 坡 管 理 大 学 信 息 系 统 学 院 ， 80 Stamford Road ， 178902 ，Singapore;Skarin和K.-E. 瑞典隆德大学自动控制系，Ole Römers väg 1，M-huset，Lund，允许免费制作本作品的全部或部分的数字或硬拷贝，以供个人或课堂使用，前提是制作或分发副本的目的不是为了盈利或商业利益，并且副本的第一页上有本声明和完整的引用。本作品的版权归ACM以外的其他人所有，必须予以尊重。允许使用学分进行摘要。以其他方式复制、重新发布、在服务器上发布或重新分发到列表中，需要事先获得特定许可和/或付费。从permissions@acm.org请求权限。© 2020计算机协会。1533-5399/2020/02-ART3 $15.00https://doi.org/10.1145/3366021ACM Transactions on Internet Technology，Vol.号201.第三条。出版日期：2020年2月第三章：T. Abdelzaher等人1介绍越来越多的云应用将是支持边缘智能的应用。这些应用是由三个全球趋势的融合所带来的：（i）连接的嵌入式设备的激增，（ii）对智能传感和控制解决方案的需求日益增长，以解决从家庭自动化到工业控制的广泛问题，以及（iii）新兴的5G无线基础设施提供的类似LAN的速度，打破通信障碍并更好地支持计算卸载。这些方向将改变云工作负载的性质，激发新的研究挑战[1]。在这个设想的世界中，嵌入式设备（或这些功能将带来诸如语言设备控制、用户身份验证和基于手势的人机通信等功能控制回路将通过将简单的反射式功能（确保安全性）与更多涉及计算的规划、推理和学习功能（随着时间的推移提高性能并提供额外的保证）分离来闭合这些目标将通过在传感和控制方面卸载（较重的）机器智能和优化任务来实现事实上，嵌入式IoT设备的资源受限性质与上述交互的计算需求之间的差距表明，数据处理将越来越多地卸载到外部服务器。今天，这种服务的前身包括用于家庭控制聊天机器人的语音识别Amazon Echo和Google Home）以及移动电话的语言翻译（例如，SIRI和Google Assistant）主要在云端完成随着边缘计算的日益普及，外部服务器可能会更靠近客户端，一些功能将被在控制方面，将使用深度强化学习等计算量大的技术来学习改进的控制策略这些学习的技术将设置更简单的控制器的参数值，这些控制器本身可以在更靠近其客户端（受控过程）的地方执行例如，诸如购物中心的管理服务之类的企业可能托管自己的边缘服务器，以满足其本地IoT设备的信息处理和驱动需求在传感方面，这些设备可能包括商场监控摄像头、向客户建议更合身物品的智能试衣间、提供目录帮助的基于音频的聊天机器人，以及客户支持这种用户交互的推理模型可能会被下载（在简化以减小大小之后）到参与这些交互的各个IoT设备，作为“缓存”的一种形式在控制方面，基础设施可能会运行强化学习算法来优化诸如商场照明、颜色、温度和背景音乐等驱动决策，以最好地补充商品，鼓励更高效的客户流，并创造更好的购物体验。本文介绍了实现上述愿景所面临的主要研究挑战。我们专注于将机器学习和控制即服务引入整体框架所面临的挑战。在构建可行的分布式物联网服务基础设施方面，更广泛的研究挑战显然更加通用。必须解决隐私、安全、可靠性和可用性等问题。为了保持本文的重点，我们将自己限制在实施机器智能和控制服务以支持未来跨越嵌入式设备，边缘计算和云层的多层物联网应用程序所带来的挑战。一个主要的主题在于关键服务功能的计算卸载，同时降低服务成本的各个方面。我们将这些挑战称为云智能和控制挑战。本文的其余部分组织如下：为了设置一些上下文，第2节介绍了所讨论的支持云的智能和控制服务的关键架构假设云智能和控制面临的五大挑战第三章：ACM Transactions on Internet Technology，Vol.号201.第三条。出版日期：2020年2月第3节至第7节讨论了五个关键挑战：（i）学习，（ii）质量保证的感知，（iii）控制和优化，（iv）闭环保证，以及（v）协作执行。我们在第8节中总结并概述了其他可能的未来工作。2核心架构为了为即将到来的挑战讨论设置背景，我们在下面提出了一些广泛的架构假设。与物联网的常见定义一致，这里考虑的硬件基础设施在最低级别包括一组传感器和执行器设备，包括低端嵌入式设备，如小型传感器和RFID，以及更强大的设备，如执行器，相机，智能手机，移动机器人，工业机器人，本地控制设备，甚至车辆。然而，它们都具有这样的特性，即它们具有与手头的任务相关的有限的计算和/或存储容量，因此需要支持卸载。这些设备可以使用蜂窝无线电技术（如4G/LTE或5G）直接连接到互联网，也可以使用Wi-Fi、Zigbee或蓝牙与专用边缘节点通信边缘节点可以参与卸载或充当到因特网的网关在软件方面，虚拟化的进步提出了一种架构，其中计算可以放置在边缘节点或本地边缘数据中心的任何地方（例如，一个连接到无线电基站）到传统的远程数据中心，甚至可能在核心网络节点之间。这种软件模型有很多名称，包括Edge、Cloudlet或Fog架构[28]。由于网络功能虚拟化（NFV）趋势[7]，核心通信网络内的本地数据中心正在成为现实，其中网络功能（例如，域命名功能、高速缓存、入侵检测功能和防火墙）使用虚拟化软件和云技术而不是作为单片硬件和软件组件来实现。在类似5G的框架中，NFV的定时约束要求这些计算位于靠近无线无线电基站的位置。图1显示了最终的系统架构。该架构的资源特性如下：执行计算的距离越近，通信延迟越长，计算延迟越短（更强大的服务器），计算容量越大。更多服务器（More Server）存储资源也存在同样的关系。越靠近远程数据中心，存储容量就越大。然而，由于法律原因和隐私问题，许多应用程序对数据的存储位置有限制。例如，一些数据可以仅存储在设备的非常接近的附近，或者其他数据可以仅存储在位于某个地理区域中的节点中。3挑战一：学习即服务如何将学习作为一种通用服务来实施？答案可能取决于学习算法的类型和应用程序的类型为了提供更具体的示例，在本节中，我们将特别关注具有丰富传感数据的物联网应用的深度学习在数据丰富的背景下，在可预见的未来，深度神经网络可能会越来越多地用作机器智能这一选择的动机是深度学习作为最先进的计算智能解决方案的出现，适用于大量物联网应用[26]。除了使用深度学习技术处理图像和语音方面的突破外[8，10]，还设计了特定的神经网络结构来融合多种传感模式并提取时间关系[22]。越来越多的关于在网络物理系统（CPS）和物联网领域应用深度学习的研究[12，22，24，27]使其成为实现智能功能的主要候选人最重要的是，深度学习解决方案只需要很少的第三章：T. Abdelzaher等人ACM Transactions on Internet Technology，Vol.号201.第三条。出版日期：2020年2月图1.一、系统架构，参考文献[2]。定制和参数调整，使其方便作为通用的智能支持引擎。深度学习的一个有趣的优势在于，神经网络提供了学习服务实现的一个很好的可移植表示。很像语言虚拟机（例如，Java和Python），新的服务将允许以有效的中间形式表达处理/推理任务：我们认为，这种形式可能是神经网络模型。该模型指定了网络拓扑和边权重，以及其他超参数，如所使用的激活函数的类型。有了这些参数，就有可能实现推理算法（由模型指定），执行分类、预测、估计或控制功能。通过将神经网络分布在多台机器上，可以进一步分布服务实现。然后，云服务可以完全或部分地从IoT设备卸载机器学习算法（诸如分类器或预测器）的训练和/或执行，以基于设备数据（诸如视觉输入、语音或手势）来进行无数常见的估计和识别任务客户端会要求服务（i）生成深度神经网络模型（从客户端提供的训练数据），（ii）帮助（自动）标记数据集，以及（iii）执行模型简化（如果需要缓存）。生成的模型可以在服务器、客户端或任何支持“神经网络虚拟机”的设备上适当地执行服务器上需要系统支持，以实现推理任务的有效调度（实时对传入的客户端提供的数据执行神经网络模型调度器可以最大化适当定义的效用概念，以提高推理结果的质量还需要一些辅助功能，比如分析。它们将允许增强的（神经网络）模型参数化，以提高准确性和/或成本。深度学习框架与其他解决方案相比至少还有两个优势可以说，在许多情况下，人们可以使用物理定律从传感器数据中导出所需的推理结果。例如，在位置估计任务中，可以对包括加速度计数据的输入进行二重积分以获得速度和位置。这种方法的问题是双重的。首先，它们要求开发基础物理现象的特定应用模型并提供给服务。其次，它们依赖于对噪声的精确模型的理解。大多数估计器对噪声的统计分布做出假设，只有在满足这些假设时才能提供准确的结果。在复杂的环境中，噪声很难建模。它可能是非线性的、非加性的、相关的和有偏差的。深度学习的最新结果表明，网络可以学习·云智能和控制面临的五大挑战第三章：ACM Transactions on Internet Technology，Vol.号201.第三条。出版日期：2020年2月非常复杂的非线性关系，允许更好地从噪声中提取信号（即使两者以复杂的非线性方式交织在一起）[22]。最重要的是，这种提取是完全自动化的，因此不需要人工干预或专业知识。此外，与其他依赖于智能输入特征设计（以支持预期的估计或分类任务）的机器学习方法不同，深度学习具有能够直接摄取原始数据并通过调整链接权重来自动组合相关特征的优点。因此，在特征工程中消耗较少的人力。在一个由数据和计算设备主导的世界里，通过使用机器来节省人类的认知带宽是一个很好的权衡。考虑到这一点，我们描述了实现深度智能即服务所需的两项关键任务我们认为，这些任务构成了服务的核心，虽然额外的（更一般）的挑战应该得到解决，包括隐私，安全性和可用性，在一个典型的服务实现。3.1培训和数据标签为了便于从嵌入式设备收集的数据中学习，训练和数据标记服务将在后端执行，以产生各种推理和估计任务所需的（经训练的）神经网络最基本的服务是从客户端摄取标记的原始数据，并在服务器上训练最终的神经网络模型由于手动标记大量数据的成本很高，因此另一项服务是帮助自动标记。最近的工作表明了自动化这些服务的可行性：培训：在许多情况下，物联网设备已经收集了大量的传感数据（例如来自安全摄像头的视频片段）。通常，标签是可追溯的（例如摄像头上捕捉到的各种安全漏洞的实例这为训练系统以在将来识别（并警告）类似情况提供了机会最近在DeepSense [22]中讨论了这种服务的可行性，DeepSense是传感器融合系统的通用学习框架它集成了卷积神经网络（CNN）和递归神经网络（RNN）来提取输入信号的时空特征感官数据被对齐并划分为时间间隔进行处理。对于每个间隔，DeepSense首先将单个CNN应用于每个传感器数据流，对相关的局部特征进行编码。然后将（全局）CNN应用于相应的输出，以对多个传感器之间的交互进行建模，以实现有效的传感器融合。接下来，应用RNN来提取时间趋势。智能物联网应用通常需要两个重要功能：估计和分类（分别取决于所寻求的结果是连续的还是分类的因此，在最后阶段，DeepSense使用仿射变换或softmax输出，这取决于输出是估计还是分类结果。因此，为了从时间序列数据进行估计或分类的目的，可以执行复杂的多传感器融合任务标签：深度学习方法的一个普遍缺点在于需要大量的大量的标记数据。为了从经验测量中很好地学习，神经网络必须给出足够数量的标记示例，是要估计的。由于参数的数量很大，所以所需的标记示例的数量也很大。为了使深度学习服务实用化，一个关键的挑战是减少对标记数据的需求。人们可以通过采用最近提出的方法来解决这一挑战，该方法使用生成对抗网络（GAN）从大多数未标记的数据中学习[25]。未标记数据携带输入空间结构的信息通过将其与标记数据叠加，可以更好地观察输入数据簇的出现···第三章：T. Abdelzaher等人ACM Transactions on Internet Technology，Vol.号201.第三条。出版日期：2020年2月对应不同的标签。因此，集群内的少量标记点可以使用这种直觉，GAN通过玩一个逐步细化的游戏来学习，其中点被虚拟地聚类，并且聚类分离的规则。在这个博弈中，一个实体为未标记的样本提供标签，而另一个实体试图将结果标记的样本与原始标记的样本区分开来。随着游戏的进行，两个实体相互学习，最终产生难以伪造的标签。实证结果表明，这些最终人工生成的标签（对于最初未标记的数据）有助于提高学习应用程序的准确性，几乎与地面实况标签本身一样多[25]。该方法显著降低了学习服务对大量标记数据可用性的依赖，从而允许利用更容易获得的未标记数据。自动化深度学习和标记服务的局限性仍有待研究，但初步证据表明，与更传统的机器学习方法相比，它们是有效的，即使在大多数数据未标记的情况下也能很好地工作。3.2模型简化和缓存一旦经过训练，深度神经网络就可以用于执行复杂的估计、预测、检测或识别/分类任务。深度学习技术产生的典型网络非常大。它们可能包括数百层，每层可能由数千个节点组成。因此，它们需要在资源充足的机器上执行，从而导致终端设备之间的通信（例如，传感器进行新的观察）和资源充足的后端，每次设备需要在新的数据项上运行服务时。在终端设备的通信带宽不充足的环境中，在本地执行一些推理任务是有利的。这种需求要求将相关的神经网络模型减少到适合终端设备的足迹;因此，需要模型减少服务。一个有效的神经网络模型简化服务的可行性归因于两个观察。首先，通常情况下，传感器观察到的现象在低维流形上演化。在这种情况下，大型神经网络是一种过度破坏，压缩是可能的。其次，在许多应用中，设备的最频繁输入仅占更大潜在输入空间的很小一部分。例如，在用户典型地给出是/否回答的服务中，识别诸如“是”和“否”相对于两者都不（指除这两个之外的所有其他话语）的响应应该比区分所有可能的口语单词更容易。在这种情况下，深度学习方法产生的神经网络可以在不显著损失准确性的情况下减小与缓存非常类似，简化的网络模型可以在资源有限的嵌入式设备上本地运行以处理公共输入（例如，在上面的例子中识别“是”和“否”）。不常见事件的识别（例如，换句话说）的出现被视为触发服务器上的完全网络执行的高速缓存未命中。在深度神经网络经过训练后，人们进行了几次尝试来简化它们。通常，压缩服务移除具有低权重的边。移除会产生一个稀疏矩阵（以表示神经网络），其中大多数单元为零。矩阵的稀疏性允许减少存储和计算时间。不幸的是，先前的工作已经表明，这些减少并不与稀疏矩阵中零条目的分数成比例地缩放[27]。这是因为稀疏矩阵代数不如稠密矩阵代数有效因此，随着矩阵变得稀疏，引入额外的开销以利用稀疏性（与密集时相比），从而抵消一些节省。模型简化服务的一个有前途的解决方案是删除神经网络中的节点而不是边来修复云智能和控制面临的五大挑战第三章：ACM Transactions on Internet Technology，Vol.号201.第三条。出版日期：2020年2月上面的稀疏矩阵问题。从神经网络中删除整个节点相当于从相应的矩阵中删除整个行/列。这产生了一个新的矩阵，也是密集的，但具有较小的维度。该方法被证明在减少资源消耗而不降低质量方面更有效[27]。因此，所得到的紧凑型神经网络模型适合在资源有限的节点上执行为了使缓存自动化，系统必须决定什么构成频繁的推理任务。推理模型（即，神经网络）然后可以被缩减并高速缓存。在实施这一机制时出现了几个有趣的问题。例如，系统应该在什么时候确定一个项目或一组项目是频繁的？项目集应该有多小或多大才值得开发一个简化模型？如何根据本地设备的能力及其通信链路的带宽自动调整上述两个问题的答案？最后，什么时候应该从设备中删除缓存的模型？这些问题是今后工作的一个主题。4挑战II：感知质量保证传感和控制应用的复杂性以及学习组件的存在导致了一个非常重要的挑战：如何保证结果的质量此外，在云辅助执行产生成本的环境中，重要的是要了解所产生的资源需求和结果质量之间的这一需求带来了几个关键的研究机会。4.1分析支持回到深度学习的例子，在服务器端，执行效率的考虑表明需要理解神经网络结构和执行开销之间的关系。先前的工作已经表明，简单地计算处理中涉及的神经网络参数和/或总FLOP的数量并不能很好地估计执行时间，因为这些预测器和执行时间之间的关系是高度非线性的[23]。表1（从参考文献[23]重新产生）显示具有相同数量的FLOP的神经网络（例如，CNN1和CNN2）在执行时间上可能会有很大的不同。事实上，具有较少FLOP的网络可能需要更长的时间来执行（例如，CNN3与CNN4相比）。理解神经网络参数设置之间非线性关系的原因并且由此产生的执行时间、能量和存储器消耗是开发有效的深度学习服务实现的关键。人们可以利用最近的工作[23]，通过实现自动分析系统来解决上述挑战，该系统将执行模型分解为分段线性区域，并在每个区域内的（自动识别的）相关神经网络参数上使用回归来开发该区域执行时间的预测模型。可以开发类似的方法用于建模/最小化能量或存储器消耗。这样的分析工具将优化服务器端的性能（因为它通常无法访问客户端的分析结果）。例如，利用所识别的非线性行为，可能会增加神经网络的大小和准确性，同时减少其执行开销（如表1中CNN4与CNN3的比较所示）。4.2结果质量评估要评估资源成本和成果质量之间的平衡，仍然需要评估质量由学习模型产生的推理结果。为了支持关键任务应用程序，服务必须提供原则性的不确定性估计，以忠实地反映其预测的正确性。需要提供从深度学习模型获得的结果的准确不确定性估计的方法。此外，不确定性估计必须是资源有效的。第三章：T. Abdelzaher等人ACM Transactions on Internet Technology，Vol.号201.第三条。出版日期：2020年2月××表1. 卷积层的执行时间，内核大小为3 3，步幅为1，填充相同，输入图像大小为224 224Nexus 5手机通道内输出信道FLOPs时间（毫秒）CNN1832452.4M114.9CNN2328452.4M300.2CNN366323，732.3百万908.3CNN443644，863.3百万751.7最近，提出了一种用于多传感器数据融合的校准良好且有效的不确定性估计算法，称为RDeepSense [24]（作为DeepSense [22]的扩展）。它发出分布估计而不是输出层的点估计。直观地说，该算法用随机变量对节点输出进行建模，并估计其分布参数。对随机变量均值的估计是传统学习所做的。然而，对方差的估计是对结果产生信心的原因。较小的估计方差对应于计算均值的较高置信度。有趣的是，均值的估计和方差的估计是相互关联的。通常，估计器通过最小化某个误差函数来联合确定两者函数选择对这两个参数的估计精度有重要影响具体来说，使用常见的误差函数-如均方误差-被证明低估了不确定性。之所以如此，是因为这样的估计量预测了一个非常准确的平均值。如果平均值估计得很好，那么在训练数据的平均值周围观察到的方差很小，因此可能会低估稍后在测试过程中遇到的方差相比之下，当使用非线性误差函数时，例如负对数似然，估计的平均值通常是有偏差的（因为非线性对一侧的错误惩罚大于另一侧的错误，导致估计的平均值向严重惩罚侧漂移偏置的（即，不正确的）均值估计会导致均值周围的测量方差增加，从而导致人为夸大的不确定性估计。人们可以利用上述直觉来得到既不低估也不高估真实值的方差估计。其思想是使用上述两个误差函数（即均方误差和负对数似然）的加权和作为组合损失函数[25]。权重被调整（校准），使得低估和高估大致抵消。RDeepSense被证明可以生成非常好的不确定性估计，可以为深度学习器的输出定义准确的置信区间在深度学习结果中计算置信度的能力提供了另一种有趣的资源优化可能性。也就是说，可以将深度神经网络构造成阶段，每个阶段由若干层组成，并且在每个阶段之后计算（中间）结果的置信度。一旦报告了足够高的置信度，就可以跳过剩余的执行。阶段。例如，考虑一个深度神经网络，其工作是识别景观中人类的存在。在某些图像中，人类的存在可能比其他图像更容易识别。因此，可能需要对某些图像执行较少的阶段以达到结果的可接受置信水平。4.3保证质量的运行时推理将分析和质量评估放在一起，就有可能提供一个质量有保证的运行时推理服务。目标是以所需的质量程度执行推理的云智能和控制面临的五大挑战第三章：ACM Transactions on Internet Technology，Vol.号201.第三条。出版日期：2020年2月图二、深度智能服务中效用最大化的架构服务将接受来自终端设备的数据，终端设备可以选择将推断处理卸载到服务器，并将推断结果与置信度估计一起返回。一个重要的设计考虑因素是可伸缩性，它要求执行效率。最近关于深度学习的研究表明，结果准确性的提高随着神经网络深度的增加而减少[8]。因此，效率方面的考虑表明，一旦达到了所需的质量，服务就应该避免执行额外的层。一个想法是以优化总效用的方式调度推理任务。图2描述了最终的整体运行时推理架构。如图2所示，深度神经网络分为多个层。这些层被分组为少量的阶段（每个阶段具有多个层）。在每个阶段结束时，附加一个薄的softmax函数层，以计算选定内部层的分类以及此类分类的置信度调度程序决定执行多少阶段以避免收益递减。在参考文献[1]中更详细地描述了该架构。5挑战三：溢流优化和控制为了补充到目前为止所描述的挑战，重点是从传感器数据中进行智能（开环）推理就像智能传感一样，某些控制功能可以卸载到更有能力的节点。因此，虽然前面的部分集中在神经网络模型作为表征（计算其参数），卸载或缓存的元素，但在本节中，我们认为控制器是该元素。下面，我们将探讨控制模型的特征，并给出客户端、边缘和云节点之间合作执行这些模型的几个示例。5.1控制特性首先要问的问题是，什么类型的控制可以从卸载中受益在工业过程控制中，基本控制通常由比例、积分和微分（PID）控制器提供。第三章：T. Abdelzaher等人ACM Transactions on Internet Technology，Vol.号201.第三条。出版日期：2020年2月这些控制器需要非常少的计算（例如，大约15-20行C代码对于一个好的PID控制器来说就足够了，包括逻辑安全网络的代码）。这同样适用于家庭自动化中的控制，其中经常使用甚至更简单的控制器（例如，开关控制器、比例控制器或积分控制器）。对于这些类型的控制器，卸载是不值得的。然而，有许多控制回路的例子，其中卸载是现实的。一个这样的例子是当一个（可能是简单的）控制器与本文前面描述的那种更复杂的传感器交互时。在这一类中，控制器是基于视觉反馈的。考虑将相机用作传感器。可能需要计算密集型图像处理。例如，在自动驾驶汽车中，深度神经网络可以用于从视频流中提取对象信息，以识别障碍物，确定其他车辆的位置和轨迹，并最终控制自动驾驶汽车的轨迹。另一个例子是基于优化的控制。在这里，控制算法包括在线解决一个优化问题.该优化问题的计算需求最简单的情况包括一个线性受控过程和一个具有二次成本函数和线性约束的优化问题。这就产生了一个二次编程问题，其中非常有效的求解器然而，即使使用最先进的求解器，计算时间也可能会有很大变化，这取决于约束是否有效。在非线性过程的情况下，可以使用一组线性优化问题之间的增益调度，或者必须制定非线性优化问题。后者可能非常耗时，并且需要比本地设备上可用的更多的计算资源。第三个例子是基于使用机器学习导出的模型的控制这里，许多设置是可能的。一种可能性是使用自回归移动聚集（ARMA）模型的非线性神经网络等效物来线性单输入单输出（SISO）过程的ARMA模型由下式给出：y（k）+a1y（k−1）+···+any（k−n）=b0u（k-d）+···+bnbu（k-d-nb），（一）其中y（k）是在时间k的过程输出，u（k）是在时间k的过程输入，n是过程的阶数，d是过程的极点过剩，并且nb是过程的零点的数量使用（可能是深度的）递归神经网络（RNN），可以获得相应的非线性过程模型：y（k）=RNN（y（k− 1），.，y（k-n），u（k−d），.，u（k-d-nb））。（二）然后可以训练该模型，例如，通过观察真实的过程输入和输出作为训练数据，使用随机梯度下降。该模型还可以扩展到以ARMAX模型（具有外源输入的ARMA模型）的形式覆盖噪声。基于机器学习的控制的另一个例子5.2控制器卸载的挑战和机遇卸载控制器的一般问题是其引起的从感测到致动的延迟增加。控制性能和稳定性主要取决于延迟和延迟的变化，也称为抖动。延迟时间越长，性能越差通常可以部分补偿延迟的影响，但永远无法完全消除。一般来说，抖动越小，补偿就越容易。云智能和控制面临的五大挑战第三章：ACM Transactions on Internet Technology，Vol.号201.第三条。出版日期：2020年2月卸载的第二个问题，特别是当涉及无线网络时，是完全失去连接到受控过程的本地设备与计算已经被卸载到的节点之间的连接性的风险。许多控制应用是任务关键的，并且要求控制器对干扰和命令（例如，设定点或参考信号的变化）。因此，被卸载并远程执行的控制（例如，在边缘或在远程数据中心）由在本地设备上执行的本地控制器补充，该本地控制器能够在连接丢失的情况下提供某种基本级别的性能。与此相关的问题还有何时在本地和远程控制器之间切换，以及切换的决定应该基于哪些信息。与此相关的问题是由网络中不同节点之间的卸载计算的迁移引起的延迟特性的动态变化，资源负载平衡和其他云工件。这意味着等待时间将不仅由于变化的计算时间而变化（例如，在优化算法中）和通信延迟（例如，由于分组冲突），而且还由于计算位置的改变和变化的请求接纳时间。然而，使用云计算进行卸载也有几个优点。云和边缘/雾提供的无限计算和存储资源的幻觉为控制应用程序开辟了许多有趣的可能性。资源可以用于执行更高级的控制策略（例如，基于在线优化和使用大量数据集的学习）而不是在本地设备上可能的。云可以根据问题扩展资源，并为每次计算实施有效的策略这允许控制器评估计算要求太高而无法在本地执行的复杂问题。通过通信网络提供的信息（例如，附加的更复杂的模型和关于其它类似应用类型的信息）可以被合并并用于改进控制，避免了将该信息传送到本地设备的开销和潜在的问题。5.3学习控制学习技术在闭环控制中的应用有着悠久的历史。最早的例子之一是在20世纪60年代中期提出的双重控制[5]。术语对偶是指控制器需要在线识别或估计过程的模型，并利用该模型来控制不确定性下的过程。这种权衡与机器学习社区中所谓的探索和利用之间的权衡相同。对偶控制问题的最优解可以使用值函数和动态规划[3]找到。在20世纪70年代，双重控制在控制研究界相对流行，但由于这种方法受到维数灾难的影响，这种兴趣很快就因当时缺乏计算能力而衰减。相反，焦点转移到基于最优对偶控制问题的近似或重构的自适应控制公式。在过去的10年里，对基于学习的控制的兴趣激增，主要是由于强化学习（RL）在各种应用中取得了成功[21]。这一成功的一个主要原因是基于硬件加速和云技术的大规模计算设施的可用性，这些设施现在可用，但在20世纪70年代还没有RL与对偶控制有许多这两个框架都是基于动态规划的，对于这两个框架来说，勘探和开发之间的权衡是必不可少的（参见参考文献[17]进行比较）。然而，RL的主要成功是在状态空间和动作空间是离散的应用中发现的，例如，不同的游戏应用程序，如Atari [15]，用于围棋的AlphaGo [19]和用于下棋的AlphaZero [18]。在那里，结果是惊人的，远远超过了最好的人类玩家。然而，一旦状态和/或动作空间是连续的，结果就不那么令人信服了。此外，对于离散域应用，第三章：T. Abdelzaher等人ACM Transactions on Internet Technology，Vol.号201.第三条。出版日期：2020年2月≈Σ Σ Σ ΣJ=uxiQxi+uiRui+xk+NPxk+NI=k非常常见的是状态空间的大小太大以至于不能显式地表示，例如，Go的状态空间的大小是10170。相反，使用某种函数近似方法来近似值函数，例如，深度神经网络，然后离散和连续状态空间的应用之间的差异例如，谷歌和DeepMind目前正在开发基于RL的系统，用于自主数据中心冷却控制[13]。因此，如第3节所述，支持物联网机器学习应用卸载的通用深度NN服务也适用于基于在线学习的控制。5.4优化控制一种越来越流行的控制技术是基于优化的控制。在这里，在每个采样时刻重复地解决最优化问题被公式化，使得其最小化受到控制和约束下的过程的动态的一些成本函数，例如，控制信号、过程输出或过程状态。根据流程模型和成本函数，这可能或多或少耗时。通常还使得执行优化所花费的时间取决于约束被违反的程度而变化，即，越接近违反约束，解决优化问题所花费的时间就越长。最常用的基于优化的控制形式是模型预测控制（MPC）[16]。在一般情况下，假设过程是线性的，并且在过程状态和控制信号中要最小化的成本函数是二次的。这导致凸优化问题。离散时间线性模型预测控制（MPC）由等式（3）指定它使用成本函数l（xk，uk）=xTQxk+uTRuk，应用于最终状态的成本P（称为K K终端成本）、由矩阵A和B定义的系统模型、以及分别由矩阵向量对G，D和H，h设置的不等式和等式约束。成本矩阵Q惩罚远离期望状态的移动，而R惩罚控制信号。尽量减少k+。N−1T T T受xi+1=Axi+BuiG XI≤д，H xi=h。（三）ui ui在每个样本处执行优化，并且来自优化的输出是应当应用于从时间步长k+1到k+N的过程的控制信号的时间序列，其中N是预测时域。然而，通常仅使用序列中的第一个信号并将其作为过程的输入剩余的信号被简单地丢弃，并且在下一采样时刻重新执行整个操作后者是在MPC方法中产生反馈属性的原因一个仍然经常被讨论的问题是如何选择预测范围N。小的时域意味着更快求解的更小的优化问题，但是这可能导致不稳定的闭环控制系统和不可行的优化问题，即，其中不可能找到满足约束的解决方案较长的时间范围在稳定性方面是有利的，但会产生更大的优化问题，需要更长的时间来解决。预测范围可以被视为MPC的超参数与大多数其他控制器类型相比，MPC所需的大量计算时间使其成为卸载的自然候选者。在下一节中，将介绍一种用于卸载MPC计算的云辅助方法，该方法将延迟变化和连接损失纳入到云智能和控制面临的五大挑战第三章：ACM Transactions on Internet Technology，Vol.号201.第三条。出版日期：2020年2月在边缘和云之间存在延迟和连接中断的情况下，提供闭环行为保证。6挑战四：闭环保证控制器卸载中的一个关键挑战是即使在存在不可预测的延迟或连接丢失的情况下，也要对闭环性能提供一些保证。具体来说，我们将解决保证闭环稳定性的问题。稳定性通常要求控制回路保持闭合。因此，一般的解决方案是使用本地控制器，当通信丢失或延迟太长时，该本地控制器可以从远程控制器接管。一个挑战是要了解这种混合方案可能提供稳定性保证的条件。除了稳定性之外，还可以考虑其他保证，例如最坏情况下的响应时间、最大过冲或最坏情况下的建立时间。控制理论提供了丰富的文献，用于在控制物理[4]和计算[9]系统的背景下实现上述保证的技术。大多数文献都假设控制算法与传感器和执行器之间具有足够的连通性。当控制器在云中时，可能违反（大多数）现有文献的基本连接性假设。缺乏可预测的连接性使得将控制算法从受控系统中卸载变得具有挑战性。下面，我们将在卸载MPC控制器的背景下解决这一挑战。在设备中实现的本地控制器是线性二次调节器（LQR）[11]。LQR和MPC控制器有很强的联系。例如，LQR控制器作为方程（3）的解在时域N趋于无穷大并且没有约束时获得。然而，LQR可以通过求解Riccati方程来解析地导出，而不需要在线优化。所得到的控制器是低复杂度的简单状态反馈控制器（参见等式（4）），使得在本地资源受限的设备上实现它是简单的uk=−Kxk（4）这里描述的云辅助卸载方法背后的想法是在正常和无故障条件下在云中执行MPC。估计的状态变量在每个采样时刻从本地设备通信到云，并且所得到的控制序列被返回到执行致动的本地设备。状态估计器被设置为使得其在时刻k估计在时刻k+1的状态并且将其用作MPC的输入。当结果被重新计算时--我们在这里假设发生在时间k和k+1之间的某个时间--致动被延迟到时间k+1。这导致一个采样周期的恒定控制延迟，在该采样周期期间控制器连续地收集结果。然而，该方法可以扩展到多个采样周期。这种云辅助MPC方法的特别之处在于，由于在选择范围N时可用的自由度，在云中不仅执行一个MPC优化请求，而是执行多个MPC优化请求，每个MPC优化请求具有不同的N值。请求可以在相同节点或不同节点处执行，有些可以在边缘节点中执行，有些可以在远程数据中心中执行（参见图3）。根据执行发生的位置，通信和计算延迟将不同。一些请求