6G联合学习：应用和挑战

工程8（2022）33研究6 G需求、愿景和支持技术-回顾6G联合学习：应用、挑战和机遇杨朝晖a，陈明哲b，王启杰a，H.Vincent Poorb，Shuguang Cuic，d，Jianga电子和电气工程系，伦敦大学学院，伦敦WC1E 6BT，英国b普林斯顿大学电气与计算机工程系，普林斯顿，NJ 08544，美国c香港中文大学深圳大数据研究院深圳518172d香港中文大学科学与工程学院及未来智能网络研究所，深圳518172阿提奇莱因福奥文章历史记录：2021年1月1日收到2021年6月13日修订2021年10月15日接受2021年12月8日网上发售保留字：联邦学习6G可重构智能表面语义通信传感通信和计算A B S T R A C T标准的机器学习方法涉及将训练数据集中在数据中心，其中集中式机器学习算法可以用于数据分析和推理。然而，由于无线网络中的隐私限制和有限的通信资源，设备向参数服务器发送数据缓解这些问题的一种方法是联邦学习（FL），它使设备能够在没有数据共享和传输的情况下训练通用的机器学习模型。本文全面概述了虚拟第六代（6G）无线网络的FL应用特别是，FL应用到无线通信的基本要求然后详细介绍了FL在无线通信中的潜在应用。与这些应用程序的主要问题和挑战进行了讨论。最后，一个全面的FL实现无线通信。©2022 The Bottoms.由Elsevier LTD代表中国工程院和高等教育出版社有限公司出版这是一篇开放获取的文章，使用CC BY-NC-ND许可证（http://creativecommons.org/licenses/by-nc-nd/4.0/）中找到。1. 介绍1.1. 动机由于数据流量的显著增长，机器学习已经获得了相当多的关注，并且预计在第六代（6G）无线网络的开发中至关重要[1]。集中式机器学习方法需要在集中式参数服务器处收集训练样本。因此，传输大量的数据样本可能导致显著的传输延迟。同时，在标准的集中式机器学习方法中，用户隐私得不到保证。然而，低延迟和隐私要求在许多新兴应用中是重要的，例如无人驾驶飞行器、延展实境（XR）服务和自动驾驶。因此，使用集中式机器学习方法来优化这些新兴应用是不合适的。 同时，由于有限的通信资源，所有边缘设备通常不可能将其数据上传到参数服务器以用于集中式机器学习。*通讯作者。电子邮件地址：mingzhec@princeton.edu（M. Chen），shuguangcui@cuhk.edu.cn（S. Cui）。由于这些原因，期望引入分布式学习算法，其使得设备能够协作地构建具有本地训练的统一学习模型。最有前途的分布式机器学习框架之一是联邦学习（FL）[2在FL中，边缘设备通过仅向基站（BS）发送本地学习的模型同时保留本地训练数据来协作地构建学习模型，如图1所示[20]。请注意，FL也可以在没有参数服务器的情况下执行，其中每个设备可以与相邻设备通信[21]。由于数据中心无法访问用户级别的本地数据集，FL可以提高用户的数据隐私在无线通信中，FL的实现具有以下优点[15，22]：①交换本地机器学习模型参数而不是大量的训练数据可以节省能量并消耗更少的无线资源;②本地训练机器学习模型参数可以有效地减少传输延迟;③FL可以帮助提高数据隐私，因为训练数据保留在最终用户设备上，并且只上传本地学习模型参数;并且使用不同的学习过程来训练来自边缘数据集的多个分类器增加了实现更高学习性能的可能性。FL可用于解决各种用例中的复杂凸和非凸问题，例如干扰消除、网络控制、资源分配和用户分组。在https://doi.org/10.1016/j.eng.2021.12.0022095-8099/©2022 THE COMEORS.由Elsevier LTD代表中国工程院和高等教育出版社有限公司出版这是一篇开放获取的文章，使用CC BY-NC-ND许可证（http://creativecommons.org/licenses/by-nc-nd/4.0/）。可在ScienceDirect上获得目录列表工程杂志首页：www.elsevier.com/locate/engZ. 杨，M.陈凯K. Wong等人工程8（2022）3334图1.一、FL通过无线通信网络。此外，FL使用户能够合作学习统一的预测模型，同时将收集的数据存储在他们的设备上，用于无线环境分析、用户移动预测和用户识别。基于预测结果，BS可以有效地向设备分配无线资源。1.2. FL类型有一些常见的FL类型：联邦强化学习（FRL），联邦监督学习（FSL），用于生成对抗网络（GAN）（无监督学习）的FL，以及用于对比学习（自监督学习）的FL。 在参考文献中。 [23，24]，FRL的目标是使无线设备能够记住它们和其他无线设备已经学习的内容。FRL可用于多个无线设备在不同环境中做出决策的情况。在FRL中，每个无线设备在其他无线设备的帮助下构建学习网络(1) 最初，一个边缘设备通过强化学习（RL）在自己的环境中获得其私有模型边缘设备将其私有模型作为共享模型上传到BS。(2)然后，无线设备从BS下载公共共享策略模型作为RL的初始模型。无线设备在新的环境中通过RL获得自己的私有学习网络。当训练完成时，无线设备将它们的私有学习网络上传到BS。(3) 在BS处，私有学习网络被集成到共享模型中，这产生了新的共享模型。新的共享模型将被任何其他无线设备利用。无线设备还将传输私人学习网络，数据中心计算共享模型。FSL技术通过迭代地更新BS和无线设备之间的信息来构建统一的学习模型，其中本地私有数据被完全标记。在FSL中，设备可以通过本地学习模型参数记住它们已经学习的内容，并且本地学习模型通过全局模型聚合在其他设备的帮助下构建。FSL方案包含用于每次迭代的三个过程：在无线设备处的本地计算、从无线设备的本地FSL模型参数传输、以及从无线设备的本地FSL模型参数传输。1.3. 相关调查和意见有一些关于网络中FL使用的有趣调查[25参考文献[25]讨论了外语的独特特征和挑战，总结了当前的研究方法，并概述了未来研究的多个方向。参考文献[26]介绍了FL实施的挑战，并回顾了应对这些挑战的当前方法。在参考文献[27]中，作者描述了在边缘计算机网络上配置的机器学习系统的挑战。对于RL，参考文献[28]中的作者提出将深度RL技术和FL方案与新兴边缘系统集成，以统一优化无线通信，边缘计算和缓存资源。参考文献[29]探讨了边缘机器学习的关键参数和无线通信的各种无线架构划分。FL的实际方面在参考文献[30]中进行了调查，包括应用程序，使用场景和硬件平台。表1[25-30]中给出了一些关于无线通信中FL的研究概述我们的目标是收集的贡献，突出FL技术应用到无线网络的关键挑战特别是，我们的目标有三个方面：提供一个全面的描述FL算法，以确定在无线通信系统中，可以使用FL方法解决的关键问题，并指出新兴FL在无线通信中的应用。2. FL的性能和要求2.1. 性能度量图2示出了用于在无线通信网络中实现FL的过程。FL方案在每个步骤中包含三个过程：在每个设备上的本地迭代（具有多个本地时间），上传本地计算的FL模型参数，以及在中心处的全局模型聚合和重新广播。局部迭代过程意味着每个设备通过使用其局部数据和接收到的全局FL参数来计算其局部FL参数。FL有四个主要的性能指标：延迟，能量，可靠性和大规模连接。(1) 延迟根据图3，FL的延迟包括边缘设备的本地迭代延迟、上行通信延迟、BS聚合延迟和下行传输延迟。FL的延迟还取决于FL收敛所需的迭代次数[31]。考虑到局部计算延迟和通信延迟之间的折衷，通过联合传输和计算优化实现FL的延迟。(2) 能源由于每个无线设备的总能量是有限的，因此传输能量和本地计算能量都影响FL过程。一个局部计算能量表1综述了FL在无线通信中的一些研究成果受试者贡献参考每个无线设备，以及全局模型生成和广播-在BS。FL介绍FL的特点和挑战[25日]● 每个无线设备都需要使用FL实施的挑战[26]它的完全标记的数据集在本地。边缘机器学习机器学习系统的挑战在边缘网络[27日]所有无线设备通过上行链路中的无线信道将本地预测结果发送到中心。FL FL和RL用于优化移动边缘计算和缓存[28]第二十八届BS获得预测模型参数并将其转换为预测模型参数。将所述统一预测学习模型系数，边缘机器学习边缘机器学习架构[29]所有无线设备。FL FL应用和用例[30]●●Z. 杨，M.陈凯K. Wong等人工程8（2022）3335图二. 通过无线网络进行FL程序。图三. FL在无线网络上的时间性能。K：所有设备的总数。设备的能量依赖于该设备处的本地计算过程所需的迭代次数，而传输能量与FL实现期间的迭代次数有关。(3) 可靠性终端用户设备必须通过无线链路将其训练参数传输到聚合设备。由于有限的无线资源（例如带宽）和无线链路固有的不可靠性，可能引入训练误差。特别地，由无线信道的不可靠特性和有限资源引起的符号错误将影响FL迭代的性能和成功率[32，33]。FL算法的整体性能和收敛速度受到这些因素的影响。(4) 巨大的连通性。为了满足FL的低延迟要求，我们必须使用无线通信从众多边缘设备高效快速地获取数据。然而，由于大量的设备，传统的干扰避免信道接入方案是不可行的，因为它们通常会导致过度的延迟。为了克服这一挑战，一种新兴的方法是空中计算，它可以通过使用无线传输的叠加性质快速收集无线数据[34，35]。虽然空中计算具有一些吸引人的优点，但它与现有的数字无线通信系统不兼容。此外，在每轮FL上传时仅调度所有设备的一部分是一种有前途的替代方案[36，37]。2.2. 满足6G需求预计6G网络将需要适应到2030年将有1250亿台无线设备。因此，设计智能信号和数据处理系统以允许边缘学习发生至关重要。FL作为一项关键技术，满足以下预期的6G需求[1]。(1)大规模超可靠低延迟通信（mURLLC）。由于6G无线终端用户设备数量的预期 增长，第五代（ 5G ）超可靠低延 迟通信（URLLC）指标必须更新为mURLLC。通过FL，多个边缘计算单元可以用于协作学习共享网络模型，这可以减少服务延迟并提供高可靠性[38，39]。(2) 可扩展的架构。与集中式智能不同，边缘智能（如FL）是以分布式方式构建的，其中包括许多具有计算和通信功能的边缘服务器。为了在未来的6G通信中为大量终端用户设备提供服务，重要的是提供可分解和可扩展的架构，以允许在多个边缘服务器之间同时计算。这种架构有望在新兴的无线通信服务和应用中发挥(3) 以人为本的服务。与5G中的速率-可靠性-延迟度量不同，6 G预计将涉及以人为中心的服务，这将需要与用户的物理运动相关的体验水平的质量。FL可以用于预测用户的移动和手势，并且BS可以使用预测结果来改善用户体验的质量3. 用于无线通信的FL：应用背后的动机机器学习方法可以使用数据分析来估计无线网络的状态，并在线找到优化变量和目标函数之间的联系，这降低了解决无线系统中非凸优化问题的计算复杂度。此外，机器学习是强大的，因为它可以优化问题描述未知的问题。然而，考虑到多小区网络需要全局信道状态信息（CSI），集中式学习算法可能需要BS将其获得的数据连续上传到集中式处理服务器，这导致高网络开销和显著延迟。因此，使用集中学习算法进行资源管理或网络控制可能需要多次迭代来收敛。因此，具有集中式训练的传统机器学习算法可能无法处理未来6G网络中的资源分配、信号检测和用户行为预测问题。作为更实用的替代方案，FL可以使用户或BS能够以分布式方式管理资源并本地分析收集的数据。第3.1节总结了推动FL应用解决无线问题的方法，第3.2-3.5节3.1. 推动FL应用解决无线问题(1) 资源管理。多小区网络的频谱效率和连通性优化通常导致非凸Z. 杨，M.陈凯K. Wong等人工程8（2022）3336资源配置问题。传统的算法，如匹配理论，可以用来解决这种非凸资源分配问题。然而，复杂性很高。因此，需要引入新的FL算法，以解决诸如多小区网络的分布式功率控制、联合用户关联和波束成形设计以及动态用户群集之类的各种资源管理问题。对于多小区功率控制，如图4所示，FRL使得每个BS能够解决功率控制方案与效用值之间的联系，以找到全局最优资源分配方案。在FRL中，连接网络上的BS通过最小化小优化问题来本地处理数据，并在其邻居之间交换本地结果以获得全局解。此外，FRL可以用于动态用户聚类，其中终端用户通过RL单独地学习聚类参数，并且BS基于从所有终端用户接收的聚类参数来构建统一的聚类参数。(2) 用户行为预测。由于用户对服务质量的不同要求，用户行为预测对于优化无线网络性能至关重要。可以使用FL来预测用户行为，例如移动模式，其中每个用户执行本地FL算法以使用私有用户行为数据来计算其本地模型，并将所获得的模型上传到中心。然后，中心生成并向所有用户广播聚合FL参数系数。基于移动性预测，在上行链路中，用户可以动态地选择子信道，并且占用相同子信道的用户可以执行非正交多址（NOMA）或全双工以上传他们的模型。相反，在下行链路中，BS可以动态地将多个子信道分配给若干用户。可以使用FL来预测用户的服务质量，其中每个BS基于所存储的信息（诸如请求的数据、设备类型等）来使用FL算法，并且所有BS将FL模型结果发送到服务器以获得统一的FL模型。(3) 信道估计和信号检测。由于无线信道的随机性，信道估计和信号检测是无线通信网络中的主要挑战对于下行链路系统，FL算法用于改变信道估计和多用户检测，其中每个用户执行用于信道估计和信号检测的FL方案，并将本地获得的FL参数发送到计算统一FL模型的中心。为了通过FL实现信道检测，每个用户可以执行相同的信道检测任务;例如，从BS到被动中继获得CSI。训练收敛时间尺度和所需数量的数据集适合于在相干持续时间内拟合，因为仅需要预测一个公共信道。对于多小区上行链路系统，多用户信号可以通过迭代地从所有BS向服务器发送单独的FL模型参数并从服务器向所有BS广播回统一的FL模型参数此外，FL算法可以用于自动设计BS码本和用户的解码策略以最小化误比特率，其中用户将学习结果上传到相应的BS，并且BS将其统一的学习结果转发到服务器。3.2. 可重构智能表面基于可重构智能表面（RIS）的无线通信系统被认为是用于提高通信网络的能量效率的潜在技术[40RIS主要由许多高效率的硬件组件组成，可以改变输入信号的相位。在基于RIS的无线通信系统中，RIS通常由BS经由BS与RIS之间的回程链路来管理，以确定入射波的属性。因此，可以使用RIS针对各种设计目标RIS作为一面镜子，不需要任何数字操作。因此，如果部署得当，与现有的放大转发（AF）继电器相比，RIS有望降低能耗[52然而，由于RIS系数矩阵相位的唯一约束，联合优化BS处的有源波束成形和RIS处的无源相位波束成形是具有挑战性的。为了处理复杂多变的电磁环境和通信系统中难以数学求解的非线性问题，FL算法可以作为一种实用的替代方案。图四、多小区功率控制方案。M：所有用户的总数;N：所有基站的总数Z. 杨，M.陈凯K. Wong等人工程8（2022）3337图五. RIS增强型通信网络的示例。(1) CSI检测。在基于RIS-based的系统中，要充分发挥RIS-based架构的优势，需要采用节能设计、资源分配、主被动联合波束形成等多种高效技术。注意，所有上述设计都依赖于对通信设备之间的CSI的完美了解。RIS和BS之间，以及用户和RIS之间。然而，当RIS不是建立在射频（RF）链或传感器上时，RIS增强系统不能准确地估计CSI。为此，在RI辅助的无线通信中使用FL进行CSI检测是有意义的。基于FL的模型训练方法可用于RIS辅助的大规模多输入多输出（MIMO）系统[55]。外语学习方法主要包括三个步骤：数据收集、样本训练和任务预测。在第一步中，每个用户收集其本地训练数据集，其中导频序列是输入，并且接收到的信号是输出。然后，每个用户通过利用其自己的本地数据样本来计算更新的模型，并且BS在从所有用户接收更新的模型之后生成全局模型。在最后一步中，每个用户通过将接收到的导频数据输入到训练模型中来估计其自己的信道(2) 分布式联合无源和有源波束形成。在RIS辅助的无线通信系统中，可以控制RIS中的每个元件的相位以提高RIS辅助的无线通信系统的性能。与传统通信相比，优化无源波束成形（RIS处的相移矩阵）和有源波束成形（多天线发射机处的波束成形）非常重要[56，57]。深度学习（DL）已被应用于解决复杂的联合无源和有源波束成形，以优化RIS组件的反射矩阵[58]。实际上，可以利用多个RI来克服用户与BS之间的严重信号拥塞，从而实现更好的服务覆盖，这类似于多跳中继系统。参考文献[59]提出了一种多跳RIS辅助通信方案，以应对太赫兹频段中覆盖范围的增加和严重的路径损耗由于使用集中式RL的高复杂度，FRL可以用于解决联合无源和有源波束形成问题，其中所有用户可以单独地优化其相移矩阵并经由RL发送波束形成，并且BS将统一的学习模型发送回所有用户。(3) 相移预测。由于电线的随机性在通信信道较少的情况下，RIS相移矩阵必须随着无线信道的变化而确定通过利用利用信道衰落的时间相关性，可以通过FL预测RIS的相移矩阵为了预测相移，每个用户使用长短期记忆（LSTM）网络来使用本地数据集预测未来CSI和相移矩阵3.3. 语义通信语义交流类似于发生在人脑中的交流，其中传输符号的含义与恢复符号的含义之间的差异是相关的[60]。当系统带宽受限或某些典型通信系统的误码率较高时，这种相关性可用于联合编码和解码(1) 信道编码器和解码器设计。使用语义通信技术，使设备能够向服务器传输语义信息，而不是传统的比特或符号，可以有效地提高网络带宽利用率。然而，语义通信模型需要来自多个分布式设备的训练数据，这为数据传输带来了非常大的通信成本为了解决这个问题，基于FL的DL使能的语义通信可以用于信道编码器和解码器设计。首先，DL模型可以用于从文本或音频中提取语义信息，具有抗噪声的鲁棒性。然后，在FL方法中，终端用户设备和服务器获得可行的DL模型，其中服务器聚合本地训练的模型并将统一的模型发送回设备。(2) 物联网（IoT）的分布式语义通信。智能连接、物联网和机器对机器（M2M）网络等新兴技术需要人与机器等不同终端之间的智能通信。对于这些应用程序，智能通信取决于背景和界面语言模型[61]。 此外，物联网网络中总是有许多设备。这些因素促使设计一个分布式语义通信的物联网网络与FL。分布式语义通信与FL包括三个步骤。在第一步中，中心使用DL计算语义通信模型。在第二步骤中，中心将训练的DL模型发送到每个设备。在第三步骤中，每个用户通过接收到的广播信息获得语义特征。然后，每个用户将语义特征上传到BS，然后，BS相应地计算语义通信模型。3.4. 延展实境XR指的是真实和虚拟环境中的所有计算机生成的图形，包括混合现实（MR），增强现实（AR）和虚拟现实（VR）。通过无线通信网络部署XR是实现XR应用的重要步骤[1]。由于无缝和沉浸式的要求，引入能够满足严格的服务质量要求的无线通信技术是重要的，例如高数据速率和超低延迟。对于通过无线通信的XR分配，需要将位置和方向信息发送到BS，BS基于接收到的信息为用户构建360°(1) 用户移动预测。在无线XR网络中，用户身体运动会严重影响无线资源分配和网络管理[62]。FL在预测用户动作和移动方面是有效的，其用于处理用户移动挑战。基于预测的移动和动作，BS可以改进生成的XR图像并优化XR用户的无线资源分配。Z. 杨，M.陈凯K. Wong等人工程8（2022）3338(2) 资源配置FL可用于设计自组织方案，以解决XR网络的动态资源管理问题[63]。具体地，FL可以用于动态地优化无线资源并且基于无线环境构建XR图像3.5. 非正交多址接入NOMA被设想为用于下一代无线通信网络的有前途的技术[64]。NOMA通过在相同的时间和频率资源上为多个用户提供服务最近，大量的研究工作集中在NOMA实现的各种挑战上[65-NOMA的非正交资源分配性质需要引入新的模型和算法来解决若干挑战，包括用于设计可扩展的多小区NOMA设计的联合用户聚类和资源分配、用于大规模NOMA网络的高级信道由于NOMA网络资源分配的非正交性，使得NOMA网络中经常存在小区内干扰，这通常会导致非凸资源分配问题。传统的优化方法，用于解决优化NOMA网络性能的非凸问题，大多是离线操作，具有极高的计算复杂性，并依赖于精确的CSI[68大数据分析可用于估计无线网络的状态，并通过机器学习方案在线找到优化变量与目标函数之间的关系[72-75]，从而最小然而，考虑到多小区NOMA需要全局CSI，集中式学习算法可能需要BS将其获得的数据连续上传到集中式处理服务器，这导致高网络开销和显著延迟。此外，在NOMA中，每个子载波可以被多个用户占用。因此，使用集中式学习算法进行资源管理或网络控制可能需要多次迭代来收敛。因此，在参考文献1中描述的传统中央机器学习方法[76-对于NOMA，FL有两个重要的应用：① FRL可以解决复杂的凸和非凸优化问题，包括资源分配、干扰抑制、用户分组和网络控制;② FSL可以使边缘用户协作获得统一的学习参数，同时保护他们在设备上获得的数据，用于CSI预测和用户检测。(1) NOMA中的资源管理。随着叠加通 过 在 发 射 机 处 使 用 编 码 技 术 和 在 接 收 机 处 使 用 连 续 干 扰 消除（SIC），NOMA可以产生比OMA更高的频谱效率[80，81]。此外，NOMA可以利用功率域中的用户差异为连接到相同资源的多个用户提供服务。NOMA的功率域特性可以帮助支持大规模NOMA连接，满足一系列优质服务。NOMA的频谱效率和连接优化通常会导致非凸资源分配问题，这些问题使用传统算法进行优化[65]。因此，需要引入新的分布式学习技术，用于解决许多资源管理挑战，例如多小区NOMA的分布式功率控制[70]、联合用户关联和波束成形设计[67]以及动态用户聚类[82]。对于多小区功率控制，FRL使每个BS能够在功率控制方案和效用函数之间建立联系，以找到最佳功率控制方案。FRL还可以用于研究多天线NOMA网络的用户关联和波束成形[83]。在NOMA中，FRL用于动态用户聚类，用户通过RL学习聚类参数，基站根据接收到的所有用户的聚类参数建立统一的聚类参数。(2) NOMA中的信号检测和信道估计。信号检测和信道估计是NOMA网络中的主要挑战，由于错误传播的SIC。FSL算法可以用于下行链路NOMA网络中的信道估计和多用户检测，其中每个用户执行用于多个用户的信号检测和信道估计的监督学习（SL）算法，并将其本地FL模型系数发送到将生成全局FL模型的BS。如参考文献[84]中所报告的，FSL可以通过迭代地将来自所有BS的单独学习的模型参数发送到服务器并将统一学习模型参数从服务器广播回所有BS来检测多小区上行链路NOMA网络中的多用户信号。此外，FSL可以用于自动设计码域NOMA网络中BS的码本和用户的解码策略，以最小化误比特率[85]，其中用户将学习结果上传到相应的BS，BS将其统一的学习结果转发到服务器。(3) NOMA中的用户行为预测。由于NOMA网络中用户的服务质量要求具有多样性，同一组中的设备可能具有不同的信道值和服务质量要求，因此用户行为预测对于NOMA网络的实现至关重要。为了预测诸如移动性信息的某些用户行为，FSL方案中的每个用户执行SL算法以利用其自己的用户行为数据来训练学习模型，并且经由NOMA将所获得的本地模型上传到BS。然后，BS使用NOMA生成统一的学习模型系数并将其广播给所有用户。基于移动性模式预测，用户可以在上行链路中动态地选择子信道来上传数据，BS在下行链路中动态地将多个子信道分配给多个用户，并且占用相同子信道的多个用户可以执行NOMA。对于多个BS预测FSL中用户的服务质量[86]，每个BS基于其存储的数据集和设备类型使用SL算法。所有BS通过NOMA将学习模型结果发送到服务器，以获得统一的FL模型。4. 研究方向和开放问题4.1. 研究方向和挑战FL保证了无线网络的资源分配或行为预测问题可以以分布式方式解决。FL在无线网络中的应用有以下五个主要方向和挑战：(1) 可扩展性。FL应该是可扩展的，因为计算机或处理器数量的增加可以抵消数据量的增加，并为大规模学习网络中的复杂性和内存问题提供解决方案。对于一个大规模的学习网络，研究分布式训练的相关问题是很重要的。(2) 隐私和安全。在FL中，每个用户的原始数据集都可以得到保护，因为只有本地获得的FL模型才能传输到中心。然而，也有可能是一个Z. 杨，M.陈凯K. Wong等人工程8（2022）3339窃听者进行原始数据的近似重建，特别是当局部和全局模型系数不能被保护时[87]。此外，本地FL模型可能会泄露私人信息。在FL中，隐私可以分为两种类型：全局和局部。在全局隐私中，每次迭代的模型生成对于除BS之外的所有未知设备是不可见的，并且在局部隐私中，每次迭代的模型聚合对于所有未知第三方和BS(3) 异步通信。FL涉及无线设备和BS之间的信息交换。同步通信方法很简单，但它们可能会在设备之间引入掉队者。异步解决方案是减轻异构环境中的滞后性的一种有吸引力的方法。尽管分布式数据中心中的异步服务器参数在处理离散者方面是成功的，但在联邦方案中，有界延迟的假设可能是不切实际的。(4)非独立同分布（Non-IID）器械。当从跨设备的不同分布数据训练联合模型时，在数据建模和分析相关训练过程的收敛趋势方面都会出现挑战[88]。FL的一个关键方面是应对异构设置和竞争和分布式决策环境。(5) 联合通信和计算设计。为了在无线通信网络中部署FL，每个设备需要通过不可靠的无线链路传输其多媒体数据或本地训练结果重要的是要考虑真实场景的多小区和多跳FL实现[89]。此外，有限的无线电资源会降低FL学习方案的性能因此，重要的是要考虑通信和计算资源的联合管理，以实现高效和有效的FL。4.2. 未决问题和未来方向本节基于上述问题提出了几个开放性问题，以揭示未来的研究机会。尽管外语已经得到了广泛的研究，但仍有几个关键问题需要解决。在无线通信和FL方面进行研究。(1) 收敛由于通信网络中有限的无线资源，在每个学习步骤中只有一小部分用户可以被激活以将其本地模型参数上传到中心。然而，由于不同用户的训练数据样本的多样性，中心希望涉及所有用户的局部FL模型，以确定最佳的整体FL模型。因此，用户上传调度是一个关键问题，影响FL的性能和收敛时间。FL收敛的许多研究都是基于凸损失函数的假设[90，91]。然而，许多学习问题的损失函数是非凸的，并且存在与研究具有非凸损失函数的FL的收敛速度相关的挑战[92]。此外，FL收敛速度仍然存在例如，为了与真实FL实验数据保持一致，需要使用更少的假设和近似值[90]的精确/更准确的收敛公式虽然有一些研究在这方面，其中大多数是基于凸损失函数。此外，由于服务质量的异构性，有必要同时进行多任务FL。此外，对于大规模系统，应考虑多小区和多跳FL，这两者都需要更深入地了解FL收敛分析。此外，一个特殊的挑战是研究FL融合的无线设备的移动性。由于这种移动性，设备和BS之间的信道增益动态变化;因此，一些设备可能会退出FL过程由于CSI严重，影响了整个FL过程的收敛。(2) 隐私和安全。FL中存在许多与隐私和安全相关的公开问题：每个用户的隐私保护，BS的隐私保护以及整个FL算法的安全性关于每个用户和BS的隐私保护，一种有前途的方法是使用差分隐私，这引入了隐私和FL性能之间的权衡[93]。为了确保整个FL算法的安全性，可以考虑加密等传统方法，以及安全多方计算和物理层安全等最近的发展，这些方法可以在无法应用更传统方法的情况下（例如大规模部署的物联网）提供安全性(3) 业绩评价。其中一个主要的挑战是调查的FL延迟性能的通信带宽的影响。虽然手机的计算资源越来越强大，但无线通信的带宽并没有大幅增加因此，瓶颈已经从计算能力转移到通信能力。因此，有限的通信带宽可能导致更长的通信延迟，这可能导致FL的长收敛时间因此，有效沟通的外语是当前和未来研究的重要领域[94(4) FL代表新兴技术。FL和新兴技术之间的相互作用带来了新的挑战。例如，太赫兹频带中非常高的传播衰减可能影响收敛分析。此外，在卫星通信中，FL可用于优化卫星的波束和位置[97另一个例子是在量子通信中，需要使用FL来优化量子密钥分发的参数（如基本概率）。5. 结论在这项研究中，我们已经考虑了FL应用于无线通信。本文介绍了外语的两种主要分类，即外语学习和外语学习。此外，我们还讨论了将FL用于无线通信应用的动机。此外，我们已经确定了一些所需的技术，以满足在实际的无线通信情况下使用FL的挑战。因此，希望本研究能为FL无线网络的运营、设计和优化提供有益的启示。致谢这项工作得到了英国工程和物理科学研究委员会（EPSRC）（EP/T015985/1）和美国国家科学基金会（CCF- 1908308）的研究资助。遵守道德操守准则杨朝晖，陈明哲，王启杰，H. Vincent Poor和Shuguang Cui声明他们没有利益冲突或财务冲突披露。引用[1] 放大图片作者：Jiang M，Chen M. 6G无线系统的愿景：应用、趋势、技术和开放研究问题。IEEE Netw 2020;34（3）：134-42.[2] 陈M，杨Z，Saad W，尹C，Poor HV，崔S.无线网络联合学习的联合学习和通信框架。IEEE TransWirel Commun 2021;20（1）：269-83.Z. 杨，M.陈凯K. Wong等人工程8（2022）3340[3] Konecny'J，McMahanHB，RamageD，RichtárikP. 联合优化：用于设备智能的分布式机器学习。2016. arXiv：1610.02527。[4] 杨志，黄凯，杨志.嘉宾社论：通信技术促进高效边缘学习。 IEEE Commun Mag2020;58（12）：12-3.[5] Zhu G，Wang Y，Huang K.用于低延迟联合边缘学习的宽带模拟聚合。IEEETransWirel Commun 2020;19（1）：491-506.[6] Zhu G，Du Y，Gunduz D，Huang K.用于通信高效联合边缘学习的一位空中聚合：设计和收敛分析。2020. arXiv：2001.05713。[7] Zeng Q，Du Y，Huang K，Leung KK.通过CPU-GPU异构计算实现联合边缘学习的节能资源管理 2020. arXiv：2007.07122。[8] Mohammadi Amiri M，Gunduz D.无线边缘的机器学习：分布式随机梯度下降。 IEEE TransSignal Process2020;68：2155-69.[9] 2005年10月27日，李文龙. 在边缘进行交流学习。 IEEE Commun Mag 2020;58（12）：14-9.[10] AmiriMM，Gunduz D. 无线衰落信道下的联邦学习 IEEETransWirel Commun2020;19（5）：3546-57.[11] 张文辉，张文辉.从联邦学习到雾学习：面向异构无线网络中的大规模分布式机器学习。2020. arXiv：2006.03594。[12] 刘毅，袁晓，熊志，康杰，王晓，尼亚托D. 6G通信的联合学习：挑战、方法和未来方向中国通讯2020;17（9）：105-18.[13] Hosseinquiryour S，Azam SS，Brinton CG，Michelusi N，Aggarwal V，LoveDJ等人，在大规模无线雾网络上进行多阶段混合联邦学习。2020年。arXiv：2007.09511。[14] Jin R ， He X ， Dai H. 无 线 网 络 上 通 信 高 效 的 联 邦 学 习 设 计 2020. arXiv ：2004.07351。[15] 作者：Liu D，Simon O.免费隐私：通过自适应功率控制的未编码传输的无线联邦学习。IEEE J Select Areas Commun2021;39（1）：170-85.[16] Kassab R，Simeone O.基于分布式斯坦变分梯度下降的联邦广义贝叶斯学习。2020年。arXiv：2009.06419。[17] Kairouz P，McMahan HB，Avent B，Bellet A，Bennis M，Bhagoji AN等，联邦学习的进展和开放问题。2019. arXiv：1912.04977。[18] SamarakoonS，Bennis M，Saad W，Debbah M. 用于超可靠低延迟车辆通信的分布式联邦学习。 IEEE Trans Commun2020;68（2）：1146-59.[19] Kang J，Xiong Z，Niyato D，Xie S，Zhang J.可靠联邦学习的激励机制：结合声誉和契约理论的联合优化方法。IEEE Internet Things J 2019;6（6）：10700-14.[20] 杨志，陈明，萨阿德W，洪CS，Shikh-Bahaei M. 无线通信网络上的节能联合学习。IEEE TransWirel Commun2021;20（3）：1935-49.[21] 陈M，Poor HV，Saad W，崔S.无线通信用于协作联合学习。IEEE CommunMag2020;58（12）：48-54.[22] [10] 张 勇 ， 张 勇 ， 张 伟 ， 张 伟 . 面 向 移 动 网 络 的 可 靠 联 合 学 习 。 IEEE WirelCommun 2020;27（2）：72-80.[23] 刘斌，王玲，刘明，徐春.终身联邦强化学习：云机器人系统导航的学习架构。2019.arXiv：1901.06455。[24] [10]王晓，王春，李晓，梁文辉，塔勒布.物联网的联合深度强化学习与去中心化协作边缘缓存。IEEE Internet Things J 2020;7（10）：9441-55.[25] Li T，Sahu AK ，Talwalkar A ，Smith V. Federated Learning：Challenges，Methods，and Future Directions. IEEE Signal Process Mag 2020;37（3）：50-60.[26] Lim WYB ， Luong NC ， Hoang DT ， Jiao Y ， Liang YC ， Yang Q ， et al.Federatedlearning in mobile edge networks ： a comprehensive survey.IEEECommunSurv Tutor 2020;22（3）：2031-63.[27] Murshed MG，Murphy C，Hou D，Khan N，Ananthanarayanan G，HussainF.网络边缘的机器学习：一项调查。2019年。arXiv：1908.00080。[28] 王X，韩Y，王C，赵Q，陈X，陈M.边缘AI：通过联邦学习实现移动边缘计算、缓存和通信的智能化。IEEE Netw 2019;33（5）：156-65.[29] 杨文龙，李晓梅，李晓梅.边缘的无线网络智能。Proc IEEE 2019;107（11）：2204-39.[30] 杨伟，王伟.联邦学习：使能技术、协议和应用调查。IEEE Access2020;8：140699-725.[31] 孙毅，石伟，黄翔，周S，牛志。具有时效性约束的边缘学习：挑战与解决方案。IEEE Commun Mag 2020;58（12）：27-33.[32] Wei X，Shen C.噪声信道上的联邦学习：收敛分析和设计示例。2021. arXiv：2101.02198。[33] Zheng S，Shen C，Chen X.联邦学习的上行链路和下行链路通信的设计与分析。IEEE J Se