![](https://csdnimg.cn/release/download_crawler_static/86321763/bg4.jpg)
STUDY 研究 133
中的参与方通过获取联合建模的模型,达
到提升本地模型的效果的目的。
2.3 联邦学习架构
本节将介绍联邦学习系统的基础架
构。由于不同的联邦学习任务具有不同的
学习场景,因此联邦学习架构的设计也是
不 同 的 。从 这 些 复 杂 架 构 中 ,笔 者 总 结 出 以
下 两 种 基 础 的 架 构 模 式 。一 种 是 服 务 器 客
户端架构,另一种是端对端架构。根据联
邦 学 习 应 用 场 景 的 复 杂 度 、安 全 需 求 ,笔
者将采用不同的架构。同时,当应用场景特
别复杂时,笔者可以根据需求将这两种基
础的联邦学习架构进行拼接组合,从而形
成一种混合的联邦学习架构。
在 很 多 横 向 联 邦 学 习 应 用 场 景 中 ,参
与训练的参与方数据具有类似的数据结构
(特征空间),但是每个参与方拥有的用
户是不相同的。有时参与方比较少,例如,
银行系统在不同地区的两个分行需要实现
联邦学习的联合模型训练;有时参与方会
非 常 多 ,例 如 ,做 一 个 基 于 手 机 模 型 的 智 能
系统,每一个手机的拥有者将会是一个独
立的参与方。针对这类联合建模需求,可以
通过一种基于服务器客户端的架构来满足
很多横向联邦学习的需求,如
图1所 示 。将
每一个参与方看作一个客户端,然后引入一
个大家信任的服务器来帮助完成联邦学习
的联合建模需求。在联合训练的过程中,被
训练的数据将会被保存在每一个客户端本
地,同时,所有的客户端可以一起参与训练
一个共享的全局模型,最终所有的客户端
可以一起享用联合训练完成的全局模型。
如
图1所示,云服务器作为中心的服务器进
行联合训练模型参数的聚合,每一个参与
方作为客户端通过与服务器之间进行参数
传递来参与联合训练。服务器客户端架构
的联 合 训 练的 过 程 如下。
步 骤 1 :中 心 服 务 器 初 始 化 联 合 训 练
模型,并且将初始参数传递给每一个客
户端。
步 骤 2 :客 户 端 用 本 地 数 据 和 收 到 的 初
始化模型参数进行模型训练。具体步骤包
括 :计 算 训 练 梯 度 ,使 用 加 密 、差 异 隐 私 等
加密技术掩饰所选梯度,并将加密后的结
果发送到服务器。
步骤3:服务器执行安全聚合。服务器
只 收 到 加 密 的 模 型 参 数 ,不 会 了 解 任 何 客
户 端 的 数 据 信 息 ,实 现 隐 私 保 护 。服 务 器
将安全聚合后的结果发送给客户端。
步骤4:参与方用解密的梯度信息更新
图 1 服务器客户端架构
2021030-4