G t+1 =G t + n η i=1 ∑ m (L i t+1 −G t )意思
时间: 2024-04-28 18:19:26 浏览: 85
这是随机梯度下降法(stochastic gradient descent,SGD)中的更新公式,其中:
- Gt 表示当前的模型参数;
- η 表示学习率,控制每次迭代更新的步长;
- m 表示参与训练的客户端数量;
- Li(t+1) 表示第 i 个客户端在第 t+1 轮迭代中的损失函数;
- Gt+1 表示经过一轮迭代后更新后的模型参数。
更新公式的含义是,将当前模型参数 Gt 向梯度下降方向更新 η×(1/m)×∑(Lit+1−Gt),其中 1/m 表示对所有参与方的梯度平均,Lit+1−Gt 表示当前参与方的模型参数与全局模型参数之间的差异,即当前参与方对全局模型的贡献。更新后的 Gt+1 就是经过一轮迭代后的模型参数。
阅读全文