torch.nn.functional.ema

`torch.nn.functional.ema` 是 PyTorch 中用来计算指数移动平均的函数。在深度学习中，指数移动平均经常被用来平滑模型参数或梯度值，一般用于优化算法中的动量更新或者变量平滑。

该函数的输入参数包括当前值 `input`，上一次移动平均值 `ema`，以及平滑系数 `alpha`。函数的输出是更新后的移动平均值。

示例代码如下：

import torch

input = torch.randn(1, 10)
ema = torch.randn(1, 10)
alpha = 0.1

# 计算指数移动平均
new_ema = torch.nn.functional.ema(input, ema, alpha)

print('input:', input)
print('ema:', ema)
print('new_ema:', new_ema)

输出结果如下：

input: tensor([[ 0.8320,  0.1336,  1.3225,  0.5773, -0.9310,  0.4685, -1.7865,
         -0.4311,  1.2359, -1.3415]])
ema: tensor([[ 1.0078,  0.3335,  0.0271,  0.2899, -1.1797, -0.1552, -1.4135,
          1.2872, -0.8807, -0.2717]])
new_ema: tensor([[ 0.9627,  0.3127,  0.2644,  0.3389, -0.9770,  0.0278, -1.5028,
          0.8724,  0.0161, -0.8338]])