CNN中反向传播算法与abam算法具体步骤

反向传播算法（Backpropagation）是一种用于训练深度神经网络的常用算法。下面是反向传播算法的具体步骤：

1. 前向计算：将输入数据送入神经网络，通过一系列的矩阵乘法和非线性变换（如ReLU、Sigmoid等），计算出网络的输出结果。

2. 计算损失：将网络输出结果与真实标签进行比较，计算出网络的预测误差（即损失函数）。

3. 反向传播：通过链式法则，计算出损失函数对网络各层参数的导数，即梯度。这一步需要从网络输出层开始，逐层向前计算每层的梯度。

4. 参数更新：使用梯度下降等优化算法，更新网络各层的参数，使得损失函数最小化。

Adaptive Batch Normalization (AdaBN)算法是一种针对深度神经网络训练中的批归一化（Batch Normalization，BN）存在的一些问题（如BN对于批次大小的敏感性）进行改进的算法。下面是AdaBN算法的具体步骤：

1. 前向计算：将输入数据送入神经网络，通过一系列的矩阵乘法和非线性变换，计算出网络的输出结果。

2. 计算批归一化参数：对于每个批次，计算出该批次数据的均值和方差，并计算出批归一化的缩放和偏移参数。

3. 反向传播：通过链式法则，计算出损失函数对网络各层参数的导数，即梯度，同时计算出批归一化参数的梯度。

4. 参数更新：使用梯度下降等优化算法，更新网络各层的参数和批归一化参数，使得损失函数最小化。在AdaBN算法中，批归一化参数的更新使用了自适应的方法，以根据不同批次大小的数据自动调整批归一化参数的更新规则。