批量归一化层代替局部归一化层的优势
时间: 2023-11-09 22:05:26 浏览: 82
批量归一化层(Batch Normalization,BN)相比于局部归一化层(Local Response Normalization,LRN)有以下优势:
1. BN可以在训练过程中动态地调整每一层的均值和方差,从而使得每一层的输入分布更加稳定,加速了网络的训练。
2. BN可以减少梯度消失问题,使得网络更加深层,提高了网络的泛化能力。
3. BN可以减少对超参数的依赖,使得网络更加容易调整和训练。
阅读全文