batch normalization layer用在哪一层

Batch normalization通常用在神经网络的全连接层和卷积层中。在训练过程中，batch normalization对每个输入batch数据进行归一化处理，使得每个特征在数据分布上具有相似的均值和方差，从而可以加速网络的训练过程，并且提高了网络的泛化能力。在实际使用中，batch normalization常被放置在激活函数之前，这样可以保证输入到激活函数的数据具有相似的分布。