卷积层 + 批归一化

卷积层(Convolutional Layer)和批量归一化(Batch Normalization)是深度学习中常用的两种技术，它们在神经网络模型中扮演着关键角色。

1. 卷积层：
- **定义**：卷积层是卷积神经网络（Convolutional Neural Network, CNN）的核心组成部分，它利用一组可学习的滤波器（也称卷积核或滤波器组）对输入数据进行卷积操作。这种操作在图像处理中尤为常见，因为它能够捕捉局部特征并减少计算量。
- **作用**：卷积层主要用于特征提取，通过局部连接和权值共享的方式，提取出输入图像的低级到高级的特征表示，有助于减少模型对于输入数据的变换不敏感性。
- **应用场景**：广泛用于计算机视觉任务，如图像分类、物体检测和图像分割等。

2. 批量归一化 (Batch Normalization, BN)：
- **定义**：批量归一化是在每层神经网络的输出上执行的一个统计变换，即对每一层的输入数据按批次进行均值和方差的标准化。这通常会紧跟在激活函数之后，以加速收敛，提高模型稳定性，并减少权重衰减的需求。
- **优点**：BN通过规范化输入，使得模型的学习速度更快，尤其是在训练初期可以防止梯度消失或爆炸的问题，同时也有助于正则化，防止过拟合。
- **应用场景**：在深度学习中，尤其是在使用ReLU这样的非线性激活函数时，批量归一化成为了标准实践，几乎在所有现代CNN架构中都能找到其身影。