图像分类模型演进：从LeNet到现代架构

"该资源是一份关于计算机视觉中图片分类模型架构演进的PDF文档，主要探讨了LeNet模型的设计及其在计算机视觉领域的应用。文档详细介绍了LeNet的结构，包括多个卷积层、池化层和全连接层，并提到了在Caffe框架中的实现细节。" 在计算机视觉领域，图片分类是一项核心任务，而LeNet是最早的深度学习模型之一，由Yann LeCun等人在1998年提出，主要用于识别手写数字。LeNet的架构设计为后来的深度学习模型如AlexNet、VGGNet等奠定了基础。 1. **LeNet结构详解**: - **卷积层(Convolutional Layers)**: LeNet包含多个卷积层，例如Conv1和Conv2，每个层都使用不同大小的滤波器(kernel)进行特征提取。卷积层的目的是捕捉图像的局部特征，通过权值共享减少模型复杂度。 - **池化层(Pooling Layers)**: 如MaxPooling，用于降低空间维度，减少计算量并保持模型的鲁棒性。在LeNet中，使用了2x2的最大池化窗口。 - **全连接层(Fully Connected Layers)**: 结合前几层提取的特征，全连接层进行全局分类。如FC3，用于将低级特征转换为类别预测。 - **非线性激活函数**: LeNet使用了Sigmoid和tanh激活函数，增加模型的非线性表达能力。Sigmoid用于早期的卷积层和池化层，而tanh用于全连接层。 2. **LeNet中的下采样策略**: - LeNet采用了下采样(subsampling)策略来减小特征图的尺寸，同时保持重要的特征。下采样采用的是2x2的最大池化，配合Sigmoid函数进行降维。 3. **多通道卷积**: - 在Conv2层，LeNet使用了不同通道数的滤波器，将它们的输出拼接在一起，增加模型的表达能力，破坏网络的对称性，减少计算量。 4. **RBF层**: - 最后一层是径向基函数(Radial Basis Function, RBF)层，虽然全连接，但其参数W是固定的。输入的84维向量映射到12x7的比特图，每个输出对应一个与之相关的参数权重的均方误差MSE。 5. **损失函数与优化**: - LeNet的目标是使正确标签对应的输出值最小，通常采用交叉熵损失函数，优化过程可以使用梯度下降等方法。 6. **Caffe实现**: - 在Caffe框架中，LeNet的实现中，输入批次大小(batch size)为64，数据经过归一化(scale)处理，比例因子为0.00390625，有助于提高训练稳定性。 这份文档详细介绍了LeNet模型的结构、工作原理以及在Caffe中的具体实现，对于理解早期深度学习模型的架构和计算机视觉的基本技术具有重要意义。通过学习LeNet，我们可以更好地理解深度学习模型如何处理图像数据，并为后续更复杂的模型如ResNet、DenseNet等奠定理论基础。