CNN ResNet

CNN（Convolutional Neural Network）和ResNet（Residual Networks）是深度学习领域中非常重要的概念。CNN是一种特殊的神经网络结构，主要用于处理具有网格状结构的数据，比如图像和视频，其核心是卷积层，能够有效地捕捉局部特征并提取图像的空间信息。

ResNet是由Microsoft Research团队在2015年提出的一种深度残差网络，旨在解决深度神经网络训练过程中的梯度消失或梯度爆炸问题。传统的深层网络中，信息需要通过很多层逐级传递，当网络变得很深时，很容易遇到梯度消失的问题，导致模型难以训练。ResNet引入了残差块（Residual Block），每个块中包含一个跳跃连接，使得网络可以直接传递输入到输出，这样即使在网络深度增加时，也能直接学习到从输入到输出的残差，从而解决了训练深层网络的难题。

ResNet的关键组成部分包括：
1. **基本残差块（Basic Residual Block）**：包含两个卷积层和一个跳跃连接，可以让前一层的输出直接添加到下一层的输出上。
2. ** Bottleneck Residual Block**：更加高效的设计，减少计算量，包含一个1x1卷积层用于减维，然后是3x3卷积层，最后再使用1x1卷积层恢复原始维度。
3. **残差跳跃（Skip Connections）**：这是ResNet的核心，通过这种结构，网络可以跳过一些层，直接将输入数据传递到更深的部分。

ResNet因其在ImageNet等大规模视觉识别挑战赛中的优秀表现而受到广泛关注，并成为了许多深度学习应用的基石。它的成功激发了一系列后续的深度残差架构的发展，如DenseNet、Inception-v3等。