神经网络中bottleneck结构

bottleneck结构是ResNet网络中的一种结构单元，它由三个卷积层组成，分别是1x1卷积、3x3卷积和1x1卷积。其中，1x1卷积用于降维，3x3卷积用于提取特征，再通过1x1卷积将特征升维。bottleneck结构的引入在ResNet网络中有以下几个好处：首先，引入了两次ReLU激活函数，增加了网络的非线性表达能力；其次，采用1x1卷积先降维再升维，减少了计算量，提高了网络的计算效率；同时，升维和降维的过程实现了特征的跨通道线性组合，进一步提高了神经网络的整体表现能力。