involution深度学习

Involution是一种通用的神经元原语，可用于各种视觉任务上的各种深度学习模型。它在设计中架起了卷积与自注意力之间的桥梁，同时比卷积更高效，而形式上则比自注意力更灵活。

然而，值得注意的是，Involution在改变通道数量方面相对不太灵活。因为Involution实际上是对空间上的不同数据相关卷积滤波器进行乘积和求和操作，而并没有对通道维度进行映射。如果需要改变通道维度，可以在Involution后面接一个1x1的卷积（Point-wise Conv），这样做相当于使用了深度可分离卷积。