cmt transformer
时间: 2023-10-01 07:12:36 浏览: 85
CMT4502_SDK_2.1.1_CMT4502SDK_
5星 · 资源好评率100%
CMT Transformer是一种将传统的卷积神经网络(CNN)和Transformer结合的通用视觉模型。它在传统卷积和Transformer结合的基础上,引入了由3x3卷积和自注意力机制组成的CMT模块,通过这种方式,在几乎不增加计算复杂度的情况下,大幅度提升了视觉网络的性能。相比于传统的Transformer块,CMT块具有更低的计算成本,并且在处理较高分辨率(较大n)的特征映射时更有效。
阅读全文