清华transformer
时间: 2023-08-21 20:02:12 浏览: 152
transformer
清华transformer是指由清华大学提出的一种基于Transformer架构的模型。这个模型在视觉任务上表现出了卓越的性能,并且相较于其他视觉Transformer模型,具有更高的精度。清华transformer通过使用可变形注意力替换Swin Transformer的移位窗口注意力,进一步提升了性能。根据实验结果,替换不同阶段的注意力可以获得不同程度的性能提升。
阅读全文