transformer基于像素级的变化检测

基于像素级的变化检测中，transformer被用来对双时间图像内的长范围上下文进行建模。具体来说，我们使用一个CNN骨干网络（如ResNet）从输入图像对中提取高层语义特征，然后使用空间注意力将每个时间特征图转换成一组紧凑的语义tokens。接下来，我们使用一个transformer编码器在两个tokens集中建模上下文，得到了富有上下文的tokens。这些tokens被一个连体transformer解码器重新投影到像素级空间，以增强原始像素级特征。最终，我们从两个细化的特征图计算特征差异图像(FDIs)，然后将它们送到浅层CNN以产生像素级变化预测。