swin transformer抽特征

### 使用 Swin Transformer 进行特征提取

对于计算机视觉任务中的特征提取，Swin Transformer 提供了一种高效的方法来捕捉图像的空间层次结构。具体来说，在处理过程中，Swin Transformer 将输入图片划分为不重叠的小窗口，并在这些局部区域内执行自注意力机制计算[^2]。

#### 加载预训练模型并设置为评估模式
要利用 Swin Transformer 抽取特征，可以基于已有的预训练权重初始化网络，并将其置于评估状态以禁用dropout和其他仅限于训练阶段的功能：

import torch
from torchvision import models

model = models.swin_t(pretrained=True)  # 或者 swin_s, swin_b 等其他变体
model.eval()

#### 准备输入数据
接着准备待分析的数据集样本，通常会经过标准化等预处理操作使其适应模型的要求：

from PIL import Image
from torchvision.transforms import Compose, Resize, ToTensor, Normalize

transform = Compose([
    Resize((224, 224)),  # 调整大小到适合输入尺寸
    ToTensor(),          # 转换为张量
    Normalize(mean=[0.485, 0.456, 0.406], std=[0.229, 0.224, 0.225])  # 归一化
])

image_path = 'path_to_your_image.jpg'
img = Image.open(image_path).convert('RGB')
input_tensor = transform(img).unsqueeze(0)  # 增加批次维度

#### 执行前向传播获取特征图
最后一步就是让输入流经整个神经网络直到最后一个卷积层之前的位置，从而获得所需的特征表示：

with torch.no_grad():  # 不跟踪梯度
    features = model.features(input_tensor)

print(features.shape)  # 输出形状应接近 (batch_size, channels, height, width)

上述代码片段展示了如何使用 PyTorch 和 TorchVision 库加载一个预先训练好的 Swin Transformer 模型来进行简单的特征提取工作流程。