instancenorm可视化

Instance Normalization (IN) 是一种常用的归一化方式，可以用于深度学习中的图像处理任务。实例归一化是一种归一化技术，它将每个输入样本的特征映射视为单独的实例，并将其归一化为具有相同均值和方差的实例。在这里，我将简要介绍如何可视化 Instance Normalization。

首先，我们需要导入以下库：

import matplotlib.pyplot as plt
import numpy as np
import torch
import torch.nn as nn
import torch.nn.functional as F
from torchvision import transforms, datasets

然后我们创建一个简单的模型，并将其应用于一些样本。在这里，我将使用 MNIST 数据集中的一些样本。

class Model(nn.Module):
    def __init__(self):
        super(Model, self).__init__()

        self.conv1 = nn.Conv2d(1, 64, kernel_size=3, padding=1)
        self.in1 = nn.InstanceNorm2d(64)

    def forward(self, x):
        x = self.conv1(x)
        x = self.in1(x)
        return x

model = Model()
model.eval()

transform = transforms.Compose([
    transforms.ToTensor(),
    transforms.Normalize((0.1307,), (0.3081,))
])

test_set = datasets.MNIST('data', train=False, download=True, transform=transform)
test_loader = torch.utils.data.DataLoader(test_set, batch_size=16, shuffle=True)

images, labels = iter(test_loader).next()

with torch.no_grad():
    output = model(images)

现在我们可以可视化输出，以查看 Instance Normalization 的效果。

def imshow(img):
    img = img / 2 + 0.5     # unnormalize
    npimg = img.numpy()
    plt.imshow(np.transpose(npimg, (1, 2, 0)))
    plt.show()

imshow(torchvision.utils.make_grid(images))
imshow(torchvision.utils.make_grid(output))

这将显示输入图像和输出图像。


可以看出，输出图像在色调和对比度方面有所不同。这是因为 Instance Normalization 通过将输入映射的均值和方差归一化为相同的值，使得输出具有更加一致的特征。