pytorch半精度加载模型

在 PyTorch 中，可以通过设置 `torch.half` 类型来加载半精度模型。以下是一个加载半精度模型的示例代码：

import torch

# 创建一个半精度模型
model = torch.nn.Sequential(
    torch.nn.Linear(100, 20),
    torch.nn.ReLU(),
    torch.nn.Linear(20, 10),
    torch.nn.ReLU(),
    torch.nn.Linear(10, 1)
).half()

# 将半精度模型保存到文件
torch.save(model.state_dict(), 'half_model.pth')

# 加载半精度模型
loaded_model = torch.nn.Sequential(
    torch.nn.Linear(100, 20),
    torch.nn.ReLU(),
    torch.nn.Linear(20, 10),
    torch.nn.ReLU(),
    torch.nn.Linear(10, 1)
).half()

loaded_model.load_state_dict(torch.load('half_model.pth', map_location=torch.device('cpu')))

在加载模型的时候，需要注意 `map_location` 参数。如果模型是在 GPU 上训练的，但是当前机器上没有可用的 GPU，那么需要将 `map_location` 设置为 `torch.device('cpu')`。如果模型是在 CPU 上训练的，那么可以直接省略 `map_location` 参数。