torch如何调用gpu训练

在PyTorch中，如果你想让模型在GPU上进行训练，你需要首先确保你的计算设备已经被识别为GPU，并且模型、张量和优化器都被移动到GPU上。以下是基本步骤：

1. **检查可用的硬件**: 使用`torch.cuda.is_available()`来确认是否有可用的GPU。如果返回True，则有GPU可以使用。

import torch
if torch.cuda.is_available():
    device = 'cuda'  # 如果有GPU，设为GPU设备
else:
    device = 'cpu'   # 否则使用CPU

2. **将数据和模型放置到GPU**:
- 对于模型，你可以直接通过`.to(device)`方法将其移到GPU上：

     model = model.to(device)

- 对于张量（如输入数据和损失），也可以用同样的方法：

     inputs = inputs.to(device)
     labels = labels.to(device)

3. **设置优化器和损失函数**: 确保它们也在GPU上，如果你的库支持的话：

     optimizer = torch.optim.SGD(model.parameters(), lr=0.001)  # 检查optimizer是否自动移到GPU
     criterion = nn.CrossEntropyLoss().to(device)  # 这里假设使用的是交叉熵损失

4. **在训练循环中使用GPU**:
在训练循环内，进行前向传播、反向传播和更新权重的操作都会利用GPU进行加速：

   for epoch in range(num_epochs):
       for inputs, labels in dataloader:
           outputs = model(inputs)  # 前向传播
           loss = criterion(outputs, labels)  # 计算损失
           loss.backward()  # 反向传播
           optimizer.step()  # 更新参数
           optimizer.zero_grad()  # 清零梯度

注意，不是所有的操作都能立即迁移至GPU，特别是对于一些静态计算，例如创建常数或索引操作。此外，在处理大批次数据时，为了防止内存溢出，需要合理控制batch size。