torch，cuda

### PyTorch与CUDA的集成

为了在PyTorch中使用CUDA进行加速计算，确保安装的PyTorch版本与CUDA版本兼容是非常重要的[^1]。一旦确认了两者之间的兼容性，可以通过以下方式启用GPU加速：

#### 检查CUDA可用性
首先，在Python环境中运行下面的代码来验证CUDA是否已经成功配置并且可以在当前环境中被调用。

import torch

if torch.cuda.is_available():
    print('CUDA is available.')
else:
    print('CUDA is not available.')

如果输出显示`'CUDA is available.'`，则说明环境设置正确；反之，则需重新检查CUDA和PyTorch的安装情况以及它们之间是否存在版本冲突等问题。

#### 将张量移动到GPU上
为了让数据能够在GPU上处理，需要显式地将Tensor对象转移到指定设备（即CPU或GPU）。这通常通过`.to(device)`方法完成，其中device参数指定了目标硬件资源的位置。

device = 'cuda' if torch.cuda.is_available() else 'cpu'
tensor_on_gpu = torch.tensor([1., 2., 3.], device=device)
print(tensor_on_gpu.device)  # 输出应为 cuda:0 或 cpu 取决于是否有可用的GPU

#### 使用DataLoader加载数据集时指定num_workers
当训练大型神经网络模型时，预取数据的速度可能成为瓶颈之一。为此，在创建`DataLoader`实例时适当增加`num_workers`的数量可以帮助提高效率，尤其是在多核处理器或多GPU环境下工作时更为明显。

from torchvision import datasets, transforms
from torch.utils.data import DataLoader

transform = transforms.Compose([
    transforms.ToTensor(),
])

dataset = datasets.MNIST('.', download=True, transform=transform)

dataloader = DataLoader(dataset, batch_size=64, shuffle=True, num_workers=8)

#### 设置模型为GPU模式
对于定义好的神经网络结构而言，同样也需要将其迁移到相应的计算平台上才能充分利用GPU的优势。一般情况下只需简单调用model.to(device)，即可实现这一目的。

class SimpleNet(torch.nn.Module):
    def __init__(self):
        super(SimpleNet, self).__init__()
        ...

net = SimpleNet().to(device)