Dataloader()中，pin_memory和sampler参数是什么

`Dataloader` 是 PyTorch 中用于从 `Dataset` 中加载数据的重要组件，它负责数据的批处理和并行处理。这里介绍两个关键参数：

1. **pin_memory**[^1]:
当设置 `pin_memory=True` 时，PyTorch 将尝试将数据集的一部分（通常是张量）从主机内存复制到设备内存（如 GPU），以加速数据传输速度。这对于大型张量或高速设备（如 NVidia CUDA 设备）来说特别有用，因为减少了 CPU 到 GPU 的内存拷贝时间。但是，这并不总是必要的，取决于数据大小和设备性能。

2. **sampler**[^2]:
`Sampler` 参数定义了数据集元素的采样策略。常见的 `sampler` 类有 `SequentialSampler`（按顺序遍历整个数据集）、`RandomSampler`（随机抽取元素）、`SubsetRandomSampler`（基于另一个可迭代对象抽样的子集）等。选择正确的 `sampler` 可能会影响训练的效率和模型结果，比如在分布式训练中，可能需要使用 ` DistributedSampler` 来处理多GPU或多机器的分片数据。

示例代码：

from torch.utils.data import DataLoader, SequentialSampler

# 创建数据加载器，使用默认的随机采样器（如果没指定sampler）
dataloader = DataLoader(dataset, batch_size=32, shuffle=True, pin_memory=True)

# 或者使用自定义的分片采样器，假设我们有一个分片索引列表indices
custom_sampler = SubsetRandomSampler(indices)
dataloader = DataLoader(dataset, batch_size=32, sampler=custom_sampler, pin_memory=True)