torch.cuda.OutOfMemoryError: CUDA out of memory. Tried to allocate 12.00 MiB (GPU 0; 1.96 GiB total ...

这个错误表示你的 GPU 内存不足，无法分配所需的内存。出现这种情况通常是因为你的模型或者数据集太大，超出了 GPU 的内存限制。

有几种方法可以解决这个问题：

1. 减少 batch size。减小每个 batch 内的样本数量，可以减少 GPU 内存的使用。

2. 减少模型大小。可以尝试使用更小的模型或者减少模型的层数和参数数量。

3. 使用更大的 GPU。如果你有条件，可以考虑升级你的 GPU，这样可以有更多的内存可以使用。

4. 使用分布式训练。将训练任务分配到多个 GPU 上，可以将内存使用分摊到多个设备上，减少每个 GPU 的负担。

5. 清理 GPU 内存。可以使用 PyTorch 提供的 `torch.cuda.empty_cache()` 函数释放 GPU 内存。另外，还可以使用 `nvidia-smi` 命令查看 GPU 内存使用情况，杀死不需要的进程，释放内存。