torch.cuda.OutOfMemoryError: CUDA out of memory. Tried to allocate 12.00 MiB (GPU 0; 1.96 GiB total ...

这个错误提示表明你的GPU显存不足，导致程序无法分配所需的内存。这通常发生在你的模型或数据集非常大的情况下。你可以尝试以下几种解决方案：

1. 减少batch size。这是最常见的解决方法之一。通过减少batch size，你可以减少每个batch所需的显存，从而减少内存占用。

2. 减小模型的大小。如果你的模型太大而无法放入显存中，可以考虑减小模型的大小，例如减少隐藏层数、减少每层的神经元数量等。

3. 使用更大的GPU。如果你的GPU显存太小，可以考虑更换更大的GPU。

4. 分布式训练。通过将数据和模型分布在多个GPU上，你可以减少每个GPU所需的内存占用。

5. 减小输入数据的大小。如果你的输入数据太大而无法放入显存中，可以考虑减小输入数据的大小，例如截断序列长度、减少图像分辨率等。