torch.cuda.OutOfMemoryError: CUDA out of memory. Tried to allocate 12.00 MiB (GPU 0; 1.96 GiB total ...
时间: 2023-11-05 20:37:27 浏览: 23
这个错误是因为你的GPU显存不足,无法分配所需的内存。您可以尝试以下几个解决方案:
1. 减少模型的大小或者batch size,以降低内存的使用量。
2. 尝试使用更高内存的GPU,如果您有多个GPU,可以尝试将模型分布式处理到多个GPU上。
3. 对于训练过程中的数据,可以使用PyTorch的DataLoader类进行分块,以减少内存的使用量。
4. 关闭之前未用的程序或者占用GPU的进程,以释放更多的GPU内存。
希望这些方法能够帮助您解决这个问题。