CUDA out of memory. Tried to allocate 190.00 MiB

这个错误通常是由于显存不足导致的。您可以尝试以下几种方法来解决这个问题：

1. 减少批量大小（batch size）：减少每次训练时输入的样本数量，从而减少显存的使用。

2. 减少模型大小：可以通过减少模型的层数、减小每层的神经元数量等方式来减小模型的大小，从而减少显存的使用。

3. 使用更大的显存：如果您的显卡支持更大的显存，可以考虑升级显卡或者使用多张显卡并行训练。

4. 使用混合精度训练：使用混合精度训练可以将模型参数和梯度转换为半精度浮点数，从而减少显存的使用。

相关问题

CUDA out of memory. Tried to allocate 166.00 MiB

这个错误通常表示你的 GPU 内存不足以处理你尝试运行的模型或任务。你需要尝试一些方法来减小模型的内存占用，或者使用更高内存的 GPU。

以下是一些可能有用的方法：

1. 减少 batch size。较小的 batch size 可以减少模型的内存占用。你可以尝试减小 batch size，直到模型可以在你的 GPU 上运行为止。

2. 减少模型的层数或宽度。较小的模型通常需要较少的内存。

3. 使用更高内存的 GPU。如果你的 GPU 内存不足够，你可以考虑使用更高内存的 GPU。

4. 使用分布式训练。分布式训练可以在多个 GPU 上并行运行，从而减少单个 GPU 上的内存占用。

5. 释放不必要的变量。你可以在训练过程中释放不必要的变量，以减少内存占用。

6. 使用 PyTorch 内置的自动混合精度（Automatic Mixed Precision，AMP）功能。AMP 可以在保持模型精度的情况下减少内存占用。

希望这些方法能帮助你解决问题！

CUDA out of memory. Tried to allocate 1024.00 MiB

出现CUDA out of memory错误的原因是GPU显存内存不够。解决方法如下：
1. 将batch_size改小。
2. 取torch变量标量值时使用item()属性。
3. 可以在测试阶段添加如下代码：

with torch.no_grad():
    # your testing code

如果修改batch_size大小后仍然出现该问题，可以尝试以下方法：
1. 减小模型的复杂度。
2. 减小输入数据的维度。
3. 减小模型中间层的维度。
4. 将模型放到CPU上运行。