torch.cuda.OutOfMemoryError: CUDA out of memory. Tried to allocate 196.00 MiB (GPU 0; 22.38 GiB total capacity; 21.09 GiB already allocated; 5.44 MiB free; 21.73 GiB reserved in total by PyTorch) If reserved memory is >> allocated memory try setting max_split_size_mb to avoid fragmentation. See documentation for Memory Management and PYTORCH_CUDA_ALLOC_CONF
时间: 2023-11-06 19:39:46 浏览: 84
这个错误通常意味着你的GPU内存不足,导致无法为模型分配足够的内存。解决这个问题的方法是:
1. 减少模型大小:你可以尝试减小模型的大小,或者使用更小的批量大小来降低内存使用量。
2. 增加GPU内存:你可以尝试在你的计算机上安装更大的GPU,或者在云服务提供商上购买更大的GPU。
3. 优化PyTorch的内存使用:你可以尝试调整PyTorch的内存管理设置,例如设置max_split_size_mb,以减少内存碎片化。你可以在PyTorch文档中查找有关内存管理的信息。
希望这些方法能够帮助你解决这个问题!
相关问题
torch.cuda.OutOfMemoryError: CUDA out of memory. Tried to allocate 128.00 MiB. GPU
这个错误提示表明在使用CUDA运算时,GPU的显存不足,无法分配128MB的显存。通常情况下,我们可以通过以下几种方式来解决这个问题:
1. 减少批次大小:可以减少每次训练的批次大小来降低显存使用量。
2. 减少模型参数:可以尝试减少模型的参数量或者使用更小的模型。
3. 释放不必要的显存:可以在每个batch结束后手动释放不必要的显存,比如清空一些变量或者删除一些无用的计算图节点。
4. 使用更高内存的GPU:如果你的GPU显存过小,可以尝试使用显存更大的GPU来避免内存不足。
torch.cuda.OutOfMemoryError: CUDA out of memory. Tried to allocate 148.00 MiB (GPU 0; 4.00 GiB total capacity; 5.23 GiB already allocated;
torch.cuda.OutOfMemoryError是指在使用PyTorch时,尝试在CUDA显存中分配内存时出现错误,因为显存已经被其他操作占用完毕。其中引用和引用提到了相同的错误信息和可能的解决方法。根据这些引用内容,可以推测解决此错误的方法是通过设置max_split_size_mb参数来避免内存碎片化。你可以参考PyTorch的Memory Management和PYTORCH_CUDA_ALLOC_CONF文档了解更多的信息。引用也提到了类似的错误信息,但给出了不同的显存容量和已分配内存的数值。这说明出现该错误的具体原因可能因系统配置不同而有所不同。<span class="em">1</span><span class="em">2</span><span class="em">3</span>
#### 引用[.reference_title]
- *1* *2* [成功解决torch.cuda.OutOfMemoryError: CUDA out of memory. Tried to allocate 86.00 MiB (GPU 0; 2.00 ...](https://blog.csdn.net/qq_41185868/article/details/131015210)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_1"}}] [.reference_item style="max-width: 50%"]
- *3* [报错记录torch.cuda.OutOfMemoryError: CUDA out of memory. Tried to allocate 90.00 MiB (GPU 0; 7.93 ...](https://blog.csdn.net/gongkeguo/article/details/127674524)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_1"}}] [.reference_item style="max-width: 50%"]
[ .reference_list ]
相关推荐
![pdf](https://img-home.csdnimg.cn/images/20210720083512.png)
![pdf](https://img-home.csdnimg.cn/images/20210720083512.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![pdf](https://img-home.csdnimg.cn/images/20210720083512.png)
![rar](https://img-home.csdnimg.cn/images/20210720083606.png)
![pdf](https://img-home.csdnimg.cn/images/20210720083512.png)
![rar](https://img-home.csdnimg.cn/images/20210720083606.png)
![rar](https://img-home.csdnimg.cn/images/20210720083606.png)
![zip](https://img-home.csdnimg.cn/images/20210720083736.png)