pytorch显存占用
时间: 2023-11-05 14:04:59 浏览: 135
Pytorch释放显存占用方式
PyTorch的显存占用可以通过使用torch.cuda.memory_allocated()和torch.cuda.max_memory_allocated()函数进行分析。前者可以返回当前进程中torch.Tensor所占用的GPU显存,后者则可以告诉我们到调用函数为止所达到的最大的显存占用字节数。然而,它们无法提供具体的Tensor在某一时间点的显存占用情况,而是显示已经分配到的显存缓冲区和torch在创建cuda进程时所需开销的和,也就是reserved_memory和torch context显存之和。
阅读全文