RuntimeError: [f 0510 21:52:17.680000 76 executor.cc:682] Execute fused operator(2/3) failed. [JIT Source]: C:\Users\EMPTY\.cache\jittor\jt1.3.7\cl\py3.10.7\Windows-10-10.x85\11thGenIntelRCxaa\default\cu11.2.67\jit\__opkey0_reindex__Tx_float16__XDIM_1__YDIM_2__OVERFLOW_itof_0x0___INDEX0__e0_0____i0__e0_1___hash_ff0a641b4a741f70_op.cc [OP TYPE]: fused_op:( reindex, unary.cast,) [Input]: float16[26214400,], int32[2,], [Output]: float32[10240,2560,]module.language_model.transformer.layers.3.mlp.dense_h_to_4h.weight, [Async Backtrace]: not found, please set env JT_SYNC=1, trace_py_var=3 [Reason]: [f 0510 21:52:17.680000 76 helper_cuda.h:128] CUDA error at c:\users\empty\appdata\local\programs\python\python310\lib\site-packages\jittor\src\mem\allocator\cuda_device_allocator.cc:33 code=2( cudaErrorMemoryAllocation ) cudaMallocManaged(&ptr, size)
时间: 2023-06-16 15:04:39 浏览: 459
这个错误看起来是 CUDA 内存分配失败导致的。可能是因为你的 GPU 内存不足,或者是其他程序占用了过多的 GPU 内存,导致 Jittor 无法分配足够的内存。
你可以尝试减少模型的 batch size 或者降低模型的复杂度,以减少 GPU 内存的使用量。另外,你也可以尝试重新启动 Jittor 或者重新启动计算机,以释放部分 GPU 内存。如果问题仍然存在,你可以考虑升级你的 GPU 或者增加 GPU 内存。
阅读全文