如何在jupyter notebook中设置CUDA_LAUNCH_BLOCKING=1

要在 Jupyter Notebook 中设置 CUDA_LAUNCH_BLOCKING=1，您可以按照以下步骤进行操作：

1. 在 Jupyter Notebook 中打开一个新的 Notebook。

2. 在第一个代码单元格中输入以下代码：

   import os
   os.environ['CUDA_LAUNCH_BLOCKING'] = '1'

这将设置 CUDA_LAUNCH_BLOCKING 环境变量并将其值设置为 1。

3. 运行代码单元格以应用设置。

现在，当您运行使用 CUDA 的代码时，它将在调用 CUDA 内核时等待内核完成并返回结果，而不是异步返回并继续执行其他代码。请注意，这会降低您的代码的执行效率，因为它会阻塞代码的执行，直到 CUDA 内核完成。因此，您应该仅在需要调试 CUDA 内核错误时使用这种方式。

相关问题

如何设置CUDA_LAUNCH_BLOCKING=1

要设置 CUDA_LAUNCH_BLOCKING=1 环境变量，您可以按照以下步骤进行操作：

1. 打开终端或命令提示符，输入以下命令：

   export CUDA_LAUNCH_BLOCKING=1

或者，如果您使用的是 Windows 系统，请运行以下命令：

   set CUDA_LAUNCH_BLOCKING=1

2. 运行您的 PyTorch 代码。这样，当您的代码调用 CUDA 内核时，它会等待内核完成并返回结果，而不是异步返回并继续执行其他代码。

请注意，这种方式会降低您的代码的执行效率，因为它会阻塞代码的执行，直到 CUDA 内核完成。因此，您应该仅在需要调试 CUDA 内核错误时使用这种方式。如果您只是想提高代码的执行效率，请不要使用这种方式。

使用环境变量CUDA_LAUNCH_BLOCKING=1来强制CUDA同步调用，这可以帮助更准确地定位错误发生的位置。你可以在命令行中设置这个变量，例如在bash中使用export CUDA_LAUNCH_BLOCKING=1，然后再运行你的程序。 这一步具体怎么实现?

在命令行中设置环境变量`CUDA_LAUNCH_BLOCKING=1`以强制CUDA同步调用的步骤如下：

1. 打开命令行工具。如果你使用的是Windows系统，可以打开命令提示符（CMD）或PowerShell；如果是Linux或Mac系统，则打开终端。

2. 设置环境变量。在命令行中输入相应的命令来设置环境变量。对于Linux或Mac系统，在bash中可以使用以下命令：

   export CUDA_LAUNCH_BLOCKING=1

对于Windows系统，在CMD中可以使用以下命令：

   set CUDA_LAUNCH_BLOCKING=1

如果你在PowerShell中工作，使用以下命令：

   $env:CUDA_LAUNCH_BLOCKING=1

3. 运行你的程序。设置完环境变量后，你可以正常启动你的程序，此时CUDA的调用将会同步执行。

这样设置后，每次CUDA的调用都会等待直到GPU上的操作完成后才会继续，这有助于定位GPU执行过程中可能出现的错误，因为错误信息会更准确地反映出错误发生的位置。