在执行python setup.py install安装mmdet3d时，报错OSError: CUDA_HOME environment variable is not set. Please set it to your CUDA install root.

这个错误提示是因为您在安装mmdet3d时没有设置CUDA_HOME环境变量。CUDA_HOME环境变量是CUDA的安装根目录，需要您手动设置。

请按照以下步骤设置CUDA_HOME环境变量：

1. 打开终端或命令提示符窗口。

2. 输入以下命令来查找CUDA的安装路径：

   which nvcc

如果您的机器上已经安装了CUDA并且环境变量PATH已经正确配置，那么该命令应该输出类似于以下内容：

   /usr/local/cuda-10.1/bin/nvcc

3. 通过上一步输出的路径，找到CUDA的安装根目录，例如：

   /usr/local/cuda-10.1/

4. 设置CUDA_HOME环境变量：

   export CUDA_HOME=/usr/local/cuda-10.1/

如果您使用的是Windows系统，可以使用以下命令设置CUDA_HOME环境变量：

   set CUDA_HOME=C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.1\

注意：路径根据实际安装路径而定。

5. 重新运行安装命令即可。

如果您已经设置了CUDA_HOME环境变量，但仍然遇到此错误，请确保您的CUDA版本与mmdet3d要求的版本一致。