c++ 环境tensorrt安装
时间: 2023-05-24 07:04:56 浏览: 256
TensorRT是英伟达(NVIDIA)开发的一个高性能推理引擎,可以优化和加速深度学习模型的推理过程。以下是环境搭建步骤:
1. 安装CUDA和cuDNN
TensorRT要求安装CUDA 10.0或以上版本和cuDNN 7.0或以上版本。可以从英伟达官网下载安装:
CUDA下载:https://developer.nvidia.com/cuda-downloads
cuDNN下载:https://developer.nvidia.com/rdp/form/cudnn-download-survey
2. 安装TensorRT
下载TensorRT安装程序并安装。可以从英伟达官网下载:
TensorRT下载:https://developer.nvidia.com/nvidia-tensorrt-download
3. 配置环境变量
在.bashrc或.bash_profile文件中添加以下环境变量:
export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/usr/local/cuda/lib64:/usr/local/TensorRT-5.0.2.6/lib
export PATH=$PATH:/usr/local/cuda/bin:/usr/local/TensorRT-5.0.2.6/bin
4. 测试安装
启动终端,输入以下命令验证TensorRT是否安装成功:
$ cd /usr/src/tensorrt/samples/python/introductory_parser_samples
$ python3 mnist.py
以上步骤完成后即可开始使用TensorRT进行推理。
阅读全文