ubuntu18.04安装onnxruntime-gpu
时间: 2023-07-12 12:55:41 浏览: 343
可以按照以下步骤安装onnxruntime-gpu:
1. 确保你的GPU支持CUDA和cuDNN,并且已经安装了CUDA和cuDNN。
2. 安装依赖项:
```
sudo apt-get update
sudo apt-get install -y git cmake build-essential libprotobuf-dev protobuf-compiler libprotobuf-dev libprotoc-dev libopencv-dev
```
3. 克隆onnxruntime-gpu仓库:
```
git clone --recursive https://github.com/microsoft/onnxruntime.git
```
4. 进入onnxruntime目录:
```
cd onnxruntime
```
5. 创建build目录并进入:
```
mkdir build
cd build
```
6. 配置编译选项:
```
cmake .. -DCMAKE_BUILD_TYPE=Release -DCMAKE_INSTALL_PREFIX=/usr/local -Donnxruntime_USE_CUDA=ON -Donnxruntime_CUDA_HOME=/usr/local/cuda -Donnxruntime_CUDA_INCLUDE_DIRS=/usr/local/cuda/include -Donnxruntime_CUDA_LIB_DIRS=/usr/local/cuda/lib64 -Donnxruntime_USE_TENSORRT=OFF
```
其中,-Donnxruntime_USE_CUDA=ON表示使用CUDA,-Donnxruntime_CUDA_HOME、-Donnxruntime_CUDA_INCLUDE_DIRS、-Donnxruntime_CUDA_LIB_DIRS分别指定CUDA的安装路径和头文件路径、库文件路径。
7. 编译并安装:
```
make -j$(nproc)
sudo make install
```
这里使用了make -j$(nproc)来并行编译,可以加快编译速度。
8. 安装完毕后,可以测试一下onnxruntime-gpu是否正常工作:
```
cd ../tools/ci_build/github/linux/docker/scripts
./run_onnx_tests.sh -e gpu
```
如果测试通过,则说明onnxruntime-gpu已经安装成功了。
注意:onnxruntime-gpu的安装可能会因为各种原因失败,需要根据具体错误信息进行调试。
阅读全文