c++tensorrt选择显卡

NVIDIA TensorRT是一个用于优化深度学习推理性能的高性能计算库，它专为CUDA架构设计，特别是针对NVIDIA GPU。要让TensorRT利用特定显卡，你需要按照以下步骤操作：

1. **确认兼容性**：确保你的GPU支持CUDA和cuDNN（NVIDIA的深度学习运行时）。查看NVIDIA官网的最新支持列表。

2. **安装CUDA**：首先需要安装对应CUDA版本，通常TensorRT会依赖于最新的CUDA版本。下载并安装CUDA Toolkit。

3. **设置环境变量**：配置系统环境变量，包括CUDA路径、cuDNN路径等，以便编译器能找到它们。

4. **安装TensorRT**：从NVIDIA开发者中心下载TensorRT SDK，并按照说明安装。安装过程中，记得选择合适的CUDA和cuDNN版本。

5. **检查版本**：安装完成后，可以验证TensorRT是否成功安装并在命令行中运行`nvidia-smi trtexec`来测试。

6. **选择运行时设备**：在代码中通过`TRT.Runtime.builder().setDevice()`函数指定使用哪种GPU，比如`TRT.TensorrtRuntime(TRT_device.kGPU)`, `kGPU`表示使用GPU。