onnxruntime run方法使用gpu

### 使用 ONNX Runtime 的 `run` 方法在 GPU 上运行模型

为了使 ONNX 模型能够在支持 CUDA 的 GPU 设备上高效执行，需配置 ONNX Runtime 以利用 GPU 提供的加速功能。下面展示了具体实现方式：

#### 配置环境并加载模型
首先确认已安装带有 GPU 支持版本的 ONNX Runtime 库，并导入必要的 Python 包。

import onnxruntime as ort
import numpy as np

接着设置会话选项来指定使用哪种硬件资源，默认情况下它会选择可用的最佳设备；如果希望强制使用特定类型的计算单元，则可以通过修改 providers 列表来进行调整。

对于想要启用 GPU 加速的情况来说，应该把 'CUDAExecutionProvider' 添加到 providers 中作为优先级最高的提供者[^1]。

session_options = ort.SessionOptions()
providers = ['CUDAExecutionProvider', 'CPUExecutionProvider']
model_path = "path/to/model.onnx"
ort_session = ort.InferenceSession(model_path, sess_options=session_options, providers=providers)

#### 准备输入数据并调用 run 方法
准备好要传递给模型推理过程的数据结构之后就可以通过调用 InferenceSession 实例上的 `run` 方法启动预测流程了。这里假设有一个名为 input_data 的 NumPy 数组包含了待处理的信息。

input_name = ort_session.get_inputs()[0].name
output_name = ort_session.get_outputs()[0].name
result = ort_session.run([output_name], {input_name: input_data})
print(result)

上述代码片段中定义了一个简单的程序逻辑用于展示如何基于 ONNX Runtime 和其内置的支持机制，在具备适当驱动程序和库的情况下让神经网络充分利用图形处理器的能力完成任务。