python 中的onnxruntime==1.11的使用教程

onnxruntime 是一个高性能、跨平台的开源推理引擎，可以用于加载和运行 ONNX 模型。下面是在 Python 中使用 onnxruntime 1.11 的简单教程：

1.安装 onnxruntime

可以通过 pip 安装 onnxruntime：

pip install onnxruntime==1.11.0

2.加载 ONNX 模型

首先，需要将 ONNX 模型加载到内存中。假设我们有一个名为 model.onnx 的 ONNX 模型文件，可以使用以下代码将其加载到内存中：

import onnxruntime as ort

# 加载模型
sess = ort.InferenceSession('model.onnx')

3.运行推理

有了加载好的模型，我们可以对其进行推理。假设模型有一个名为 input 的输入张量，可以使用以下代码对其进行推理：

import numpy as np

# 准备输入数据
input_data = np.random.randn(1, 3, 224, 224).astype(np.float32)

# 进行推理
output = sess.run(None, {'input': input_data})

在这个例子中，我们生成了一个形状为 (1, 3, 224, 224) 的随机输入张量，并将其传递给推理会话。我们使用 sess.run() 方法运行推理。该方法接收两个参数：第一个参数是期望的输出名称列表，第二个参数是一个字典，将输入名称映射到输入张量。

4.获取输出

推理完成后，我们可以使用以下代码获取输出：

# 获取输出
output_data = output[0]

在这个例子中，我们假设模型只有一个输出张量，因此我们只需要获取 output 列表中的第一个元素即可。

5.完整的代码示例

下面是一个完整的代码示例：

import onnxruntime as ort
import numpy as np

# 加载模型
sess = ort.InferenceSession('model.onnx')

# 准备输入数据
input_data = np.random.randn(1, 3, 224, 224).astype(np.float32)

# 进行推理
output = sess.run(None, {'input': input_data})

# 获取输出
output_data = output[0]

这个例子中，我们生成了一个形状为 (1, 3, 224, 224) 的随机输入张量，并使用 onnxruntime 进行了推理。最后，我们获取了输出张量。