onnx模型推理python

ONNX是一种用于表示机器学习模型的开放格式，可以在不同的深度学习框架之间进行转换和共享。在Python中使用ONNX模型进行推理可以使用ONNX Runtime库。下面是一个简单的例子：

import onnxruntime as ort
import numpy as np

# 加载ONNX模型
sess = ort.InferenceSession("model.onnx")

# 准备输入数据
input_data = np.random.rand(1, 3, 224, 224).astype(np.float32)

# 进行推理
output = sess.run(None, {'input': input_data})

# 处理输出结果
print(output)

在上面的例子中，我们首先使用ONNX Runtime库加载了一个ONNX模型，并准备了输入数据。然后，我们调用`sess.run`方法对输入数据进行推理，并将输出结果保存在`output`变量中。最后，我们可以对输出结果进行必要的处理和分析。

需要注意的是，使用ONNX Runtime进行推理的速度通常比使用深度学习框架自带的推理引擎要快，因为ONNX Runtime是专门优化过的。