onnxruntime为什么不支持double

ONNXRuntime是一个高性能的深度学习推理引擎，它支持多种框架模型的推理，包括TensorFlow、PyTorch、Caffe2等。但是，ONNXRuntime目前确实不支持double精度。这是因为在推理过程中，使用double精度会带来很大的计算开销和内存占用，而且对于大多数深度学习模型来说，使用float精度已经足够满足精度要求。因此，ONNXRuntime只支持float和int精度。

相关问题

onnxruntime支持float64输入吗

是的，ONNX Runtime支持`float64`输入。在ONNX Runtime中，`float64`类型被称为`double`类型。可以使用以下代码将`numpy`数组中的数据类型转换为`float64`类型，并将其传递给ONNX Runtime模型的输入。

import onnxruntime
import numpy as np

# 加载ONNX模型
sess = onnxruntime.InferenceSession("model.onnx")

# 构造输入数据
input_data = np.array([[1.0, 2.0, 3.0]], dtype=np.float64)

# 将输入数据传递给模型
output = sess.run(None, {"input": input_data})

在上面的代码中，`input_data`是一个`numpy`数组，数据类型为`float64`，并且它的形状是`(1, 3)`，这与模型的输入形状相匹配。因此，可以将其传递给模型的输入，并使用`sess.run()`方法运行模型。

onnxruntime支持的数据类型列表

ONNX Runtime支持的数据类型如下：

- float16
- float32
- float64 (也称为double)
- int8
- uint8
- int16
- uint16
- int32
- uint32
- int64
- uint64
- bool

需要注意的是，不是所有的硬件都支持所有的数据类型。在使用ONNX Runtime之前，建议先检查你的硬件是否支持所需的数据类型。