onnxruntime支持的数据类型列表
时间: 2023-08-23 22:04:28 浏览: 353
ONNX Runtime支持的数据类型如下:
- float16
- float32
- float64 (也称为double)
- int8
- uint8
- int16
- uint16
- int32
- uint32
- int64
- uint64
- bool
需要注意的是,不是所有的硬件都支持所有的数据类型。在使用ONNX Runtime之前,建议先检查你的硬件是否支持所需的数据类型。
相关问题
onnx runtime 支持 python decimal吗
ONNX Runtime 支持 Python Decimal 类型。在将模型加载到 ONNX Runtime 中时,可以将 Decimal 类型的输入数据传递给模型。在模型推理过程中,ONNX Runtime 会正确处理 Decimal 类型的数据。但是需要注意的是,Python Decimal 类型的性能比较低,可能会影响模型推理速度,建议尽量使用其他数值类型。
onnxruntime支持float64输入吗
是的,ONNX Runtime支持`float64`输入。在ONNX Runtime中,`float64`类型被称为`double`类型。可以使用以下代码将`numpy`数组中的数据类型转换为`float64`类型,并将其传递给ONNX Runtime模型的输入。
```python
import onnxruntime
import numpy as np
# 加载ONNX模型
sess = onnxruntime.InferenceSession("model.onnx")
# 构造输入数据
input_data = np.array([[1.0, 2.0, 3.0]], dtype=np.float64)
# 将输入数据传递给模型
output = sess.run(None, {"input": input_data})
```
在上面的代码中,`input_data`是一个`numpy`数组,数据类型为`float64`,并且它的形状是`(1, 3)`,这与模型的输入形状相匹配。因此,可以将其传递给模型的输入,并使用`sess.run()`方法运行模型。
阅读全文