rknn简化onnx模型

### 将ONNX模型转换为RKNN格式

为了将ONNX模型转换为RKNN格式并用于硬件加速计算，需遵循一系列特定的操作流程。具体来说：

#### 创建RKNN对象
初始化RKNN类实例来管理整个转换过程。

from rknn.api import RKNN

rknn = RKNN()
print('创建RKNN对象成功')

#### 配置模型输入预处理
设置必要的参数以匹配目标设备的要求，比如图像尺寸、通道顺序以及数据归一化的范围等[^1]。

ret = rknn.config(mean_values=[[0, 0, 0]], std_values=[[255, 255, 255]], target_platform='rv1126')
if ret != 0:
    print('Config failed')
    exit(ret)

#### 加载ONNX模型
指定待加载的`.onnx`文件路径，并将其导入至RKNN框架内准备进一步处理[^2]。

print('--> Loading model best-sim.onnx')
ret = rknn.load_onnx(model='./best-sim.onnx', input_size_list=[[3, 224, 224]])
if ret != 0:
    print('Load ONNX model failed!')
    exit(ret)
else:
    print('load model success!')

#### 转换模型
此阶段涉及量化和优化等一系列操作，目的是使模型更适合于嵌入式平台上的高效执行。对于某些特殊场景还可以自定义构建选项以满足性能需求。

build_cfg = {
    'quantization_entry': True,
    'do_quantization': True,
}

ret = rknn.build(do_quantization=True, dataset='./DATASET.txt', config=build_cfg)
if ret != 0:
    print('Build model failed!')
    exit(ret)

print('model build done!')

#### 导出RKNN模型
完成上述步骤之后就可以保存最终版本的RKNN模型文件了，以便后续部署到实际环境中使用。

ret = rknn.export_rknn('./best-sim.rknn')
if ret != 0:
    print('Export RKNN model failed!')
    exit(ret)
print('export rknn model done!')

最后一步则是利用生成后的RKNN模型来进行预测或推理工作，这通常涉及到加载测试样本（如图片）、前向传播获取输出特征图谱等内容[^3]。

img = cv2.imread('./IMG.jpg')
outputs = rknn.inference(inputs=[img])
np.savez_compressed('./out2.npz', output_0=outputs[0])

# 关闭释放资源
rknn.release()