多路 onnx 模型

### 处理多个 ONNX 模型或多路 ONNX 模型的应用场景

#### 并行加载和初始化多个 ONNX 模型
为了高效处理多路 ONNX 模型，在应用程序启动阶段应预先加载所有必要的模型。这可以通过创建独立的 `cv::dnn::Net` 对象来完成，每个对象对应一个特定的 ONNX 文件。

std::vector<cv::dnn::Net> models;
for (const auto& modelPath : {"model1.onnx", "model2.onnx"}) {
    cv::dnn::Net net = cv::dnn::readNetFromONNX(modelPath);
    models.push_back(net);
}

#### 批量数据预处理
当面对批量输入时，需设计统一的数据预处理流程以适应不同模型的要求。通常情况下，会先将原始图像转换成适合所有模型的标准格式，再分别调整至各模型所需的尺寸和其他参数[^1]。

#### 动态调度与执行
对于实时应用而言，可能需要根据具体需求动态选择合适的模型进行推断。此时可引入策略模式或状态机机制，依据上下文条件自动切换当前活动模型。

void processInput(const cv::Mat& frame) {
    // 假设第一个模型用于目标检测，第二个模型用于分类识别
    if (needDetection(frame)) {
        models[0].setInput(preprocessForDetection(frame));
        detectionResult = models[0].forward();
    } else {
        models[1].setInput(preprocessForClassification(frame));
        classificationResult = models[1].forward();
    }
}

#### 性能优化建议
考虑到性能因素，推荐使用 GPU 或者其他加速硬件支持下的 TensorRT 来替代原生 CPU 推理引擎，特别是在高负载环境下能够显著提高吞吐率并降低延迟[^3]。