openvivo推理yolov5 c++

### 使用OpenVINO在C++中对YOLOv5模型进行推理

为了实现这一目标，需先加载并配置YOLOv5模型以便于后续处理。具体而言，在C++环境中利用OpenVINO工具包完成此操作涉及多个方面的工作。

#### 加载预训练的YOLOv5模型到内存中
通过读取IR文件（Intermediate Representation），可以将预先转换好的YOLOv5模型导入程序内。这一步骤对于准备执行推断至关重要[^1]。

#include <inference_engine.hpp>
using namespace InferenceEngine;

Core ie;
CNNNetwork network = ie.ReadNetwork("path_to_your_model.xml");
ExecutableNetwork executable_network = ie.LoadNetwork(network, "CPU");
InferRequest infer_request = executable_network.CreateInferRequest();

#### 准备输入数据
针对图像识别任务，通常会把待检测图片转化为适合神经网络接受的形式——即调整尺寸、归一化等预处理工作之后送入模型作为输入向量的一部分。

Mat img = imread("image_path"); // OpenCV用于加载测试图片
resize(img, img, Size(640, 640)); // 假设YOLOv5期望输入大小为640x640像素
// 进行必要的归一化和其他变换...
Blob::Ptr input_blob = wrapMat2Blob(img);
infer_request.SetBlob("input_name", input_blob); // 设置输入blob名称应与模型定义一致

#### 执行前向传播计算得到预测结果
一旦完成了上述准备工作，则可以通过调用`StartAsync()`方法启动异步推理过程；如果希望同步等待直到获得最终输出的话也可以选择直接调用`Wait()`函数来阻塞当前线程直至完成整个流程。

infer_request.StartAsync(); // 或者使用 infer_request.Infer() 同步方式运行
infer_request.Wait(InferRequest::WaitMode::RESULT_READY);

// 获取输出blobs列表中的第一个元素代表我们的预测框信息
OutputsDataMap output_info(executable_network.GetOutputsInfo());
auto it_out = output_info.begin();

const float* detection_result = reinterpret_cast<const float*>(it_out->second.lock()->buffer().as<float*>());

for (int i = 0; i < num_boxes; ++i){
    int class_id = static_cast<int>(detection_result[i * 7 + 1]);
    float confidence = detection_result[i * 7 + 2];
    
    if(confidence > threshold){ /* 处理满足条件的目标 */ }
}

以上代码片段展示了如何基于给定环境设置下构建一个简单的YOLOv5对象探测器，并对其进行基本参数设定以及核心逻辑框架搭建的过程。