openvino 并行运算api

OpenVINO（Open Visual Inference and Neural Network Optimization）提供了一套并行运算API，用于在不同硬件平台上实现高性能的推理加速。这些API包括：

1. Inference Engine API：提供了推理引擎的功能，可以加载、配置和执行推理模型。它支持多种硬件加速器，如CPU、GPU、VPU（Vision Processing Unit）和 FPGA（Field-Programmable Gate Array）。

2. Threading Building Blocks (TBB)：TBB是一个跨平台的并行编程库，可以用于在多核CPU上实现并行计算。OpenVINO使用TBB来利用多核CPU的能力，提高推理性能。

3. OpenCL：OpenCL是一个开放的并行计算标准，用于在异构计算平台上实现通用计算。OpenVINO的OpenCL API可以在支持OpenCL的硬件上进行并行计算。

通过使用这些并行运算API，开发人员可以充分利用硬件平台的并行计算能力，加速推理过程，并提高系统的性能和响应速度。