yolov3模型与海思35xx芯片上nnie加速引擎的性能评估

# 1. 研究背景

## 1.1 深度学习在计算机视觉领域的应用
深度学习技术在计算机视觉领域取得了巨大的成功，尤其是在目标检测、图像分类、物体识别等任务上表现出色。通过深度学习技术，计算机可以自动学习特征，并且可以在海量数据中进行学习，从而在视觉任务上取得比传统方法更好的性能。

## 1.2 yolov3目标检测模型介绍
YOLO (You Only Look Once) 是一种基于深度学习的实时目标检测算法，其第三个版本Yolov3在准确性和速度上都有了显著提升，成为了计算机视觉领域中备受关注的模型之一。Yolov3模型在目标检测任务上具有较高的准确率和较快的推理速度，因此在实际应用中得到了广泛的应用。

## 1.3 海思35xx芯片及nnie加速引擎简介
海思35xx芯片是华为公司专门为AI应用开发的芯片产品线，其中集成了NNIE（Neural Network Inference Engine）加速引擎，可以在边缘设备上高效地进行深度学习推理加速，具有较好的性能和能耗比。海思35xx芯片及其搭载的NNIE加速引擎的性能对于深度学习模型部署和推理具有重要意义，尤其是在嵌入式设备和边缘计算环境中。

# 2. 相关工作

### 2.1 目标检测模型在嵌入式设备上的应用研究现状

目标检测是计算机视觉领域的一个重要研究方向，它在很多实际应用中起到了至关重要的作用。随着深度学习的快速发展，目标检测的性能不断提升，各种新的目标检测模型层出不穷。然而，由于嵌入式设备的资源限制，将这些深度学习模型部署在嵌入式设备上面临着很大的挑战。

目前，有许多研究工作致力于解决目标检测模型在嵌入式设备上的应用问题。一方面，研究者们通过对目标检测模型的剪枝、量化等技术进行优化，减少模型参数和计算量，从而适配嵌入式设备的计算资源。另一方面，一些研究工作关注于嵌入式设备上目标检测模型的加速方法，例如使用专用硬件加速器、使用近似计算等。

### 2.2 海思35xx芯片在深度学习推理加速方面的性能对比

海思（Hisilicon）是一家专门从事数字信号处理（DSP）和集成电路（IC）设计的公司，其35xx系列芯片是一种常用的嵌入式处理器芯片，在嵌入式设备上具有广泛的应用。35xx芯片内置了nnie（Neural Network Inference Engine）加速引擎，能够对常见的深度学习模型进行硬件加速推理。

近年来，有一些研究工作比较了海思35xx芯片在深度学习推理加速方面与其他常见嵌入式处理器的性能差异。例如，某研究将35xx芯片与NVIDIA的Jetson系列芯片进行了比较，结果显示35xx芯片在功耗和计算性能方面的表现相对较优。另外，还有一些研究工作将35xx芯片与其他专用深度学习加速器进行了对比，发现35xx芯片在性能与功耗之间达到了很好的平衡。

综上所述，海思35xx芯片具备在嵌入式设备上部署深度学习模型的潜力，而nnie加速引擎为其提供了高效的硬件加速能力。接下来的实验将进一步评估在35xx芯片上部署yolov3模型时的性能表现，同时探索nnie加速引擎对模型性能的影响。

# 3. 实验设计

#### 3.1 实验平台及数据集介绍
为了评估海思35xx芯片上使用nnie加速引擎的yolov3模型的性能，我们选择了一台搭载海思Ascend芯片的开发板作为实验平台。该开发板配置了充足