算能科技裸机测试：从WAN口IP到多线程性能优化

算能科技的裸机测试主要包括两个关键部分：WAN口IP查询和算法移植与功能性能测试。首先，对于WAN口IP的获取，测试者建议通过物理连接电脑与裸机的LAN口，确保两者的IP处于同一网段，并使用如MobaXterm之类的远程终端软件。利用`ipconfig`或`ipaddr`等命令查询WAN口IP（通常对应于`eth0`接口），并确保其稳定性，如图1所示。 在算法移植方面，算能科技的边缘盒子支持Python和C++两种语言的模型运行。Python代码可以直接在裸机上运行，而C++代码则需要在本地计算机上创建一个专用的虚拟机进行模型转换（使用Docker镜像环境）和交叉编译。转换过程包括将模型转换为ONNX格式（如图2和图3所示），然后生成可执行文件，最后在盒子裸机上运行推理。C++版本由于减少了后处理的时间消耗，通常在单张图片识别时有更高的运行效率（图5显示Python版耗时248.71ms，图6显示C++版耗时86ms）。 功能性能测试着重于边缘盒子TPU的性能，其中模型推理任务在TPU上执行，而预处理和后处理工作则在CPU上进行。在3.1节的单张图片识别测试中，无论是Python版Yolov5还是C++版，后处理环节占据了大部分运行时间，这对于实时性有直接影响。因此，优化推理速度和处理前后处理步骤是提高整体性能的关键。 在3.2节的多线程测试中，针对CPU效率，测试了不同线程数量下对图像进行resize操作的性能。随着线程数增加，单张图片的resize时间线性增长，而CPU利用率则相应下降。这表明增加线程可以提高并发处理能力，但过多线程可能导致系统资源分配不均，降低整体效率。因此，在实际应用中，需要根据设备性能和任务需求选择合适的线程数量，以达到最佳性能平衡。 算能科技的裸机测试提供了深入理解边缘盒子性能和优化策略的方法，包括网络配置、代码移植的流程控制以及对CPU和TPU资源的有效利用。这些测试结果对于评估和优化AI边缘盒子在实际部署中的性能至关重要。