Tengine边缘AI异构计算平台介绍

版权申诉
5星 · 超过95%的资源 1 下载量 61 浏览量 更新于2024-07-05 收藏 6.72MB PDF 举报
边缘AI异构计算平台Tengine概述 Tengine是开源的边缘AI计算框架,旨在提供快速、灵活、可靠的边缘AI计算解决方案。该框架具有广泛的应用前景,涵盖边缘计算、人工智能、物联网等领域。 核心价值 1. 广受欢迎的边缘AI计算框架:Tengine旨在提供一个通用的边缘AI计算框架,支持多种CPU、GPU、NPU平台,满足不同应用场景的需求。 2. 快速对接各种CPU、GPU、NPU平台:Tengine支持多种硬件平台,包括ARM、x86、PowerPC等,满足不同设备的需求。 3. 充分发挥边缘AI计算设备的异构计算能力:Tengine旨在充分发挥边缘AI计算设备的异构计算能力,提高计算效率和性能。 架构介绍 Tengine的架构主要包括以下几个部分: 1. 主框架:Tengine的核心框架,负责管理和调度计算任务。 2. 高内聚低耦合:Tengine的设计理念是高内聚低耦合,提高系统的灵活性和可维护性。 3. 编译:Tengine支持多种编译方式,包括CMake等。 4. 工具:Tengine提供了一系列工具,包括模型转换、量化、优化等。 5. 示例:Tengine提供了丰富的示例项目,帮助开发者快速上手。 工具 Tengine提供了一系列工具,帮助开发者快速开发和部署边缘AI应用: 1. ConvertTool:模型转换工具,支持多种模型格式。 2. QuantizationTools:模型量化工具,提高模型计算效率。 3. AsymmetricPer-layer:非对称量化工具,支持模型的非对称量化。 4. SymmetricPer-channel:对称量化工具,支持模型的对称量化。 5. OptimizeTools:模型优化工具,提高模型计算效率。 6. AlignmentTool:模型对齐工具,帮助模型对齐和优化。 ModelZoo Tengine的ModelZoo提供了30多个预训练模型,涵盖图像分类、目标检测、分割、姿态估计、OCR等领域: 1. 图像分类:mobilenet等。 2. 目标检测:efficientdet、mssd、retinaface、ultraface、nanodet、scrfd等。 3. 分割:yolact、unet、segformer、seghuman、rvm等。 4. 姿态估计:alphapose、hrnet、openpose、movenet等。 5. OCR:crnn_lite_dense等。 在线文档 Tengine提供了在线文档,涵盖中英文版本,帮助开发者快速了解Tengine的使用和开发。