Tengine转换工具介绍：多框架模型转换支持
需积分: 49 155 浏览量
更新于2024-11-21
收藏 982KB ZIP 举报
资源摘要信息:"Tengine Convert Tool是为Tengine-Lite AI框架设计的一个转换工具，可以将Caffe、ONNX、TensorFlow、TFLite等不同框架的模型转换为tmfile格式，以便在Tengine-Lite上进行推理和部署。Tengine-Lite是一个专为嵌入式系统设计的轻量级深度学习推理引擎，它提供了优化的性能和较低的资源占用。开发者可以通过Tengine Convert Tool将多种深度学习框架训练出的模型转换为Tengine-Lite所支持的格式，从而使得这些模型能在嵌入式设备上运行。
Tengine Convert Tool的开发涉及到C/C++编程语言。C/C++是一种广泛使用的编程语言，尤其在系统编程和性能敏感的应用中非常常见，如操作系统、游戏开发、嵌入式系统和高性能计算等。C/C++允许开发者进行底层内存管理和硬件级别的优化，这对于实现高效的AI模型转换和推理至关重要。
Tengine Convert Tool在执行转换任务时依赖于Google的Protocol Buffers（protobuf），这是一种轻量级的、跨平台的、可扩展的机制，用于序列化结构化数据。它类似于XML，但更小、更快、更简单。在本场景中，protobuf被用于解析不同深度学习框架生成的原型文件，比如Caffe、ONNX、TensorFlow、TFLite模型文件的结构，将它们转换为Tengine-Lite可以读取的tmfile格式。
由于Tengine Convert Tool在解析模型文件时依赖于protobuf，而protobuf在Linux x86架构上提供了更好的支持，因此Tengine Convert Tool目前仅支持在x86 Linux系统上运行。为了在Linux系统上成功安装并使用Tengine Convert Tool，用户需要安装protobuf的开发库。对于基于Debian的系统，如Ubuntu，可以使用命令`sudo apt install libprotobuf-dev protobuf-compiler`来安装。对于基于Fedora或CentOS的系统，则可以使用`sudo dnf install protobuf-devel protobuf-compiler`命令来完成安装。
本工具的推出对于希望在移动设备或嵌入式设备上部署深度学习模型的开发者来说具有重要意义。它简化了不同AI框架之间的模型迁移工作，使得开发者可以更加灵活地选择训练模型的框架，而不必担心部署阶段的兼容性问题。此外，由于Tengine-Lite的轻量级特性，开发者可以更高效地利用设备的计算资源，为用户提供更加流畅和快速的AI服务。"
Tengine转换工具介绍：多框架模型转换支持 （571个子文件） 
graph_executor.cpp 16KB tm2_op_load.cpp 77KB tensor_shape.cpp 2KB data_type.cpp 2KB init.cpp 5KB tengine_operations.cpp 39KB generic_dev_executor.cpp 7KB pad.cpp 2KB l2pool.cpp 2KB lstm.cpp 2KB util.cpp 8KB reshape.cpp 4KB notify_instance.cpp 9KB .clang-format 3KB convolution.cpp 6KB batchToSpaceND.cpp 2KB node_dev_driver.cpp 4KB spaceToBatchND.cpp 2KB tengine_c_compat.cpp 4KB interp.cpp 2KB split.cpp 4KB tile.cpp 3KB darknet_serializer.cpp 26KB cpu_driver.cpp 12KB onnx_serializer.cpp 96KB matmul.cpp 2KB generic_engine.cpp 6KB ncnn_serializer.cpp 56KB src_tm_serializer.cpp 2KB transpose.cpp 3KB detection_postprocess.cpp 2KB generic.cpp 4KB argmin.cpp 2KB slice.cpp 6KB feature_match.cpp 3KB src_serializer.cpp 4KB tengine_config.cpp 5KB tensor_mem.cpp 3KB mxnet_serializer.cpp 54KB cpu_executor.cpp 3KB logger.cpp 6KB device_driver.cpp 8KB init.cpp 9KB tm_generate.c 2KB convert_model_to_tm.cpp 7KB permute.cpp 2KB spatialtransformer.cpp 2KB tf_serializer.cpp 128KB cpu_runner.cpp 20KB gemm.cpp 2KB expanddims.cpp 2KB tf_lite_serializer.cpp 45KB tengine_c_api.cpp 26KB clip.cpp 2KB node_dev_executor.cpp 5KB operator_manager.cpp 2KB tm_serializer.cpp 5KB custom_kernel.cpp 5KB swap_axis.cpp 2KB node_ops.cpp 9KB deconvolution.cpp 4KB stridedslice.cpp 4KB reduction.cpp 4KB caffe_serializer.cpp 63KB gather.cpp 2KB oneflow_serializer.cpp 26KB exec_context.cpp 2KB static_graph.cpp 15KB crop.cpp 2KB graph_task.cpp 17KB gru.cpp 2KB dev_allocator.cpp 12KB cpu_probe.cpp 6KB copy.cpp 2KB fully_connected.cpp 3KB squeeze.cpp 3KB serializer.cpp 2KB pooling.cpp 5KB patch_serializer.cpp 8KB expand.cpp 2KB graph_optimizer.cpp 41KB tengine_plugin.cpp 10KB custom_kernel_ops.cpp 4KB reducel2.cpp 2KB megengine_serializer.cpp 33KB dev_scheduler.cpp 3KB dev_executor.cpp 3KB tm2_serializer.cpp 27KB roialign.cpp 2KB tensor.cpp 2KB graph.cpp 29KB node.cpp 6KB rpn.cpp 4KB power.cpp 2KB resize.cpp 2KB priorbox.cpp 2KB tengine_c_helper.cpp 15KB layernormlstm.cpp 3KB tm2_op_save.cpp 76KB paddle_serializer.cpp 27KB共 571 条
- 1
- 2
- 3
- 4
- 5
- 6
2021-02-04 上传
2019-04-10 上传
2021-05-03 上传
2021-05-26 上传
2022-03-18 上传
李凜之
- 粉丝: 42
- 资源: 4602
我的内容管理
展开
