那类transformer的变体模型用在嵌入式设备进行视频的推理呢?
时间: 2024-03-18 13:43:15 浏览: 138
使用transformer模型进行中文文本分类的复杂案例
对于嵌入式设备,通常需要使用轻量级的模型来进行视频推理。近年来,一些针对嵌入式设备的轻量级Transformer模型被提出,比如TinyBERT、TinyTransformer、MobileBERT、FBNet等。这些模型通常采用一些压缩和优化技术,如剪枝、量化等,以减小模型大小和推理时所需的计算量。这些模型可以用于嵌入式设备上的视频推理任务,但需要根据具体的应用场景进行选择和优化。
阅读全文