模型经过混合精度训练后，保存为fp32格式的h5或savel_model模型，然后经过tensorflow的api后量化为tflite模型，

模型经过混合精度训练（通常指使用半精度浮点数，即FP16训练以节省计算资源），可以在保持较高准确性的前提下降低内存占用。训练完成后，如果需要将模型转换为定点（如8位整数）的TensorFlow Lite (TFLite)模型，可以按照以下步骤操作：

1. **保存fp32模型**：首先，你需要将训练好的fp32权重保存为.h5或.save_model格式。这一步通常是通过Keras或者其他支持的库完成的。

   model.save('model_fp32.h5', save_format='h5')

2. **加载fp32模型并量化**：利用`tf.lite.TFLiteConverter` API，你可以从原始的fp32模型转换到低精度模型。设置`representative_dataset`选项来提供一组输入数据样本，帮助量化工具更好地估计量化范围。

   converter = tf.lite.TFLiteConverter.from_keras_model_file('model_fp32.h5')
   converter.optimizations = [tf.lite.Optimize.DEFAULT]
   converter.target_spec.supported_types = [tf.float16]
   if representative_data_gen is not None:
       converter.representative_dataset = representative_data_gen
   tflite_model = converter.convert()

3. **保存量化后的tflite模型**：将转换得到的tflite_model保存为.tflite文件。

   with open('model_quantized.tflite', 'wb') as f:
       f.write(tflite_model)