Как преобразовать модель TFLite в квантованную модель TFLite?

#tensorflow #model #converters #quantization

#tensorflow #Модель #конвертеры #квантование

Вопрос:

У меня есть файл tflite, и я хочу его квантовать.

Как преобразовать модель TFLite в квантованную модель TFLite?

Ответ №1:

В зависимости от того, использовали ли вы keras или tfhub, вы можете просто выполнить следующее [предполагается, что модель TF не поддерживает квантование]:

 converter = tf.lite.TFLiteConverter.from_keras_model(non_qat_model)
converter.optimizations = [tf.lite.Optimize.DEFAULT]
quantized_tflite_model = converter.convert()
  

Вы можете дополнительно сослаться на ссылку здесь:
https://www.tensorflow.org/lite/performance/post_training_quantization

Комментарии:

1. вводом была сохраненная модель, а не модель tflite