#tensorflow #model #converters #quantization
#tensorflow #Модель #конвертеры #квантование
Вопрос:
У меня есть файл tflite, и я хочу его квантовать.
Как преобразовать модель TFLite в квантованную модель TFLite?
Ответ №1:
В зависимости от того, использовали ли вы keras или tfhub, вы можете просто выполнить следующее [предполагается, что модель TF не поддерживает квантование]:
converter = tf.lite.TFLiteConverter.from_keras_model(non_qat_model)
converter.optimizations = [tf.lite.Optimize.DEFAULT]
quantized_tflite_model = converter.convert()
Вы можете дополнительно сослаться на ссылку здесь:
https://www.tensorflow.org/lite/performance/post_training_quantization
Комментарии:
1. вводом была сохраненная модель, а не модель tflite