Блог

После долгих поисков моей проблемы любой фонд решений не будет работать для меня. Я надеюсь, что вы сможете помочь мне преодолеть эту проблему, чтобы я мог продолжить свой проект. Проблема в том, что при выполнении целочисленного квантования модели GRU после обучения она выдает мне следующую ошибку : Ошибка ValueError: Не удалось проанализировать модель: pybind11::init(): заводская функция вернула ошибку квантования nullptr.
GRU

код, который я использую :

 converter = tf.lite.TFLiteConverter.from_saved_model(GRUMODEL_TF)
converter.optimizations = [tf.lite.Optimize.DEFAULT]
def representative_dataset_gen():
for sample in XX_data:
    sample = np.expand_dims(sample.astype(np.float32), axis=0)
    yield [sample]

converter.optimizations = [tf.lite.Optimize.DEFAULT]
converter.target_spec.supported_ops = [tf.lite.OpsSet.TFLITE_BUILTINS_INT8]
converter.inference_input_type = tf.int8
converter.inference_output_type = tf.int8
converter.representative_dataset = repr_data_gen
model_tflite = converter.convert()
open(GRUMODEL_TFLITE, "wb").write(model_tflite)