#tensorflow-lite
Вопрос:
Вы знаете, что TensorFlow Lite хорошо работает для нескольких пакетов вывода, в некоторых случаях вызывая ResizeInputTensor перед выводом. Но моя модель работает не очень хорошо.
Каковы условия для того, чтобы несколько пакетов хорошо работали в TensorFlow Lite?
Я подозреваю, что вам нужно установить размерность пакета в -1 для изменения формы.
Я хотел бы знать точные условия.
Спасибо.
Ответ №1:
Чтобы иметь возможность иметь динамический пакет, исходная модель должна иметь динамический пакет, а затем при преобразовании в tflite экспортированная модель будет поддерживать пакетное изменение размера.
Комментарии:
1. Спасибо за ваш комментарий, Носсейр сан. Сначала я попробовал это сделать, но потерпел неудачу. Это может быть связано с проблемой платформы. Моя цель-Kirin 990, а не популярная серия Snapdragon. При преобразовании модели с переменным размером пакета результат включает операции, которые NNAPI для серии Kirin не поддерживает.
2. В настоящее время делегат NNAPI не поддерживает тензоры динамического размера. Но вы можете запустить его на процессоре с поддержкой динамических пакетов. Если вы хотите использовать NNAPI, вы можете выполнить статическое предварительное преобразование входной формы и повторно преобразовать модель
3. Да, и ваше последнее утверждение-именно мой вопрос. Я успешно выполнил несколько пакетов в NNAPI при преобразовании TensorFlow 1, но TensorFlow 2 или 2.4.0 и более поздних версий TF преобразует переменные пакетные модели сложным способом. Я хочу знать условия, при которых модели будут хорошо работать для нескольких пакетов в NNAPI.