#tensorflow #tensorflow-lite
Вопрос:
Я использовал приложение TensorFlow Lite benchmark, и я получил следующий результат:
E tflite : Average inference timings in us: Warmup: 119501, Init: 3556, Inference: 135968, Overall max resident set size = 32.0469 MB, total malloc-ed size = 0 MB, in-use allocated/mmapped size = 13.3229 MB
Я хотел бы знать, что означают эти значения: Прогрев, Инициализация, вывод, Общий максимальный размер набора резидентов, общий размер malloc-ed и размер выделенных/мм в использовании.
Я не нашел этого в документации.
Ответ №1:
Для задержек
- Прогрев: задержка для первого вызова прогрева. Обратите внимание, что задержка самого первого вызова может быть медленнее, так как код может выполнять дополнительную инициализацию / выделение
- Инициализация: Время инициализации (для создания интерпретатора TensorFlow Lite)
- Вывод: Среднее значение вызова вывода. В большинстве случаев это должно быть наиболее важными показателями.