Блог

Я пытаюсь обрезать предварительно обученную модель с помощью TFMOT (инструментарий оптимизации модели Tensorflow). Необходимо ли повторно обучать обрезанную модель, чтобы получить уменьшенный размер gzip? Без повторного обучения размер gzip модели не уменьшается

Да, необходимо обучить модель применять обрезку.

Обрезка медленно снижает некоторые веса до нуля в процессе обучения. Этот постепенный процесс необходим для поддержания хорошей точности, его можно точно настроить с помощью определенного графика обрезки. Для достижения наилучших результатов обрезка должна применяться к уже обученной модели.

В настоящее время команда Tensorflow изучает, как применить обрезку одним выстрелом, без обучения. Цель состоит не в том, чтобы создать полезную модель, а в том, чтобы измерить размер и преимущества производительности от обрезки без повторного обучения. https://github.com/tensorflow/model-optimization/issues/621