Блог

У меня есть модель TensorFlow в приложении flask на Heroku с запросом POST для доступа к предиктору модели. Однако, похоже, что я превышаю объем памяти моего развернутого экземпляра Heroku:

 2020-10-09T12:32:39.186188 00:00 heroku[web.1]: Process running mem=792M(138.9%)
2020-10-09T12:32:39.188901 00:00 heroku[web.1]: Error R14 (Memory quota exceeded)
  

Я подозреваю, что многое из этого связано с тем, что TensorFlow 2.0 занимает много памяти. Я пытался использовать TensorFlow 1.0, но мой код не запускался, поскольку я использую конкретную модель концентратора TensorFlow.

Я знаю, что могу приобрести более крупный план, но единственный план, который я вижу, с обновлением памяти, составляет 50 долларов в месяц.

Есть ли какие-либо способы уменьшить эту память? Например, можно ли перенести данные пакетов pip на диск и сохранить ОЗУ только для приложения?

Проблема с TensorFlow (и любой другой платформой, загружающей предварительно подготовленные или статистические модели) заключается в том, что им необходимо загрузить прогностическую модель в память.
Один из вариантов — использовать меньшую модель (если это возможно), жертвуя точностью.

Другие варианты действительно заключаются в покупке более крупного плана или смене поставщика (я решил проблемы с памятью при переходе на DigitalOcean — по некоторым причинам Heroku использовал намного больше памяти при запуске моего образа Docker. DigitalOcean не является бесплатным, но за 5 долларов в месяц вы можете получить хорошую производительность Droplet)