Понимание Sagemaker Neo

#amazon-web-services #amazon-sagemaker #amazon-machine-learning

#amazon-веб-сервисы #amazon-sagemaker #amazon-машинное обучение

Вопрос:

У меня есть несколько вопросов к Sagemaker Neo:

1) Могу ли я воспользоваться преимуществами Sagemaker Neo, если у меня есть обученная извне модель tensorflow / mxnet?

2) Sagemaker предоставляет изображение контейнера для ‘image-classification’ и выпустил новое изображение с именем image-classification-neo для задания компиляции neo. В чем разница между ними обоими? Требуется ли мне новое изображение, совместимое с Neo, для каждого предварительно созданного шаблона (контейнера) sagemaker аналогичным образом?

Будем признательны за любую помощь

Спасибо!!

Ответ №1:

1) Да. Загрузите свою модель в корзину S3 в качестве model.tar.gz файл (аналогичный тому, который SageMaker сохранит после обучения), и вы можете скомпилировать его.

2) Версии Neo используют среду выполнения Neo для загрузки и прогнозирования, так что да, контейнеры разные. Прямо сейчас Neo поддерживает XGBoost и встроенные алгоритмы классификации изображений. Конечно, вы могли бы создать свой собственный пользовательский контейнер и использовать Neo внутри него. Для получения дополнительной информации:https://docs.aws.amazon.com/sagemaker/latest/dg/neo.html

Julien

Ответ №2:

Этот вопрос задавался давно. Но на случай, если кто-то появится здесь после поиска по тому же вопросу:

В основном, Amazon NEO является оптимизатором для обеспечения совместимости программы с несколькими базовыми аппаратными средствами и платформами. На основе документации: «Neo — это новая функция Amazon SageMaker, которая позволяет моделям машинного обучения обучаться один раз и запускаться в любом месте в облаке и на границе «.

И да, эти два образа docker отличаются. Поскольку у одного из них есть код оптимизатора, у другого его нет. Разница не во входных данных, поэтому ‘image-classification-neo’ может работать с изображениями, с которыми может работать ‘image-classification’. Но результат отличается. Выходные данные ‘image-classification-neo’ могут использоваться на нескольких платформах. вы можете ознакомиться с поддерживаемыми аппаратными платформами по ссылке ниже:https://docs.aws.amazon.com/sagemaker/latest/dg/neo.html