Блог

Я пытаюсь найти решение проблемы. В нашем распоряжении имеются некоторые вычислительные ресурсы — компьютер с 48 ГБ оперативной памяти, 1 графическим процессором 1080 Ti, твердотельным накопителем емкостью 1 ТБ. Мы хотим распределить эти ресурсы для проектов в компании. Как определить, какому проекту следует придать более высокий приоритет в данном сценарии.

Компания получает запрос на повышение эффективности решения для глубокого обучения для существующего клиента, который является ценным клиентом.

Параллельно он получает еще одну задачу, которая включает в себя завершение проверки концепции, включающей глубокое обучение, для потенциального клиента.

Обе задачи могут потреблять все доступные ресурсы.

Жесткие ограничения — Используйте только локальные вычислительные ресурсы.

Одной из возможностей является запуск Kubernetes и управление модулями. Это позволяет виртуализировать ваши серверы, сеть, службы, базы данных и т.д. и обеспечивает плотную упаковку.

Вы можете запускать Kubernetes в своей локальной инфраструктуре.

Немного сложная кривая обучения, но дает вам полный контроль.

Кроме того, я предполагаю, что этот вычислительный ресурс является инвестицией для ускорения проектов, а не производственного оборудования. Для производства вам может потребоваться разделение задач. Таким образом, упаковка большого количества на одном и том же оборудовании может привести к рискам (когда модули одного отдела / подсистемы ведут себя неправильно, это может негативно повлиять на другие). Да, предполагается, что виртуализация предотвращает это, и, по большому счету, это так. Но программное обеспечение не идеально, и риск не равен нулю. Итак, имейте это в виду.

Материал для чтения:

Основы Kubernetes