Блог

Я новичок в Kubernetes и совершенно новичок в его настройке EKS .

Я пытаюсь добиться совместного использования GPU между несколькими модулями, но для этого, просматривая несколько документов и статей, я обнаружил, что должен обновить параметры kube-scheduler configuration with, которые затем позволят мне внести необходимые изменения для включения совместного использования GPU между модулями.

Вопрос

Как мне обновить kube-scheduler конфигурацию в EKS . Если обновление конфигурации невозможно, есть ли какой-либо другой способ, который я могу настроить kube-scheduler только для тех модулей, которые требуются GPU ?

Я думаю, вам нужен пользовательский kubescheduler, и чтобы ваши модули могли указывать, хотят ли они использовать планировщик по умолчанию или пользовательский планировщик.

Kubernetes поддерживает это: https://kubernetes.io/docs/tasks/extend-kubernetes/configure-multiple-schedulers / — в принципе, создайте файл .yaml, запустите kubectl create -f его, и вы должны увидеть свой планировщик. Вы захотите запустить его в kube-system пространстве имен и присвоить ему уникальное имя (чтобы у ваших модулей был способ указать, какой планировщик им нужен).

Я сам не делал этого в EKS, но был бы очень удивлен, если бы вы не смогли запустить пользовательский планировщик в EKS. Кроме того, это сообщение в блоге aws https://aws.amazon.com/blogs/opensource/virtual-gpu-device-plugin-for-inference-workload-in-kubernetes / , который звучит похоже на то, что вы ищете, похоже, для этого потребуется пользовательский планировщик.