Блог

Я подумываю о развертывании моделей ml с ядром seldon в kubernetes. Seldon предоставляет способы предварительной обработки, последующей обработки, прогнозирования, объединения и маршрутизации моделей. Но, я думаю, все они предполагают, что входные данные фиксированы. Фиксированы ли входные данные для всего графика seldon или возможно ли вызывать модели во время выполнения? Другими словами, возможно ли использовать вывод одной модели, чтобы определить, какая другая модель должна быть вызвана.

То, что я пытаюсь сделать, это запустить одну модель, которая имеет переменное количество выходных данных (скажем, модель сегментации экземпляра изображения) и запустить вторую модель для каждого из выходных данных (скажем, модель классификации изображений).). В этом случае ввод второй модели зависит от вывода первой модели.

Поддерживается ли это seldon? Есть ли способ сделать это с помощью seldon?