Возможно ли, чтобы рабочий процесс выполнял одно и то же задание несколько раз с разными параметрами?

#amazon-web-services #pyspark #aws-glue

#amazon-web-services #pyspark #aws-glue

Вопрос:

Я новичок в aws-glue от Amazon и все еще пытаюсь разобраться.

В настоящее время у меня есть задание склеивания оболочки python, и каждый раз, когда я его выполняю, я изменяю параметры задания.

Я просматриваю рабочие процессы, и мне удалось проанализировать там параметры и установить триггер для запуска каждый день.

Мой вопрос был бы:

Есть ли способ для рабочих процессов создавать экземпляры и одновременно выполнять одно и то же задание с разными параметрами? Является ли создание нескольких рабочих процессов единственным способом сделать это?

Комментарии:

1. одной из альтернатив может быть использование lambda для создания различных конфигураций и параллельного запуска заданий склеивания.

2. @thrasos смогли найти лучшее решение?

Ответ №1:

Я думаю, вы сделали это правильно с помощью триггеров. Вот так. Вы можете параметризовать задание склеивания (базовый код Python) и создать несколько триггеров, которые используют одно и то же задание склеивания, но с разными параметрами. (У вас есть возможность передавать параметры задания в триггерах).

«Есть ли способ для рабочих процессов создавать экземпляры и одновременно выполнять одно и то же задание с разными параметрами? Является ли создание нескольких рабочих процессов единственным способом сделать это? » — Я попробовал этот подход, но не нашел никакого выхода.