#amazon-web-services #pyspark #aws-glue
#amazon-web-services #pyspark #aws-glue
Вопрос:
Я новичок в aws-glue от Amazon и все еще пытаюсь разобраться.
В настоящее время у меня есть задание склеивания оболочки python, и каждый раз, когда я его выполняю, я изменяю параметры задания.
Я просматриваю рабочие процессы, и мне удалось проанализировать там параметры и установить триггер для запуска каждый день.
Мой вопрос был бы:
Есть ли способ для рабочих процессов создавать экземпляры и одновременно выполнять одно и то же задание с разными параметрами? Является ли создание нескольких рабочих процессов единственным способом сделать это?
Комментарии:
1. одной из альтернатив может быть использование lambda для создания различных конфигураций и параллельного запуска заданий склеивания.
2. @thrasos смогли найти лучшее решение?
Ответ №1:
Я думаю, вы сделали это правильно с помощью триггеров. Вот так. Вы можете параметризовать задание склеивания (базовый код Python) и создать несколько триггеров, которые используют одно и то же задание склеивания, но с разными параметрами. (У вас есть возможность передавать параметры задания в триггерах).
«Есть ли способ для рабочих процессов создавать экземпляры и одновременно выполнять одно и то же задание с разными параметрами? Является ли создание нескольких рабочих процессов единственным способом сделать это? » — Я попробовал этот подход, но не нашел никакого выхода.