#azure #sql-insert #azure-data-factory #bulkinsert
Вопрос:
Просто хочу знать, почему, когда действие по копированию фабрики данных Azure (ADF), передающее данные из облака в базу данных on-prem, блокирует всю таблицу. Когда я нажимаю на кнопку таблиц, появляется сообщение об ошибке тайм-аута. Я имею дело с огромными данными. Я не использую действие ForEach, но все действия по копированию выполняются параллельно.
Комментарии:
1.
transfering data from the cloud to an on-prem db,
это означает, что большая часть вашей пропускной способности используется для загрузки этих данных, задерживая любой другой вид связи. Это ничем не отличается от сеанса RDP или увеличения времени ожидания вызова, потому что вы загружаете или загружаете большой файл одновременно2. Вы используете действие for_each? В качестве быстрого обходного пути/исправления установите флажок «Последовательно» и посмотрите, поможет ли это.
3. Вы имеете дело с огромным объемом данных
4. Да , я имею дело с огромным объемом данных.
Ответ №1:
Если вы используете ForEach
действие, установите флажок «Последовательно», чтобы убедиться, что все задачи не выполняются параллельно и не блокируются таблицы. Дополнительную информацию смотрите в этой документации.
Если значение «isSequential» равно False, убедитесь, что существует правильная конфигурация для запуска нескольких исполняемых файлов. В противном случае это свойство следует использовать с осторожностью, чтобы избежать возникновения конфликтов записи. Дополнительные сведения см. в разделе Параллельное выполнение.