Входная запись не содержит поля в слиянии данных

# #google-cloud-platform #cloud #google-cloud-dataproc #google-cloud-data-fusion

Вопрос:

я создаю один конвейер из экземпляра sql server в compute engine, и я хочу перенести эти данные в bigquery, но в экземпляре предварительного просмотра все в порядке, и я могу без проблем просматривать строки, но когда я запускаю развертывание в datafusion, экземпляр выдает мне следующую ошибку

 0:c.g.c.h.i.b.BigQueryFactory@76] - Creating BigQuery from given credential.
2021-05-24 21:22:28,967 - INFO  [Executor task launch worker for task 0:c.g.c.h.i.b.BigQueryFactory@76] - Creating BigQuery from default credential.
2021-05-24 21:22:28,978 - INFO  [Executor task launch worker for task 0:c.g.c.h.i.b.BigQueryFactory@76] - Creating BigQuery from given credential.
2021-05-24 21:22:28,991 - INFO  [Executor task launch worker for task 0:c.g.c.h.i.b.o.ForwardingBigQueryFileOutputFormat@76] - Delegating functionality to 'AvroOutputFormat'.
2021-05-24 21:22:31,811 - ERROR [Executor task launch worker for task 0:o.a.s.u.Utils@91] - Aborting task  
**java.lang.IllegalArgumentException:** **Input record does not contain the DatabaseLogId field.** ```

what is your suggestion about this
 

Комментарии:

1. Не могли бы вы, пожалуйста, приложить полные конфигурации трассировки стека и конвейера?

Ответ №1:

Имя столбца должно быть одинаковым при вводе и выводе, когда вы просто используете источник SQLServer —> Приемник таблицы BQ.

например:

источник запроса: выберите dt в качестве идентификатора базы данных

столбец в приемнике: data_base_log_id (выдаст ваше исключение)

столбец в приемнике: идентификатор базы данных (ОК)