Как я могу легко сохранить результат потока в удаленную базу данных через REST или что-нибудь еще

#apache-kafka #apache-kafka-connect

#apache-kafka #apache-kafka-connect

Вопрос:

Я рассмотрел confluent kafka stream wordcount и пример обнаружения аномалий. В этом примере результат записывается в тему. Вместо этого, как я могу легко и быстро сохранить результат iinto удаленной базе данных через REST или что-нибудь еще. Есть ли какая-либо структура в confluent platform

Пример кода: // вместо кода отправьте удаленную базу данных

wordCounts.toStream().to(«streams-wordcount-output», созданный.с помощью(stringSerde, longSerde));

Ответ №1:

Обычным шаблоном здесь является запись результатов вашей потоковой обработки в раздел Kafka, а затем использование Kafka Connect для потоковой передачи этого раздела в любое место, куда вы хотите сохранить данные. Kafka Connect является частью Apache Kafka, и существует множество соединителей, в том числе kafka-connect-jdbc для записи данных в базы данных (и из них).

Если вы записываете непосредственно из своего приложения streams в базу данных, вы излишне связываете свою обработку и хранилище. Если база данных отключена или недоступна, ваша потоковая обработка должна справиться с этим. Вместо этого разделите их, и Kafka Connect будет обрабатывать недоступную базу данных и т.д.

Комментарии:

1. Большое тебе спасибо, Робин. Я понимаю, что вы сказали. Я начинаю искать kafka-connect-jdbc.