Нужен ли Mirrormaker 2 третий kafka для операции зеркального отображения?

#apache-kafka #apache-kafka-connect #apache-kafka-mirrormaker

#apache-kafka #apache-kafka-connect #apache-kafka-mirrormaker

Вопрос:

У меня есть вопрос, когда я использую mirrormaker 2.

Mirrormaker 2 основан на платформе Kafka Connect и может рассматриваться по своей сути как комбинация соединителя источника и приемника Kafka. Итак, в архитектуре MM2 есть разъемы источника и приемника. Но есть ли какой-либо дополнительный кластер Kafka для соединителей в MM2? Потому что в дизайне kafka connect; соединителю источника и приемника требуется кластер Kafka для перемещения данных.

Например, MM2 нужны исходные и целевые кластеры; Мой вопрос в том, нужен ли MM2 третий kafka для зеркального отображения без использования исходных и целевых кластеров?

Другой вопрос в том, можно ли запускать разъемы MM2 в режиме распространения?Я не видел никаких настроек по этому вопросу?

Например, в среде docker; достаточно ли приведенной ниже конфигурации для запуска MM2 в распределенном режиме?

 mirrormaker:
    image: 'wpietri/mirror-maker:2'
    environment:
      - SOURCE=source_ip:9092
      - DESTINATION=dest_ip:9092
      - TOPICS=test-topic
    deploy:
      replicas: 3
      mode: replicated
  

Ответ №1:

В настоящее время MirrorMaker 2 представляет собой набор исходных соединителей.

Соединитель источника получает записи из внешней системы и передает их в среду выполнения Kafka Connect, которая записывает их в Kafka.

Для MirrorMaker 2 «внешняя система» — это еще один кластер Kafka. Итак, для работы MirrorMaker 2 требуется только 2 кластера Kafka. Тот, в котором соединители получают записи (называемый исходным кластером), и тот, к которому подключено соединение Kafka (называемый целевым кластером).

Разъемы MirrorMaker 2 являются стандартными разъемами Kafka Connect. Они могут использоваться непосредственно с Kafka Connect в автономном или распределенном режиме.

Комментарии:

1. Микаэль спасибо за ваш ответ, я новичок в Kafka и MM2. На странице документации Kafka о MM2 в распределенном режиме; «Вы можете запускать много таких процессов зеркального отображения для увеличения пропускной способности и отказоустойчивости » В соответствии с этим предложением; например, в среде docker; реплицированных контейнеров достаточно для отказоустойчивости ?

2. Kafka Connect можно масштабировать в распределенном режиме, добавляя экземпляры. Вы можете запускать их в контейнерах, если хотите