Как выгрузить все документы из индекса эластичного поиска в файл json?

#elasticsearch #kibana

#elasticsearch #kibana

Вопрос:

cURL xGET это один из используемых вариантов. У него есть ограничения на размер извлекаемого документа (не более 2 ГБ выходных данных). Также пробовал использовать опцию прокрутки в xget . Оба варианта приводят к отключению узла.

Версия ES: 6.1

Есть ли другие способы?

Ответ №1:

Экспортировать все данные можно с помощью scroll API, который позволяет получать данные на страницах с использованием scroll_id:

https://www.elastic.co/guide/en/elasticsearch/reference/current/search-request-scroll.html

Вы также можете проверить logstash: ввод из elasticsearch, вывод в файл.

Комментарии:

1. Использование scroll возвращает Gateway Time-out

2. Вы можете увеличить время ожидания прокрутки, которое по умолчанию равно 1 м. Используя параметр ‘scroll’ и установив его равным 5 м или более.

3. Другой вариант — уменьшить размер обрабатываемой страницы, чтобы каждая страница обрабатывалась быстрее и время ожидания не достигало