Хранение данных приемника Thanos в течение 3 часов

#thanos

#танос

Вопрос:

введите описание изображения здесьЯ настроил 5 копий приемников Thanos с сохранением данных в течение 3 часов. Я проверил, что папки ULID, создаваемые каждые 2 часа, создаются и удаляются через 3 часа. Однако моя проблема в том, что данные в каталоге wal, похоже, продолжают увеличиваться и не удаляются через 3 часа. Я пытался найти какую-либо информацию об этом в документации Thanos, если это ожидаемое поведение. Мы предоставляем только 20Gi пвх, и мы не можем позволить себе увеличить его в рамках цели компании по повышению эффективности затрат.

Есть ли какая-либо информация, где я могу сделать так, чтобы каталог wal в хранилище данных приемников Thanos можно было удалить, как это делают каталоги ULID?

Ожидание: папки с данными внутри каталога wal будут удалены так же, как удаляются каталоги ULID через 3 часа.

Пожалуйста, дайте мне немного света. Спасибо.

Комментарии:

1. Я бы рекомендовал попробовать другие решения для удаленного хранения данных для Prometheus, такие как Cortex, m3db или VictoriaMetrics , поскольку они могут требовать меньшего количества ресурсов (дисковое пространство, оперативная память, процессор, пропускная способность сети) по сравнению с приемником Thanos. Все эти решения легко оценивать параллельно, настраивая несколько remote_write->url записей в конфигурациях Prometheus. В этом случае Prometheus реплицирует очищенные данные во все настроенные удаленные системы хранения.

2. Привет @valyala, спасибо за ответ. Я обнаружил, что проблема заключается в том, что идентификаторы ULID на самом деле не удаляются через 3 часа. Я думаю, что прошло 30-40 минут, прежде чем они были действительно удалены на основе имеющейся у нас версии. Я бы хотел изучить другие технологии, однако мое начальство хочет, чтобы я использовал приемники Thanos для текущего дизайна archi, который у нас есть. Ценю ваш ответ. Спасибо.