сбой на диске docker полный

#docker #apache-flink #flink-streaming

#docker #apache-flink #потоковая передача flink

Вопрос:

Я создал очень маленький кластер в docker (1 диспетчер заданий 3 диспетчер задач). У меня есть 2 задания (1 потоковое и 1 пакетное, которое перезапускается по завершении).

У меня 58 ГБ свободного места (прибл. Используется 30G). Когда я запускаю агрегатор, диспетчер заданий начал потреблять диск. Через какой-то час мой диск заполнен. Но когда я проверяю FS ( du -su /*/ ), он содержит всего около 30 ГБ файлов.

Я не понимаю, почему это произошло, и где данные. Я пытаюсь проверить внутри контейнера jobmanager, но безуспешно.

Есть идеи?

Комментарии:

1. Проверьте файлы журналов Apache Flink.

2. Ничего интересного. У меня не осталось места на устройстве …. и это все .. размер журнала ~ 20 м … и этот контейнер съедает 40 г (jobmanager).

Ответ №1:

У меня была та же проблема, похоже, что это был файл .out в папке /usr/local/flink-{1-0.3}/log, размер которого превышал 6 ГБ. Мне пришлось удалить файл и повторно развернуть задания.

Ответ №2:

Используете ли вы Docker Meta для Mac? У меня была проблема с «полным дисковым пространством», и я больше не мог создавать свои проекты. Шаги, которые сработали для меня:

1) df -h —> проверьте, достаточно ли свободного места на хосте

Если это так, выполните следующие действия:

1) docker exec -это ваш контейнер bash -> подключиться к вашему контейнеру

2) df -h / var /www —> проверить место на диске

Если свободного места больше нет, выйдите из контейнера и выполните следующие действия:

1) docker rm $ (docker ps -aq) —> остановить и удалить все контейнеры

2) docker rmi —> удалить все изображения

3) ls -lh ~/Library/Containers/com.docker.docker/Data/com.docker.driver.amd64-linux/Docker.qcow2 —> проверьте размер этого файла и удалите его

4) закройте Docker и снова откройте его

5) закройте терминал и снова откройте его

6) Повторная сборка

Комментарии:

1. Спасибо, но, пожалуйста, прочитайте вопрос еще раз. Основная проблема заключается не в том, как я могу управлять своим контейнером docker. Проблема в том, что мой контейнер использует диск (во время запуска flink job manager), но в файловой системе (хост и гость) нет видимого файла. Итак, когда я запустил диспетчер заданий и вставил в него задания. Диск будет заполнен, но (!) если я удалю диспетчер заданий, я верну все свободное место… Я пытаюсь найти «большой файл» в контейнере и на хосте тоже. ps: он работает на ubuntu