#docker #apache-flink #flink-streaming
#docker #apache-flink #потоковая передача flink
Вопрос:
Я создал очень маленький кластер в docker (1 диспетчер заданий 3 диспетчер задач). У меня есть 2 задания (1 потоковое и 1 пакетное, которое перезапускается по завершении).
У меня 58 ГБ свободного места (прибл. Используется 30G). Когда я запускаю агрегатор, диспетчер заданий начал потреблять диск. Через какой-то час мой диск заполнен. Но когда я проверяю FS ( du -su /*/
), он содержит всего около 30 ГБ файлов.
Я не понимаю, почему это произошло, и где данные. Я пытаюсь проверить внутри контейнера jobmanager, но безуспешно.
Есть идеи?
Комментарии:
1. Проверьте файлы журналов Apache Flink.
2. Ничего интересного. У меня не осталось места на устройстве …. и это все .. размер журнала ~ 20 м … и этот контейнер съедает 40 г (jobmanager).
Ответ №1:
У меня была та же проблема, похоже, что это был файл .out в папке /usr/local/flink-{1-0.3}/log, размер которого превышал 6 ГБ. Мне пришлось удалить файл и повторно развернуть задания.
Ответ №2:
Используете ли вы Docker Meta для Mac? У меня была проблема с «полным дисковым пространством», и я больше не мог создавать свои проекты. Шаги, которые сработали для меня:
1) df -h —> проверьте, достаточно ли свободного места на хосте
Если это так, выполните следующие действия:
1) docker exec -это ваш контейнер bash -> подключиться к вашему контейнеру
2) df -h / var /www —> проверить место на диске
Если свободного места больше нет, выйдите из контейнера и выполните следующие действия:
1) docker rm $ (docker ps -aq) —> остановить и удалить все контейнеры
2) docker rmi —> удалить все изображения
3) ls -lh ~/Library/Containers/com.docker.docker/Data/com.docker.driver.amd64-linux/Docker.qcow2 —> проверьте размер этого файла и удалите его
4) закройте Docker и снова откройте его
5) закройте терминал и снова откройте его
6) Повторная сборка
Комментарии:
1. Спасибо, но, пожалуйста, прочитайте вопрос еще раз. Основная проблема заключается не в том, как я могу управлять своим контейнером docker. Проблема в том, что мой контейнер использует диск (во время запуска flink job manager), но в файловой системе (хост и гость) нет видимого файла. Итак, когда я запустил диспетчер заданий и вставил в него задания. Диск будет заполнен, но (!) если я удалю диспетчер заданий, я верну все свободное место… Я пытаюсь найти «большой файл» в контейнере и на хосте тоже. ps: он работает на ubuntu