Отсутствует Индикатор выполнения консоли Spark

#apache-spark #pyspark #jupyter-notebook

Вопрос:

Как получить индикатор выполнения консоли «Этап» в ноутбуке Jupyter?

Индикатор выполнения отображался ранее, но почему — то не отображается сейчас. Я тоже не мог связать это с расширением Nb.

Дайте мне знать, если есть какая-либо конфигурация, доступная для его повторного включения.

 [Stage X:==========>            (A   B) / C]
 

Ответ №1:

Установить spark.ui.showConsoleProgress в True docs

Комментарии:

1. Флаг был включен, и индикатор выполнения был показан один раз. Он отключился сам по себе. Может быть, что-то перекрывает?

2. да, возможно, это зависит от вашей текущей системы, кто и что может контролировать и изменять эти настройки ( spark-defaults.conf конфигурации HDP и т. Д.). Но технически вы можете переопределить его повторно на уровне приложения.