Не удается запустить Spark-shell

#apache-spark #pyspark #spark-shell

#apache-spark #pyspark #spark-shell

Вопрос:

Здравствуйте, я разархивировал и экспортировал путь к spark. Когда я это сделал, я получил эту ошибку.

 export PATH=$PATH:/usr/local/spark/spark24/bin
  

$ spark-shell

ОШИБКА

 Traceback (most recent call last):
  File "/usr/local/bin/find_spark_home.py", line 74, in <module>
    print(_find_spark_home())
  File "/usr/local/bin/find_spark_home.py", line 56, in _find_spark_home
    module_home = os.path.dirname(find_spec("pyspark").origin)
AttributeError: 'NoneType' object has no attribute 'origin'
/usr/local/bin/spark-shell: line 57: /bin/spark-submit: No such file or directory
  

В чем моя проблема.

Ответ №1:

Вы установили SPARK_HOME?

 export SPARK_HOME=/usr/local/spark/spark24
  

Комментарии:

1. Да, да, я решаю это. В /usr/local/bin / есть файлы старой версии. Я удалил все эти файлы, и это работает. Спасибо