#python #pandas #pyspark
#python #pandas #pyspark
Вопрос:
Когда я преобразую фрейм данных pandas в spark, spark автоматически удаляет столбцы строк / удаляет начальные и конечные пробелы. Как это можно остановить? sparkframe = spark.createDataFrame(pandas_df)
Пример ‘ ‘ -> » или ‘ab ‘ -> ‘ab’
Ответ №1:
.вариант («ignoreTrailingWhiteSpace», False).вариант («ignoreLeadingWhiteSpace», False) при сохранении является решением. Почему его значение по умолчанию True — загадка