остановить spark createdataframe (pandas.df) от удаления / обрезки строк

#python #pandas #pyspark

#python #pandas #pyspark

Вопрос:

Когда я преобразую фрейм данных pandas в spark, spark автоматически удаляет столбцы строк / удаляет начальные и конечные пробелы. Как это можно остановить? sparkframe = spark.createDataFrame(pandas_df) Пример ‘ ‘ -> » или ‘ab ‘ -> ‘ab’

Ответ №1:

.вариант («ignoreTrailingWhiteSpace», False).вариант («ignoreLeadingWhiteSpace», False) при сохранении является решением. Почему его значение по умолчанию True — загадка