Есть ли известная ошибка с размерами файлов управления памятью или подкачки между многопроцессорным процессором Python и последними обновлениями Win 10?

#python #python-3.x #pandas #windows #multiprocessing

#python #python-3.x #pandas #Windows #многопроцессорная обработка

Вопрос:

У меня есть скрипт на Python, который использует многопроцессорную библиотеку, и он работал нормально. Затем на следующий день я решил запустить его снова, но он выдал ошибки памяти, а файл подкачки слишком мал. ошибки. Единственное, что я могу придумать, что изменилось, — это место на жестком диске и обновления для Windows. Я подумал, что это может быть связано с конфликтом центра обновления Windows, поэтому я удалил Python 3.8.3 и обновил до 3.9 и обновил все зависимые пакеты, а также распространяемый C . Единственное, что я попробовал, это уменьшить количество рабочих еще на 6 рабочих. Это сработало, но, очевидно, было медленнее. Обычно я работаю с -4 рабочими из общего числа, и это не вызвало никаких проблем. Я даже пробовал работать со всеми другими отключенными приложениями и отключенной сетью, но проблема сохраняется с -4 ядрами. Работает с ядрами -10. Похоже, что-то произошло, что требует, чтобы скрипт использовал больше памяти, что объясняет, почему работает сокращение количества экземпляров процесса. Но является ли это ошибкой, которая вызывает это?

Любая помощь будет оценена. Спасибо!

   Traceback (most recent call last):
  File "C:UsersdavidAppDataLocalProgramsPythonPython39libsite-packagespandas__init__.py", line 30, in <module>
  File "C:UsersdavidAppDataLocalProgramsPythonPython39libmultiprocessingspawn.py", line 116, in spawn_main
  File "C:UsersdavidAppDataLocalProgramsPythonPython39libmultiprocessingspawn.py", line 116, in spawn_main
    exitcode = _main(fd, parent_sentinel)
  File "C:UsersdavidAppDataLocalProgramsPythonPython39libmultiprocessingspawn.py", line 125, in _main
    from pandas._libs import hashtable as _hashtable, lib as _lib, tslib as _tslib
    exitcode = _main(fd, parent_sentinel)
  File "C:UsersdavidAppDataLocalProgramsPythonPython39libsite-packagespandas_libs__init__.py", line 13, in <module>
  File "C:UsersdavidAppDataLocalProgramsPythonPython39libmultiprocessingspawn.py", line 125, in _main
    from pandas._libs.interval import Interval
  File "pandas_libsinterval.pyx", line 1, in init pandas._libs.interval
    prepare(preparation_data)
  File "C:UsersdavidAppDataLocalProgramsPythonPython39libmultiprocessingspawn.py", line 236, in prepare
    prepare(preparation_data)
  File "C:UsersdavidAppDataLocalProgramsPythonPython39libmultiprocessingspawn.py", line 236, in prepare
    _fixup_main_from_path(data['init_main_from_path'])
  File "C:UsersdavidAppDataLocalProgramsPythonPython39libmultiprocessingspawn.py", line 287, in _fixup_main_from_path
    _fixup_main_from_path(data['init_main_from_path'])
  File "C:UsersdavidAppDataLocalProgramsPythonPython39libmultiprocessingspawn.py", line 287, in _fixup_main_from_path
  File "pandas_libshashtable.pyx", line 1, in init pandas._libs.hashtable
    main_content = runpy.run_path(main_path,
  File "C:UsersdavidAppDataLocalProgramsPythonPython39librunpy.py", line 268, in run_path
    main_content = runpy.run_path(main_path,
  File "C:UsersdavidAppDataLocalProgramsPythonPython39librunpy.py", line 268, in run_path
  File "pandas_libsmissing.pyx", line 1, in init pandas._libs.missing
    return _run_module_code(code, init_globals, run_name,
  File "C:UsersdavidAppDataLocalProgramsPythonPython39librunpy.py", line 97, in _run_module_code
    return _run_module_code(code, init_globals, run_name,
  File "C:UsersdavidAppDataLocalProgramsPythonPython39librunpy.py", line 97, in _run_module_code
    _run_code(code, mod_globals, init_globals,
  File "C:UsersdavidAppDataLocalProgramsPythonPython39librunpy.py", line 87, in _run_code
    _run_code(code, mod_globals, init_globals,
  File "C:UsersdavidAppDataLocalProgramsPythonPython39librunpy.py", line 87, in _run_code
  File "C:UsersdavidAppDataLocalProgramsPythonPython39libsite-packagespandas_libstslibs__init__.py", line 30, in <module>
    exec(code, run_globals)
    exec(code, run_globals)
  File "C:UsersdavidDocumentsGitHubnimbleheartModulesSTRATTEST_MULTITRIAL_MASTER.py", line 18, in <module>
  File "C:UsersdavidDocumentsGitHubnimbleheartModulesSTRATTEST_MULTITRIAL_MASTER.py", line 18, in <module>
    from .conversion import OutOfBoundsTimedelta, localize_pydatetime
  File "pandas_libstslibsconversion.pyx", line 58, in init pandas._libs.tslibs.conversion
    import pandas as pd
    import pandas as pd
  File "C:UsersdavidAppDataLocalProgramsPythonPython39libsite-packagespandas__init__.py", line 52, in <module>
  File "C:UsersdavidAppDataLocalProgramsPythonPython39libsite-packagespandas__init__.py", line 52, in <module>
  File "pandas_libstslibsparsing.pyx", line 1, in init pandas._libs.tslibs.parsing
    from pandas.core.api import (
    from pandas.core.api import (
  File "C:UsersdavidAppDataLocalProgramsPythonPython39libsite-packagespandascoreapi.py", line 15, in <module>
  File "C:UsersdavidAppDataLocalProgramsPythonPython39libsite-packagespandascoreapi.py", line 29, in <module>
    from pandas.core.arrays import Categorical
  File "pandas_libstslibsoffsets.pyx", line 1, in init pandas._libs.tslibs.offsets
  File "C:UsersdavidAppDataLocalProgramsPythonPython39libsite-packagespandascorearrays__init__.py", line 10, in <module>
    from pandas.core.groupby import Grouper, NamedAgg
  File "C:UsersdavidAppDataLocalProgramsPythonPython39libsite-packagespandascoregroupby__init__.py", line 1, in <module>
    from pandas.core.arrays.interval import IntervalArray
  File "C:UsersdavidAppDataLocalProgramsPythonPython39libsite-packagespandascorearraysinterval.py", line 43, in <module>
    from pandas.core.groupby.generic import DataFrameGroupBy, NamedAgg, SeriesGroupBy
  File "C:UsersdavidAppDataLocalProgramsPythonPython39libsite-packagespandascoregroupbygeneric.py", line 57, in <module>
  File "pandas_libstslibstimestamps.pyx", line 47, in init pandas._libs.tslibs.timestamps
    from pandas.core.indexes.base import ensure_index
  File "C:UsersdavidAppDataLocalProgramsPythonPython39libsite-packagespandascoreindexesbase.py", line 31, in <module>
    from pandas.core.aggregation import (
  File "C:UsersdavidAppDataLocalProgramsPythonPython39libsite-packagespandascoreaggregation.py", line 27, in <module>
    from pandas.core.dtypes import concat as _concat
  File "C:UsersdavidAppDataLocalProgramsPythonPython39libsite-packagespandascoredtypesconcat.py", line 25, in <module>
    from pandas.core.series import FrameOrSeriesUnion, Series
ImportError: DLL load failed while importing fields: The paging file is too small for this operation to complete.
  File "C:UsersdavidAppDataLocalProgramsPythonPython39libsite-packagespandascoreseries.py", line 68, in <module>

The above exception was the di
 

Ответ №1:

Мне ничего не известно. В Windows были некоторые проблемы с Panda 1.0.3 (когда я в последний раз использовал его), которые зависали в зависимости от расположения DLL / резервных копий и т. Д. Я бы попробовал установить последнюю версию Microsoft Visual C , распространяемую для Visual Studio 2015, 2017 и 2019, и посмотреть, работает ли это (вы уже сделали, просто повторив шаги, которые я предпринял). Может быть, центр обновления Windows что-то удалил / обновил…

Вы также можете попытаться скопировать concrt140.dll и msvcp140.dll от C:WindowsSystem32 в папку pandas_libs windows, если у вас уже установлена последняя версия.

Последним средством было бы вернуть Pandas и / или Python к известной рабочей копии (для меня это были версии 1.0.1 и python 3.7)

Комментарии:

1. Спасибо! Я попробую ваши предложения.

2. Еще раз привет. Просто чтобы обновить вас, я исправил это. Переход на более старую версию numpy и pandas сделал это за меня. Должно быть, я забыл, что обновил numpy / pandas, что, вероятно, и вызвало проблему в первую очередь. Спасибо за вашу помощь!!!!!!