#python #python-3.x #pandas #windows #multiprocessing
#python #python-3.x #pandas #Windows #многопроцессорная обработка
Вопрос:
У меня есть скрипт на Python, который использует многопроцессорную библиотеку, и он работал нормально. Затем на следующий день я решил запустить его снова, но он выдал ошибки памяти, а файл подкачки слишком мал. ошибки. Единственное, что я могу придумать, что изменилось, — это место на жестком диске и обновления для Windows. Я подумал, что это может быть связано с конфликтом центра обновления Windows, поэтому я удалил Python 3.8.3 и обновил до 3.9 и обновил все зависимые пакеты, а также распространяемый C . Единственное, что я попробовал, это уменьшить количество рабочих еще на 6 рабочих. Это сработало, но, очевидно, было медленнее. Обычно я работаю с -4 рабочими из общего числа, и это не вызвало никаких проблем. Я даже пробовал работать со всеми другими отключенными приложениями и отключенной сетью, но проблема сохраняется с -4 ядрами. Работает с ядрами -10. Похоже, что-то произошло, что требует, чтобы скрипт использовал больше памяти, что объясняет, почему работает сокращение количества экземпляров процесса. Но является ли это ошибкой, которая вызывает это?
Любая помощь будет оценена. Спасибо!
Traceback (most recent call last):
File "C:UsersdavidAppDataLocalProgramsPythonPython39libsite-packagespandas__init__.py", line 30, in <module>
File "C:UsersdavidAppDataLocalProgramsPythonPython39libmultiprocessingspawn.py", line 116, in spawn_main
File "C:UsersdavidAppDataLocalProgramsPythonPython39libmultiprocessingspawn.py", line 116, in spawn_main
exitcode = _main(fd, parent_sentinel)
File "C:UsersdavidAppDataLocalProgramsPythonPython39libmultiprocessingspawn.py", line 125, in _main
from pandas._libs import hashtable as _hashtable, lib as _lib, tslib as _tslib
exitcode = _main(fd, parent_sentinel)
File "C:UsersdavidAppDataLocalProgramsPythonPython39libsite-packagespandas_libs__init__.py", line 13, in <module>
File "C:UsersdavidAppDataLocalProgramsPythonPython39libmultiprocessingspawn.py", line 125, in _main
from pandas._libs.interval import Interval
File "pandas_libsinterval.pyx", line 1, in init pandas._libs.interval
prepare(preparation_data)
File "C:UsersdavidAppDataLocalProgramsPythonPython39libmultiprocessingspawn.py", line 236, in prepare
prepare(preparation_data)
File "C:UsersdavidAppDataLocalProgramsPythonPython39libmultiprocessingspawn.py", line 236, in prepare
_fixup_main_from_path(data['init_main_from_path'])
File "C:UsersdavidAppDataLocalProgramsPythonPython39libmultiprocessingspawn.py", line 287, in _fixup_main_from_path
_fixup_main_from_path(data['init_main_from_path'])
File "C:UsersdavidAppDataLocalProgramsPythonPython39libmultiprocessingspawn.py", line 287, in _fixup_main_from_path
File "pandas_libshashtable.pyx", line 1, in init pandas._libs.hashtable
main_content = runpy.run_path(main_path,
File "C:UsersdavidAppDataLocalProgramsPythonPython39librunpy.py", line 268, in run_path
main_content = runpy.run_path(main_path,
File "C:UsersdavidAppDataLocalProgramsPythonPython39librunpy.py", line 268, in run_path
File "pandas_libsmissing.pyx", line 1, in init pandas._libs.missing
return _run_module_code(code, init_globals, run_name,
File "C:UsersdavidAppDataLocalProgramsPythonPython39librunpy.py", line 97, in _run_module_code
return _run_module_code(code, init_globals, run_name,
File "C:UsersdavidAppDataLocalProgramsPythonPython39librunpy.py", line 97, in _run_module_code
_run_code(code, mod_globals, init_globals,
File "C:UsersdavidAppDataLocalProgramsPythonPython39librunpy.py", line 87, in _run_code
_run_code(code, mod_globals, init_globals,
File "C:UsersdavidAppDataLocalProgramsPythonPython39librunpy.py", line 87, in _run_code
File "C:UsersdavidAppDataLocalProgramsPythonPython39libsite-packagespandas_libstslibs__init__.py", line 30, in <module>
exec(code, run_globals)
exec(code, run_globals)
File "C:UsersdavidDocumentsGitHubnimbleheartModulesSTRATTEST_MULTITRIAL_MASTER.py", line 18, in <module>
File "C:UsersdavidDocumentsGitHubnimbleheartModulesSTRATTEST_MULTITRIAL_MASTER.py", line 18, in <module>
from .conversion import OutOfBoundsTimedelta, localize_pydatetime
File "pandas_libstslibsconversion.pyx", line 58, in init pandas._libs.tslibs.conversion
import pandas as pd
import pandas as pd
File "C:UsersdavidAppDataLocalProgramsPythonPython39libsite-packagespandas__init__.py", line 52, in <module>
File "C:UsersdavidAppDataLocalProgramsPythonPython39libsite-packagespandas__init__.py", line 52, in <module>
File "pandas_libstslibsparsing.pyx", line 1, in init pandas._libs.tslibs.parsing
from pandas.core.api import (
from pandas.core.api import (
File "C:UsersdavidAppDataLocalProgramsPythonPython39libsite-packagespandascoreapi.py", line 15, in <module>
File "C:UsersdavidAppDataLocalProgramsPythonPython39libsite-packagespandascoreapi.py", line 29, in <module>
from pandas.core.arrays import Categorical
File "pandas_libstslibsoffsets.pyx", line 1, in init pandas._libs.tslibs.offsets
File "C:UsersdavidAppDataLocalProgramsPythonPython39libsite-packagespandascorearrays__init__.py", line 10, in <module>
from pandas.core.groupby import Grouper, NamedAgg
File "C:UsersdavidAppDataLocalProgramsPythonPython39libsite-packagespandascoregroupby__init__.py", line 1, in <module>
from pandas.core.arrays.interval import IntervalArray
File "C:UsersdavidAppDataLocalProgramsPythonPython39libsite-packagespandascorearraysinterval.py", line 43, in <module>
from pandas.core.groupby.generic import DataFrameGroupBy, NamedAgg, SeriesGroupBy
File "C:UsersdavidAppDataLocalProgramsPythonPython39libsite-packagespandascoregroupbygeneric.py", line 57, in <module>
File "pandas_libstslibstimestamps.pyx", line 47, in init pandas._libs.tslibs.timestamps
from pandas.core.indexes.base import ensure_index
File "C:UsersdavidAppDataLocalProgramsPythonPython39libsite-packagespandascoreindexesbase.py", line 31, in <module>
from pandas.core.aggregation import (
File "C:UsersdavidAppDataLocalProgramsPythonPython39libsite-packagespandascoreaggregation.py", line 27, in <module>
from pandas.core.dtypes import concat as _concat
File "C:UsersdavidAppDataLocalProgramsPythonPython39libsite-packagespandascoredtypesconcat.py", line 25, in <module>
from pandas.core.series import FrameOrSeriesUnion, Series
ImportError: DLL load failed while importing fields: The paging file is too small for this operation to complete.
File "C:UsersdavidAppDataLocalProgramsPythonPython39libsite-packagespandascoreseries.py", line 68, in <module>
The above exception was the di
Ответ №1:
Мне ничего не известно. В Windows были некоторые проблемы с Panda 1.0.3 (когда я в последний раз использовал его), которые зависали в зависимости от расположения DLL / резервных копий и т. Д. Я бы попробовал установить последнюю версию Microsoft Visual C , распространяемую для Visual Studio 2015, 2017 и 2019, и посмотреть, работает ли это (вы уже сделали, просто повторив шаги, которые я предпринял). Может быть, центр обновления Windows что-то удалил / обновил…
Вы также можете попытаться скопировать concrt140.dll и msvcp140.dll от C:WindowsSystem32 в папку pandas_libs windows, если у вас уже установлена последняя версия.
Последним средством было бы вернуть Pandas и / или Python к известной рабочей копии (для меня это были версии 1.0.1 и python 3.7)
Комментарии:
1. Спасибо! Я попробую ваши предложения.
2. Еще раз привет. Просто чтобы обновить вас, я исправил это. Переход на более старую версию numpy и pandas сделал это за меня. Должно быть, я забыл, что обновил numpy / pandas, что, вероятно, и вызвало проблему в первую очередь. Спасибо за вашу помощь!!!!!!