Блог

У меня есть следующий код из example папки с исключением, которое я добавил @profile . Я просто пытаюсь запустить этот пример, потому что в моем более сложном коде у меня та же ошибка, и я хотел бы знать, сколько памяти используется в каждой строке.

система:

Python: 3.9

профилировщик памяти: 0,58

ОС: Манджаро

код:

 import time
import multiprocessing as mp
from memory_profiler import profile
# Big numbers
X6 = 10 ** 6
X7 = 10 ** 7


def worker(num, wait, amt=X6):
    """
    A function that allocates memory over time.
    """
    frame = []

    for idx in range(num):
        frame.extend([1] * amt)
        time.sleep(wait)

    del frame


def main_sequential():
    """
    A sequential version of the work, where one worker is called at a time.
    """
    worker(5, 5, X6)
    worker(5, 2, X7)
    worker(5, 5, X6)
    worker(5, 2, X7)

@profile
def main_multiproc():
    """
    A multiprocessing version of the work, where workers work in their own
    child processes and are collected by the master process.
    """
    pool = mp.Pool(processes=4)
    tasks = [
        pool.apply_async(worker, args) for args in
        [(5, 5, X6), (5, 2, X7), (5, 5, X6), (5, 2, X7)]
    ]

    results = [p.get() for p in tasks]


if __name__ == '__main__':
    main_multiproc()

 

ВЫПОЛНИТЬ КОМАНДУ:

python -m memory_profiler MyScript.py

ошибка:

 
Traceback (most recent call last):
  File "/usr/lib/python3.9/runpy.py", line 197, in _run_module_as_main
    return _run_code(code, main_globals, None,
  File "/usr/lib/python3.9/runpy.py", line 87, in _run_code
    exec(code, run_globals)
  File "/home/vlad/Documents/TradingBotRL/venv/lib/python3.9/site-packages/memory_profiler.py", line 1303, in <module>
    exec_with_profiler(script_filename, prof, args.backend, script_args)
  File "/home/vlad/Documents/TradingBotRL/venv/lib/python3.9/site-packages/memory_profiler.py", line 1204, in exec_with_profiler
    exec(compile(f.read(), filename, 'exec'), ns, ns)
  File "MyScript.py", line 47, in <module>
    main_multiproc()
  File "/home/vlad/Documents/TradingBotRL/venv/lib/python3.9/site-packages/memory_profiler.py", line 1142, in wrapper
    val = prof(func)(*args, **kwargs)
  File "/home/vlad/Documents/TradingBotRL/venv/lib/python3.9/site-packages/memory_profiler.py", line 717, in f
    return func(*args, **kwds)
  File "MyScript.py", line 43, in main_multiproc
    results = [p.get() for p in tasks]
  File "MyScript.py", line 43, in <listcomp>
    results = [p.get() for p in tasks]
  File "/usr/lib/python3.9/multiprocessing/pool.py", line 771, in get
    raise self._value
  File "/usr/lib/python3.9/multiprocessing/pool.py", line 537, in _handle_tasks
    put(task)
  File "/usr/lib/python3.9/multiprocessing/connection.py", line 211, in send
    self._send_bytes(_ForkingPickler.dumps(obj))
  File "/usr/lib/python3.9/multiprocessing/reduction.py", line 51, in dumps
    cls(buf, protocol).dump(obj)
_pickle.PicklingError: Can't pickle <function worker at 0x5556de78daf0>: attribute lookup worker on __main__ failed

 

Я что-то упускаю?

Документы для memory_profiler : https://pypi.org/project/memory-profiler/ скажите следующее, если вы используете декоратор (@профиль):

В этом случае скрипт можно запустить без указания-m memory_profiler в командной строке.

Поэтому я думаю, что тебе просто нужно бежать python MyScript.py