улучшение использования памяти в Python для цикла

#python-3.x #for-loop #memory

Вопрос:

Я выполняю некоторую базовую очистку данных и использую цикл for для обработки таблиц. Ничего слишком большого — около 10 000 строк х 6 таблиц, но он может вырасти.

Запуск скрипта занимает ~10 минут. Python 3.7 работает в EC2 Linux.

 table_list = (t1, t2, t3, t4, t5, t6) for table in table_list:  some_processing_function(table)  

После каждой итерации остается ли в памяти предыдущая таблица? Если да, то я хочу знать, есть ли более эффективный способ сделать это. Кажется неэффективным хранить все эти данные в памяти, если они больше не нужны.

Спасибо.

Комментарии:

1. Я думаю, проблема в том, что «table_list» удерживает хранилище для всех шести таблиц до тех пор, пока эта переменная не выйдет за пределы области действия. Если таблицы получены из повторяющегося источника (например, списка файлов), вам нужно будет видеть только одну из них в памяти за раз.