40 ТБ FIFO на жестком диске с оптимизированной производительностью

#python #c #linux #file-storage #lvm

Вопрос:

Интересно, какие средства можно использовать для организации буфера из массива жестких дисков. Назначение буфера-хранить данные до тех пор, пока они не будут перемещены в холодное хранилище. Когда буфер заполнен, самые старые данные перемещаются в холодное хранилище. В буфер постоянно записывается около 500 Мбит / с. Файлы записываются, средний размер файла составляет 10 Мегабайт.

Пока я вижу только LVM в линейном режиме и много жесткого диска контроль схемы чтения файлов через ядро, что-то вроде posix_fadvise .

Может быть, есть готовые решения этой проблемы?

Комментарии:

1. В зависимости от среднего размера файла у вас будет около 4 миллионов файлов. Лучше подумайте о правильной файловой системе ( xfs например). Конечно, за полосатый объем RAID0