При запуске NIFI .. получение исключения: java.nio.file.Исключение FileSystemException: ./state/local/partition-0/107654.journal: слишком много открытых файлов

#apache-nifi

#apache-nifi

Вопрос:

При запуске NiFi происходит сбой с ошибкой ниже

     at org.springframework.beans.factory.support.AbstractBeanFactory.getBean(AbstractBeanFactory.java:202)
    at org.springframework.context.support.AbstractApplicationContext.getBean(AbstractApplicationContext.java:1086)
    at org.apache.nifi.web.contextlistener.ApplicationStartupContextListener.contextInitialized(ApplicationStartupContextListener.java:55)
    ... 37 common frames omitted
  

Вызвано: org.springframework.beans.factory.Исключение BeanCreationException: ошибка при создании компонента с именем ‘flowController’: FactoryBean вызвал исключение при создании объекта; вложенным исключением является исключение java.lang.RuntimeException: java.nio.file.Исключение FileSystemException: ./state/local/partition-0/107654.journal: слишком много открытых файлов
в org.springframework.beans.factory.support.FactoryBeanRegistrySupport.doGetObjectFromFactoryBean(FactoryBeanRegistrySupport.java:185)

я отладил и обнаружил, что во всех разделах в

/usr/lib/NiFi/ NiFi/ nifi-1.11.4/state/local

раздел-0 раздел-11 раздел-14 раздел-3 раздел-6 раздел-9 раздел-1 раздел-12 раздел-15 раздел-4 раздел-7 раздел моментального снимка-10 раздел-13 раздел-2 раздел-5 раздел-8 wali.lock

например, если я выберу какую-либо папку раздела… предположим, я выбираю раздел-0, чтобы внутри этого множества записей в журнале я мог видеть, как

107018.журнал 107632.журнал 108246.журнал 108860.журнал 109474.журнал 110088.журнал 107019.журнал 107633.журнал 108247.журнал 108861.журнал 109475.журнал 110089.журнал 107020.журнал 107634.журнал 108248.журнал 108862.журнал 109476.журнал 110090.журнал 107021.журнал 107635.журнал108249.журнал 108863.журнал 109477.журнал 110091.журнал 107022.журнал 107636.журнал 108250.журнал 108864.журнал 109478.журнал 110092.журнал 107023.журнал 107637.журнал 108251.журнал 108865.журнал 109479.журнал 110093.журнал 107024.журнал 107638.журнал 108252.журнал 108866.журнал109480.журнал 110094.журнал 107025.журнал 107639.журнал 108253.журнал 108867.журнал 109481.журнал 110095.журнал 107026.журнал 107640.журнал 108254.журнал 108868.журнал 109482.журнал 110096.журнал 107027.журнал 107641.журнал 108255.журнал 108869.журнал 109483.журнал 110097.журнал107028.журнал 107642.журнал 108256.журнал 108870.журнал 109484.журнал 110098.журнал 107029.журнал 107643.журнал 108257.журнал 108871.журнал 109485.журнал 110099.журнал 107030.журнал 107644.журнал 108258.журнал 108872.журнал 109486.журнал 110100.журнал 107031.журнал 107645.журнал 108259.журнал 108873.журнал 109487.журнал 110101.журнал 107032.журнал 107646.журнал 108260.журнал 108874.журнал 109488.журнал 110102.журнал 107033.журнал 107647.журнал 108261.журнал 108875.журнал 109489.журнал 110103.журнал 107034.журнал 107648.журнал 108262.журнал 108876.журнал 109490.журнал 110104.журнал 107035.журнал 107649.журнал 108263.журнал 108877.журнал 109491.журнал 110105.журнал

Записей еще больше, и я предполагаю, что это приводит к тому, что Nifi не запускается.

Надеюсь, я найду здесь решение для этой проблемы

Ответ №1:

Вы следовали инструкциям, чтобы увеличить лимит открытых файлов в вашей операционной системе? NiFi требует большого количества открытых файлов при чтении / записи во внутренние хранилища данных, поэтому, если это ограничено, это часто может помешать успешной работе.

Из документов:

Максимальное количество дескрипторов файлов

В NiFi в любой момент времени может быть открыто очень большое количество дескрипторов файлов. Увеличьте ограничения, отредактировав /etc/security/limits.conf , чтобы добавить что-то вроде

  • hard nofile 50000
  • soft nofile 50000

Максимально разветвленные процессы

NiFi может быть настроен для генерации значительного количества потоков. Чтобы увеличить допустимое число, отредактируйте /etc/security/limits.conf

  • hard nproc 10000
  • soft nproc 10000

И ваш дистрибутив может потребовать редактирования /etc/security/limits.d/90-nproc.conf путем добавления

  • soft nproc 10000

Комментарии:

1. Спасибо, это сработало, я постараюсь применить лучшие практики nifi дальше 🙂