Блог

Я пытаюсь использовать журналы для elasticSearch использования fileBeat (без Logstash)

Я хочу отправить следующий журнал в одном сообщении, но он разбивается на несколько сообщений, каждая строка становится отдельным сообщением

 20161014 17:49:09.169 [ERROR] [Thread-2974] some.java.class.:70 - some.java.Exception: write failed. History: [requestHost=123-some.org.com, time=Fri Oct 14 17:49:05 GMT-07:00 2016, exception=java.net.SocketTimeoutException]
[requestHost=123-some.org.com, time=Fri Oct 14 17:49:07 GMT-07:00 2016, exception=java.net.SocketTimeoutException]
[requestHost=123-some.org.com, time=Fri Oct 14 17:49:09 GMT-07:00 2016, exception=java.net.SocketTimeoutException]
 Tried 3 times
        at java.lang.Thread.run(Thread.java:745)
20161014 17:49:09.169 [ERROR] [Thread-3022]
 

Я хочу объединить все строки между 2 датами (1-я и последняя строка)

Вот мой filebeat.yml фрагмент

  paths:
      - /test.log
      multiline.pattern: '^[0-9]{8}'
      multiline.negate: true
      multiline.match: after
 

Мне нужно знать, правильно regex

Я пытаюсь решить это без использования logstash

Использование следующей конфигурации Filebeat с предоставленным образцом журнала приводит к двум событиям, где каждое сообщение начинается с даты.

Я запустил ./filebeat -c filebeat.yml -e -v -d "*" конфигурацию ниже для тестирования. Я также протестировал шаблон на игровой площадке Go.

filebeat.yml:

 filebeat:
  prospectors:
    - paths: ["input.txt"]
      multiline:
        pattern: '^[0-9]{8}'
        negate:  true
        match:   after
output:
  console:
    pretty: false
 

Вывод:

 {   
  "@timestamp": "2016-10-17T14:13:31.292Z",
  "beat": {
    "hostname": "host.example.com",
    "name": "host.example.com",
  },  
  "input_type": "log",
  "message": "20161014 17:49:09.169 [ERROR] [Thread-2974] some.java.class.:70 - some.java.Exception: write failed. History: [requestHost=123-some.org.com, time=Fri Oct 14 17:49:05 GMT-07:00 2016, exception=java.net.SocketTimeoutException]n[requestHost=123-some.org.com, time=Fri Oct 14 17:49:07 GMT-07:00 2016, exception=java.net.SocketTimeoutException]n[requestHost=123-some.org.com, time=Fri Oct 14 17:49:09 GMT-07:00 2016, exception=java.net.SocketTimeoutException]n Tried 3 timesn        at java.lang.Thread.run(Thread.java:745)",
  "offset": 519,
  "source": "input.txt",
  "type": "log"
}   
{   
  "@timestamp": "2016-10-17T14:17:21.686Z",
  "beat": {
    "hostname": "host.example.com",
    "name": "host.example.com",
  },  
  "input_type": "log",
  "message": "20161014 17:49:09.169 [ERROR] [Thread-3022]",
  "offset": 563,
  "source": "input.txt",
  "type": "log"
}