logstash + elasticsearch: ponownie ładuje te same dane
Udało się uzyskać logstash (1.3.1), aby wysłać dane do elasticsearch (0.9.5).
Moja konfiguracja pliku logstash jest
input {
file {
path => ["D:/apache-tomcat-7.0.5/logs/*.*"]
}
}
output {
stdout { }
elasticsearch_http {
host => "localhost"
port => 9200
}
}
Dane są przechowywane w ES pod indeksem logstash-2013.12.xx
Jeśli jednak uruchomię ponownie logstash, powiedzmy następnego dnia - te same dane zostaną ponownie załadowane do nowego indeksu. Nawet jeśli ponownie uruchomię ponownie, liczba dokumentów podwoi się w indeksie.
Wygląda na to, że logstash ponownie odczytuje dane, a ES również powiela dokumenty.
Czy istnieje sposób, aby nie przeładować pliku logstash lub nie powielić go w ES lub zrobić BOTH.