質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

新規登録して質問してみよう
ただいま回答率
85.49%
Elasticsearch

Elasticsearchは、クラウド向けに構築された、RESTful な API を提供する分散型のサーチエンジンアプリケーションです。

Q&A

解決済

1回答

5777閲覧

Logstash で複数行のイベントを含む CSV が1行しか読み込めない

nskydiving

総合スコア6500

Elasticsearch

Elasticsearchは、クラウド向けに構築された、RESTful な API を提供する分散型のサーチエンジンアプリケーションです。

0グッド

0クリップ

投稿2019/05/24 22:24

編集2019/05/24 22:27

前提・実現したいこと

Logstash で複数行のイベントを含む CSV を Elasticsearch に取り込み、複数行のデータは全行をそのカラムのデータとして扱いたいのですが、1行目しか取り込めません。

Multiline Codec プラグインをはじめて使うので、これが正しい動作なのかどうかも分かっておりません。

ご存知の方いらっしゃいましたらご教授お願いします。

発生している問題

複数行のデータは1行目しか取り込めませんでした。

設定ファイル、CSVファイル、実行結果

logstash.conf

input { file { mode => "read" path => ["/Users/myuser/work/elasticsearch/csv/log.csv"] sincedb_path => "/dev/null" start_position => "beginning" codec => multiline { pattern => "^\s" what => "previous" } } } filter { csv { columns => ["Date", "Level", "ErrorMessage"] } date { match => ["Date", "yyyy-MM-dd HH:mm:ss"] } } output { elasticsearch { hosts => ["localhost:9200"] index => "log" } stdout { codec => rubydebug } }

log.csv

2019-05-24 10:00:00,INFO,Success. 2019-05-24 11:00:00,ERROR,An error has occurred. Please wait a moment and try again.

実行結果

{ "Level" => "INFO", "ErrorMessage" => "Success.", "host" => "local", "@version" => "1", "Date" => "2019-05-24 10:00:00", "message" => "2019-05-24 10:00:00,INFO,Success.", "@timestamp" => 2019-05-24T01:00:00.000Z, "path" => "/Users/myuser/work/elasticsearch/csv/log.csv" } { "Level" => "ERROR", "ErrorMessage" => "An error has occurred", "host" => "local", "tags" => [ [0] "multiline" ], "@version" => "1", "Date" => "2019-05-24 11:00:00", "message" => "2019-05-24 11:00:00,ERROR,An error has occurred\n Please wait a moment\n and try again.", "@timestamp" => 2019-05-24T02:00:00.000Z, "path" => "/Users/myuser/work/elasticsearch/csv/log.csv" }

「multiline」タグが付いており、「ErrorMessage」に「An error has occurred.」は取り込まれているのですが、「Please wait a moment」「and try again.」が取り込まれていません。

試したこと

「Multiline codec plugin」のマニュアルを一通り読みましたが、それらしき設定を見つけられませんでした。

補足情報(FW/ツールのバージョンなど)

macOS 10.14.5
Elasticsearch 7.1.0
Logstash 7.1.0

気になる質問をクリップする

クリップした質問は、後からいつでもMYページで確認できます。

またクリップした質問に回答があった際、通知やメールを受け取ることができます。

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

guest

回答1

0

自己解決

自己解決しました。

そもそも Elasticsearch に改行コードを含めた文字列を入れられないようでしたので、以下のように gsub でエスケープするようにしました。

filter { mutate { gsub => [ "message", "\n", "\n" ] } csv { columns => ["Date", "Level", "ErrorMessage"] } date { match => ["Date", "yyyy-MM-dd HH:mm:ss"] } }

投稿2019/05/30 00:24

nskydiving

総合スコア6500

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

あなたの回答

tips

太字

斜体

打ち消し線

見出し

引用テキストの挿入

コードの挿入

リンクの挿入

リストの挿入

番号リストの挿入

表の挿入

水平線の挿入

プレビュー

15分調べてもわからないことは
teratailで質問しよう!

ただいまの回答率
85.49%

質問をまとめることで
思考を整理して素早く解決

テンプレート機能で
簡単に質問をまとめる

質問する

関連した質問