質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

ただいまの
回答率

89.97%

mysqlからelasticsearchにjdbc importerを使ってデータを流す

受付中

回答 0

投稿

  • 評価
  • クリップ 0
  • VIEW 1,642

hideboow6

score 34

課題

・mysqlの親子関係テーブルのデータをelasticsaerchに流し込めない。
親テーブルのデータは入るが、それに紐づく子テーブルのデータを登録できない。

jdbc importerプラグインを使用してデータ連携をしたことがある方、embulkなど他のツールで経験ある方ご教授いただけたら幸いです。

やりたいこと

・mysqlにて親子関係になっているテーブルデータをElasticsearchから検索したい。
・mysqlとelasticsearchで同期を取りたい。

実施内容

mysqlからelasticsearchへのデータ連携は下記プラグインを使用。
jdbc importer
同期をとるため、jdbc importerプラグインをスケジューリング(X分間おきにバッチ連携)している。

・Elasticsearchのmappingは下記の通り設定

{
 "mappings":{
   "books":{
     "_id":{
       "index":"not_analyzed",
       "path":"book_id"
     },
     "properties":{
       "book_id":{"type":"integer","index":"not_analyzed},
       "title":{"type":"string"}
     }
   },
   "tags":{
     "_id":{
       "index":"not_analyzed",
       "path":"tag_id"
     },
     "_parent":{ "type":"books"},
     "properties":{
       "tag_id":{"type":"integer","index":"not_analyzed},
       "name":{"type":"string"}
     }
   }
}

book,tagテーブル毎に下記の通りシェルファイルを作成。

echo'{
  "type":"jdbc",
  "jdbc":{
     "url":"jdbc:mysql://localhost:3306/mydb",
     "user":"root",
     "password":"password",
     "index":"elastic",
     "type":"books",
     "sql":"select book_id as _id, title from book"
   }
}
echo'{
  "type":"jdbc",
  "jdbc":{
     "url":"jdbc:mysql://localhost:3306/mydb",
     "user":"root",
     "password":"password",
     "index":"elastic",
     "type":"tags",
     "sql":"select tag_id as _id, book_id as _parent, name from tag"
   }
}

上記を実行すると、bookテーブルのデータはElasticsearch上に連携できるが、tagテーブルの値が入らない。
typeは両方作成される。

mysqlのテーブル構成
bookテーブルとtagテーブルはn:mの関係で、間にbook_idとtag_idを保持しているリンクテーブルがあります。

バージョン情報

mysql:5.6.21
Elasticsearch:1.7.2
jdbc importer:1.7.2.1

  • 気になる質問をクリップする

    クリップした質問は、後からいつでもマイページで確認できます。

    またクリップした質問に回答があった際、通知やメールを受け取ることができます。

    クリップを取り消します

  • 良い質問の評価を上げる

    以下のような質問は評価を上げましょう

    • 質問内容が明確
    • 自分も答えを知りたい
    • 質問者以外のユーザにも役立つ

    評価が高い質問は、TOPページの「注目」タブのフィードに表示されやすくなります。

    質問の評価を上げたことを取り消します

  • 評価を下げられる数の上限に達しました

    評価を下げることができません

    • 1日5回まで評価を下げられます
    • 1日に1ユーザに対して2回まで評価を下げられます

    質問の評価を下げる

    teratailでは下記のような質問を「具体的に困っていることがない質問」、「サイトポリシーに違反する質問」と定義し、推奨していません。

    • プログラミングに関係のない質問
    • やってほしいことだけを記載した丸投げの質問
    • 問題・課題が含まれていない質問
    • 意図的に内容が抹消された質問
    • 広告と受け取られるような投稿

    評価が下がると、TOPページの「アクティブ」「注目」タブのフィードに表示されにくくなります。

    質問の評価を下げたことを取り消します

    この機能は開放されていません

    評価を下げる条件を満たしてません

    評価を下げる理由を選択してください

    詳細な説明はこちら

    上記に当てはまらず、質問内容が明確になっていない質問には「情報の追加・修正依頼」機能からコメントをしてください。

    質問の評価を下げる機能の利用条件

    この機能を利用するためには、以下の事項を行う必要があります。

まだ回答がついていません

15分調べてもわからないことは、teratailで質問しよう!

  • ただいまの回答率 89.97%
  • 質問をまとめることで、思考を整理して素早く解決
  • テンプレート機能で、簡単に質問をまとめられる