質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

新規登録して質問してみよう
ただいま回答率
87.20%
Embulk

Embulkは、CSVデータやアクセスログなどの構造化データを高い信頼性で転送することができる、プラグインベースのバルクデータローダーです。

解決済

embulk 0.9.24 mysql-input で 適切な件数が取得出来ない

JunMatsumoto
JunMatsumoto

総合スコア76

Embulk

Embulkは、CSVデータやアクセスログなどの構造化データを高い信頼性で転送することができる、プラグインベースのバルクデータローダーです。

1回答

0評価

0クリップ

311閲覧

投稿2022/04/18 11:52

お世話になっております。

embulk 0.9.24 のmysql-input-plugin の挙動について、ご質問致します。

mysqlのデータをCSVに出力したいと考えていますが、
queryでlimit 50や where id <= 50 、between id 1 and 50
などを行っても本番環境DBのみ、出力される件数が43件になります。

※ 開発環境DBも本番環境DBも、直接mysqlコマンドで同じqueryを実行した場合は、適切に50件出力されます。

環境は以下になります。
開発環境DB:mysql-community-server-5.6.51-2.el7.x86_64 対象テーブルのレコードは約3万件
本番環境DB:mysql-community-server-5.6.44-2.el7.x86_64 対象テーブルのレコードは約140万件

使っているymlファイルは、以下になります。

in: type: mysql host: xxxx.xxx.xxx.xxx # 本番環境DB # host: yyy.yyyy.yyy # 開発環境DB user: root database: sample table: test_table #query: SELECT FROM test_table order by id asc limit 50 # 43件しか取得出来ない #query: SELECT FROM test_table between id 1 and 50 # 43件しか取得出来ない select: "*" where: id <= 50 # これだと31件しか取得出来ない default_timezone: 'Asia/Tokyo' options: {socketTimeout: 7200000} column_options: update_dt: {type: timestamp, timezone: "+0900"} out: type: file path_prefix: "./files/test-in" sequence_format: "." file_ext: csv formatter: type: csv delimiter: "," newline: LF newline_in_field: LF charset: UTF-8 quote_policy: MINIMAL quote: '"' escape: '\' null_string: 'NULL' default_timezone: 'Asia/Tokyo'

embulkはdocker-composeで動かしており、ヒープサイズが足りないのかと思い、

deploy: resources: limits: memory: 1g

や、

embulk -J-Xms512m -J-Xmx512m preview sample.test_table.yml

なども試しましたが、本番環境DBのみ50件取得が出来ません。

select: "*" は数回試しましたが、本番環境DBはレコード数が多くembuklの実行に数時間掛かる為、まずは小さい件数でpreviewやCSV出力を行って行こうと思っております。

同様の事象が発生した事がある方、お手数ですがお知恵を貸して頂けますでしょうか。

良い質問の評価を上げる

以下のような質問は評価を上げましょう

  • 質問内容が明確
  • 自分も答えを知りたい
  • 質問者以外のユーザにも役立つ

評価が高い質問は、TOPページの「注目」タブのフィードに表示されやすくなります。

気になる質問をクリップする

クリップした質問は、後からいつでもマイページで確認できます。

またクリップした質問に回答があった際、通知やメールを受け取ることができます。

teratailでは下記のような質問を「具体的に困っていることがない質問」、「サイトポリシーに違反する質問」と定義し、推奨していません。

  • プログラミングに関係のない質問
  • やってほしいことだけを記載した丸投げの質問
  • 問題・課題が含まれていない質問
  • 意図的に内容が抹消された質問
  • 過去に投稿した質問と同じ内容の質問
  • 広告と受け取られるような投稿

評価を下げると、トップページの「アクティブ」「注目」タブのフィードに表示されにくくなります。

まだ回答がついていません

会員登録して回答してみよう

15分調べてもわからないことは
teratailで質問しよう!

ただいまの回答率
87.20%

質問をまとめることで
思考を整理して素早く解決

テンプレート機能で
簡単に質問をまとめる

質問する

関連した質問

同じタグがついた質問を見る

Embulk

Embulkは、CSVデータやアクセスログなどの構造化データを高い信頼性で転送することができる、プラグインベースのバルクデータローダーです。