質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

新規登録して質問してみよう
ただいま回答率
85.54%
Embulk

Embulkは、CSVデータやアクセスログなどの構造化データを高い信頼性で転送することができる、プラグインベースのバルクデータローダーです。

BigQuery

BigQueryは、Google Cloud Platformが提供しているビッグデータ解析サービス。数TB(テラバイト)またはPB(ペタバイト)の膨大なデータに対し、SQL風のクエリを実行し、高速で集計・分析を行うサービスです。

Google Cloud Platform

Google Cloud Platformは、Google社がクラウド上で提供しているサービス郡の総称です。エンドユーザー向けサービスと同様のインフラストラクチャーで運営されており、Webサイト開発から複雑なアプリ開発まで対応可能です。

Oracle Database

Oracle Databaseは、米オラクルが開発・販売を行うリレーショナルデータベース管理システムです。

Java

Javaは、1995年にサン・マイクロシステムズが開発したプログラミング言語です。表記法はC言語に似ていますが、既存のプログラミング言語の短所を踏まえていちから設計されており、最初からオブジェクト指向性を備えてデザインされています。セキュリティ面が強力であることや、ネットワーク環境での利用に向いていることが特徴です。Javaで作られたソフトウェアは基本的にいかなるプラットフォームでも作動します。

Q&A

解決済

4回答

1258閲覧

embulkを使って大量データをBigQueryへバルクインサート時に一部データがスキップされる

raccoondog

総合スコア77

Embulk

Embulkは、CSVデータやアクセスログなどの構造化データを高い信頼性で転送することができる、プラグインベースのバルクデータローダーです。

BigQuery

BigQueryは、Google Cloud Platformが提供しているビッグデータ解析サービス。数TB(テラバイト)またはPB(ペタバイト)の膨大なデータに対し、SQL風のクエリを実行し、高速で集計・分析を行うサービスです。

Google Cloud Platform

Google Cloud Platformは、Google社がクラウド上で提供しているサービス郡の総称です。エンドユーザー向けサービスと同様のインフラストラクチャーで運営されており、Webサイト開発から複雑なアプリ開発まで対応可能です。

Oracle Database

Oracle Databaseは、米オラクルが開発・販売を行うリレーショナルデータベース管理システムです。

Java

Javaは、1995年にサン・マイクロシステムズが開発したプログラミング言語です。表記法はC言語に似ていますが、既存のプログラミング言語の短所を踏まえていちから設計されており、最初からオブジェクト指向性を備えてデザインされています。セキュリティ面が強力であることや、ネットワーク環境での利用に向いていることが特徴です。Javaで作られたソフトウェアは基本的にいかなるプラットフォームでも作動します。

0グッド

0クリップ

投稿2019/02/15 02:31

編集2019/02/15 05:31

Embulkを使って、OracleDBのデータをBigQueryへバルクインサートする際に5000万件ほどのデータを処理すると一部スキップされてしまいます。

embulkの定義ファイルで指定したカラムの型と
Bigquery側で生成されるテーブルのカラムの型は

一致しているのですが、一部レコードがスキップされる事象が発生する原因を知りたいです。

●Embulk定義ファイル in: type: file path_prefix: C:\Users\xxx\Desktop\embulk\DATA_CSV parser: type: csv delimiter: ',' skip_header_line: false charset: UTF-8 newline: CRLF quote: '"' escape: '"' trim_if_not_quoted: false skip_header_lines: 0 allow_extra_columns: false allow_optional_columns: true columns: - {name: ORDER_NO, type: string} - {name: ORG_CODE, type: string} - {name: TRAN_DATE, type: timestamp, format: '%Y/%m/%d'} - {name: CANCEL_FLAG, type: string} - {name: ACT_CREATION_DATE, type: timestamp, format: '%Y/%m/%d %H:%M:%S'} - {name: WH_ACT_CREATION_DATE, type: timestamp, format: '%Y/%m/%d %H:%M:%S'} - {name: SUB_NO, type: string} - {name: UPDATE_REQUEST_ID, type: string} - {name: TIME_STAMP, type: timestamp, format: '%Y/%m/%d %H:%M:%S'} - {name: INV_UPDATE_FLAG, type: string} - {name: ISSUE_SEQ, type: string} - {name: BACKUP_DATE, type: timestamp, format: '%Y/%m/%d %H:%M:%S'} - {name: SOUMEI_ID, type: string} - {name: GCPCS_IF_FLAG, type: string} out: {type: bigquery, auth_method: json_key, json_keyfile: 'C:\Users\yazaki\Desktop\embulk\My First Project-6041ffecfba7.json', project: fluid-emissary-216806, dataset: embulk_test, auto_create_table: true, table: CSV_BQ_TABLE, open_read_timeout_sec: 360000, send_timeout_sec: 360000, read_timeout_sec: 360000} ●embulk実行後に、BigQuery側に生成されたテーブルレイアウト フィールド名        タイプ モード ORDER_NO          STRING NULLABLE ORG_CODE          STRING NULLABLE TRAN_DATE          TIMESTAMP NULLABLE HINBAN           STRING NULLABLE QTY             STRING NULLABLE SUB_SYSTEM_TYPE1      STRING NULLABLE CANCEL_FLAG         STRING NULLABLE ACT_CREATION_DATE      TIMESTAMP NULLABLE WH_ACT_CREATION_DATE    TIMESTAMP NULLABLE JOB_CODE          STRING NULLABLE TIME_STAMP         TIMESTAMP NULLABLE INV_UPDATE_FLAG       STRING NULLABLE ISSUE_SEQ          STRING NULLABLE BACKUP_DATE         TIMESTAMP NULLABLE C_NO            STRING NULLABLE T_NO            STRING NULLABLE RECV_OFFICE_CODE      STRING NULLABLE INV_INFO_UPDATE_FLAG    STRING NULLABLE tmp             STRING NULLABLE
●実行結果 ・ (中略) ・ 2019-02-15 09:12:04.801 +0900 [INFO] (0001:transaction): {done: 8 / 79, running: 7} 2019-02-15 09:12:04.985 +0900 [WARN] (0025:task-0015): Skipped line 82 (org.embulk.spi.time.TimestampParseException: Cannot parse '2018/09/21' by '%Y/%m/%d %H:%M:%S'): "35401536","2","8000","ZPD",2018/10/07,"L571ZW3SDWBD",10,"7NARTLDPH","66",0,"7500","BM0","UIIQ7LOGNI","PLPJ","WJWYWDZFFDZGUUDAQUH","7800","VOP","PH4GRLMBJ1","FNYZPJD","UGFYHBHIPZBCNPZIYKIWWHANJKHUEQ","L","0",2018/09/21,,"J",,"0","TCLJHNVEKMGBJZKQNBNPWJANCBSZXNBATJKB","ZVT","V","JLIMJN","FJWJMJDNBI","JQWOQAHU",,"F","1","J",,,,,,"AFNGJHJJQKFZIR",,"LJBQYC",,2018/12/04 12:11:13,"U","LBBTSNDFV",2018/12/03 09:30:44,,"1",,"WOK","HDU","ZBDGZEZ","JWP","X",,"JK","ZX","AEYM","1",,"1",,"IMN","S","HCFZNQ","KIHHWY","A","AUMN","B","FZVKGUAUYEXZOXWUBPMYECZBTCXVZXNCXI",,"KJ3",,,"IE","QZQNAHMCWBYKZ","14","1", ・ (中略) ・

気になる質問をクリップする

クリップした質問は、後からいつでもMYページで確認できます。

またクリップした質問に回答があった際、通知やメールを受け取ることができます。

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

yoorwm

2019/02/15 03:42

2018/10/07と2018/12/04 12:11:13は一致していないですよ。よくエラーを読んでみましょう。
raccoondog

2019/02/15 04:36

ご指摘ありがとうございます。
guest

回答4

1

ベストアンサー

ご案内したページのExampleはご覧になりましたでしょうか?
https://github.com/sonots/embulk-filter-timestamp_format#example

exampleを使ってみるのをお勧めします。

embulk-filter-timestamp_format

Clone or downloadで「Download ZIP」を選択してファイルをダウンロードしファイルを展開したのち
展開したファイルに移動して

embulk preview example/from_string.yml

とするのが良いと思います。example/from_string.yml以外にも色々サンプルがあるので試してみてください。

投稿2019/02/19 01:24

hiroysato

総合スコア415

raccoondog👍を押しています

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

1

embulkのプラグインは全て以下でインストールします。

embulk gem install <プラグイン名>

そのため、embulk-filter-timestamp_formatは以下でインストールしてください。

embulk gem install embulk-filter-timestamp_format

パーサーでは文字列でパースしておき、このプラグインで、該当のカラムを時刻型にパースし直します。

投稿2019/02/19 00:25

hiroysato

総合スコア415

raccoondog👍を押しています

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

raccoondog

2019/02/19 01:15

ご回答有難うございます。 プラグインをインストールし、embulkのconfigファイルには以下のように定義すればよろしいでしょうか ●Embulk定義ファイル in: type: file path_prefix: C:\Users\xxx\Desktop\embulk\DATA_CSV parser: type: csv delimiter: ',' skip_header_line: false charset: UTF-8 newline: CRLF quote: '"' escape: '"' trim_if_not_quoted: false skip_header_lines: 0 allow_extra_columns: false allow_optional_columns: true filters - type: column columns: - {name: xxx01, type: string} - {name: xxx02, type: string} - {name: xxx03, type: timestamp, format: '%Y/%m/%d'} - {name: xxx04, type: timestamp, format: '%Y/%m/%d %H:%M:%S'} out:xxxxxxxx
guest

1

データをみていないのですが、一部は2018/09/21 00:00:00のような時刻入りで、いくつかは2018/09/21のような時刻なしなのでしょうか?

もしそうだとすると、以下の方法が適用できるような気がします。

  • OracleのSQLでフォーマットを統一する。
  • Oracleは文字列で取り込んでembulk-filter-timestamp_formatでパースする。こちらは混在する日付フォーマットをパースできます。

投稿2019/02/15 10:22

hiroysato

総合スコア415

raccoondog👍を押しています

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

raccoondog

2019/02/19 00:10

ご回答助かります。 リンク先に、gemファイルがなく 別のサイトからgemファイルをダウンロードして、インストールして、embulkの定義ファイルにフィルター定義して、実行。 とすれば実現可能になるのでしょうか? 日付のカラム値は、フィルターでパースして、他のカラム値は別のパーサーでパースする動きになるのでしょうか?
guest

1

エラー・メッセージの途中に

Cannot parse '2018/09/21' by '%Y/%m/%d %H:%M:%S')

とあるから、
'2018/09/21' by '%Y/%m/%d'
と書式マスクを変更するか、
'2018/09/21 00:00:00' by '%Y/%m/%d %H:%M:%S'
とデータの変更が必要なのでは?

投稿2019/02/15 03:43

Orlofsky

総合スコア16404

raccoondog👍を押しています

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

raccoondog

2019/02/15 04:55 編集

ご回答有難うございます。 OracleDB側のカラム値は変更させることは、システム上許容されず、embulk側で対処したいです。 ※embulkの定義ファイル内で、[query]パラメータを使用すると、増分バルクインサート処理後にlast_recordをファイル出力されない仕様のため、困っている状況となります。 現状のembulk定義パラメータでは、「日付までのカラム値」「日付+時分秒までのカラム値」が混合しているため、embulkに拒否されてスキップされております。 何かembulkのパラメータで、混合されていても許容してくれるパラメータがあると問題解決できそうです。
Orlofsky

2019/02/15 05:23

テーブルのフォーマットをそのまま掲示板に載せて、後で上長に怒られませんか?掲示板に質問する時は問題になっている現象を再現できる最小限のカラムに限定したテーブルや現象を再現できるだけのコードを提示して質問した方が良いのでは? 質問にOracleとBigQueryの両方のCREATE TABLE も提示した方が適切なコメントが付き易いです。 BigQuery側のテーブルのデータ型をDATE型に変更してみては? https://cloud.google.com/bigquery/docs/reference/standard-sql/data-types?hl=ja#date-type 昔、Oracleで外部結合とPARALLELヒントを使うとデータが抜けるバグが発生して、オラクル・サポートに報告するとパッチを提供すると返事をもらったことがあります。
raccoondog

2019/02/15 06:45

ご指摘有難うございます。
guest

あなたの回答

tips

太字

斜体

打ち消し線

見出し

引用テキストの挿入

コードの挿入

リンクの挿入

リストの挿入

番号リストの挿入

表の挿入

水平線の挿入

プレビュー

15分調べてもわからないことは
teratailで質問しよう!

ただいまの回答率
85.54%

質問をまとめることで
思考を整理して素早く解決

テンプレート機能で
簡単に質問をまとめる

質問する

同じタグがついた質問を見る

Embulk

Embulkは、CSVデータやアクセスログなどの構造化データを高い信頼性で転送することができる、プラグインベースのバルクデータローダーです。

BigQuery

BigQueryは、Google Cloud Platformが提供しているビッグデータ解析サービス。数TB(テラバイト)またはPB(ペタバイト)の膨大なデータに対し、SQL風のクエリを実行し、高速で集計・分析を行うサービスです。

Google Cloud Platform

Google Cloud Platformは、Google社がクラウド上で提供しているサービス郡の総称です。エンドユーザー向けサービスと同様のインフラストラクチャーで運営されており、Webサイト開発から複雑なアプリ開発まで対応可能です。

Oracle Database

Oracle Databaseは、米オラクルが開発・販売を行うリレーショナルデータベース管理システムです。

Java

Javaは、1995年にサン・マイクロシステムズが開発したプログラミング言語です。表記法はC言語に似ていますが、既存のプログラミング言語の短所を踏まえていちから設計されており、最初からオブジェクト指向性を備えてデザインされています。セキュリティ面が強力であることや、ネットワーク環境での利用に向いていることが特徴です。Javaで作られたソフトウェアは基本的にいかなるプラットフォームでも作動します。