質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

新規登録して質問してみよう
ただいま回答率
87.20%
PostgreSQL

PostgreSQLはオープンソースのオブジェクトリレーショナルデータベース管理システムです。 Oracle Databaseで使われるPL/SQLを参考に実装されたビルトイン言語で、Windows、 Mac、Linux、UNIX、MSなどいくつものプラットフォームに対応しています。

解決済

Postgresで大量データの一括インサートをする方法

Unknown2030
Unknown2030

総合スコア33

PostgreSQL

PostgreSQLはオープンソースのオブジェクトリレーショナルデータベース管理システムです。 Oracle Databaseで使われるPL/SQLを参考に実装されたビルトイン言語で、Windows、 Mac、Linux、UNIX、MSなどいくつものプラットフォームに対応しています。

3回答

0評価

1クリップ

3089閲覧

投稿2021/08/09 15:00

編集2021/08/10 11:51

大量データをselectし、別テーブルに一括でインサートする方法をご教示ください。

<実装したい背景>30万件ほどのデータのselectをカーソルにて行い、loop内で1件ずつinsertしたところ、タイムアウトしてしまったためです。insert文を大量に発行していることが原因だと考えています。
また、複雑なチェック処理やデータの加工を行っている関係上、insert前に1件ずつの処理が必要です。
そのため、「insert ~ select」で一括インサートが難しい状況です。

<試したこと>
Oracleのバルクインサートのようなものが使えないかと考えましたが、
下記処理でもエラーが起きています。

Postgres

//データを取得するテーブル CREATE TABLE manager ( id text, first_name text, age numeric, tel text ); INSERT INTO manager (id, first_name, age, tel) VALUES ('1', '名字', 30, '090-9999-9999'); //データを登録するテーブル CREATE TABLE test ( test1 text, test2 text, test_num numeric, test4 text );

Postgres

CREATE OR REPLACE FUNCTION fnc_main(user_id text) RETURNS character varying LANGUAGE plpgsql AS $function$ declare -- データが30万件ほどある cur_manager cursor is select first_name from manager; rec_manager record; tmp_test test%rowtype; rec_test record; fnc_return text; err_msg text; begin open cur_manager; fetch cur_manager into rec_manager; loop --値の入力チェックや編集を行う(15項目) --項目の入力チェックは省略しています --値をセット tmp_test.test1 = rec_manager.first_name; if rec_manager.id = 1 then tmp_test.test_num = rec_manager.age; -- 別functionで年齢から西暦等を取得する処理 -- select fnc_get_seireki(rec_manager.age) into fnc_return; --エラーが発生している場合 if fnc_return = 'true' then err_msg = '西暦が取得できません'; else tmp_test.test2 = fnc_return; end if; --... // rec_test = tmp_test; --恐らくエラーが発生している end loop; //insert into test values(rec_test); --恐らくエラーが発生している return ''; end; $function$

良い質問の評価を上げる

以下のような質問は評価を上げましょう

  • 質問内容が明確
  • 自分も答えを知りたい
  • 質問者以外のユーザにも役立つ

評価が高い質問は、TOPページの「注目」タブのフィードに表示されやすくなります。

気になる質問をクリップする

クリップした質問は、後からいつでもマイページで確認できます。

またクリップした質問に回答があった際、通知やメールを受け取ることができます。

teratailでは下記のような質問を「具体的に困っていることがない質問」、「サイトポリシーに違反する質問」と定義し、推奨していません。

  • プログラミングに関係のない質問
  • やってほしいことだけを記載した丸投げの質問
  • 問題・課題が含まれていない質問
  • 意図的に内容が抹消された質問
  • 過去に投稿した質問と同じ内容の質問
  • 広告と受け取られるような投稿

評価を下げると、トップページの「アクティブ」「注目」タブのフィードに表示されにくくなります。

dameo

2021/08/10 10:36

コミットはどの程度の頻度で行っているのでしょうか? procedureでなくfunctionにしている理由は何かありますか?
Unknown2030

2021/08/10 10:59

>m.ts10806様 エラーコード「55000 必要条件を満たさないオブジェクト」の「ERROR: record “ rec_test” is not assigned yet」と出力されました。
Unknown2030

2021/08/10 11:13

>dameo様 単独でfunctionを呼び出しているため、関数終了時に自動コミットをしていると思われます。トランザクションの処理に疎く、間違っていたら申し訳ありません。 procedureはPostgres11からの機能であり、10以前から運用していた流れか、procedureを使用せず、functionでの開発が要望として上がっているためです。(現実的でないことをご理解くださらない、、、)
sazi

2021/08/10 12:54 編集

procedureかfunctionかは呼び出す形式が異なるだけで、やれない事があるという訳では無いですから関係無いですよ。
dameo

2021/08/10 14:09

@sazi様 functionの場合、SQL内に式として書けることもあり、あまり書き換えなどはしないと思いますし、commitが出来ないという問題があります。 @Unknown2030様 大量登録の場合、設定にもよるし、どこに時間がかかっているのか実際には測ってみないと分かりませんが、体感的には、何行ごとにcommitするかが結構大きく効く気がするのです。なので、可能であればprocedureで一定行ごとにcommitしてみてほしいです。他には ・トランザクションログなどを残すか ・indexや制約などがあるか ・bulk処理されているか などでしょうか。実際には固定データならcopyコマンドが一番速いようですが。 あと、fetch loopの処理が不思議な感じになってるので、まずはそこから分かるように書きましょう。 (もしかしたらこのループが終わってないだけかもしれません。) また、バージョンや使える機能に制限がある場合は事前に書いておいた方がいいかもです。 申し訳ありませんがbulk collectやis table ofなどがpostgresqlでも使えるのか知りません。ただtableタイプはあるようなので、似たような書き方はできるのではないかと思っています。時間があったら私も試してみますが、期待しないでください。
dameo

2021/08/10 20:26

起きてから軽く書いてみました。bulk fetchも変数からのbulk insertもなさげですね。 手元の骨だけ環境ではinsert投げまくるよりは半分くらいの時間になります。procedureにしてcommitすると1割くらい減ります。indexなどは皆無だし、DB自体もdockerのデフォのまま使ってるので、意味のない値ですが。 CREATE OR REPLACE FUNCTION fnc_main(id text) RETURNS character varying LANGUAGE plpgsql AS $function$ declare cur_manager cursor is select * from manager; rec_manager manager; rec_test test; tmp_test test[]; i integer; bulk_count integer; begin i := 1; bulk_count := 1000; -- 1000は適当 open cur_manager; loop fetch cur_manager into rec_manager; -- postgresqlにbulk fetchはない if not found then insert into test select * from unnest(tmp_test); -- insert selectしかなさそう -- commit; exit; end if; rec_test.test1 = rec_manager.first_name; -- tmp_test := array_append(tmp_test, rec_test); if i = bulk_count then insert into test select * from unnest(tmp_test); -- 面倒なので共通化はしてません -- commit; i := 1; tmp_test := null; else i := i + 1; end if; end loop; return ''; end; $function$;
Unknown2030

2021/08/11 14:18

>dameo様 具体的にご教示くださりありがとうございます。 tmp_test test[];のテーブルの配列が使えることはとても勉強になりました。 ご教示いただいた内容で色々と試してみたいと思います。

まだ回答がついていません

会員登録して回答してみよう

15分調べてもわからないことは
teratailで質問しよう!

ただいまの回答率
87.20%

質問をまとめることで
思考を整理して素早く解決

テンプレート機能で
簡単に質問をまとめる

質問する

関連した質問

同じタグがついた質問を見る

PostgreSQL

PostgreSQLはオープンソースのオブジェクトリレーショナルデータベース管理システムです。 Oracle Databaseで使われるPL/SQLを参考に実装されたビルトイン言語で、Windows、 Mac、Linux、UNIX、MSなどいくつものプラットフォームに対応しています。