質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

新規登録して質問してみよう
ただいま回答率
85.48%
PostgreSQL

PostgreSQLはオープンソースのオブジェクトリレーショナルデータベース管理システムです。 Oracle Databaseで使われるPL/SQLを参考に実装されたビルトイン言語で、Windows、 Mac、Linux、UNIX、MSなどいくつものプラットフォームに対応しています。

Python

Pythonは、コードの読みやすさが特徴的なプログラミング言語の1つです。 強い型付け、動的型付けに対応しており、後方互換性がないバージョン2系とバージョン3系が使用されています。 商用製品の開発にも無料で使用でき、OSだけでなく仮想環境にも対応。Unicodeによる文字列操作をサポートしているため、日本語処理も標準で可能です。

Q&A

0回答

3290閲覧

PythonのDFをPOSTGRESにUPSERTしたい

mamma

総合スコア11

PostgreSQL

PostgreSQLはオープンソースのオブジェクトリレーショナルデータベース管理システムです。 Oracle Databaseで使われるPL/SQLを参考に実装されたビルトイン言語で、Windows、 Mac、Linux、UNIX、MSなどいくつものプラットフォームに対応しています。

Python

Pythonは、コードの読みやすさが特徴的なプログラミング言語の1つです。 強い型付け、動的型付けに対応しており、後方互換性がないバージョン2系とバージョン3系が使用されています。 商用製品の開発にも無料で使用でき、OSだけでなく仮想環境にも対応。Unicodeによる文字列操作をサポートしているため、日本語処理も標準で可能です。

1グッド

0クリップ

投稿2019/01/22 12:17

前提・実現したいこと

Pythonのpandas.DataFrameをPOSTGRESにUPSERTしたいですが調べてもわかりませんでした。SQLは初心者です。

データについて

  • カラム数が600程あります。
  • updateする場合は、特定カラムだけではなく、1行すべてupdate
  • conflictの判定には2つのカラム(ID,登録日時)を使いたい
  • POSTGRESに格納済のデータ行数は1000万行ほど、一度にUPSERTするのは10万行程

案1:psycopg2またはsqlalchemyから直接UPSERT
案2:tmpテーブルを作成してpandas.to_sqlで上げて、tmpから正式テーブルにupsert
案1、案2どちらでも(または別の手段でも)よいと考えています。高速に処理できるほうがうれしい。

発生している問題・エラーメッセージ

postgresのupsertはsetで1つ1つのカラム名を定義する必要がありそうで、カラム数が600もあると記述が大変。

案1の参考
valuesの定義を600も書かなくてはならないのか?すべてのカラム指定ができないのか?ソースは参考のページのコピーです。

python

1from sqlalchemy import create_engine, MetaData 2from sqlalchemy.dialects.postgresql import insert # on_conflict_do_update が使える 3 4 5# テーブルの取得 6engine = create_engine(db_url) 7meta = MetaData(bind=engine) 8meta.reflect() 9table = meta.tables["test_conflict"] 10 11table.select().execute().fetchall() 12# [(2, 'msg2'), (1, 'msg1_updated')] 13 14# on_conflict_do_update の挙動を設定する 15# set_ で定義しているのが、PostgreSQL での 'do update set ' 以降の部分にあたる 16insert_stmt = insert(table) 17set_ = dict(id=insert_stmt.excluded.id, message=insert_stmt.excluded.message) 18insert_stmt = insert_stmt.on_conflict_do_update(index_elements=['id'], 19 set_=set_) 20# upsert の実行 21with engine.connect() as conn: 22 values = [dict(id=1, message='msg1_updated2'), 23 dict(id=3, message='msg3'), 24 dict(id=3, message='msg3_updated')] 25 conn.execute(insert_stmt, values) 26 27table.select().execute().fetchall() 28# [(2, 'msg2'), (1, 'msg1_updated2'), (3, 'msg3_updated')] 29

案2についても調べたところ、同様にupdateする場合はカラムをすべて定義する必要があるのでは?と思っています。

簡単に記述できる方法はありますでしょうか?

補足情報(FW/ツールのバージョンなど)

postgres 9.6
python3.6(anaconda)

以上、よろしくお願いします。

ykcz👍を押しています

気になる質問をクリップする

クリップした質問は、後からいつでもMYページで確認できます。

またクリップした質問に回答があった際、通知やメールを受け取ることができます。

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

guest

あなたの回答

tips

太字

斜体

打ち消し線

見出し

引用テキストの挿入

コードの挿入

リンクの挿入

リストの挿入

番号リストの挿入

表の挿入

水平線の挿入

プレビュー

まだ回答がついていません

会員登録して回答してみよう

アカウントをお持ちの方は

15分調べてもわからないことは
teratailで質問しよう!

ただいまの回答率
85.48%

質問をまとめることで
思考を整理して素早く解決

テンプレート機能で
簡単に質問をまとめる

質問する

関連した質問