質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

新規登録して質問してみよう
ただいま回答率
87.20%
PostgreSQL

PostgreSQLはオープンソースのオブジェクトリレーショナルデータベース管理システムです。 Oracle Databaseで使われるPL/SQLを参考に実装されたビルトイン言語で、Windows、 Mac、Linux、UNIX、MSなどいくつものプラットフォームに対応しています。

Python

Pythonは、コードの読みやすさが特徴的なプログラミング言語の1つです。 強い型付け、動的型付けに対応しており、後方互換性がないバージョン2系とバージョン3系が使用されています。 商用製品の開発にも無料で使用でき、OSだけでなく仮想環境にも対応。Unicodeによる文字列操作をサポートしているため、日本語処理も標準で可能です。

受付中

PythonのDFをPOSTGRESにUPSERTしたい

mamma
mamma

総合スコア0

PostgreSQL

PostgreSQLはオープンソースのオブジェクトリレーショナルデータベース管理システムです。 Oracle Databaseで使われるPL/SQLを参考に実装されたビルトイン言語で、Windows、 Mac、Linux、UNIX、MSなどいくつものプラットフォームに対応しています。

Python

Pythonは、コードの読みやすさが特徴的なプログラミング言語の1つです。 強い型付け、動的型付けに対応しており、後方互換性がないバージョン2系とバージョン3系が使用されています。 商用製品の開発にも無料で使用でき、OSだけでなく仮想環境にも対応。Unicodeによる文字列操作をサポートしているため、日本語処理も標準で可能です。

0回答

1評価

0クリップ

2104閲覧

投稿2019/01/22 12:17

前提・実現したいこと

Pythonのpandas.DataFrameをPOSTGRESにUPSERTしたいですが調べてもわかりませんでした。SQLは初心者です。

データについて

  • カラム数が600程あります。
  • updateする場合は、特定カラムだけではなく、1行すべてupdate
  • conflictの判定には2つのカラム(ID,登録日時)を使いたい
  • POSTGRESに格納済のデータ行数は1000万行ほど、一度にUPSERTするのは10万行程

案1:psycopg2またはsqlalchemyから直接UPSERT
案2:tmpテーブルを作成してpandas.to_sqlで上げて、tmpから正式テーブルにupsert
案1、案2どちらでも(または別の手段でも)よいと考えています。高速に処理できるほうがうれしい。

発生している問題・エラーメッセージ

postgresのupsertはsetで1つ1つのカラム名を定義する必要がありそうで、カラム数が600もあると記述が大変。

案1の参考
valuesの定義を600も書かなくてはならないのか?すべてのカラム指定ができないのか?ソースは参考のページのコピーです。

python

from sqlalchemy import create_engine, MetaData from sqlalchemy.dialects.postgresql import insert # on_conflict_do_update が使える # テーブルの取得 engine = create_engine(db_url) meta = MetaData(bind=engine) meta.reflect() table = meta.tables["test_conflict"] table.select().execute().fetchall() # [(2, 'msg2'), (1, 'msg1_updated')] # on_conflict_do_update の挙動を設定する # set_ で定義しているのが、PostgreSQL での 'do update set ' 以降の部分にあたる insert_stmt = insert(table) set_ = dict(id=insert_stmt.excluded.id, message=insert_stmt.excluded.message) insert_stmt = insert_stmt.on_conflict_do_update(index_elements=['id'], set_=set_) # upsert の実行 with engine.connect() as conn: values = [dict(id=1, message='msg1_updated2'), dict(id=3, message='msg3'), dict(id=3, message='msg3_updated')] conn.execute(insert_stmt, values) table.select().execute().fetchall() # [(2, 'msg2'), (1, 'msg1_updated2'), (3, 'msg3_updated')]

案2についても調べたところ、同様にupdateする場合はカラムをすべて定義する必要があるのでは?と思っています。

簡単に記述できる方法はありますでしょうか?

補足情報(FW/ツールのバージョンなど)

postgres 9.6
python3.6(anaconda)

以上、よろしくお願いします。

良い質問の評価を上げる

以下のような質問は評価を上げましょう

  • 質問内容が明確
  • 自分も答えを知りたい
  • 質問者以外のユーザにも役立つ

評価が高い質問は、TOPページの「注目」タブのフィードに表示されやすくなります。

気になる質問をクリップする

クリップした質問は、後からいつでもマイページで確認できます。

またクリップした質問に回答があった際、通知やメールを受け取ることができます。

teratailでは下記のような質問を「具体的に困っていることがない質問」、「サイトポリシーに違反する質問」と定義し、推奨していません。

  • プログラミングに関係のない質問
  • やってほしいことだけを記載した丸投げの質問
  • 問題・課題が含まれていない質問
  • 意図的に内容が抹消された質問
  • 過去に投稿した質問と同じ内容の質問
  • 広告と受け取られるような投稿

評価を下げると、トップページの「アクティブ」「注目」タブのフィードに表示されにくくなります。

まだ回答がついていません

会員登録して回答してみよう

15分調べてもわからないことは
teratailで質問しよう!

ただいまの回答率
87.20%

質問をまとめることで
思考を整理して素早く解決

テンプレート機能で
簡単に質問をまとめる

質問する

関連した質問

同じタグがついた質問を見る

PostgreSQL

PostgreSQLはオープンソースのオブジェクトリレーショナルデータベース管理システムです。 Oracle Databaseで使われるPL/SQLを参考に実装されたビルトイン言語で、Windows、 Mac、Linux、UNIX、MSなどいくつものプラットフォームに対応しています。

Python

Pythonは、コードの読みやすさが特徴的なプログラミング言語の1つです。 強い型付け、動的型付けに対応しており、後方互換性がないバージョン2系とバージョン3系が使用されています。 商用製品の開発にも無料で使用でき、OSだけでなく仮想環境にも対応。Unicodeによる文字列操作をサポートしているため、日本語処理も標準で可能です。