質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

ただいまの
回答率

89.65%

python pandasのDataFrameをMySqlへ書込時に カラムを追加しながら追加書込したい

解決済

回答 1

投稿

  • 評価
  • クリップ 1
  • VIEW 3,638

mamma

score 9

前提・実現したいこと

pythonのpandasのDataframeをMysqlに保存したいです。
テーブルへの新規書込と追加書込(カラム追加なし)は出来ましたが、カラムを追加した場合の処理方法がわかりません。
カラムを追加する処理が必要なのでしょうか?

よろしくお願いします

処理の背景

DataFrameにて複数のデータを読み込み、結合。最後にまとめてMysqlに書き込むつもりだったが、データが大きすぎメモリが足りなくなり、随時Mysqlに書き込む処理に変更。カラム数は1200以上あり、複数のデータを読み込む毎に増えていく。

発生している問題・エラーメッセージ

InternalError: (pymysql.err.InternalError) (1054, "Unknown column 'E' in 'field list'") [SQL: 'INSERT INTO sample_sqlalchemy (`A`, `E`) VALUES (%(A)s, %(E)s)'] [parameters: ({'A': 'd7', 'E': 'e7'}, {'A': 'd8', 'E': 'e8'}, {'A': 'd9', 'E': 'e9'})]

該当のソースコード

df4で'e'を追加してエラーが発生しています。
実際のコードは投稿できないので、サンプルで投稿させていただきました。

import pandas as pd
from sqlalchemy import create_engine


df = pd.DataFrame({'A':['A1','A2','A3'],
                  'B':['B1','B2','B3'],
                   'c':['c1','c2','c3']
                  })
df2 = pd.DataFrame({'A':['A4','A5','A6'],
                  'B':['B4','B5','B6'],
                   'c':['c4','c5','c6']
                  })
df3 = pd.DataFrame({'A':['A7','A8','A9'],
                  'B':['B7','B8','B9']
                                     })
df4 = pd.DataFrame({'A':['d7','d8','d9'],
                  'E':['e7','e8','e9']
                                     })

table_name = "sample_sqlalchemy"
db_settings = {
    "host":'localhost',
    "database":'test_db',
    "user":'root',
    "password":'pass',
    "port":3306
}
engine = create_engine('mysql+pymysql://{user}:{password}@{host}:{port}/{database}'.format(**db_settings))
df.to_sql(table_name, engine,if_exists='replace',  index=False)
df2.to_sql(table_name, engine,if_exists = 'append',  index=False)
df3.to_sql(table_name, engine,if_exists = 'append',  index=False)
df4.to_sql(table_name, engine,if_exists = 'append',  index=False)

試したこと

ネット検索しましたが、PANDASからのSQL書込は記事が少なくお手上げです。

補足情報(言語/FW/ツール等のバージョンなど)

Python 3.5.2 :: Anaconda custom (64-bit)
sqlalchemy                1.1.4 
pandas                    0.19.2 
pymysql                   0.7.9 

  • 気になる質問をクリップする

    クリップした質問は、後からいつでもマイページで確認できます。

    またクリップした質問に回答があった際、通知やメールを受け取ることができます。

    クリップを取り消します

  • 良い質問の評価を上げる

    以下のような質問は評価を上げましょう

    • 質問内容が明確
    • 自分も答えを知りたい
    • 質問者以外のユーザにも役立つ

    評価が高い質問は、TOPページの「注目」タブのフィードに表示されやすくなります。

    質問の評価を上げたことを取り消します

  • 評価を下げられる数の上限に達しました

    評価を下げることができません

    • 1日5回まで評価を下げられます
    • 1日に1ユーザに対して2回まで評価を下げられます

    質問の評価を下げる

    teratailでは下記のような質問を「具体的に困っていることがない質問」、「サイトポリシーに違反する質問」と定義し、推奨していません。

    • プログラミングに関係のない質問
    • やってほしいことだけを記載した丸投げの質問
    • 問題・課題が含まれていない質問
    • 意図的に内容が抹消された質問
    • 過去に投稿した質問と同じ内容の質問
    • 広告と受け取られるような投稿

    評価が下がると、TOPページの「アクティブ」「注目」タブのフィードに表示されにくくなります。

    質問の評価を下げたことを取り消します

    この機能は開放されていません

    評価を下げる条件を満たしてません

    評価を下げる理由を選択してください

    詳細な説明はこちら

    上記に当てはまらず、質問内容が明確になっていない質問には「情報の追加・修正依頼」機能からコメントをしてください。

    質問の評価を下げる機能の利用条件

    この機能を利用するためには、以下の事項を行う必要があります。

回答 1

checkベストアンサー

0

pandasのto_sqlではテーブルの構造が書き換えられないため、エラーになります。
予めテーブルに列を追加しておくことで回避できます。
下記は生クエリの例になりますが、SQLAlchemyでclassを作成してちゃんとやった方がよいかもしれません。

# ...省略
df3.to_sql(table_name, engine,if_exists = 'append',  index=False)

column_name = 'E'
data_type = 'text'
sql = 'alter table {} add column {} {}'.format(table_name, 'E', data_type)

connect = engine.connect()
connect.execute(sql)
connect.close()
df4.to_sql(table_name, engine,if_exists = 'append',  index=False)

投稿

  • 回答の評価を上げる

    以下のような回答は評価を上げましょう

    • 正しい回答
    • わかりやすい回答
    • ためになる回答

    評価が高い回答ほどページの上位に表示されます。

  • 回答の評価を下げる

    下記のような回答は推奨されていません。

    • 間違っている回答
    • 質問の回答になっていない投稿
    • スパムや攻撃的な表現を用いた投稿

    評価を下げる際はその理由を明確に伝え、適切な回答に修正してもらいましょう。

  • 2017/01/24 19:44

    早速のご回答ありがとうございます。
    手抜きはできないものですね。

    キャンセル

15分調べてもわからないことは、teratailで質問しよう!

  • ただいまの回答率 89.65%
  • 質問をまとめることで、思考を整理して素早く解決
  • テンプレート機能で、簡単に質問をまとめられる

同じタグがついた質問を見る