質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

ただいまの
回答率

90.52%

  • Python

    11245questions

    Pythonは、コードの読みやすさが特徴的なプログラミング言語の1つです。 強い型付け、動的型付けに対応しており、後方互換性がないバージョン2系とバージョン3系が使用されています。 商用製品の開発にも無料で使用でき、OSだけでなく仮想環境にも対応。Unicodeによる文字列操作をサポートしているため、日本語処理も標準で可能です。

  • MySQL

    6805questions

    MySQL(マイエスキューエル)は、TCX DataKonsultAB社などが開発するRDBMS(リレーショナルデータベースの管理システム)です。世界で最も人気の高いシステムで、オープンソースで開発されています。MySQLデータベースサーバは、高速性と信頼性があり、Linux、UNIX、Windowsなどの複数のプラットフォームで動作することができます。

  • pandas

    841questions

    Pandasは、PythonでRにおけるデータフレームに似た型を持たせることができるライブラリです。 行列計算の負担が大幅に軽減されるため、Rで行っていた集計作業をPythonでも比較的簡単に行えます。 データ構造を変更したりデータ分析したりするときにも便利です。

python pandasのDataFrameをMySqlへ書込時に カラムを追加しながら追加書込したい

解決済

回答 1

投稿

  • 評価
  • クリップ 0
  • VIEW 2,388

mamma

score 5

前提・実現したいこと

pythonのpandasのDataframeをMysqlに保存したいです。
テーブルへの新規書込と追加書込(カラム追加なし)は出来ましたが、カラムを追加した場合の処理方法がわかりません。
カラムを追加する処理が必要なのでしょうか?

よろしくお願いします

処理の背景

DataFrameにて複数のデータを読み込み、結合。最後にまとめてMysqlに書き込むつもりだったが、データが大きすぎメモリが足りなくなり、随時Mysqlに書き込む処理に変更。カラム数は1200以上あり、複数のデータを読み込む毎に増えていく。

発生している問題・エラーメッセージ

InternalError: (pymysql.err.InternalError) (1054, "Unknown column 'E' in 'field list'") [SQL: 'INSERT INTO sample_sqlalchemy (`A`, `E`) VALUES (%(A)s, %(E)s)'] [parameters: ({'A': 'd7', 'E': 'e7'}, {'A': 'd8', 'E': 'e8'}, {'A': 'd9', 'E': 'e9'})]

該当のソースコード

df4で'e'を追加してエラーが発生しています。
実際のコードは投稿できないので、サンプルで投稿させていただきました。

import pandas as pd
from sqlalchemy import create_engine


df = pd.DataFrame({'A':['A1','A2','A3'],
                  'B':['B1','B2','B3'],
                   'c':['c1','c2','c3']
                  })
df2 = pd.DataFrame({'A':['A4','A5','A6'],
                  'B':['B4','B5','B6'],
                   'c':['c4','c5','c6']
                  })
df3 = pd.DataFrame({'A':['A7','A8','A9'],
                  'B':['B7','B8','B9']
                                     })
df4 = pd.DataFrame({'A':['d7','d8','d9'],
                  'E':['e7','e8','e9']
                                     })

table_name = "sample_sqlalchemy"
db_settings = {
    "host":'localhost',
    "database":'test_db',
    "user":'root',
    "password":'pass',
    "port":3306
}
engine = create_engine('mysql+pymysql://{user}:{password}@{host}:{port}/{database}'.format(**db_settings))
df.to_sql(table_name, engine,if_exists='replace',  index=False)
df2.to_sql(table_name, engine,if_exists = 'append',  index=False)
df3.to_sql(table_name, engine,if_exists = 'append',  index=False)
df4.to_sql(table_name, engine,if_exists = 'append',  index=False)

試したこと

ネット検索しましたが、PANDASからのSQL書込は記事が少なくお手上げです。

補足情報(言語/FW/ツール等のバージョンなど)

Python 3.5.2 :: Anaconda custom (64-bit)
sqlalchemy                1.1.4 
pandas                    0.19.2 
pymysql                   0.7.9 

  • 気になる質問をクリップする

    クリップした質問は、後からいつでもマイページで確認できます。

    またクリップした質問に回答があった際、通知やメールを受け取ることができます。

    クリップを取り消します

  • 良い質問の評価を上げる

    以下のような質問は評価を上げましょう

    • 質問内容が明確
    • 自分も答えを知りたい
    • 質問者以外のユーザにも役立つ

    評価が高い質問は、TOPページの「注目」タブのフィードに表示されやすくなります。

    質問の評価を上げたことを取り消します

  • 評価を下げられる数の上限に達しました

    評価を下げることができません

    • 1日5回まで評価を下げられます
    • 1日に1ユーザに対して2回まで評価を下げられます

    質問の評価を下げる

    teratailでは下記のような質問を「具体的に困っていることがない質問」、「サイトポリシーに違反する質問」と定義し、推奨していません。

    • プログラミングに関係のない質問
    • やってほしいことだけを記載した丸投げの質問
    • 問題・課題が含まれていない質問
    • 意図的に内容が抹消された質問
    • 広告と受け取られるような投稿

    評価が下がると、TOPページの「アクティブ」「注目」タブのフィードに表示されにくくなります。

    質問の評価を下げたことを取り消します

    この機能は開放されていません

    評価を下げる条件を満たしてません

    評価を下げる理由を選択してください

    詳細な説明はこちら

    上記に当てはまらず、質問内容が明確になっていない質問には「情報の追加・修正依頼」機能からコメントをしてください。

    質問の評価を下げる機能の利用条件

    この機能を利用するためには、以下の事項を行う必要があります。

回答 1

checkベストアンサー

0

pandasのto_sqlではテーブルの構造が書き換えられないため、エラーになります。
予めテーブルに列を追加しておくことで回避できます。
下記は生クエリの例になりますが、SQLAlchemyでclassを作成してちゃんとやった方がよいかもしれません。

# ...省略
df3.to_sql(table_name, engine,if_exists = 'append',  index=False)

column_name = 'E'
data_type = 'text'
sql = 'alter table {} add column {} {}'.format(table_name, 'E', data_type)

connect = engine.connect()
connect.execute(sql)
connect.close()
df4.to_sql(table_name, engine,if_exists = 'append',  index=False)

投稿

  • 回答の評価を上げる

    以下のような回答は評価を上げましょう

    • 正しい回答
    • わかりやすい回答
    • ためになる回答

    評価が高い回答ほどページの上位に表示されます。

  • 回答の評価を下げる

    下記のような回答は推奨されていません。

    • 間違っている回答
    • 質問の回答になっていない投稿
    • スパムや攻撃的な表現を用いた投稿

    評価を下げる際はその理由を明確に伝え、適切な回答に修正してもらいましょう。

  • 2017/01/24 19:44

    早速のご回答ありがとうございます。
    手抜きはできないものですね。

    キャンセル

同じタグがついた質問を見る

  • Python

    11245questions

    Pythonは、コードの読みやすさが特徴的なプログラミング言語の1つです。 強い型付け、動的型付けに対応しており、後方互換性がないバージョン2系とバージョン3系が使用されています。 商用製品の開発にも無料で使用でき、OSだけでなく仮想環境にも対応。Unicodeによる文字列操作をサポートしているため、日本語処理も標準で可能です。

  • MySQL

    6805questions

    MySQL(マイエスキューエル)は、TCX DataKonsultAB社などが開発するRDBMS(リレーショナルデータベースの管理システム)です。世界で最も人気の高いシステムで、オープンソースで開発されています。MySQLデータベースサーバは、高速性と信頼性があり、Linux、UNIX、Windowsなどの複数のプラットフォームで動作することができます。

  • pandas

    841questions

    Pandasは、PythonでRにおけるデータフレームに似た型を持たせることができるライブラリです。 行列計算の負担が大幅に軽減されるため、Rで行っていた集計作業をPythonでも比較的簡単に行えます。 データ構造を変更したりデータ分析したりするときにも便利です。