質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

ただいまの
回答率

88.91%

PythonでBig Queryを操作しテンポラリテーブルを作りたい(大量データの処理が発生)

受付中

回答 0

投稿

  • 評価
  • クリップ 0
  • VIEW 171

・実行環境:Google Colaboratory
・接続DB:Big Query
・やりたいこと:Google ColaboratoryからBig Queryをたたき、中間テーブルを作成したい
・困っていること:Big Queryを叩いて得たデータを一度データフレームに入れ、そのデータフレームをBig Query上でテーブル化するという処理をしているため、データ量に比例して処理速度が重くなってしまう
・知りたいこと:今回のようなビッグデータをGoogle Colaboratory上で処理する際、負荷をかけないで処理する方法はあるのか

実際に書いているコード

import pandas as pd
from pandas.io import gbq
from gspread_dataframe import get_as_dataframe, set_with_dataframe

query = 'データ更新のクエリ'
df = pd.read_gbq(query, 'project-id')
# テンポラリテーブルを上書き
df.to_gbq('table_name', 'project-id', if_exists='replace')


今後もscikielearnの機械学習モデルに教育データを入れ込んだりしたいので、こういった大量データを扱う際の方法を教示いただけると幸いです。
よろしくおねがいします。

  • 気になる質問をクリップする

    クリップした質問は、後からいつでもマイページで確認できます。

    またクリップした質問に回答があった際、通知やメールを受け取ることができます。

    クリップを取り消します

  • 良い質問の評価を上げる

    以下のような質問は評価を上げましょう

    • 質問内容が明確
    • 自分も答えを知りたい
    • 質問者以外のユーザにも役立つ

    評価が高い質問は、TOPページの「注目」タブのフィードに表示されやすくなります。

    質問の評価を上げたことを取り消します

  • 評価を下げられる数の上限に達しました

    評価を下げることができません

    • 1日5回まで評価を下げられます
    • 1日に1ユーザに対して2回まで評価を下げられます

    質問の評価を下げる

    teratailでは下記のような質問を「具体的に困っていることがない質問」、「サイトポリシーに違反する質問」と定義し、推奨していません。

    • プログラミングに関係のない質問
    • やってほしいことだけを記載した丸投げの質問
    • 問題・課題が含まれていない質問
    • 意図的に内容が抹消された質問
    • 過去に投稿した質問と同じ内容の質問
    • 広告と受け取られるような投稿

    評価が下がると、TOPページの「アクティブ」「注目」タブのフィードに表示されにくくなります。

    質問の評価を下げたことを取り消します

    この機能は開放されていません

    評価を下げる条件を満たしてません

    評価を下げる理由を選択してください

    詳細な説明はこちら

    上記に当てはまらず、質問内容が明確になっていない質問には「情報の追加・修正依頼」機能からコメントをしてください。

    質問の評価を下げる機能の利用条件

    この機能を利用するためには、以下の事項を行う必要があります。

質問への追記・修正の依頼

  • sazi

    2020/07/17 20:40

    big query上のデータを元に中間テーブルを作成するのなら、そのデータを中間テーブルにinsertするSQLのみで完結しますけど、そういう事ではない?

    キャンセル

  • kakedashi_mk_py

    2020/07/20 10:11

    回答ありがとうございます。
    今回の質問はある業務を切り出して質問させていただいているので、BQ上でinsertする方法も考えたのですが、ちょっと運用面(ある程度の定常運用化を想定)で課題があり、今回の方法を考えた次第でした。。

    キャンセル

まだ回答がついていません

15分調べてもわからないことは、teratailで質問しよう!

  • ただいまの回答率 88.91%
  • 質問をまとめることで、思考を整理して素早く解決
  • テンプレート機能で、簡単に質問をまとめられる

関連した質問

同じタグがついた質問を見る