質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

新規登録して質問してみよう
ただいま回答率
85.35%
Google Cloud Platform

Google Cloud Platformは、Google社がクラウド上で提供しているサービス郡の総称です。エンドユーザー向けサービスと同様のインフラストラクチャーで運営されており、Webサイト開発から複雑なアプリ開発まで対応可能です。

JSON

JSON(JavaScript Object Notation)は軽量なデータ記述言語の1つである。構文はJavaScriptをベースとしていますが、JavaScriptに限定されたものではなく、様々なソフトウェアやプログラミング言語間におけるデータの受け渡しが行えるように設計されています。

Python

Pythonは、コードの読みやすさが特徴的なプログラミング言語の1つです。 強い型付け、動的型付けに対応しており、後方互換性がないバージョン2系とバージョン3系が使用されています。 商用製品の開発にも無料で使用でき、OSだけでなく仮想環境にも対応。Unicodeによる文字列操作をサポートしているため、日本語処理も標準で可能です。

Q&A

0回答

1340閲覧

【jsonマスター求む】Cloud storageのjsonファイルをPythonで読み込ませる方法

KMatsuda

総合スコア0

Google Cloud Platform

Google Cloud Platformは、Google社がクラウド上で提供しているサービス郡の総称です。エンドユーザー向けサービスと同様のインフラストラクチャーで運営されており、Webサイト開発から複雑なアプリ開発まで対応可能です。

JSON

JSON(JavaScript Object Notation)は軽量なデータ記述言語の1つである。構文はJavaScriptをベースとしていますが、JavaScriptに限定されたものではなく、様々なソフトウェアやプログラミング言語間におけるデータの受け渡しが行えるように設計されています。

Python

Pythonは、コードの読みやすさが特徴的なプログラミング言語の1つです。 強い型付け、動的型付けに対応しており、後方互換性がないバージョン2系とバージョン3系が使用されています。 商用製品の開発にも無料で使用でき、OSだけでなく仮想環境にも対応。Unicodeによる文字列操作をサポートしているため、日本語処理も標準で可能です。

0グッド

0クリップ

投稿2020/05/28 16:10

前提・実現したいこと

【前提】
Google Cloud Platforms(GCP)のログをCloud storageにjsonファイルで吐き出している。
jsonファイルの扱いについての知識がほぼ皆無です。なのでjson使いの方であれば質問にあっさりとお答えいただけるのかもしれません。

【実現したいこと】
pythonにてjsonファイルを読み込み・加工してgoogleスプレッドシートに表形式で格納したい

発生している問題・エラーメッセージ

【お聞きしたいこと】
Cloud storageのjsonファイルを読み込むのにもっと楽な方法は無いのですか?

今やろうとしているのは以下のようなコードでjsonの中身をstr型で取り出し、
それをdict型に持っていこうと思っています。

python

1from google.cloud import storage as gcs 2 3bucket_name = バケット名 4fname = ファイル名 5project_name = プロジェクト名 6 7#プロジェクト名を指定してclientを作成 8client = gcs.Client(project_name) 9#バケット名を指定してbucketを取得 10bucket = client.get_bucket(bucket_name) 11#Blobを作成 12blob = gcs.Blob(fname, bucket) 13data = blob.download_as_string() 14data2 = data.decode("utf-8")

試したこと

該当のjsonファイルにはhttp接続ができるのでurllib.requestを使って接続を試みたのですが、
ヘッダーの'Content-Type'が 'application/json'ではなかったため読み込めませんでした。

補足情報(FW/ツールのバージョンなど)

data2の1行は以下です。
{"insertId":"hogehoge","labels":{"execution_id":"hogehoge"},"logName":"hogehoge","receiveTimestamp":"2020-05-26T04:00:11.647179625Z","resource":{"labels":{"function_name":"hogehoge","project_id":"hogehoge","region":"hogehoge"},"type":"hogehoge"},"severity":"DEBUG","textPayload":"hogehoge","timestamp":"2020-05-26T04:00:00.390674062Z","trace":"hogehoge"}

そもそもログ吐くときにそのままスプレッドシートにぶち込めよ、という指摘は無しでお願いします。

気になる質問をクリップする

クリップした質問は、後からいつでもMYページで確認できます。

またクリップした質問に回答があった際、通知やメールを受け取ることができます。

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

退会済みユーザー

退会済みユーザー

2020/05/28 17:51

> ヘッダーの'Content-Type'が 'application/json'ではなかったため読み込めませんでした。 どうしてそう思うのですか?Content-Typeはバイト列をクライアントがどう解釈するかのヒントにすぎないので、ファイルがダウンロードできるなら、好きなようにデコードすれば良いのでは?
KMatsuda

2020/05/29 01:52 編集

回答ありがとうございます。 「好きなようにデコードすれば良いのでは?」をきちんと咀嚼できたかわからないですが、 もしかしてjsonで返してね、ということができるのでは?と思い、検索して以下のようなコードにしましたが Expecting value: line 2 column 1 (char 1) というエラーが出ました。 このエラーが何を意味するかこれから検索しますが、まずはご報告まで。 import json import requests url = 'https://hogehoge.json' headers = {"content-type": "application/json"} r = requests.get(url, headers=headers) data = r.json() print(json.dumps(data, indent=4))
退会済みユーザー

退会済みユーザー

2020/05/29 04:00

data = blob.download_as_string(); print(json.loads(data)) とするだけでいいのですが。僕のGCSで動作確認済みです。もしこれでエラーが出るならダウンロードされてきたファイルが正しいJSONではないか、何か別の問題では?
KMatsuda

2020/05/29 06:41

ありがとうございます。 data = json.loads(blob.download_as_string()) を実行したところ、 TypeError: the JSON object must be str, not 'bytes' が出ました。エンコード・デコードをもっと勉強します。
KMatsuda

2020/05/29 07:21 編集

デコードで data = blob.download_as_string().decode("utf-8") data2 = json.loads(data) としたところ、 JSONDecodeError: Extra data: line 2 column 1 (char 585) というエラーが出ました。 2行以上あるのがよく無いのかもしれません。 なんとか自力で解決できそうです。お付き合いいただきありがとうございました。 (結局解決できなくて別で質問など立てていたらヘルプいただけると嬉しいですm(_ _)m)
退会済みユーザー

退会済みユーザー

2020/05/29 09:19 編集

json.loads(bytes)は割と最近のPythonでサポートが追加されたらしいので、ちょっと前のPythonだと.decode('utf-8')が必要ですね。 それとJSONが二行以上ある件了解です。それはJSONLINEなどと呼ばれる形式ですので普通のjson.loadsでは読めません。あるファイル内に複数のJSONがあるとき、一行1JSONなら[json.loads(x) for x in data.split("\n")]とすれば行けるかもしれません。一行1JSONではない場合はjsonlineというモジュールを使えば解決すると思います。https://pypi.org/project/jsonlines/
KMatsuda

2020/05/29 11:37

ご親切にありがとうございます。
guest

あなたの回答

tips

太字

斜体

打ち消し線

見出し

引用テキストの挿入

コードの挿入

リンクの挿入

リストの挿入

番号リストの挿入

表の挿入

水平線の挿入

プレビュー

まだ回答がついていません

会員登録して回答してみよう

アカウントをお持ちの方は

15分調べてもわからないことは
teratailで質問しよう!

ただいまの回答率
85.35%

質問をまとめることで
思考を整理して素早く解決

テンプレート機能で
簡単に質問をまとめる

質問する

関連した質問