【pandas】dataframe(日付データを含む)をスプレッドシートのセルに書き込む方法について

Question

こんにちは

python初心者です
スプレッドシート×pandasで日付の処理に困っており、質問させてください

以下のエクセルを
df1 として読み込んだ際に

|商品名|発売日|発送日|配送|
|:--|:--:|--:|
|A|2020/7/10 12:00|2020/7/20 12:00|A社|
|B|2020/7/18 12:00|2020/7/24 12:00|A社|
|C|未定|未定|A社|

上記のデータをスプレッドシートの特定シートの特定セルに張り付けるために下記コードを書きました

#df1の最終行列の把握
col_lastnum = len(df1.columns) 
row_lastnum = len(df1.index)  

#--------------------------------------------------------------------------------------------------------------------#
#スプレッドシートの準備
#--------------------------------------------------------------------------------------------------------------------#

#ServiceAccountCredentials：Googleの各サービスへアクセスできるservice変数を生成します。
from oauth2client.service_account import ServiceAccountCredentials 

#2つのAPIを記述しないとリフレッシュトークンを3600秒毎に発行し続けなければならない
scope = ['https://spreadsheets.google.com/feeds','https://www.googleapis.com/auth/drive']

#認証情報設定
#ダウンロードしたjsonファイル名をクレデンシャル変数に設定（秘密鍵、Pythonファイルから読み込みしやすい位置に置く）
credentials = ServiceAccountCredentials.from_json_keyfile_name(r'C:\Users\xxxxxxx\Desktop\12_pyworks\python.json', scope)

#OAuth2の資格情報を使用してGoogle APIにログインします。
gc = gspread.authorize(credentials)

#共有設定したスプレッドシートキーを変数[SPREADSHEET_KEY]に格納する。
SPREADSHEET_KEY = 'xxxxxxxxxxxxxxxxxxxxx'

#共有設定したスプレッドシートのテストシートを開く
ws = gc.open_by_key(SPREADSHEET_KEY).worksheet('テスト')

#更新するセル範囲　df1の範囲を考慮に入れて算出
cell_list = ws.range('A1:D'+str(row_lastnum))

#--------------------------------------------------------------------------------------------------------------------#
#df1のデータをスプレッドシートに書き込み
#--------------------------------------------------------------------------------------------------------------------#

#セルリストの範囲にdf1の値を代入していく
for cell in cell_list:
    values = df1.iloc[cell.row-1][cell.col-1]
    cell.value = values
ws.update_cells(cell_list)

エラー内容

TypeError: Object of type datetime is not JSON serializable

日付データがJSONで定義されていないため、エラーが発生しているようです
※df1.dtypesで確認すると全ての情報がobjectとなっております

発売日と発送日の日付に”未定”というテキストもが入っているのですが、
うまくスプレッドシートに移行させることは可能でしょうか。
df1で読み込んだエクセル内容を変更することはできません。

試してみたこと

日付の形式を変えてみようと思ったのですがテキストが入っているため変換などもできず・・。

df1['発売日']=pd.to_datetime(df1['発売日'])
df1['発送日']=pd.to_datetime(df1['発送日'])

**エラー**
Unknown string format: 未定

何かアドバイスなどいただけると大変助かります。
お忙しいところ恐縮ですが、よろしくお願いいたします。

Answer 1

エラーの解釈が間違っています。

TypeError: Object of type datetime is not JSON serializable

というエラーは、datetime型をJSONに変換できない(シリアライズできない)ということです。すなわちdf1['発売日']もしくはdf1['発送日']もしくはその両方にdatetime型(あるいはそれに相当する型)が含まれているということです。したがって型をシリアライズ可能な文字列型に変換すれば良いです。おそらく日付が未定のところはNaTもしくはNaNとなっていてこれらもシリアライズできませんので一緒に変換する必要があります。

df1['発売日']=df1['発売日'].dt.strftime('%Y/%m/%d %H:%M')
df1['発送日']=df1['発送日'].dt.strftime('%Y/%m/%d %H:%M')
df1.fillna("未定", inplace=True)

[追記]
上記の回答は日付がpandasのTimestamp型を想定しましたが、エラーの内容からdatetime型が直接代入されているようです。シリアライズするためには全てをstr型にする必要があります。一旦下記のような関数を定義して下さい。

def datetime_to_str(d):
    """datetime型は指定文字列に、それ以外はそのまま返す"""
    if isinstance(d, datetime):
        return d.strftime("%Y/%m/%d %H:%M")
    return d

上記の関数を適用するためにapplyを使用します。

df1["発売日"] = df1["発売日"].apply(datetime_to_str)
df1["配送"] = df1["配送"].apply(datetime_to_str)

参考までにソースコードの全体を示します。

import pandas as pd
from datetime import datetime


def datetime_to_str(d):
    """datetime型は指定文字列に、それ以外はそのまま返す"""
    if isinstance(d, datetime):
        return d.strftime("%Y/%m/%d %H:%M")
    return d


def main():
    # 想定されるデータ構造を持ったデータフレームを作成
    df1 = pd.DataFrame(
        {
            "商品名": ["A", "B", "C"],
            "発売日": [
                datetime.strptime("2020/7/10 12:00", "%Y/%m/%d %H:%M"),
                datetime.strptime("2020/7/18 12:00", "%Y/%m/%d %H:%M"),
                "未定",
            ],
            "配送日": [
                datetime.strptime("2020/7/20 12:00", "%Y/%m/%d %H:%M"),
                datetime.strptime("2020/7/24 12:00", "%Y/%m/%d %H:%M"),
                "未定",
            ],
            "配送": ["A社", "A社", "A社"],
        }
    )

    # 全てを文字列型に変換
    df1["発売日"] = df1["発売日"].apply(datetime_to_str)
    df1["配送"] = df1["配送"].apply(datetime_to_str)

    # あとはSpreadsheetを更新する処理

if __name__ == "__main__":
    main()

Comments

[beginner.py]

yymmt様

ご回答いただきありがとうございます。
解説内容、とてもよくわかりました。ありがとうございます。

今試してみたところ
下記のようなエラーコードが出てしまってます。

Can only use .dt accessor with datetimelike values

つまりこれはエクセルで読み込んだdf1の発売日と発送日の日付データが
datetimelike valuesではないということなのですよね。

なので、いただいたコードの前に下記コードで発売日と発送日をdatetime型にしようとしたのですが
df1['発売日'] = pd.to_datetime(df1['発売日'])
df1['発送日'] = pd.to_datetime(df1['発送日'])

下記エラーコードが出ておりまして。。
Unknown string format: 未定

上記何か対応策があれば、大変お手数ですが、ご教授いただけると幸いでございます。

[beginner.py]

本件、前処理で未定を一旦日付に直したら無事エラーがなくなりました。
ありがとうございました。
df1['発売日'] = df1['発売日'].str.replace('未定', '2020/3/31 12:00')
df1['発送日'] = df1['発送日'].str.replace('未定', '2020/3/31 12:00')

[yymmt]

状況としては1つの列にdatetime型とstr型(未定の文字列)が含まれていて、一括変換ができなかった、ということです。対処方法は長くなりそうなので回答欄に追記します。

[beginner.py]

yymmt様

追記ありがとうございます。またコードの全容まで大変助かります。

いただいた内容を参考にさせていただきましたところ、うまくいきました????
特に下記コード、大変参考になりました。
def datetime_to_str(d):
"""datetime型は指定文字列に、それ以外はそのまま返す"""
if isinstance(d, datetime):
return d.strftime("%Y/%m/%d %H:%M")
return d

本当に助かりました。
貴重なお時間をいただきありがとうございました。