Q&A
回答と同じことを書いてしまったので編集して消しました。
実現したいこと
Pandasのgroupbyとapply関数を用いてデータフレームの数値からグループ別の割合を算出したい。
発生している問題・分からないこと
Pandasのバージョンを1系（1.0.5）から2系（2.2.1）に上げたところ、apply関数の挙動が変わっていることに気づきました。
具体的には、groupbyとapply関数を使ってグループ別の割合を算出した際に、2系においては意図しない結果が得られてしまいます。（ソースコードを参照してください。）
そこで以下について教えて下さい。
①Pandasの2系でapply関数を使って割合を算出する方法について
一旦グループ別に合計を算出したデータフレームを作ってから、元のデータにマージする...等の方法で一応解決はできるのですが、apply関数を用いてスマート（極力1行で）に実装したいと考えています。
2系の仕様でgroupbyとapply関数を用いてグループ別の割合を算出する方法を教えていただけないでしょうか。
このような2系のapply関数の挙動ですが、これまでの1系のそれに慣れている身からすると、少し不可解です。どういう計算をしてこのような結果になっているのかが検討が付きません…。
ご教示の程をお願いします。
該当のソースコード
#--性別別にfareの値を割合に変換するコード #--pandasのversionが1.0.5の場合-------------------------------------------------------- import pandas as pd df = pd.read_csv(r'https://hbiostat.org/data/repo/titanic3.csv') #--以下のapply関数で男女別にfareの数値の割合を算出 df["rate"] = df.groupby(["sex"])["fare"].apply(lambda x: x/x.sum()).reset_index(drop=True) print(df.groupby("sex")["rate"].sum()) #sex #female 1.0 #male 1.0 #性別ごとに上記コードで算出したrateを足すと1（100%）になる。（意図した通りの挙動） #--pandasのversionが2.2.1の場合-------------------------------------------------------- import pandas as pd df = pd.read_csv(r'https://hbiostat.org/data/repo/titanic3.csv') #--以下のapply関数で男女別にfareの数値の割合を算出 df["rate"] = df.groupby(["sex"])["fare"].apply(lambda x: x/x.sum()).reset_index(drop=True) print(df.groupby("sex")["rate"].sum()) #sex #female 0.762784 #male 1.237216 #性別ごとに上記コードで算出したrateを足すと1（100%）にならない。（意図していない挙動）
試したこと・調べたこと
- teratailやGoogle等で検索した
- ソースコードを自分なりに変更した
- 知人に聞いた
- その他
上記の詳細・結果
"pandas apply change"等の単語で調査を行いましたが、有益な情報は得られませんでした。
補足
特になし
回答2件
0
#本文
applyは使っていないのですが、それでも大丈夫なら
df["rate"] = df.groupby("sex")["fare"].transform(lambda x: x / x.sum())
としてはどうでしょうか。reset_indexしなくてもよくなると思います。
(Melianさんがapplyを使ったすばらしい回答をしているので不要な気がしますが)
#追記
Pandas 1.x系では、groupbyとapplyの後にreset_index(drop=True)を使うと、適用した関数の結果が元のデータフレームの順序に合わせてインデックスがリセットされ、データの位置も保持されました。
しかし、Pandas 2.x系では、groupbyの適用結果が元のデータフレームのインデックスに依存しない順序になることがあり、それに対してreset_index(drop=True)を行うと、結果が異なる順序でリセットされるため、計算結果がズレる可能性が出てきます。
(自分なりに調べてみました。)
投稿2024/10/15 03:37
編集2024/10/15 03:42総合スコア10
Pandas 2.0 の groupby() で group_keys のデフォルト値が True に変更されたことが原因の様です。
pandas.DataFrame.groupby — pandas 2.2.3 documentation
https://pandas.pydata.org/docs/reference/api/pandas.DataFrame.groupby.html
> group_keys: bool, default True
> When calling apply and the by argument produces a like-indexed (i.e. a transform) result, add group keys to index to identify pieces. By default group keys are not included when the result’s index (and column) labels match the inputs, and are included otherwise.
>
> Changed in version 2.0.0: group_keys now defaults to True.
そこからつながっていたのですね、ご指摘(補足?)ありがとうございます。
groupbyの中にgroup_keysを設定することで意図した結果が得られることができました。
group_keys のデフォルト値が変更されたことが原因なのですね。本当にありがとうございました。
0
ベストアンサー
2系の仕様でgroupbyとapply関数を用いてグループ別の割合を算出する方法
groupby() の結果、multi-index になっていて、reset_index(drop=True) で元のインデックスを削除してしまっています。なので、グループインデックス(male, female)を作成しない様にすればよいかと思います。（group_keys=False を指定）
python
1df["rate"] = df.groupby("sex", group_keys=False)["fare"].apply(lambda x: x/x.sum()) 2 3print(df.groupby("sex")["rate"].sum()) 4 5# sex 6# female 1.0 7# male 1.0 8# Name: rate, dtype: float64
投稿2024/10/15 03:16
編集2024/10/15 03:25総合スコア20574
groupbyの中にgroup_keysを設定することで意図した結果が得られることができました。
group_keys のデフォルト値が変更されたことが原因なのですね。本当にありがとうございました。
あなたの回答
tips
プレビュー
