下方偏差を求めたいが、min関数でValueError

Question

前提・実現したいこと

下方偏差を求めようとして、四苦八苦しています。
具体的には、下記data1のvalue列から、coment列の計算式にて、
periodsの期間(今回3)でローリングしながら、want列の値をanswer列にて出力したいです。
識者の方、どうかよろしくお願いします。

発生している問題・エラーメッセージ

２つの問題に直面しています。
0. 機能を実装中に、以下のエラーメッセージが発生し、独力での解決ができません。
0. 上記解消したとして、pandasでのfor文を駆使しないといけませんが、どうやってwant列を実現できるのかイメージがついていない

df1['answer'] = min(df1['value'].shift(periods-1)-df1['value'].shift(periods-1),0)**2
  ...
ValueError: The truth value of a Series is ambiguous. Use a.empty, a.bool(), a.item(), a.any() or a.all().
P

該当のソースコード

以下実現したいことをサンプルに変換したソースコード全文になります

import pandas as pd
import numpy as np
import io

periods=3

data1 = """day,value,want,coment
1,5,,
2,3,,
3,4,5,"← 5 = min(5-5,0)^2 + min(3-5,0)^2 + min(4-5,0)^2"
4,6,0,"← 0 = min(3-3,0)^2 + min(4-3,0)^2 + min(6-3,0)^2"
5,3,1,"← 1 = min(4-4,0)^2 + min(6-4,0)^2 + min(3-4,0)^2"
6,4,13,"← 13 = min(6-6,0)^2 + min(3-6,0)^2 + min(4-6,0)^2"
"""

df1 = pd.read_csv(io.StringIO(data1))
print(df1)
#    day  value  want                                             coment
# 0    1      5   NaN                                                NaN
# 1    2      3   NaN                                                NaN
# 2    3      4   5.0   ← 5 = min(5-5,0)^2 + min(3-5,0)^2 + min(4-5,0)^2
# 3    4      6   0.0   ← 0 = min(3-3,0)^2 + min(4-3,0)^2 + min(6-3,0)^2
# 4    5      3   1.0   ← 1 = min(4-4,0)^2 + min(6-4,0)^2 + min(3-4,0)^2
# 5    6      4  13.0  ← 13 = min(6-6,0)^2 + min(3-6,0)^2 + min(4-6,0)^2

df1['answer'] = min(df1['value'].shift(periods-1)-df1['value'].shift(periods-1),0)**2 # ValueError発生！！！

print(df1)

試したこと

• 下記のみ単独でprintして値が得られていることは確認

df1['value'].shift(periods-1)-df1['value'].shift(periods-1)

• min(0,0)でエラーは発生しないことを確認
• ()でくくってみたり、.fillna(0)をつけてみたり、色々やったのですが、解決できません

Answer 1

min()の扱いですが、現状のように

ret = min(df1['value'].shift(T1)-df1['value'].shift(T2),0) ** 2

とすると、配列(Series)と数値(0)との比較になってしまいますのでエラーが発生します。
Seriesの全要素に対して比較(min())を行いたいのであれば、Series.apply()　を使って

ret = (df1['value'].shift(T1)-df1['value'].shift(T2)).apply(lambda d:min(d,0)**2)

のようにするか、Series.mask()を使って

tmp = df1['value'].shift(T1)-df1['value'].shift(T2)
ret =  tmp.mask(tmp>0,0) ** 2

のようにすると良いかと思います。

あとは複数回の計算をループを使って

periods = 3
df1['answer'] = 0
for i in range(periods):
    tmp = df1['value'].shift(i)-df1['value'].shift(periods-1)
    df1['answer'] += tmp.mask(tmp>0,0) ** 2

のように書くと良いのではないでしょうか。

Comments

[realnao]

また助けてもらいありがとうございます。m(__)m
他のmagichanさんの回答も見させてもらってますが、いつも簡潔なコードで恐れ入ります。
まだこれから実装確認するところで、自分理解が追い付いていないですが、
取り急ぎお礼のみ先にさせていただきます。

[realnao]

動作確認して実現したかったことが完璧にできていることを確認しました。
ambiguousと怒られた原因が分かりました。その解決方法として、maskを使うことは思いもつきませんでした。
複数回の計算ループも回答も理解できました。こうやって使うんですね。。自分で思いつく実力がまだ無いですが、今回頂いた回答を参考にすれば、自分でも時間かければできる自信がつきました。
ありがとうございました。