機械学習（ランダムフォレスト）による目的変数の変換について

現在、ランダムフォレストで回帰予測を実施しています。
目的変数ｙを逆変換（１／ｙ）および自然対数変換（log（ｙ）、底はe）で、
ランダムフォレストで回帰予測精度を向上できた方はいますでしょうか。
応用数学に詳しい方から、上記の目的変換で、回帰予測が向上するのでは
という助言をいただき、実施したのですが、逆に予測精度（mseで評価）は
下がりました。私の予測対象は、ランダムでかつ周期的な波の形状となるもの
であり、そのピークの波の高くなる部分が、低く予測される状態です。それで
助言してくれた方は、一度、目的変数yを小さくすることで、その波のピーク
をうまく予測するのではという発想ではないかと思います。私の、予測精度
が下がった理由としては、ランダムフォレストが回帰木の集合で、かつノン
パラメトリックなものなので、線形、多項式、重回帰のタイプのパラメトリック
タイプの予測モデルと異なる（つまりｙ軸とかの数字の大小に左右されない）、
ことより、予測精度が向上しなかったという仮説を立てました。この点について、
詳しい方のご助言をいただけら幸いです。

行動規範の内容に同意します

回答1件

ベストアンサー

ランダムフォレストを使われているならば目的変数の変換よりも、説明変数の見直しの方が良いかと思います。
予測値と実測値の差についてのグラフは見られましたでしょうか。周期性か何かパターンがあるでしょうか。
それを説明する変数が何かあるのでは無いかと思います。

投稿2020/06/21 05:40

aokikenichi

総合スコア2240

kouji_39

2020/07/03 11:44

aokikenichi様、アンサーありがとうございます。ランダムフォレストの場合、目的変数のスケールをいじっても効果が出ないというのが私の実感です。そして、説明変数（特徴量）の選択や加工が、ランダムフォレストモデルの予測精度を向上させる一番の策と考えています。意見が合って良かったです。今後ともよろしくお願いいたします。