ランダムフォレストのアンサンブル学習の多数決の結果を目的変数にフィッティングするように学習させる方法

Question

例えば以下のようなデータセットが存在したとします。

プレイヤー１の推定勝率　プレイヤー１　プレイヤー２　実際の勝者　プレイヤー１の特徴　プレイヤー２の特徴
３０％　　　　　　　　　Ａ　　　　　　Ｂ　　　　　　Ｂ　　　　　★　　　　　　　　　〇
７０％　　　　　　　　　Ｃ　　　　　　Ｄ　　　　　　Ｃ　　　　　▲　　　　　　　　　◇
８０％　　　　　　　　　Ｅ　　　　　　Ｆ　　　　　　Ｅ　　　　　■　　　　　　　　　☆
６０％　　　　　　　　　Ｇ　　　　　　Ｈ　　　　　　Ｇ　　　　　●　　　　　　　　　□
４０％　　　　　　　　　Ｉ　　　　　　Ｊ　　　　　　Ｊ　　　　　★　　　　　　　　　☆
？？％　　　　　　　　　Ｋ　　　　　　Ｌ　　　　　　？　　　　　▲　　　　　　　　　□

ここで、ＫとＬの対戦結果における、Ｋの推定勝率を機械学習で算出したいと考えます。
Ｋの推定勝率を算出するに当たって、ランダムフォレストのアンサンブル学習の多数決を用いたいと考えます。
例えば、Ｋの投票数が６０、Ｌの投票数が４０であった場合、Ｋの勝率は６０／（６０＋４０）＝６０％になるものと考えます。

以上のような考え方で推定勝率を算出できるように、ランダムフォレストのアンサンブル学習の多数決の結果が
目的変数（プレイヤー１の推定勝率）に近づくように、ランダムフォレストに学習を実行させることはできますでしょうか。

■追記
・ランダムフォレストに限らず、このような問題を解く場合の最適な手法がありましたらご教示いただきたいです。

Answer 1

確率を目的変数にしたいのであれば、ランダムフォレストは不適当です。ロジスティック回帰などが適切でしょう。

どうしてもやりたければ、確率をロジット関数で-inf~infの連続値に変換しておいてランダムフォレスト回帰でやるという手はあるかもしれません。単純に多数決を取るのとは異なる方法論ですし、さほど良い結果になるとも思われないのでおすすめしません。

Comments

[RARUSAN]

ご回答ありがとうございます。
ちなみに、ランダムフォレストで回帰をしてもいい結果が得られないというのは
どういった理由からになりますでしょうか。

[hayataka2049]

ランダムフォレストはオーバーフィットしがちなので、主にそういったことを懸念しています。