交差検証で各foldに番号を付与してexternal validationで利用する方法

Question

前提・実現したいこと

Python、ランダムフォレストで10分割の交差検証を行い、各fold（split）に1から10までの番号を振ります。
そして、各foldでtraingを行い、モデルを作成、モデルにはmodel_1からmodel_10まで番号を付けます。
external validationのために、別のデータをそれぞれのモデルに読み込ませ、結果を表示する。

ということを実現したいです。

発生している問題・エラーメッセージ

モデルに番号を振り、それぞれでtrainingを行う方法が分かりません。

該当のソースコード

import numpy as np
from sklearn.ensemble import RandomForestClassifier
from sklearn.model_selection import StratifiedKFold

data=np.loadtxt('file_name.csv',delimiter=',',skiprows=1,dtype=float)
x=data[:, 0:1].ravel()
y=data[:, 1:]
forest=RandomForestClassifier(n_estimators=125,random_state=0)

skf=StratifiedKFold(n_splits=10)

試したこと

コードについて、上記からの記載方法が分かりません。
forループで作成すると考え、enumerateなどを使用してトライしてみましたが、うまく行きませんでした。

for i ,(train,test) in enumerate(skf.split(x,y)):
    forest.fit(x[train],y[train])

上記のような形を考えましたが、どのようにmodel_1, model_2と名前を振って、それらにexternal validationのためのデータを読み込ませるのか、分かりませんでした。

Answer 1

コレクション型にでも格納しておけばよいのではないでしょうか。インデックスに文字列を使うなら安直な方法はdict型ですが、かえって扱いが面倒になるので、個人的にはlist型を好みます（名前はコード上で登場しなくてもいいので）。

モデルはdeepcopyするか、ループ内でインスタンスを作成する必要があるでしょう。

from copy import deepcopy

# 中略

models = []
for train, test in skf.split(x,y):
    clf = deepcopy(forest)
    clf.fit(x[train],y[train])
    models.append(clf)

このようにすればmodelsに各モデルが格納されますので、あとは適切に扱えば望みのことが実現できるかと思います。

Comments

[pak_59]

ありがとうございました。解決できました。