cross_val_score と fit

Question

cross_val_score と fit

最初に自分の解釈を書きますと、

cross_val_score
データを学習用と検証用に分けて [ fit predict 正解率を出す ] を数回繰り返し、その数回の正解率を返す。

cross_val_score で スコアがよかったモデルを採用。

これで次の流れは下記になるのですが、
fit ← これ必要ですか？
predict

cross_val_scoreでスコアがいいモデルが解ったならそのモデルで予測だけすればいいのではないでしょうか？
なぜ fit でまた学習させなければならないのでしょうか？

Comments

[y_waiwai]

質問が意味不明です
cross_val_scoreとはなんでしょうか

[technocore]

＞fit ← これ必要ですか？
必要です。
交差検証(cross_val_score)はモデルを返さないからです。評価が目的です。

[takahashi-one]

回答ありがとうございます。インスタンスとオブジェクトの関係みたいな感じですか？
例えるなら下記のような感じ。
gbr = GradientBoostingRegressor ～ gbrは設計図
fit で返されるのが オブジェクト

[quickquip]

質問を編集して、質問にコードで示しましょう。（ここは「質問への追記・修正の依頼」欄）

Answer 1

cross_val_score で スコアがよかったモデルを採用。

これが一回のcross_val_scoreの結果に対する言及なら明確に間違いです。交差検証のFOLDごとの優劣を比較しても意味がないからです。

複数回行った結果を処理しているのであれば間違いとまでは言えません。ただ、たとえばハイパーパラメータのチューニングのような作業をしたい場合は、model_selectionに便利なクラスがたくさんあるので、corss_val_scoreを使うよりそちらを検討した方が良いかもしれません。

---

cross_val_scoreに渡したモデルはfitされません。

>>> from sklearn.model_selection import cross_val_score
>>> from sklearn.svm import SVC
>>> from sklearn.datasets import load_iris
>>> iris = load_iris()
>>> svm = SVC()
>>> cross_val_score(svm, iris.data, iris.target)
array([0.96666667, 0.96666667, 0.96666667, 0.93333333, 1.        ])
>>> svm.predict(iris.data)
Traceback (most recent call last):
  File "<stdin>", line 1, in <module>
  File "/*/site-packages/sklearn/svm/_base.py", line 584, in predict
    check_is_fitted(self)
  File "/*/site-packages/sklearn/utils/validation.py", line 952, in check_is_fitted
    raise NotFittedError(msg % {'name': type(estimator).__name__})
sklearn.exceptions.NotFittedError: This SVC instance is not fitted yet. Call 'fit' with appropriate arguments before using this estimator.

理由としては、スコア計算の副作用でfitされるのはあまり意味論的に望ましくない、交差検証でやっているので全データを使って学習させていないからfitさせた結果も再利用が難しい、といったことが挙げられます。原理的には交差検証のFOLDごとに学習済み分類器を得ることも問題なくできるのですが、corss_val_scoreがそういう使い方をサポートしているかは別問題です。cross_validateの方ならできますが。