機械学習ライブラリのscikit-learnが提供しているモデル選択早わかりシート

Question

https://scikit-learn.org/stable/tutorial/machine_learning_map/index.html

添付はscikit-learnが提供している機械学習時の選択モデルのチャートになっています。

最初のモデル選択において、サンプルサイズが５０以上かそれ以下で枝分かれしております。

なぜ５０以上なのかご教示いただけますでしょうか。

スパースモデリングではこのチャートは使えないのでしょうか。

よろしくお願いします。

Answer 1

サンプルサイズについて
明確に50に意味があるわけではないです。目的に合わせて各種アルゴリズムでデータから特徴を見出そうとしていますが、データが少ないと特徴を見出しずらいので「一定量以上ないとだめ」程度の意味と思います。

スパースモデリングについて
Miyashita_parkさんの仰る「スパースモデリング」とは何を指してますでしょうか。
一般にはElasticnet、Lasso、RidgeRegressionがスパースモデリングとなるかと思いますが、それとは別のものを指してらっしゃいますでしょうか。

Comments

[Boosta-Ken]

ご回答頂きまして誠にありがとうございます。

私が記載したスパースモデリングとは、マテリアルインフォマティクスのような材料データがスパースな状態、目的変数yに対して関係のあるデータ（説明変数x）のみを集められなく、関係があるかもしれないデータも集めますので、関係のない（意味のない）データもたくさん含まれてきます。
このようなデータがスパースなことをスパースモデリングとして記載させていただきました。

ご返信いただけたら幸いです、よろしくお願いします。

[aokikenichi]

論点がずれていると思います。

https://scikit-learn.org/stable/tutorial/machine_learning_map/index.html
が示しているのはアルゴリズムの選択早見表

おっしゃっているのはデータの内容のことで、アルゴリズム選択とは直接は関係ありません。
スパースなデータでも回帰をしたいのか分類をしたいのか次元削減なのかクラスタリングをしたいかによるのでその意味ではこのチャートが使えますし、スパースに対応するか否かはこのチャートの範疇ではないようです。
スパースなデータのときは通常はそれに対応したElasticnet, Lasso, RidgeRegressionを用いたほうがよいと思いますが、Elasticnet等でも分類が行なえますしね。そこはこのチャートはフォローしていないようです。

[Boosta-Ken]

ご丁寧な回答、ご説明、誠にありがとうございます。

統計学における第一種の過誤、第二種の過誤と効果量からサンプルサイズが決めることができると思いますが、こちらについては別途質問としてさせていただいた方がよろしいでしょうか？
どういう時に使うのか、モデルを決める際のデータ数の決定の際に使えるのか否かなどを知りたいと考えております。

よろしくお願い申し上げます。

[aokikenichi]

際限がないので別質問でお願いします。

まぁ仮説検定のときに使うものですね、「一種の過誤、第二種の過誤」等は
https://bellcurve.jp/statistics/glossary/1766.html

そしてこのチャートが示しているのは機械学習あるいは多変量解析なので全然別の概念です。

一度にたくさんのことを学ばれて概念がごっちゃになっているようにお見受けいたします。
余裕があれば『分析者のためのデータ解釈学』がとてもまとまっており、頭の整理に丁度良いと思います。
https://www.amazon.co.jp/dp/4802612907

[Boosta-Ken]

ありがとうございます。
別途質問項目で質問させて頂きたいと思います。
おっしゃる通りでして、今スクールに通い、Python、R、そのベースとなる理論を一通り学んできていますが、予習を沢山出され、概要を掴めば良い、実装はググればできるというスタンスのところなのですが、一気に全てをやっているので、歯抜けの部分が合ったりで全体像が掴めていない状況です。
ありがとうございます。

[Boosta-Ken]

推薦本のご提供ありがとうございます。
同じ方が書かれた「データ分析のための数理モデル入門」という本を読み、多少は頭の整理ができた気がしますが、スクールでやってるのが抜け落ちてるため、点と点が繋がっていない状況です。