機械学習において予測したい変数が２つ以上ある場合のアプローチ

Question

前提・実現したいこと

お世話になっております。
タイトルにありますとおり、機械学習において予測したい変数が２つ以上ある場合のアプローチを教えてください。

問題例

A組B組の定期テスト結果から、C組の数学と物理の得点を予測したい
など

わからないこと

• そもそも予測したい変数が２つ以上ある場合は、機械学習ができるのか？（できる場合どのようにして？）

　※ 今まで予測したい変数が１つのパターンしか経験がないうえ、ググっても出てこない
※ 数学と物理の得点はある程度相関がありそうだが、無視して個別に予測してよいものか？

• （機械学習が可能だとして、）予測したい変数側（数学、物理）のどちらかに欠損があるデータは、教師データ・テストデータのどちらとして扱うべきなのか？

当方の実力

まったくの初心者です。
経験としては Kaggle のタイタニック号の問題をやったことがあるくらいです。

以上です
よろしくお願いします。

Answer 1

アプローチの全体の話

”予測”という言葉だともやっとしますが、機械学習ではあるパラメータから特定のパラメータ（等）の連続値を予測することを回帰と呼びます。回帰というキーワードで探すといろいろヒットするはずです。

一般にテストの点数は線形で回帰できると思いますので重回帰分析が一番合っていそうな気がします。非線形だったり、そもそも”式”を使わない方法等たくさんありますのでその辺は"Qiita 回帰"のような感じで調べればたくさん出てくると思います。

変数が２つ以上ある場合は、機械学習ができるのか？

できます。一番わかりやすいのは、問題を2つに分割することと思います。A,Bから1を、A,Bから2を回帰するイメージです。

欠損があるデータは、教師データ・テストデータのどちらとして扱うべきなのか？

欠損があるデータは教師データとして不適当ですので、テストデータが良いかと思います。苦渋の策として、欠損値を周りの値から保管するだとか平均を使うだとか、ゼロにしてしまう等ありますが、精度が落ちますのであまりお勧めできません。

不明な点がありました、お知らせください。

Comments

[chankane]

ご回答ありがとうございます。
＞”予測”という言葉だともやっとしますが、機械学習ではあるパラメータから特定のパラメータ（等）の連続値を予測することを回帰と呼びます。
↑線形回帰などの用語が出てきましたが、ここら辺は勉強ですね。ありがとうございます。

＞できます。一番わかりやすいのは、問題を2つに分割することと思います。A,Bから1を、A,Bから2を回帰するイメージです。
↑すみません、正直これがピンと来ていません
例えばテストの科目が（数学、物理、化学、生物、英語）の５教科だったとします。
予測したいのは数学のスコアと物理のスコアなので、
ＳＴＥＰ１：化学、生物、英語の３科目から物理を回帰
ＳＴＥＰ２：化学、生物、英語、物理の４科目から数学を回帰
という理解であっていますか？

[退会済みユーザー]

> ＳＴＥＰ１：化学、生物、英語の３科目から物理を回帰
> ＳＴＥＰ２：化学、生物、英語、物理の４科目から数学を回帰
> という理解であっていますか？
こういう理解であっています。教科群のデータから物理と数学の試験結果を回帰させようとする場合、物理の回帰用の回帰式と、数学用の回帰式との2つを用意する方法が良いと思います。STEP1.2で異なる教科を挙げられている通り、説明性が高い教科の組み合わせが教科によって異なる可能性があるためです。

参考）
…普通はこのパラメータAやBが定期試験のスコアだったりしますが、「出身校」や「性別」等、スコア以外の値を予測値に突っ込む手法もあります。こういう手法を使って解析すると、「○○な生徒は△△が弱い傾向にあるから"授業で対策を打とう"」、というやり方が考えられますが、もし「この式を生徒の"評定に使う"」となると倫理的にかなり問題がでてしままうのでご注意ください。リク〇ビの新卒採用のサイトで内定辞退率を回帰して問題になった件と本質的に同じになってしまいますので…。

[chankane]

>こういう理解であっています。
＞教科群のデータから物理と数学の試験結果を回帰させようとする場合、物理の回帰用の回帰式と、数学用の回帰式との2つを用意する方法が良いと思います。
＞説明性が高い教科の組み合わせが教科によって異なる可能性があるためです。
↑理解があっていたとのこと、承知しました。ありがとうございます。

＞もし「この式を生徒の"評定に使う"」となると倫理的にかなり問題がでてしままうのでご注意ください。
↑この観点で機械学習を考えたことはなかったです。ありがとうございます。
たしかに定評の例の場合、データの「Win-Winな活用」ではないですよね。
これからは機械学習を適用する前に、
・機械学習の利用方法が「倫理的」かどうか？
・利用関係者の中に「不利益」を被る人がいないか？
の観点で、機械学習を適用することが適当かどうかを検討することをクセづけます。