機械学習を用いて一次関数と二次関数と三次関数を区別するプログラムを作成するには

Question

高校生です。
ディープラーニングを扱ってみたいと強く思ったため質問いたしました。

プログラミング等はあまり詳しくないですが、ディープラーニングに興味があり、ディープラーニングを扱
う第一段階として一次関数と二次関数と三次関数を区別するプログラムを作成したいと考えています。

現在パイソンを動かせる状況下にはないのでGoogleColaboratoryを用いて、一次、二次、三次関数はエクセル上で作成するつもりです。

上記のようなプログラムを作成するにあたって適したライブラリ？や、参考になるサイトや本など存知ないでしょうか？

それ以前にコラボ上にエクセル上で作成した関数を取り込むことが可能なのかすらよくわかっていないので、もしもっといい方法を知っていらっしゃればそういったことも教えていただけると大変助かります。

スキル不足な点は重々承知ですが冬休みで時間が取れるため、その時間を使って全力で頑張りたいと考えています。

抽象的かつど素人な質問ではありますが、よろしくお願いいたします。

Comments

[tiitoi]

一次関数、二次関数、三次関数を区別の意味がよくわかりません。
データはどのような形式で与えられるのでしょうか？

[nanonano]

一次関数、二次関数、三次関数はパラメータを変えることでいくらでも作成することができるので、パラメータを変えて作られた様々な異なった形の3種類の関数をテストデータ、学習データ、検証データとして使おうかと考えていました。

私の目標は、何かに対応していてパラメータを変えることで形が変化する関数を複数用意して、それらを判別することです。

一次関数、二次関数、三次関数にこだわっているわけではありませんが、それらであればデータを準備するのが容易であるように思えたため、今回使用しようかと考えております。

回答になっているかわかりませんが、どうにか頑張って回答しますので、質問や本質問への回答していただけると大変助かります。
どうかよろしくお願いいたします。

[tiitoi]

関数というと f(x) = x^2, f(x) = x^3 のような記号で表現されたものを想像していたのですが、そうではなく、それらの関数で生成した点 (x， y) の一覧が入力として与えられ、それを生成した関数の次数を予測したいということでしょうか。

[tiitoi]

また「関数の分類」というのが特にやりたいのか、それともデータが簡単に用意できそうなので、例としてあげたのかどちらでしょうか。
というのも、機械学習の勉強がされたいのであれば、iris データセットとか既存のデータセットを使ったほうが簡単だと思ったので、聞きました。

[nanonano]

そうです。
後者の点の一覧から関数の次数を予測したいということです。
わかりづらくて申し訳ございません。

点の一覧を用いて分類する方法について学びたいと考えています。
そのためのデータとして用意しやすそうだと思ったので今回は一次関数などを用いようかなと考えました。

[Q71]

"ハローワールド" をご存知でしょうか。ほとんどのプログラミング言語で最初に作るのは、「Hallo World!」と表示するプログラムです。機械学習は何かを表示するということはありませんので、MNISTを学びます。
まず、既存のものを動かせるか、試して下さい。自作のデータは、その次です。

Answer 1

上記のようなプログラムを作成するにあたって適したライブラリ？や、参考になるサイトや本など存知ないでしょうか？

いきなりやりたいことに取り組む前に、まずはライブラリのチュートリアルを一通りやったり、書籍を読んで、基礎を勉強したほうがよいと思います。
ディープラーニングはいまから勉強するのであれば、PyTorch をおすすめします。

今、ディープラーニングフレームワークは TensorFlow(Keras) と Pytorch の2強ですが、今後は Pytorch が主流になると読んでます。

理論は ゼロから作るDeep Learning あたりで勉強すればいいのではないでしょうか。読むにあたって Python の基礎は抑えている必要がありますが、大学レベルの難しい数式は出てこなかったと思うので、高校生でも読めると思います。

それ以前にコラボ上にエクセル上で作成した関数を取り込むことが可能なのかすらよくわかっていないので、もしもっといい方法を知っていらっしゃればそういったことも教えていただけると大変助かります。

csv 形式で保存すれば、Python の標準ライブラリでも読み込めます。
エクセルで保存する際に出力形式で CSV を選択できます。

Answer 2

その程度の問題なら機械学習まで使う必要はなく、最小二乗法という二百年くらい前からある統計学のごく基本的な方法でもけっこうできます。

>>> import statsmodels.api as sm
>>> import numpy as np
>>> x = np.linspace(-5, 5, 100)
>>> y1 = 3*x + 10 + np.random.normal(size=100)
>>> y2 = 10*x**2 - 5 + np.random.normal(size=100)
>>> y3 = 2*x**3 - 15 + np.random.normal(size=100)
>>> X = np.vstack([x, x**2, x**3]).T
>>> X = sm.add_constant(X)
>>> res = sm.OLS(y1, X).fit()
>>> print(res.summary())
                            OLS Regression Results                            
==============================================================================
Dep. Variable:                      y   R-squared:                       0.985
Model:                            OLS   Adj. R-squared:                  0.984
Method:                 Least Squares   F-statistic:                     2077.
Date:                Wed, 18 Dec 2019   Prob (F-statistic):           3.87e-87
Time:                        19:13:24   Log-Likelihood:                -150.03
No. Observations:                 100   AIC:                             308.1
Df Residuals:                      96   BIC:                             318.5
Df Model:                           3                                         
Covariance Type:            nonrobust                                         
==============================================================================
                 coef    std err          t      P>|t|      [0.025      0.975]
------------------------------------------------------------------------------
const          9.8967      0.166     59.586      0.000       9.567      10.226
x1             2.9309      0.095     30.864      0.000       2.742       3.119
x2             0.0047      0.015      0.321      0.749      -0.024       0.034
x3             0.0043      0.006      0.759      0.450      -0.007       0.016
==============================================================================
Omnibus:                        1.790   Durbin-Watson:                   2.196
Prob(Omnibus):                  0.409   Jarque-Bera (JB):                1.692
Skew:                          -0.314   Prob(JB):                        0.429
Kurtosis:                       2.886   Cond. No.                         73.3
==============================================================================

Warnings:
[1] Standard Errors assume that the covariance matrix of the errors is correctly specified.
>>> res = sm.OLS(y2, X).fit()
>>> print(res.summary())
                            OLS Regression Results                            
==============================================================================
Dep. Variable:                      y   R-squared:                       1.000
Model:                            OLS   Adj. R-squared:                  1.000
Method:                 Least Squares   F-statistic:                 1.524e+05
Date:                Wed, 18 Dec 2019   Prob (F-statistic):          2.28e-176
Time:                        19:15:05   Log-Likelihood:                -151.74
No. Observations:                 100   AIC:                             311.5
Df Residuals:                      96   BIC:                             321.9
Df Model:                           3                                         
Covariance Type:            nonrobust                                         
==============================================================================
                 coef    std err          t      P>|t|      [0.025      0.975]
------------------------------------------------------------------------------
const         -5.0743      0.169    -30.034      0.000      -5.410      -4.739
x1             0.0078      0.097      0.081      0.936      -0.184       0.200
x2            10.0157      0.015    676.141      0.000       9.986      10.045
x3            -0.0015      0.006     -0.264      0.793      -0.013       0.010
==============================================================================
Omnibus:                        1.737   Durbin-Watson:                   1.905
Prob(Omnibus):                  0.420   Jarque-Bera (JB):                1.769
Skew:                           0.270   Prob(JB):                        0.413
Kurtosis:                       2.634   Cond. No.                         73.3
==============================================================================

Warnings:
[1] Standard Errors assume that the covariance matrix of the errors is correctly specified.
>>> res = sm.OLS(y3, X).fit()
>>> print(res.summary())
                            OLS Regression Results                            
==============================================================================
Dep. Variable:                      y   R-squared:                       1.000
Model:                            OLS   Adj. R-squared:                  1.000
Method:                 Least Squares   F-statistic:                 3.375e+05
Date:                Wed, 18 Dec 2019   Prob (F-statistic):          6.13e-193
Time:                        19:15:25   Log-Likelihood:                -136.43
No. Observations:                 100   AIC:                             280.9
Df Residuals:                      96   BIC:                             291.3
Df Model:                           3                                         
Covariance Type:            nonrobust                                         
==============================================================================
                 coef    std err          t      P>|t|      [0.025      0.975]
------------------------------------------------------------------------------
const        -15.2334      0.145   -105.081      0.000     -15.521     -14.946
x1             0.0036      0.083      0.044      0.965      -0.161       0.168
x2             0.0209      0.013      1.642      0.104      -0.004       0.046
x3             1.9974      0.005    402.283      0.000       1.988       2.007
==============================================================================
Omnibus:                        0.071   Durbin-Watson:                   2.259
Prob(Omnibus):                  0.965   Jarque-Bera (JB):                0.117
Skew:                          -0.060   Prob(JB):                        0.943
Kurtosis:                       2.883   Cond. No.                         73.3
==============================================================================

Warnings:
[1] Standard Errors assume that the covariance matrix of the errors is correctly specified.

「1,2,3次関数のどれか」とか、せいぜい「それらの足し合わせにノイズを足したもの」であることがわかっていれば、変数の分布における仮定からoptimalな方法が出てくるので（複雑だったり条件が悪かったりしてできないときもあるけど）、機械学習の出る幕は恐らくありません。こういう仮定をうまく置けないときにでしゃばってくるのが機械学習なのです。

---

機械学習をカジュアルに学んでみたいなら、この本。大雑把に全体像がつかめるので、入門向きです。

［第2版］Python機械学習プログラミング 達人データサイエンティストによる理論と実践 - インプレスブックス

ただし冬休みで終えるのはたぶんきつい。