Python 非線形SVM 2次元 可視化

Question

Python初心者です．

2次元変数(例えばx,y)をグラフの縦軸横軸にして，0.1にクラス分けしたものをプロットしていって非線形SVMで分けたいと思っています。

1つのデータに(x座標,y座標,クラス)を所持しているとして，.txtから読みこんだ50個のデータで非線形SVMで識別した後可視化もしたいのですが、ネットに乗っている情報がすべてデータセットからでいまいち理解ができないです．

どなたか教えていただけるとありがたいです．

OSはWindows10で，PythonはAnaconda→Jupyter→Python3を使っています。

こちらのグラフのような感じにしたいです
svm境界線の可視化

Comments

[hayataka2049]

.txtはどのようなフォーマットなのかを追記してください

Answer 1

scikit-learnとnumpyとmatplotlibを使い慣れていることを前提に回答しています。理解できない場合は検索したりして理解を深めてからトライしてください。

データの読み込み

以下の2つのnumpy配列を作ります。どんな手段で生成するにせよ、テキストから読み込んで最終的に作れればオッケーです。

• X:各データのx座標とy座標を格納。shape=(50, 2)
• y:各データのクラスを格納。shape=(50, )

やり方がわかるなら自分で好きな方法で行ってください。teratailで助言を求める場合、データ形式がわからないと誰も手の出しようがないと思います。

SVMの学習

学習は普通にやります。

from sklearn.svm import SVC
clf = SVC()
clf.fit(X, y)

トレーニングデータとテストデータを分離する、パラメータを調整するなど、工夫のしようは色々あります。必要に応じてやってください。

予測させる

この場合、まず図上の全体を予測させる必要があります。グリッド上のデータを作成し、予測を行わせます。

# この2つは自由に調整可能
gridsize = 0.1
margin = 0.5

x_min = X[:, 0].min() - margin
x_max = X[:, 0].max() + margin
y_min = X[:, 1].min() - margin
y_max = X[:, 1].max() + margin

xx, yy = np.meshgrid(np.arange(x_min, x_max, gridsize),
                     np.arange(y_min, y_max, gridsize))

pred = clf.predict(np.c_[xx.ravel(), yy.ravel()])

プロットする

基本的には得られた予測と元のデータを適当に重ねてプロットしてあげればそれで良いでしょう。このあたりについては添付したコードやscikit-learnのサンプルを参考にしてください。

なお、境界線のプロットにはエッジ検出する、確率を予測させて0に近いところを取り出すなど、若干の工夫が必要です。色を塗り分ける方が簡単です。

サンプル

irisの最初の2クラス、2次元でやったやつを置いておきます。

import numpy as np
import matplotlib.pyplot as plt
from sklearn.datasets import load_iris
from sklearn.svm import SVC

iris = load_iris()
X = iris.data[iris.target!=2][:, [0, 1]]
y = iris.target[iris.target!=2]

clf = SVC()
clf.fit(X, y)

gridsize = 0.02
margin = 0.5

x_min = X[:, 0].min() - margin
x_max = X[:, 0].max() + margin
y_min = X[:, 1].min() - margin
y_max = X[:, 1].max() + margin

xx, yy = np.meshgrid(np.arange(x_min, x_max, gridsize),
                     np.arange(y_min, y_max, gridsize))

Z = clf.predict(np.c_[xx.ravel(), yy.ravel()]).reshape(xx.shape)

for i in range(2):
    plt.scatter(X[y==i,0], X[y==i,1], label=iris.target_names[i], c="rb"[i])

plt.legend()
plt.contourf(xx, yy, Z, cmap="RdBu", alpha=0.1)
plt.savefig("result.png")

また、以下が参考になるでしょう。scikit-learnのexampleには他にも参考になるコードがたくさんあるので、見るときっと色々なことを学べると思います。

Classifier comparison — scikit-learn 0.22.1 documentation
Plot different SVM classifiers in the iris dataset — scikit-learn 0.22.1 documentation

Answer 2

scikit-learnには機械学習用のデーターを自動生成する
make_blobsやmake_regressionなどのクラスが用意されています。

機械学習 〜 データセット生成 〜
https://qiita.com/fujin/items/bb82d77b0b08c107f819

シンプルなデータが欲しいのであれば検討してみてはいかがでしょう。