機械学習SVMアルゴリズム

Question

###SVMの変数がよくわからない
現在pythonでSVMアルゴリズムをやっているのですが

clf = svm.SVC(gamma=0.001, C=100.0)

上記のgamma,Cの変数の意味がいまいちわかりません。
どなたか教えてください。

###プログラム

# 準備作業
from sklearn import datasets
data = datasets.load_digits()

#各種データの確認
print(data.DESCR)
print(data.data)
print(data.target_names)
print(data.target)

# サポートベクターマシーンの準備
from sklearn import svm
clf = svm.SVC(gamma=0.001, C=100.0)

#データを学習用/評価用に分割するための準備作業
#学習用：898件、評価用：899件となるようにINDEXを分割する
att = data.data #attに属性データを格納
lab = data.target #labに正解ラベルを格納

n_samples = att.shape[0] #データの個数(1797件)
n_train = n_samples // 2 #半分のデータを学習(898件)
n_test = n_samples - n_train #評価データ数(899件)

train_index = range(0,n_train) #最初の半分(range(0, 898))
test_index = range(n_train,n_samples) #残りの半分range(898, 1797)

# データを学習用/評価用に分割
att_train = att[train_index] #学習用属性データ
lab_train = lab[train_index] #学習用正解ラベル

att_test = att[test_index] #評価用属性データ
lab_test = lab[test_index] #評価用正解ラベル

#機械学習
clf.fit(att_train,lab_train);

#評価
print(clf.score(att_test,lab_test))

#評価の分析
ng = 0
for i,j in zip(clf.predict(att_test),lab_test):
    if i == j:
        print(i,j,"OK")
    else:
        print(i,j,"NG")
        ng += 1

print("{0} / {1} = {2}".format(ng,n_test,1-ng / n_test))

Answer 1

「SVM パラメータ」で検索すれば一発で出る記事を貼るのも気が引けますが、

SVM(RBFカーネル)のハイパーパラメータを変えると何が起こるの?

こちらを参考にしてください。

基本的には、どちらのパラメータも大きくすればするほど複雑な超分離平面（決定境界）が引かれます。

大きくすると複雑に入り組んだようなデータをうまく分類できるようになりますが、やりすぎると過学習の問題が出てくるので、実際には汎化性能を見ながらチューニングすることになります。

Answer 2

http://scikit-learn.org/stable/modules/generated/sklearn.svm.SVC.html

公式ドキュメントもはっておきますよ。