図がうまく表示されない。

Question

前提・実現したいこと

連日の投稿になります。
L1正則化付きロジスティック回帰の図を表示させたい。

発生している問題・エラーメッセージ

エラーメッセージは発生していないが、図がalcoholしか表示されない。

該当のソースコード

import pandas as pd
import numpy as np
df_wine = pd.read_csv(
    'https://raw.githubusercontent.com/tirthajyoti/Machine-Learning-with-Python/master/Datasets/wine.data.csv', header = 0)

df_wine.columns = ['Class label', 'Alcohol', 'Malic acid', 'Ash', 
                   'Alcalinity of ash', 'Magnesium', 'Total phenols', 'Flavanoids', 
                   'Nonflavanoid phenols', 'Proanthocyanis', 'Color intenesity', 'Hue', 
                   'OD280/OD315 of diluted wines', 'Proline']


print('Class labels', np.unique(df_wine['Class label']))
df_wine.head()

from sklearn.model_selection import train_test_split
X, y = df_wine.iloc[:, 1].values, df_wine.iloc[:, 0].values

X_train, X_test, y_train, y_test = \
    train_test_split(X.reshape(-1, 1), y.reshape(-1, 1), test_size = 0.3, random_state = 0, stratify = y)
    
from sklearn.preprocessing import MinMaxScaler
mms = MinMaxScaler()
X_train_norm = mms.fit_transform(X_train)
X_test_norm = mms.transform(X_test)

ex = np.array([0, 1, 2, 3, 4, 5])
print('standardized:', (ex - ex.mean()) / ex.std())
print('normalized:', (ex - ex.min()) / (ex.max() - ex.min()))

from sklearn.preprocessing import StandardScaler
stdsc = StandardScaler()
X_train_std = stdsc.fit_transform(X_train)
X_test_std = stdsc.transform(X_test)

from sklearn.linear_model import LogisticRegression
LogisticRegression(penalty = 'l1')

lr = LogisticRegression(penalty = 'l1', C = 1.0, solver = 'liblinear')
lr.fit(X_train_std, y_train.ravel())
print('Training accuracy:', lr.score(X_train_std, y_train))
print('Test accuracy:', lr.score(X_test_std, y_test))
lr.intercept_
lr.coef_

import matplotlib.pyplot as plt
fig = plt.figure()
ax = plt.subplot(111)
colors = ['blue', 'green', 'red', 'cyan', 'magenta', 'yellow', 'black', 
          'pink', 'lightgreen', 'lightblue', 'gray', 'indigo', 'orange']

weights, params = [], []

for c in np.arange(-4., 6.):
    lr = LogisticRegression(penalty = 'l1', C = 10.**c, solver = 'liblinear', random_state = 0)
    lr.fit(X_train_std, y_train.ravel())
    weights.append(lr.coef_[1])
    params.append(10**c)
    
weights = np.array(weights)

for column, color in zip(range(weights.shape[1]), colors):
    plt.plot(params, weights[:, column], label = df_wine.columns[column + 1], color = color)
    
plt.axhline(0, color = 'black', linestyle = '--', linewidth = 3)
plt.xlim([10**(-5), 10**5])
plt.ylabel('weight coefficient')
plt.xscale('log')
plt.legend(loc = 'upper left')
ax.legend(loc = 'upper center', bbox_to_anchor = (1.38, 1.03), ncol = 1, fancybox = True)
plt.show()

試したこと

Training accuracy:とTest accuracy:、lr.intercept_、lr.coef_の値がおかしいので、そのあたりを変更してみたのですが、改善しませんでした。

補足情報（ツールのバージョンなど）

anaconda JupiterLab 1.2.6
今回のコードが載っている教科書：[第2版]Python 機械学習プログラミング 達人データサイエンティストによる理論と実践 (impress top gear)

Comments

[tiitoi]

> 図がalcoholしか表示されない。

X, y = df_wine.iloc[:, 1].values, df_wine.iloc[:, 0].values

でいくつかある特徴のうち、1列目 Alcohol の値だけに注目して、ロジスティック回帰しているので、結果も Alcohol の値を回帰した結果の重みの値しかプロットされないというのはコードに記載の意図通りではないでしょうか。

[os-t]

iloc[:, 1:]がiloc[:, 1]になっていました・・・
ありがとうございます。

Answer 1

解決しました。ありがとうございます。