🎄teratailクリスマスプレゼントキャンペーン2024🎄』開催中!

\teratail特別グッズやAmazonギフトカード最大2,000円分が当たる!/

詳細はこちら
機械学習

機械学習は、データからパターンを自動的に発見し、そこから知能的な判断を下すためのコンピューターアルゴリズムを指します。人工知能における課題のひとつです。

Python

Pythonは、コードの読みやすさが特徴的なプログラミング言語の1つです。 強い型付け、動的型付けに対応しており、後方互換性がないバージョン2系とバージョン3系が使用されています。 商用製品の開発にも無料で使用でき、OSだけでなく仮想環境にも対応。Unicodeによる文字列操作をサポートしているため、日本語処理も標準で可能です。

Q&A

解決済

2回答

1782閲覧

機械学習の分類プログラムが上手くいかない

Rondon7251

総合スコア89

機械学習

機械学習は、データからパターンを自動的に発見し、そこから知能的な判断を下すためのコンピューターアルゴリズムを指します。人工知能における課題のひとつです。

Python

Pythonは、コードの読みやすさが特徴的なプログラミング言語の1つです。 強い型付け、動的型付けに対応しており、後方互換性がないバージョン2系とバージョン3系が使用されています。 商用製品の開発にも無料で使用でき、OSだけでなく仮想環境にも対応。Unicodeによる文字列操作をサポートしているため、日本語処理も標準で可能です。

0グッド

0クリップ

投稿2019/09/19 14:14

編集2019/09/20 05:53

機械学習で分類を行うプログラムをアヤメの分類のプログラムを元に作りました。
以下プログラムとエラーです。何かわかりましたらよろしくお願いします。

import pandas as pd from sklearn.model_selection import train_test_split from sklearn.svm import SVC from sklearn.metrics import accuracy_score # アヤメデータの読み込み --- (*1) analysisresults_data = pd.read_csv("analysis_results.csv", encoding="utf-8") # アヤメデータをラベルと入力データに分離する --- (*2) y = analysisresults_data.loc[:,"結果"] x = analysisresults_data.loc[:,["番号1","番号2","番号3","URL","日付"]] # 学習用とテスト用に分離する --- (*3) x_train, x_test, y_train, y_test = train_test_split(x, y, test_size = 0.3, train_size = 0.7, shuffle = True) # 学習する --- (*4) clf = SVC() clf.fit(x_train, y_train) # 評価する --- (*5) y_pred = clf.predict(x_test) print("正解率 = " , accuracy_score(y_test, y_pred))

Traceback (most recent call last):
File "4iris.py", line 7, in <module>
analysisresults_data = pd.read_csv("analysis_results.csv", encoding="utf-8")
File "/Users/idaryuunosuke/.pyenv/versions/anaconda3-5.3.1/envs/py35/lib/python3.5/site-packages/pandas/io/parsers.py", line 702, in parser_f
return _read(filepath_or_buffer, kwds)
File "/Users/idaryuunosuke/.pyenv/versions/anaconda3-5.3.1/envs/py35/lib/python3.5/site-packages/pandas/io/parsers.py", line 429, in _read
parser = TextFileReader(filepath_or_buffer, **kwds)
File "/Users/idaryuunosuke/.pyenv/versions/anaconda3-5.3.1/envs/py35/lib/python3.5/site-packages/pandas/io/parsers.py", line 895, in init
self._make_engine(self.engine)
File "/Users/idaryuunosuke/.pyenv/versions/anaconda3-5.3.1/envs/py35/lib/python3.5/site-packages/pandas/io/parsers.py", line 1122, in _make_engine
self._engine = CParserWrapper(self.f, **self.options)
File "/Users/idaryuunosuke/.pyenv/versions/anaconda3-5.3.1/envs/py35/lib/python3.5/site-packages/pandas/io/parsers.py", line 1853, in init
self._reader = parsers.TextReader(src, **kwds)
File "pandas/_libs/parsers.pyx", line 542, in pandas._libs.parsers.TextReader.cinit
File "pandas/_libs/parsers.pyx", line 782, in pandas._libs.parsers.TextReader._get_header
UnicodeDecodeError: 'utf-8' codec can't decode byte 0x94 in position 0: invalid start byte

analysis_results.csv
イメージ説明

気になる質問をクリップする

クリップした質問は、後からいつでもMYページで確認できます。

またクリップした質問に回答があった際、通知やメールを受け取ることができます。

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

hayataka2049

2019/09/20 05:24

csvの一行目をご提示ください。
Rondon7251

2019/09/20 05:29

import pandas as pd from sklearn.model_selection import train_test_split from sklearn.svm import SVC from sklearn.metrics import accuracy_score # アヤメデータの読み込み --- (*1) analysisresults_data = pd.read_csv("analysis_results.csv", encoding="utf-8") # アヤメデータをラベルと入力データに分離する --- (*2) y = analysisresults_data.loc[:,"Result"] x = analysisresults_data.loc[:,["Aa","Bb","Cc","Url","Date"]] # 学習用とテスト用に分離する --- (*3) x_train, x_test, y_train, y_test = train_test_split(x, y, test_size = 0.3, train_size = 0.7, shuffle = True) # 学習する --- (*4) clf = SVC() clf.fit(x_train, y_train) # 評価する --- (*5) y_pred = clf.predict(x_test) print("正解率 = " , accuracy_score(y_test, y_pred)) csvの一行目 Aa Bb Cc Url Date Result 少し変更点ありますがよろしくお願いします。
hayataka2049

2019/09/20 05:39

Aa Bb Cc Url Date Result は元のままですか? そうでなければ、元の文字列をご提示ください。 また追加になりますが、どのようにして得たCSVファイルなのかも併せて教えていただいた方が良いかもしれません。
Rondon7251

2019/09/20 05:57

csvファイルを追記しました。 このCSVファイルはデータベースサーバからscpを使ってコピーをして得たデータです。 データベースのテーブルから select * from analysis_results where analysis_result = 1 limit 10000 INTO OUTFILE '/tmp/analysis_resultstable.csv' FIELDS TERMINATED BY ',' OPTIONALLY ENCLOSED BY '"'; をして ローカルから scp j16040@202.26.158.105:/tmp/analysis_resultstable.csv ~/Desktop/ をして取り出しました。
Rondon7251

2019/09/20 06:20

Excelでutf-8で保存したらエラー内容が減りました。 以下のエラーが出ます何かわかりますでしょうか? Traceback (most recent call last): File "analysis_results.py", line 18, in <module> clf.fit(x_train, y_train) File "/Users/idaryuunosuke/.pyenv/versions/anaconda3-5.3.1/envs/py35/lib/python3.5/site-packages/sklearn/svm/base.py", line 146, in fit accept_large_sparse=False) File "/Users/idaryuunosuke/.pyenv/versions/anaconda3-5.3.1/envs/py35/lib/python3.5/site-packages/sklearn/utils/validation.py", line 719, in check_X_y estimator=estimator) File "/Users/idaryuunosuke/.pyenv/versions/anaconda3-5.3.1/envs/py35/lib/python3.5/site-packages/sklearn/utils/validation.py", line 496, in check_array array = np.asarray(array, dtype=dtype, order=order) File "/Users/idaryuunosuke/.pyenv/versions/anaconda3-5.3.1/envs/py35/lib/python3.5/site-packages/numpy/core/numeric.py", line 538, in asarray return array(a, dtype, copy=False, order=order) ValueError: could not convert string to float: '2018/11/18 11:18'
nandymak

2019/09/20 06:28

>ValueError: could not convert string to float: '2018/11/18 11:18' エラーの内容が最後に出てますけど。
Rondon7251

2019/09/20 06:32

調べたのですがこれは具体的にどこを直せばいいのでしょうか?
nandymak

2019/09/20 06:34

データがおかしくないですか?
Rondon7251

2019/09/20 07:20

以下エラー全て最後の文章です。 どうやらCSVファイルが読み込めてないみたいです。 何か対策があればよろしくお願いします。 ValueError: could not convert string to float: '2018/12/19 10:13' ValueError: could not convert string to float: '2019/1/7 9:13' ValueError: could not convert string to float: '2019/1/17 4:01' ValueError: could not convert string to float: '2018/11/9 10:07'
nandymak

2019/09/20 07:46

日付と時間が表示されてますよね?これは読み込んだCSVファイルの内容では無いですか? だとしたら読み込めてますよね? ValueError=値のエラーです。簡単な英語ですよね。
Rondon7251

2019/09/20 10:51

値のエラーというのは何をしたら良いのでしょうか?
nandymak

2019/09/21 00:26

>値のエラーというのは何をしたら良いのでしょうか? 値がおかしいので値を修正する必要があります。 >could not convert string to float: '2018/11/9 10:07' 「StringからFloatに変換することが出来ません」と言う理由が表示されていますが、日付を数値(浮動小数点)に変換しようとしているようです。 アヤメをSVMで分類するのに日付は要らないのでは?と思いますし、数値に変換する処理はコードを見る限りは判りませんでした。
guest

回答2

0

ベストアンサー

can't decode byte 0x94 in position 0: invalid start byte

とあるのでCSVファイルの1桁目がUFT8で無いと言ってますね。CSVファイルがSJISになっているとか?

投稿2019/09/19 16:34

編集2019/09/19 17:45
nandymak

総合スコア799

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

Rondon7251

2019/09/20 04:46

analysisresults_data = pd.read_csv("analysis_results.csv", encoding="shift_jis")にしたのですがダメでいた。何か具体的な解決策はありますでしょうか?
nandymak

2019/09/20 05:50

まずは文字コードが何かを明確にすることが必要ですね。 shift_jisに似た感じにCP932もあったかもしれませんが、手元に資料がないので。。。
Rondon7251

2019/09/20 05:58

CSVファイルを提示したのですがこれで文字コードがわかりますか?
Rondon7251

2019/09/20 06:20

Excelでutf-8で保存したらエラー内容が減りました。 以下のエラーが出ます何かわかりますでしょうか? Traceback (most recent call last): File "analysis_results.py", line 18, in <module> clf.fit(x_train, y_train) File "/Users/idaryuunosuke/.pyenv/versions/anaconda3-5.3.1/envs/py35/lib/python3.5/site-packages/sklearn/svm/base.py", line 146, in fit accept_large_sparse=False) File "/Users/idaryuunosuke/.pyenv/versions/anaconda3-5.3.1/envs/py35/lib/python3.5/site-packages/sklearn/utils/validation.py", line 719, in check_X_y estimator=estimator) File "/Users/idaryuunosuke/.pyenv/versions/anaconda3-5.3.1/envs/py35/lib/python3.5/site-packages/sklearn/utils/validation.py", line 496, in check_array array = np.asarray(array, dtype=dtype, order=order) File "/Users/idaryuunosuke/.pyenv/versions/anaconda3-5.3.1/envs/py35/lib/python3.5/site-packages/numpy/core/numeric.py", line 538, in asarray return array(a, dtype, copy=False, order=order) ValueError: could not convert string to float: '2018/11/18 11:18'
Wind

2019/09/20 07:07

エラーの一番最後の行だけでも読みましょう。
Rondon7251

2019/09/20 07:20

以下エラー全て最後の文章です。 どうやらCSVファイルが読み込めてないみたいです。 何か対策があればよろしくお願いします。 ValueError: could not convert string to float: '2018/12/19 10:13' ValueError: could not convert string to float: '2019/1/7 9:13' ValueError: could not convert string to float: '2019/1/17 4:01' ValueError: could not convert string to float: '2018/11/9 10:07'
guest

0

ファイルの中身は分かりませんが
エラー内容的に下記が参考になりそうです。
コメント欄もチェックした方が良いと思います。
https://qiita.com/niwaringo/items/d2a30e04e08da8eaa643

投稿2019/09/19 14:28

pea

総合スコア453

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

Rondon7251

2019/09/20 06:20

Excelでutf-8で保存したらエラー内容が減りました。 以下のエラーが出ます何かわかりますでしょうか? Traceback (most recent call last): File "analysis_results.py", line 18, in <module> clf.fit(x_train, y_train) File "/Users/idaryuunosuke/.pyenv/versions/anaconda3-5.3.1/envs/py35/lib/python3.5/site-packages/sklearn/svm/base.py", line 146, in fit accept_large_sparse=False) File "/Users/idaryuunosuke/.pyenv/versions/anaconda3-5.3.1/envs/py35/lib/python3.5/site-packages/sklearn/utils/validation.py", line 719, in check_X_y estimator=estimator) File "/Users/idaryuunosuke/.pyenv/versions/anaconda3-5.3.1/envs/py35/lib/python3.5/site-packages/sklearn/utils/validation.py", line 496, in check_array array = np.asarray(array, dtype=dtype, order=order) File "/Users/idaryuunosuke/.pyenv/versions/anaconda3-5.3.1/envs/py35/lib/python3.5/site-packages/numpy/core/numeric.py", line 538, in asarray return array(a, dtype, copy=False, order=order) ValueError: could not convert string to float: '2018/11/18 11:18'
guest

あなたの回答

tips

太字

斜体

打ち消し線

見出し

引用テキストの挿入

コードの挿入

リンクの挿入

リストの挿入

番号リストの挿入

表の挿入

水平線の挿入

プレビュー

15分調べてもわからないことは
teratailで質問しよう!

ただいまの回答率
85.36%

質問をまとめることで
思考を整理して素早く解決

テンプレート機能で
簡単に質問をまとめる

質問する

関連した質問