質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

ただいまの
回答率

90.32%

クロスバリデーションができない:エラーメッセージの解決法を教えてください

受付中

回答 1

投稿 編集

  • 評価
  • クリップ 0
  • VIEW 2,530

trafalbad

score 216

ナイーブベイズ分類器でクロスバリデーションをしようと思っていますが、下記エラーが出てきてしまいました。

原因を教えていただけないでしょうか?よろしくおねがします

clf = MultinomialNB(alpha=1.0, class_prior=None, fit_prior=True)#ベイズの多項分布

x_train=xx.as_matrix().data.shape
>>>(7484, 2838)
y_train=Y.as_matrix().T.data.shape
>>>(7484, 1)

from sklearn.model_selection import cross_val_score
cross_val_score(clf, x_train, y_train, cv=10)

Cannot have number of splits n_splits=10 greater than the number of samples: 2.#エラーメッセージ


質問追記
クロスバリデーションのためにサンプル数が足らないとのエラーメッセージが出ていますが、サンプル数は2000ほどあります。
行が単語の塊で、列がmecabで分けた単語です。特徴ベクトル抽出にCountVectorizer、TfidfVectorizerなどのベクタライザは使用していません。普通にトレーニングセットで学習&テストセットで予測では確率はでますが、クロスバリデーションをしようとするとこのように上手くいきません。

サンプル数が十分にあるのにこのようなエラーが出てしまうのは、行列の配列など、サンプル数を的確に処理できる形にできてないなどの「サンプル数が足りない」とは別の問題があると考えられるのですがこの推測は正しいでしょうか?

質問追記2

cv=2の時のエラーメッセージは
All the n_groups for individual classes are less than n_splits=2.

です。その前に.data.shapeでトレーニングセットとテストセットの値を変形する前は逆に配列が多すぎるとでてしまいます。

x_train=xx.as_matrix()
y_train=Y.as_matrix().T

from sklearn.model_selection import cross_val_score
cross_val_score(clf, x_train, y_train, cv=10)

too many indices for array#エラーメッセージ

トレーニングデータの概要は下記の図のようになっています(見える部分の文字は特定されない情報です。)
行は単語の塊ですがインデックス表記になっています。列が単語で行の単語の塊に該当する部分の値が1になっています。

  • 気になる質問をクリップする

    クリップした質問は、後からいつでもマイページで確認できます。

    またクリップした質問に回答があった際、通知やメールを受け取ることができます。

    クリップを取り消します

  • 良い質問の評価を上げる

    以下のような質問は評価を上げましょう

    • 質問内容が明確
    • 自分も答えを知りたい
    • 質問者以外のユーザにも役立つ

    評価が高い質問は、TOPページの「注目」タブのフィードに表示されやすくなります。

    質問の評価を上げたことを取り消します

  • 評価を下げられる数の上限に達しました

    評価を下げることができません

    • 1日5回まで評価を下げられます
    • 1日に1ユーザに対して2回まで評価を下げられます

    質問の評価を下げる

    teratailでは下記のような質問を「具体的に困っていることがない質問」、「サイトポリシーに違反する質問」と定義し、推奨していません。

    • プログラミングに関係のない質問
    • やってほしいことだけを記載した丸投げの質問
    • 問題・課題が含まれていない質問
    • 意図的に内容が抹消された質問
    • 広告と受け取られるような投稿

    評価が下がると、TOPページの「アクティブ」「注目」タブのフィードに表示されにくくなります。

    質問の評価を下げたことを取り消します

    この機能は開放されていません

    評価を下げる条件を満たしてません

    評価を下げる理由を選択してください

    詳細な説明はこちら

    上記に当てはまらず、質問内容が明確になっていない質問には「情報の追加・修正依頼」機能からコメントをしてください。

    質問の評価を下げる機能の利用条件

    この機能を利用するためには、以下の事項を行う必要があります。

回答 1

0

Cannot have number of splits n_splits=10 greater than the number of samples: 2.#エラーメッセージ

分割数がn_splits = 10でサンプル数より大きくなることはありません:2

クロスバリデーションの分割数と比較しサンプル数(入力データ)が少なすぎる時に発生するエラーです。
分割数(cv=10)の値を小さくするか、サンプル数を増やしてください。

公式ドキュメントのチャートシートでは、最低50サンプルから始めてくださいとなってます。


追加質問への回答です。

サンプル数が十分にあるのにこのようなエラーが出てしまうのは、行列の配列など、サンプル数を的確に処理できる形にできてないなどの「サンプル数が足りない」とは別の問題があると考えられるのですがこの推測は正しいでしょうか?

あってると思います。ベクタライザを使用していないとのことなので、

行が単語の塊で、列がmecabで分けた単語です。

データを見ないと推測でしかいえませんが、一番あやしいポイントは「列がmecabで分けた単語」です。
分けた単語をファイルに出力して、クロスバリデーション分割数でファイルを分割しラベルのパターン数分*2以上の行列になっているか確認してみてください。

□追加確認
一番重要なポイントを確認するの忘れてました。
cross_val_score関数のパラメータをcv=2に設定しても同じエラーメッセージは発生しますか?

投稿

編集

  • 回答の評価を上げる

    以下のような回答は評価を上げましょう

    • 正しい回答
    • わかりやすい回答
    • ためになる回答

    評価が高い回答ほどページの上位に表示されます。

  • 回答の評価を下げる

    下記のような回答は推奨されていません。

    • 間違っている回答
    • 質問の回答になっていない投稿
    • スパムや攻撃的な表現を用いた投稿

    評価を下げる際はその理由を明確に伝え、適切な回答に修正してもらいましょう。

  • 2017/04/25 16:45

    ベイズで単語を予測するために単語群を学習させているのですが、約1000語くらいです。
    これはクロスバリデーションとしては不十分なのでしょうか?一般的にサンプル数はいくつ用いるのが普通なのでしょうか?

    キャンセル

  • 2017/04/25 21:29 編集

    追加質問は質問(情報)は質問欄に記載してください。
    >約1000語
    十分かと。

    文章の特徴ベクトルを変換(fit_transform)する時に使用したベクタライザ(CountVectorizer、TfidfVectorizer)に対して、get_feature_names()で学習に使用した特徴を取得できます。
    念のため、確認してみてください。

    キャンセル

15分調べてもわからないことは、teratailで質問しよう!

  • ただいまの回答率 90.32%
  • 質問をまとめることで、思考を整理して素早く解決
  • テンプレート機能で、簡単に質問をまとめられる

同じタグがついた質問を見る