質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

ただいまの
回答率

91.35%

  • Python

    3812questions

    Pythonは、コードの読みやすさが特徴的なプログラミング言語の1つです。 強い型付け、動的型付けに対応しており、後方互換性がないバージョン2系とバージョン3系が使用されています。 商用製品の開発にも無料で使用でき、OSだけでなく仮想環境にも対応。Unicodeによる文字列操作をサポートしているため、日本語処理も標準で可能です。

gensimを用いたtfidf処理について

解決済

回答 1

投稿 2017/11/20 18:57

  • 評価
  • クリップ 0
  • VIEW 72

kohekoh

score 86

gensimを用いてtfidf処理を行おうとしたら、エラーがでます

以下にエラー箇所とエラー文を示します

gensim_dictionary = corpora.Dictionary(doc_nltk)

------------------------------------------------------------
Traceback (most recent call last):
  File "tfidf_gensim_hyouka.py", line 71, in <module>
    tfidf()
  File "tfidf_gensim_hyouka.py", line 34, in tfidf
    gensim_dictionary = corpora.Dictionary(doc_nltk)
  File "C:\Users\AppData\Local\conda\conda\envs\anaconda\lib\site-packages\gensim\corpora\dictionary.py", line 58, in __init__
    self.add_documents(documents, prune_at=prune_at)
  File "C:\Users\AppData\Local\conda\conda\envs\anaconda\lib\site-packages\gensim\corpora\dictionary.py", line 119, in add_documents
    self.doc2bow(document, allow_update=True)  # ignore the result, here we only care about updating token ids
  File "C:\Users\AppData\Local\conda\conda\envs\anaconda\lib\site-packages\gensim\corpora\dictionary.py", line 141, in doc2bow
    raise TypeError("doc2bow expects an array of unicode tokens on input, not a single string")
TypeError: doc2bow expects an array of unicode tokens on input, not a single string

doc_nltkというのは
['grab', 'briskly', 'slimmer', 'supervisor', 'crowded', … 以下略 …]
のような配列になっています

これは、このような一次元配列ではできないということですか?

一次元配列で処理を行うにはどうすればよいでしょうか

  • 気になる質問をクリップする

    クリップした質問は、後からいつでもマイページで確認できます。

    またクリップした質問に回答があった際、通知やメールを受け取ることができます。

    クリップを取り消します

  • 良い質問の評価を上げる

    以下のような質問は評価を上げましょう

    • 質問内容が明確
    • 自分も答えを知りたい
    • 質問者以外のユーザにも役立つ

    評価が高い質問は、TOPページの「注目」タブのフィードに表示されやすくなります。

    質問の評価を上げたことを取り消します

  • 評価を下げられる数の上限に達しました

    評価を下げることができません

    • 1日5回まで評価を下げられます
    • 1日に1ユーザに対して2回まで評価を下げられます

    質問の評価を下げる

    teratailでは下記のような質問を「具体的に困っていることがない質問」、「サイトポリシーに違反する質問」と定義し、推奨していません。

    • プログラミングに関係のない質問
    • やってほしいことだけを記載した丸投げの質問
    • 問題・課題が含まれていない質問
    • 意図的に内容が抹消された質問
    • 広告と受け取られるような投稿

    評価が下がると、TOPページの「アクティブ」「注目」タブのフィードに表示されにくくなります。

    質問の評価を下げたことを取り消します

    この機能は開放されていません

    評価を下げる条件を満たしてません

    評価を下げる理由を選択してください

    詳細な説明はこちら

    上記に当てはまらず、質問内容が明確になっていない質問には「情報の追加・修正依頼」機能からコメントをしてください。

    質問の評価を下げる機能の利用条件

    この機能を利用するためには、以下の事項を行う必要があります。

回答 1

checkベストアンサー

0

ここにも書きましたが、

API Document に

"ドキュメントのコレクションから辞書を更新します。各ドキュメントはトークンのリストです" (Update dictionary from a collection of documents. Each document is a list of tokens.

とあります。
つまりcorpora.Dictionary() に渡すデータは「トークンリストの(ドキュメントごとの)リスト」となります。

今回の場合は、1つのドキュメントのトークンリストを渡してますので、

dictionary = corpora.Dictionary([doc_nltk])

としてください。

投稿 2017/11/20 19:23

  • 回答の評価を上げる

    以下のような回答は評価を上げましょう

    • 正しい回答
    • わかりやすい回答
    • ためになる回答

    評価が高い回答ほどページの上位に表示されます。

  • 回答の評価を下げる

    下記のような回答は推奨されていません。

    • 間違っている回答
    • 質問の回答になっていない投稿
    • スパムや攻撃的な表現を用いた投稿

    評価を下げる際はその理由を明確に伝え、適切な回答に修正してもらいましょう。

  • 2017/11/20 20:03

    なりました!
    なりましたが
    つぎに
    corpus = [gensim_dictionary.doc2bow(sentence) for sentence in doc_nltk]
    ここで、エラーをはいてしまって
    先と同じ要領で[doc_nltk]にして実行すると
    実行はできるのですが
    結果が
    []
    になってしまいました
    これはどういうことなのでしょうか

    キャンセル

  • 2017/11/21 11:37 編集

    遅くなりました
    とりあえず、doc_nltk の値を確認してみてはいかがでしょうか。
    こちらで検証したところ、

    from gensim import corpora
    doc_nltk = ['grab', 'briskly', 'slimmer', 'supervisor', 'crowded']
    dictionary = corpora.Dictionary([doc_nltk])
    corpus = [dictionary.doc2bow(sentence) for sentence in [doc_nltk]]
    print(corpus)

    で問題なく動作しております

    キャンセル

  • 2017/11/21 18:29

    そこのときは入ってるみたいです…
    そのあとに
    tfidf_model = models.TfidfModel(corpus)
    corpus_tfidf = tfidf_model[corpus]
    このような処理をして、
    print(tfidf_model)をしたときに
    TfidfModel(num_docs=1, num_nnz=6853)
    のようになりますが
    print(corpus_tfidf)のときに
    []
    のようになります

    キャンセル

  • 2017/11/21 18:31

    print(corpus_tfidf)ではなくて
    for a in corpus_tfidf:
    print(a)
    です

    キャンセル

  • 2017/11/22 09:35

    それは単にモデル生成時に、1つのdocumentからのcorpusしか与えていないからではないでしょうか。
    https://radimrehurek.com/gensim/models/tfidfmodel.html
    を見ると、gensim での TF-IDFの計算は
    weight_{i,j} = frequency_{i,j} * log_2(D / document_freq_{i})
    となっており、D=1 の場合は 0 以外の結果が得られない気がします。

    キャンセル

  • 2017/11/22 10:05

    なるほど…
    ありがとうございます

    キャンセル

15分調べてもわからないことは、teratailで質問しよう!

ただいまの回答率

91.35%

関連した質問

  • 解決済

    pythonでimportができません。

    前提・実現したいこと pythonを使って、グラフを書きたいと思っているですが、importをするときにエラーが出てしまします。 発生している問題・エラーメッセージ

  • 受付中

    Ironpythonでpythonのサードパーティライブラリを使う

    現在Visual Studio 2015 communityでvisual C#を用いて、Windows Form Applicationを作成しています。 そこで、データファイ

  • 解決済

    作成したモジュールがImportできない

    お世話になります サクラエディタで下記のfibo.pyを作成しました。  -*- coding: utf-8 -*-  Fibonacci numbers module

  • 解決済

    Python2.7.13のpipが認識されない

    大学での画像処理の研究に使うため Python2.7.13 バージョンwindowns x86 MSI installerをダウンロードしました。 モジュールを追加しようとするも

  • 解決済

    python cv2 opencv cv2の名前がエラー

    winpython 2.7.10.3 opencv3.1 を使用しています。以下のコードでなぜかエラーが出てしまいます。 #coding:Shift_JIS import cv

  • 解決済

    pythonのスライスについて

    a = b[:,0] このようなコードがあったとき、どのようなことがおこなわれますか? bはこのコードがなりたつ何かだとすると なにだったら成り立ちますか? すみません、間

  • 解決済

    windows10でword2vecの実行エラー

    word2vecのWindows版を次のサイトからダウンロードしてインストールしました。 https://pypi.python.org/pypi/gensim しかし、w

  • 解決済

    Pythonのpipでのパッケージインストール

    前提・実現したいこと Pythonを使ってBitcoinのBotを作ろうと思っていましたのでAPIを取得しようと思っていました。 発生している問題・エラーメッセージ Zaifと

同じタグがついた質問を見る

  • Python

    3812questions

    Pythonは、コードの読みやすさが特徴的なプログラミング言語の1つです。 強い型付け、動的型付けに対応しており、後方互換性がないバージョン2系とバージョン3系が使用されています。 商用製品の開発にも無料で使用でき、OSだけでなく仮想環境にも対応。Unicodeによる文字列操作をサポートしているため、日本語処理も標準で可能です。