質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

新規登録して質問してみよう
ただいま回答率
85.50%
Ubuntu

Ubuntuは、Debian GNU/Linuxを基盤としたフリーのオペレーティングシステムです。

Mecab

Mecabは、オープンソースの形態素解析エンジンです。 言語、辞書、コーパスに依存しない汎用的な設計を基本方針としています。 Mecabの由来は、開発者の好物である和布蕪(めかぶ)から名づけられました。

Python

Pythonは、コードの読みやすさが特徴的なプログラミング言語の1つです。 強い型付け、動的型付けに対応しており、後方互換性がないバージョン2系とバージョン3系が使用されています。 商用製品の開発にも無料で使用でき、OSだけでなく仮想環境にも対応。Unicodeによる文字列操作をサポートしているため、日本語処理も標準で可能です。

Q&A

1回答

355閲覧

特定のファイルのトピックを表示させたい

aoisj

総合スコア27

Ubuntu

Ubuntuは、Debian GNU/Linuxを基盤としたフリーのオペレーティングシステムです。

Mecab

Mecabは、オープンソースの形態素解析エンジンです。 言語、辞書、コーパスに依存しない汎用的な設計を基本方針としています。 Mecabの由来は、開発者の好物である和布蕪(めかぶ)から名づけられました。

Python

Pythonは、コードの読みやすさが特徴的なプログラミング言語の1つです。 強い型付け、動的型付けに対応しており、後方互換性がないバージョン2系とバージョン3系が使用されています。 商用製品の開発にも無料で使用でき、OSだけでなく仮想環境にも対応。Unicodeによる文字列操作をサポートしているため、日本語処理も標準で可能です。

0グッド

0クリップ

投稿2017/12/01 08:02

###困っていること
こちらのサイトの「ソースコード」の部分にある、

python

1for topics_per_document in lda[corpus]: 2 print topics_per_document

を参考にしてプログラムを作成したのですが、
このコードの場合は文書全てのトピック分布を表示しているようなのですが、
特定の文書 例:3つ目の文書,「○○.txt」という名前の文書
を指定して表示させたり、
特定の文書のトピック分布をデータとして扱う方法はあるのでしょうか?
そもそもなぜlda[corpus]でこのような表示がされているのかも
教えていただけるとありがたいです。

###作成したプログラム

python

1#!/usr/bin/env python3 2# -*- coding: utf-8 -*- 3 4""" 5トピックモデル(入力:novel_setの全ての.txtファイル) 6各ファイルの管理可能 7形態素解析対象:名詞(代名詞,非自立名詞,数,固有名詞を除く) 8NGワード:あり 9""" 10 11import time 12import glob 13import MeCab 14from gensim import corpora, models 15 16#形態素解析 17def morphological_analysis(file_list, NG_WORDS): 18 mecab = MeCab.Tagger ("-Ochasen") 19 20 texts = [] 21 22 for file in file_list: 23 f = open(file, "r",encoding = "utf-8") 24 text = f.read() 25 f.close() 26 #形態素解析(文字列を改行位置で区切って分割) 27 chunks = mecab.parse(text).splitlines() 28 29 #絞り込み 30 sels = [] 31 for chunk in chunks: 32 cols = chunk.split('\t') 33 if len(cols) >= 4: 34 parts = cols[3].split('-') 35 #指定した品詞で始まっている場合 → true 36 if parts[0].startswith('名詞'): 37 #代名詞,非自立名詞,固有名詞,数を含めない 38 if parts[1] in ['代名詞','非自立','固有名詞','数']: 39 continue 40 #NGワードを含めない 41 if cols[2] in NG_WORDS: 42 continue 43 #形態素を追加 44 sels.append(cols[2]) 45 texts.append(sels) 46 return texts 47 48t0 = time.time() 49 50#file_list[file_no]:ファイル番号file_noのファイル名 51file_list = glob.glob('novel_set/*.txt') 52 53NG_WORDS = ['一','二','三','四','五','六','七','八','九','ー','-'] 54 55texts = morphological_analysis(file_list, NG_WORDS) 56 57#辞書作成 58dictionary = corpora.Dictionary(texts) 59print('辞書単語数(加工前):%d'%len(dictionary)) 60 61#辞書加工 62""" 63no_below:出現回数no_below回以下の単語を無視 64no_above:全体のno_above以上に出現した単語を無視(no_above = 0.3 ➝ 30%) 65""" 66dictionary.filter_extremes(no_below = 3,no_above = 1) 67 68#コーパス作成 69corpus = [dictionary.doc2bow(text) for text in texts] 70 71t1 = time.time() 72 73""" 74num_topics:トピック数 75""" 76#LDAモデルに投入 77lda = models.LdaModel(corpus = corpus, id2word = dictionary, num_topics = 5) 78 79t2 = time.time() 80 81print(lda) 82 83#各トピックにおける各トークンの出現確率を係数で表示 84for topic in lda.show_topics(-1): 85 print(topic) 86 87#文書の推定トピック番号 , 推定の確信度を表示 88for topics_per_document in lda[corpus]: 89 print(topics_per_document) 90 91print('ファイル数:%d'%len(file_list)) 92 93corpus_time = t1 - t0 94print('コーパス生成時間:%f秒'%corpus_time) 95 96lda_time = t2 -t1 97print('LDAモデル生成時間:%f秒'%lda_time) 98 99total_time = t2 - t0 100print('合計時間:%f秒'%total_time)

気になる質問をクリップする

クリップした質問は、後からいつでもMYページで確認できます。

またクリップした質問に回答があった際、通知やメールを受け取ることができます。

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

guest

回答1

0

https://github.com/RaRe-Technologies/gensim/blob/develop/gensim/models/ldamodel.py#L1177

[]の振る舞いは__getitem__メソッドによって定義できます。
今の場合Corpusを引数にして、その類似度を返すように実装されています。

投稿2017/12/14 04:28

mkgrei

総合スコア8560

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

あなたの回答

tips

太字

斜体

打ち消し線

見出し

引用テキストの挿入

コードの挿入

リンクの挿入

リストの挿入

番号リストの挿入

表の挿入

水平線の挿入

プレビュー

まだベストアンサーが選ばれていません

会員登録して回答してみよう

アカウントをお持ちの方は

15分調べてもわからないことは
teratailで質問しよう!

ただいまの回答率
85.50%

質問をまとめることで
思考を整理して素早く解決

テンプレート機能で
簡単に質問をまとめる

質問する

関連した質問