質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

新規登録して質問してみよう
ただいま回答率
87.20%
Ubuntu

Ubuntuは、Debian GNU/Linuxを基盤としたフリーのオペレーティングシステムです。

Mecab

Mecabは、オープンソースの形態素解析エンジンです。 言語、辞書、コーパスに依存しない汎用的な設計を基本方針としています。 Mecabの由来は、開発者の好物である和布蕪(めかぶ)から名づけられました。

Python

Pythonは、コードの読みやすさが特徴的なプログラミング言語の1つです。 強い型付け、動的型付けに対応しており、後方互換性がないバージョン2系とバージョン3系が使用されています。 商用製品の開発にも無料で使用でき、OSだけでなく仮想環境にも対応。Unicodeによる文字列操作をサポートしているため、日本語処理も標準で可能です。

受付中

コーパス内におけるクエリの表現

aoisj
aoisj

総合スコア0

Ubuntu

Ubuntuは、Debian GNU/Linuxを基盤としたフリーのオペレーティングシステムです。

Mecab

Mecabは、オープンソースの形態素解析エンジンです。 言語、辞書、コーパスに依存しない汎用的な設計を基本方針としています。 Mecabの由来は、開発者の好物である和布蕪(めかぶ)から名づけられました。

Python

Pythonは、コードの読みやすさが特徴的なプログラミング言語の1つです。 強い型付け、動的型付けに対応しており、後方互換性がないバージョン2系とバージョン3系が使用されています。 商用製品の開発にも無料で使用でき、OSだけでなく仮想環境にも対応。Unicodeによる文字列操作をサポートしているため、日本語処理も標準で可能です。

1回答

0評価

0クリップ

5閲覧

投稿2017/11/28 07:11

###やりたいこと
こちらを参考にして実装中のプログラムで作成したコーパスの類似度を求めようと思っているのですが、
サンプルコード内で

python

#クエリを特徴ベクトルで表現 query = [(0,1)(4,1)] #queryと類似するもの上位10件を出力 print softed(enumerate(index[query]), reverse = True, key = lambda x:x[1])[:10]

というふうにクエリが表現されているのですが、
クエリのインデックス?部分([(0,1),(4,1)])の数字
がコーパスや辞書などのどの数字に対応しているのかを教えていただきたいです。

###実装中のコード

python

#!/usr/bin/env python3 # -*- coding: utf-8 -*- """ トピックモデル(入力:novel_setの全ての.txtファイル) 各ファイルの管理可能 形態素解析対象:名詞(代名詞,非自立名詞,数,固有名詞を除く) """ import time import glob import MeCab from gensim import corpora, models, similarities t0 = time.time() """ file_list[file_no]:ファイル番号file_noのファイル名 """ file_list = glob.glob('novel_set/*.txt') #形態素解析(文字列を改行位置で区切って分割) mecab = MeCab.Tagger ("-Ochasen") texts = [] for file in file_list: f = open(file, "r",encoding = "utf-8") text = f.read() f.close() chunks = mecab.parse(text).splitlines() #絞り込み sels = [] for chunk in chunks: cols = chunk.split('\t') if len(cols) >= 4: parts = cols[3].split('-') #指定した品詞で始まっている場合 → true if parts[0].startswith('名詞'): #代名詞,非自立名詞,固有名詞,数を含めない if parts[1] in ['代名詞','非自立','固有名詞','数']: continue #形態素を追加 #sels:形態素(原形)のみの行列 sels.append(cols[2]) texts.append(sels) dictionary = corpora.Dictionary(texts) corpus = [dictionary.doc2bow(text) for text in texts] index = similarities.docsim.SparseMatrixSimilarity(corpus,num_features = len(dictionary)) t1 = time.time() #トピック数 num_topics = 10 #LDAモデルに投入 lda = models.LdaModel(corpus = corpus, id2word = dictionary, num_topics = num_topics) lda.save('lda.model') t2 = time.time() print(lda) #各トピックにおける各トークンの出現確率を係数で表示 for topic in lda.show_topics(-1): print(topic) print('ファイル数:%d'%len(file_list)) corpus_time = t1 - t0 print('コーパス生成時間:%f秒'%corpus_time) lda_time = t2 -t1 print('LDAモデル生成時間:%f秒'%lda_time) total_time = t2 - t0 print('合計時間:%f秒'%total_time)

良い質問の評価を上げる

以下のような質問は評価を上げましょう

  • 質問内容が明確
  • 自分も答えを知りたい
  • 質問者以外のユーザにも役立つ

評価が高い質問は、TOPページの「注目」タブのフィードに表示されやすくなります。

気になる質問をクリップする

クリップした質問は、後からいつでもマイページで確認できます。

またクリップした質問に回答があった際、通知やメールを受け取ることができます。

teratailでは下記のような質問を「具体的に困っていることがない質問」、「サイトポリシーに違反する質問」と定義し、推奨していません。

  • プログラミングに関係のない質問
  • やってほしいことだけを記載した丸投げの質問
  • 問題・課題が含まれていない質問
  • 意図的に内容が抹消された質問
  • 過去に投稿した質問と同じ内容の質問
  • 広告と受け取られるような投稿

評価を下げると、トップページの「アクティブ」「注目」タブのフィードに表示されにくくなります。

まだ回答がついていません

会員登録して回答してみよう

15分調べてもわからないことは
teratailで質問しよう!

ただいまの回答率
87.20%

質問をまとめることで
思考を整理して素早く解決

テンプレート機能で
簡単に質問をまとめる

質問する

関連した質問

同じタグがついた質問を見る

Ubuntu

Ubuntuは、Debian GNU/Linuxを基盤としたフリーのオペレーティングシステムです。

Mecab

Mecabは、オープンソースの形態素解析エンジンです。 言語、辞書、コーパスに依存しない汎用的な設計を基本方針としています。 Mecabの由来は、開発者の好物である和布蕪(めかぶ)から名づけられました。

Python

Pythonは、コードの読みやすさが特徴的なプログラミング言語の1つです。 強い型付け、動的型付けに対応しており、後方互換性がないバージョン2系とバージョン3系が使用されています。 商用製品の開発にも無料で使用でき、OSだけでなく仮想環境にも対応。Unicodeによる文字列操作をサポートしているため、日本語処理も標準で可能です。