質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

新規登録して質問してみよう
ただいま回答率
85.48%
Python 3.x

Python 3はPythonプログラミング言語の最新バージョンであり、2008年12月3日にリリースされました。

Q&A

1回答

392閲覧

形態素解析で分割されてしまう単語をくっつけたい

syen2501

総合スコア38

Python 3.x

Python 3はPythonプログラミング言語の最新バージョンであり、2008年12月3日にリリースされました。

0グッド

0クリップ

投稿2018/06/22 06:17

<形態素解析で分割されてしまう単語をくっつけたい>
私は、knpとnltkを用いて、値の範囲を表現する語(~以上、~未満など)を抽出しようとしています。
抽出の仕方として、数値に着目しそれに共起する語に上記のような言葉が使用されていないか抽出しようと考えました。
考えて作成したプログラムだと、「100℃より小さい」といった表現の時に「100/℃/より/小さい」となってしまいます。
出来れば「100℃/より小さい」のようにして共起の抽出を行いたいです。

python

1import nltk 2from nltk import ngrams 3from pyknp import KNP 4import jctconv 5import re 6 7# knpで形態素解析を行ったあとの結果をリストで返す 8def separate(text,option = '-tab'): 9 tokens = [] 10 knp = KNP(option = option) 11 result = knp.parse(jctconv.h2z(text,digit = True)) 12 13 for mrph in result.mrph_list(): 14 tokens.append(mrph.midasi) 15 return tokens 16 17# 形態素解析を行った結果から、共起の結果を得る 18def word_cooccurrence(list): 19 bigrams = nltk.bigrams(list) # バイグラムを作成 20 fd = nltk.FreqDist(bigrams) # バイグラムの出現頻度分布 21 return fd.items() 22 23if __name__ == '__main__': 24 with open('text.txt',encoding = 'utf8') as f: 25 text = f.read() 26 result = word_cooccurrence(separate(text)) 27 print(result) 28 29<text.txt> 30ポット内の温度が100℃より低い場合、水が沸騰しない。 31 32 33<実行結果> 34dict_items([(('ポット', '内'), 1), (('内', 'の'), 1), (('の', '温度'), 1), (('温度', 'が'), 1), (('が', '100'), 1), (('100', '℃'), 1), (('℃', 'より'), 1), (('より', '低い'), 1), (('低い', '場合'), 1), (('場合', '、'), 1), (('、', '水'), 1), (('水', 'が'), 1), (('が', '沸騰'), 1), (('沸騰', 'し'), 1), (('し', 'ない'), 1), (('ない', '。'), 1)])

<試したこと>
1.knpの関数で基本句のリストを返す「tag_list(self)」を用いてそのリスト内のrepnameと呼ばれる代表表記を返す部分で
「100℃」とかだと「100+℃」のように「+」が入っていたりするので、これを利用してくっつける。

2.nltkを用いて、下記のようなプログラムを記載し拡張することで解決しようとしました。
※形態素解析を用いていないのであまり意味がないと思っている。

python

1import nltk 2from nltk import ngrams 3from pyknp import KNP 4import jctconv 5import re 6 7def separate(text): 8 tokens = [] 9 # knp = KNP() 10 ngrams_generator = ngrams(text, 8) 11 for word in ngrams_generator: 12 tokens.append(''.join(map(str,word))) 13 return tokens 14 15# 形態素解析を行った結果から、共起の結果を得る 16def word_cooccurrence(list): 17 bigrams = nltk.bigrams(list) # バイグラムを作成 18 fd = nltk.FreqDist(bigrams) # バイグラムの出現頻度分布 19 return fd.items() 20 21if __name__ == '__main__': 22 with open('text.txt',encoding = 'utf8') as f: 23 text = f.read() 24 result = word_cooccurrence(separate(text)) 25 print(result) 26 27<実行結果> 28dict_items([(('ポット内の温度が', 'ット内の温度が1'), 1), (('ット内の温度が1', 'ト内の温度が10'), 1), (('ト内の温度が10', '内の温度が100'), 1), (('内の温度が100', 'の温度が100℃'), 1), (('の温度が100℃', '温度が100℃よ'), 1), (('温度が100℃よ', '度が100℃より'), 1), (('度が100℃より', 'が100℃より低'), 1), (('が100℃より低', '100℃より低い'), 1), (('100℃より低い', '00℃より低い場'), 1), (('00℃より低い場', '0℃より低い場合'), 1), (('0℃より低い場合', '℃より低い場合、'), 1), (('℃より低い場合、', 'より低い場合、水'), 1), (('より低い場合、水', 'り低い場合、水が'), 1), (('り低い場合、水が', '低い場合、水が沸'), 1), (('低い場合、水が沸', 'い場合、水が沸騰'), 1), (('い場合、水が沸騰', '場合、水が沸騰し'), 1), (('場合、水が沸騰し', '合、水が沸騰しな'), 1), (('合、水が沸騰しな', '、水が沸騰しない'), 1), (('、水が沸騰しない', '水が沸騰しない。'), 1), (('水が沸騰しない。', 'が沸騰しない。\n'), 1)])

気になる質問をクリップする

クリップした質問は、後からいつでもMYページで確認できます。

またクリップした質問に回答があった際、通知やメールを受け取ることができます。

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

guest

回答1

0

とりあえず文節で区切り、体言と用言をそれぞれ処理すると良さそうです。
ただし、

plain

1100℃より小さい 2# S-ID:1 KNP:4.2-8db86d46 DATE:2018/06/22 SCORE:-11.60822 3100℃より──┐ <体言> 4 小さい<用言:形><格解析結果:ガ/-;ニ/-;ヨリ/℃> 5EOS

という解析結果になるので、「より小さい」は得られません。


こういう研究なら、とりあえず数千件くらいのデータセットを作り、後は力技ルールベースでやっていくなり機械学習を入れるなりで手法を考えて実装し、評価していくことで進めていきます。
ただ、最近は情報抽出が流行っていないのと、一昔前にはけっこうやられててそれなりの成果が出た分野ではあるので、研究としてどうなの? という点をはっきりさせないと続けるのがしんどくなるかもしれません(新規性の面で)。あとは頑張って既存研究を探す努力も必要になります。

投稿2018/06/22 06:36

hayataka2049

総合スコア30933

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

あなたの回答

tips

太字

斜体

打ち消し線

見出し

引用テキストの挿入

コードの挿入

リンクの挿入

リストの挿入

番号リストの挿入

表の挿入

水平線の挿入

プレビュー

まだベストアンサーが選ばれていません

会員登録して回答してみよう

アカウントをお持ちの方は

15分調べてもわからないことは
teratailで質問しよう!

ただいまの回答率
85.48%

質問をまとめることで
思考を整理して素早く解決

テンプレート機能で
簡単に質問をまとめる

質問する

関連した質問