質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

ただいまの
回答率

90.50%

  • Python 3.x

    6402questions

    Python 3はPythonプログラミング言語の最新バージョンであり、2008年12月3日にリリースされました。

形態素解析で分割されてしまう単語をくっつけたい

受付中

回答 1

投稿

  • 評価
  • クリップ 0
  • VIEW 137

syen2501

score 24

<形態素解析で分割されてしまう単語をくっつけたい>
私は、knpとnltkを用いて、値の範囲を表現する語(~以上、~未満など)を抽出しようとしています。
抽出の仕方として、数値に着目しそれに共起する語に上記のような言葉が使用されていないか抽出しようと考えました。
考えて作成したプログラムだと、「100℃より小さい」といった表現の時に「100/℃/より/小さい」となってしまいます。
出来れば「100℃/より小さい」のようにして共起の抽出を行いたいです。

import nltk
from nltk import ngrams
from pyknp import KNP
import jctconv
import re

# knpで形態素解析を行ったあとの結果をリストで返す
def separate(text,option = '-tab'):
    tokens = []
    knp = KNP(option = option)
    result = knp.parse(jctconv.h2z(text,digit = True))

    for mrph in result.mrph_list():
        tokens.append(mrph.midasi)
    return tokens

# 形態素解析を行った結果から、共起の結果を得る
def word_cooccurrence(list):
    bigrams = nltk.bigrams(list) # バイグラムを作成
    fd = nltk.FreqDist(bigrams) # バイグラムの出現頻度分布
    return fd.items()

if __name__ == '__main__':
    with open('text.txt',encoding = 'utf8') as f:
        text = f.read()
    result = word_cooccurrence(separate(text))
    print(result)

<text.txt>
ポット内の温度が100℃より低い場合、水が沸騰しない。


<実行結果>
dict_items([(('ポット', '内'), 1), (('内', 'の'), 1), (('の', '温度'), 1), (('温度', 'が'), 1), (('が', '100'), 1), (('100', '℃'), 1), (('℃', 'より'), 1), (('より', '低い'), 1), (('低い', '場合'), 1), (('場合', '、'), 1), (('、', '水'), 1), (('水', 'が'), 1), (('が', '沸騰'), 1), (('沸騰', 'し'), 1), (('し', 'ない'), 1), (('ない', '。'), 1)])


<試したこと>
1.knpの関数で基本句のリストを返す「tag_list(self)」を用いてそのリスト内のrepnameと呼ばれる代表表記を返す部分で
「100℃」とかだと「100+℃」のように「+」が入っていたりするので、これを利用してくっつける。

2.nltkを用いて、下記のようなプログラムを記載し拡張することで解決しようとしました。
※形態素解析を用いていないのであまり意味がないと思っている。

import nltk
from nltk import ngrams
from pyknp import KNP
import jctconv
import re

def separate(text):
    tokens = []
    # knp = KNP()
    ngrams_generator = ngrams(text, 8)
    for word in ngrams_generator:
        tokens.append(''.join(map(str,word)))
    return tokens

# 形態素解析を行った結果から、共起の結果を得る
def word_cooccurrence(list):
    bigrams = nltk.bigrams(list) # バイグラムを作成
    fd = nltk.FreqDist(bigrams) # バイグラムの出現頻度分布
    return fd.items()

if __name__ == '__main__':
    with open('text.txt',encoding = 'utf8') as f:
        text = f.read()
    result = word_cooccurrence(separate(text))
    print(result)

<実行結果>
dict_items([(('ポット内の温度が', 'ット内の温度が1'), 1), (('ット内の温度が1', 'ト内の温度が10'), 1), (('ト内の温度が10', '内の温度が100'), 1), (('内の温度が100', 'の温度が100℃'), 1), (('の温度が100℃', '温度が100℃よ'), 1), (('温度が100℃よ', '度が100℃より'), 1), (('度が100℃より', 'が100℃より低'), 1), (('が100℃より低', '100℃より低い'), 1), (('100℃より低い', '00℃より低い場'), 1), (('00℃より低い場', '0℃より低い場合'), 1), (('0℃より低い場合', '℃より低い場合、'), 1), (('℃より低い場合、', 'より低い場合、水'), 1), (('より低い場合、水', 'り低い場合、水が'), 1), (('り低い場合、水が', '低い場合、水が沸'), 1), (('低い場合、水が沸', 'い場合、水が沸騰'), 1), (('い場合、水が沸騰', '場合、水が沸騰し'), 1), (('場合、水が沸騰し', '合、水が沸騰しな'), 1), (('合、水が沸騰しな', '、水が沸騰しない'), 1), (('、水が沸騰しない', '水が沸騰しない。'), 1), (('水が沸騰しない。', 'が沸騰しない。\n'), 1)])
  • 気になる質問をクリップする

    クリップした質問は、後からいつでもマイページで確認できます。

    またクリップした質問に回答があった際、通知やメールを受け取ることができます。

    クリップを取り消します

  • 良い質問の評価を上げる

    以下のような質問は評価を上げましょう

    • 質問内容が明確
    • 自分も答えを知りたい
    • 質問者以外のユーザにも役立つ

    評価が高い質問は、TOPページの「注目」タブのフィードに表示されやすくなります。

    質問の評価を上げたことを取り消します

  • 評価を下げられる数の上限に達しました

    評価を下げることができません

    • 1日5回まで評価を下げられます
    • 1日に1ユーザに対して2回まで評価を下げられます

    質問の評価を下げる

    teratailでは下記のような質問を「具体的に困っていることがない質問」、「サイトポリシーに違反する質問」と定義し、推奨していません。

    • プログラミングに関係のない質問
    • やってほしいことだけを記載した丸投げの質問
    • 問題・課題が含まれていない質問
    • 意図的に内容が抹消された質問
    • 広告と受け取られるような投稿

    評価が下がると、TOPページの「アクティブ」「注目」タブのフィードに表示されにくくなります。

    質問の評価を下げたことを取り消します

    この機能は開放されていません

    評価を下げる条件を満たしてません

    評価を下げる理由を選択してください

    詳細な説明はこちら

    上記に当てはまらず、質問内容が明確になっていない質問には「情報の追加・修正依頼」機能からコメントをしてください。

    質問の評価を下げる機能の利用条件

    この機能を利用するためには、以下の事項を行う必要があります。

回答 1

+1

とりあえず文節で区切り、体言と用言をそれぞれ処理すると良さそうです。
ただし、

100℃より小さい
# S-ID:1 KNP:4.2-8db86d46 DATE:2018/06/22 SCORE:-11.60822
100℃より──┐  <体言>
              小さい<用言:形><格解析結果:ガ/-;ニ/-;ヨリ/℃>
EOS

という解析結果になるので、「より小さい」は得られません。


こういう研究なら、とりあえず数千件くらいのデータセットを作り、後は力技ルールベースでやっていくなり機械学習を入れるなりで手法を考えて実装し、評価していくことで進めていきます。
ただ、最近は情報抽出が流行っていないのと、一昔前にはけっこうやられててそれなりの成果が出た分野ではあるので、研究としてどうなの? という点をはっきりさせないと続けるのがしんどくなるかもしれません(新規性の面で)。あとは頑張って既存研究を探す努力も必要になります。

投稿

  • 回答の評価を上げる

    以下のような回答は評価を上げましょう

    • 正しい回答
    • わかりやすい回答
    • ためになる回答

    評価が高い回答ほどページの上位に表示されます。

  • 回答の評価を下げる

    下記のような回答は推奨されていません。

    • 間違っている回答
    • 質問の回答になっていない投稿
    • スパムや攻撃的な表現を用いた投稿

    評価を下げる際はその理由を明確に伝え、適切な回答に修正してもらいましょう。

15分調べてもわからないことは、teratailで質問しよう!

  • ただいまの回答率 90.50%
  • 質問をまとめることで、思考を整理して素早く解決
  • テンプレート機能で、簡単に質問をまとめられる

関連した質問

同じタグがついた質問を見る

  • Python 3.x

    6402questions

    Python 3はPythonプログラミング言語の最新バージョンであり、2008年12月3日にリリースされました。