質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

新規登録して質問してみよう
ただいま回答率
87.20%
Python 3.x

Python 3はPythonプログラミング言語の最新バージョンであり、2008年12月3日にリリースされました。

Python

Pythonは、コードの読みやすさが特徴的なプログラミング言語の1つです。 強い型付け、動的型付けに対応しており、後方互換性がないバージョン2系とバージョン3系が使用されています。 商用製品の開発にも無料で使用でき、OSだけでなく仮想環境にも対応。Unicodeによる文字列操作をサポートしているため、日本語処理も標準で可能です。

自然言語処理

自然言語処理は、日常的に使用される自然言語をコンピューターに処理させる技術やソフトウェアの総称です。

解決済

python リストのcounterについて

---stax---
---stax---

総合スコア0

Python 3.x

Python 3はPythonプログラミング言語の最新バージョンであり、2008年12月3日にリリースされました。

Python

Pythonは、コードの読みやすさが特徴的なプログラミング言語の1つです。 強い型付け、動的型付けに対応しており、後方互換性がないバージョン2系とバージョン3系が使用されています。 商用製品の開発にも無料で使用でき、OSだけでなく仮想環境にも対応。Unicodeによる文字列操作をサポートしているため、日本語処理も標準で可能です。

自然言語処理

自然言語処理は、日常的に使用される自然言語をコンピューターに処理させる技術やソフトウェアの総称です。

1回答

0評価

0クリップ

1646閲覧

投稿2018/07/04 03:06

表題の件で質問させてください。
現在、DBからText型のデータを読み込み、その内容を形態素解析し、単語の出現回数を調べて、その結果をDBに格納という内容を行っています

以下例です

シリンダが動かない ↓ シリンダ/が/動かない ↓ 単語  :回数 シリンダ:10 が   :20 動かない:5 上記結果をword,count列を持つDBのテーブルに格納

今回はこの単語と回数という情報に加えて単語の品詞状態を付け加えたいと考えています

単語  :品詞 :回数 シリンダ:名詞 :10 ['シリンダ','名詞'] ←要素ごとの出現回数を調べたい ['が', '助詞'] ['動かない','動詞'] ['シリンダ','名詞']

そこで以下のコードを作成しました

python

from pandas import Series, DataFrame import pandas as pd from sqlalchemy.ext.declarative import declarative_base from sqlalchemy import create_engine, Column, Integer, Text, Date, Time, DateTime from sqlalchemy.orm import sessionmaker from functional import seq import os from janome.tokenizer import Tokenizer from janome.analyzer import Analyzer from janome.tokenfilter import POSStopFilter from operator import add from collections import Counter Base = declarative_base() engine = create_engine('postgres://postgres:postgres@test/testdb') Session = sessionmaker(bind=engine) session = Session() class Trblisttable(Base): __tablename__ = 'trb_list' __table_args__ = {'schema' : 'test'} ex_num = Column(Integer, primary_key=True) source = Column(Text) mc_name = Column(Text) line_name = Column(Text) st_name = Column(Text) trb_name = Column(Text) phenom = Column(Text) cause = Column(Text) measures = Column(Text) date = Column(DateTime) class Insertdata(Base): __tablename__ = 'word_count_data' __table_args__ = {'schema' : 'test'} word = Column(Text, primary_key=True) count = Column(Integer) pages = session.query(Trblisttable.phenom, Trblisttable.cause, Trblisttable.measures).all() phenom_data = seq(pages).map(lambda x: x.phenom).to_list() cause_data = seq(pages).map(lambda x: x.cause).to_list() measures_data = seq(pages).map(lambda x: x.measures).to_list() phenom_data = [a for a in phenom_data if not a in 'None'] cause_data = [b for b in cause_data if not b in 'None'] measures_data = [c for c in measures_data if not c in 'None'] t = Tokenizer() phenom_words = [] cause_words = [] measures_words = [] phenom_words = [] tokens = t.tokenize(str(phenom_data)) for token in tokens: test = [] if not token.part_of_speech.split(',')[0] in ['記号']: test.append(token.base_form) test.append(token.part_of_speech.split(',')[0]) phenom_words.append(test) cause_words = [] tokens = t.tokenize(str(cause_data)) for token in tokens: if not token.part_of_speech.split(',')[0] in ['記号']: test.append(token.base_form) test.append(token.part_of_speech.split(',')[0]) cause_words.append(test) measures_words = [] tokens = t.tokenize(str(measures_words)) for token in tokens: test = [] if not token.part_of_speech.split(',')[0] in ['記号']: test.append(token.base_form) test.append(token.part_of_speech.split(',')[0]) measures_words.append(test) countdata1 = phenom_words counter1 = Counter(countdata1) counter1.most_common() countdata2 = cause_words counter2 = Counter(countdata2) counter2.most_common() countdata3 = measures_words counter3 = Counter(countdata3) counter3.most_common() adddata = counter1 + counter2 + counter3 adddata = Counter(adddata) adddata.most_common() for key, value in adddata.items(): print('{}:{}'.format(key, value)) #insert_data = seq(adddata.items()).map(lambda x: Insertdata(word=x[0], count=x[1])).to_list() #session.add_all(insert_data) #session.commit() print('---END---')

[['シリンダ','名詞'],['が', '助詞'],['動かない','動詞']]
のような形態素解析した単語と品詞の情報を持つリストを作成し、
counterを使って出現回数を数えようとしたのですが以下のエラーが発生します
単語と品詞の組み合わせをディクショナリにしてしまうと重複の回数は調べられられず、
countdata1 = tuple(phenom_words)のようにしても同様のエラーが発生しました
どのようにすれば回数を数えることが出来るでしょうか?
単語と品詞の組み合わせを一つのリストで作る考え方が誤りなのでしょうか?
初歩的な質問で申し訳ありませんがアドバイス宜しくお願い致します

python

--------------------------------------------------------------------------- TypeError Traceback (most recent call last) <ipython-input-12-b2ba1d096aea> in <module>() 91 print(phenom_words) 92 countdata1 = phenom_words ---> 93 counter1 = Counter(countdata1) 94 counter1.most_common() 95 ~\AppData\Local\Continuum\anaconda3\lib\collections\__init__.py in __init__(*args, **kwds) 533 raise TypeError('expected at most 1 arguments, got %d' % len(args)) 534 super(Counter, self).__init__() --> 535 self.update(*args, **kwds) 536 537 def __missing__(self, key): ~\AppData\Local\Continuum\anaconda3\lib\collections\__init__.py in update(*args, **kwds) 620 super(Counter, self).update(iterable) # fast path when counter is empty 621 else: --> 622 _count_elements(self, iterable) 623 if kwds: 624 self.update(kwds) TypeError: unhashable type: 'list'

良い質問の評価を上げる

以下のような質問は評価を上げましょう

  • 質問内容が明確
  • 自分も答えを知りたい
  • 質問者以外のユーザにも役立つ

評価が高い質問は、TOPページの「注目」タブのフィードに表示されやすくなります。

気になる質問をクリップする

クリップした質問は、後からいつでもマイページで確認できます。

またクリップした質問に回答があった際、通知やメールを受け取ることができます。

teratailでは下記のような質問を「具体的に困っていることがない質問」、「サイトポリシーに違反する質問」と定義し、推奨していません。

  • プログラミングに関係のない質問
  • やってほしいことだけを記載した丸投げの質問
  • 問題・課題が含まれていない質問
  • 意図的に内容が抹消された質問
  • 過去に投稿した質問と同じ内容の質問
  • 広告と受け取られるような投稿

評価を下げると、トップページの「アクティブ」「注目」タブのフィードに表示されにくくなります。

まだ回答がついていません

会員登録して回答してみよう

15分調べてもわからないことは
teratailで質問しよう!

ただいまの回答率
87.20%

質問をまとめることで
思考を整理して素早く解決

テンプレート機能で
簡単に質問をまとめる

質問する

関連した質問

同じタグがついた質問を見る

Python 3.x

Python 3はPythonプログラミング言語の最新バージョンであり、2008年12月3日にリリースされました。

Python

Pythonは、コードの読みやすさが特徴的なプログラミング言語の1つです。 強い型付け、動的型付けに対応しており、後方互換性がないバージョン2系とバージョン3系が使用されています。 商用製品の開発にも無料で使用でき、OSだけでなく仮想環境にも対応。Unicodeによる文字列操作をサポートしているため、日本語処理も標準で可能です。

自然言語処理

自然言語処理は、日常的に使用される自然言語をコンピューターに処理させる技術やソフトウェアの総称です。