質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

ただいまの
回答率

90.82%

  • Python

    5961questions

    Pythonは、コードの読みやすさが特徴的なプログラミング言語の1つです。 強い型付け、動的型付けに対応しており、後方互換性がないバージョン2系とバージョン3系が使用されています。 商用製品の開発にも無料で使用でき、OSだけでなく仮想環境にも対応。Unicodeによる文字列操作をサポートしているため、日本語処理も標準で可能です。

  • Python 3.x

    4485questions

    Python 3はPythonプログラミング言語の最新バージョンであり、2008年12月3日にリリースされました。

python 多重リストについて

解決済

回答 1

投稿

  • 評価
  • クリップ 0
  • VIEW 84

---stax---

score 52

表題の件について質問させてください。
あるテキストファイルを形態素解析を行い、解析を行ったデータの出現頻度を調べたいと考えています。
しかし実行すると
TypeError: unhashable type: 'list'
というエラーが発生します。

from janome.tokenizer import Tokenizer
from gensim.models import word2vec
from sklearn.decomposition import PCA
from sklearn.manifold import TSNE
import matplotlib.pyplot as plt
import matplotlib
import logging
import sys
import re
import numpy as np
from collections import Counter
import operator

word=[]
word_dic = []

#--------------------------------------------------------------関数

## 分かち書き(janome使用)
# Tokenizerのインスタンス生成
t = Tokenizer()
# 文字列型を引数とする
def extract_words(text, fp=sys.stdout):

    #tokenizeメソッドに文字列の引数を渡して形態素解析を行う,tokensはlist型
    #中身は。区切りした文が形態素解析された状態で入っている
    #うとうととして目がさめると女はいつのまにか、隣のじいさんと話を始めている。
    #⇒['うとうと', 'と', 'し', 'て', '目', 'が', 'さめる', 'と', '女', 'は', 'いつのまにか', '、', '隣', 'の', 'じいさん', 'と', '話', 'を', '始め', 'て', 'いる']
    tokens = t.tokenize(text)        
    for token in tokens:
        fp.writelines(token.surface)
        fp.write("\n")

    #print(tokens)
    #リスト内包表記を使用して形態素解析されたリストtokensの中身の品詞を、区切りにして原型(引数で受け取ったままの形式)のまま返す 
    return [token.base_form for token in tokens
            if token.part_of_speech.split(',')[0]]


#-----------------------------------------------------------textファイルを開く

# \はエラー、\\で表記する
textfile = open('C:\\Users\\Desktop\\sanshiro.txt')
# textファイルの内容を読み込む(文字列を返す:str)
line = textfile.read()
textfile.close()


#-----------------------------------------------------------ファイル整形

# |の除去
text = line.replace('|','')
#ルビの除去
text = re.sub('《.+?》', '', line)
#入力注の除去
text = re.sub('[#.+?]', '', line)
# 空行の削除
text = re.sub('\n\n', '\n', line) 
text = re.sub('\r', '', line)

#----------------------------------------------------------関数呼び出し

sentences = text.split('。')
with open("test_token.txt", "w") as fp:
    wordlist = [extract_words(sentence,fp) for sentence in sentences]


#----------------------------------------------------------出現回数表示箇所    
#print(wordlist)
#countdata = wordlist
#counter = Counter(countdata)
#counter.most_common()
#print(counter)

原因がよく分からなかったため試しに以下のコードを実行すると出現回数は表示できていました

from collections import Counter

test = [1,1,1,1,1,1,3,4,5,6,7]
countdata = test 
counter = Counter(countdata)
counter.most_common()
print(counter)


#結果
Counter({1: 6, 3: 1, 4: 1, 5: 1, 6: 1, 7: 1})

そこでエラーの出たコードと見比べるとリストの形が違っていることに気づき、エラーが出ている方はリストがネストされている状態でした

以下エラー発生コードのリスト冒頭

[['うとうと', 'と', 'する', 'て', '目', 'が', 'さめる', 'と', '女', 'は', 'いつのまにか', '、', '隣', 'の', 'じいさん', 'と', '話', 'を', '始める', 'て', 'いる'], ['この', 'じいさん', 'は', 'たしかに', '前', 'の', '前', 'の', '駅', 'から', '乗る', 'た', 'いなか者', 'だ', 'ある'], ['発車', 'ま', 'ぎわに', '頓狂', '《', 'とる', 'きょう', '》', 'だ', '声', 'を', '出す', 'て', '駆け込む', 'で', '来る', 'て', '、', 'いきなり', '肌', '《', 'は', 'だ', '》', 'を', 'ぬく', 'だ', 'と', '思う', 'た', '背中', 'に', 'お', '灸', '《', 'きゅう', '》', 'の', 'あと', 'が', 'いっぱい', 'ある', 'た', 'ので', '、', '三四郎', '《', 'さんする', 'う', '》', 'の', '記憶', 'に', '残る',

このリストはどのタイミングで、なぜネストされた状態になっているのでしょうか?
また、unhashable type: 'list'はリストがネストされているから発生しているということなのでしょうか?
初歩的な質問で申し訳ありませんがアドバイス宜しくお願い致します。

  • 気になる質問をクリップする

    クリップした質問は、後からいつでもマイページで確認できます。

    またクリップした質問に回答があった際、通知やメールを受け取ることができます。

    クリップを取り消します

  • 良い質問の評価を上げる

    以下のような質問は評価を上げましょう

    • 質問内容が明確
    • 自分も答えを知りたい
    • 質問者以外のユーザにも役立つ

    評価が高い質問は、TOPページの「注目」タブのフィードに表示されやすくなります。

    質問の評価を上げたことを取り消します

  • 評価を下げられる数の上限に達しました

    評価を下げることができません

    • 1日5回まで評価を下げられます
    • 1日に1ユーザに対して2回まで評価を下げられます

    質問の評価を下げる

    teratailでは下記のような質問を「具体的に困っていることがない質問」、「サイトポリシーに違反する質問」と定義し、推奨していません。

    • プログラミングに関係のない質問
    • やってほしいことだけを記載した丸投げの質問
    • 問題・課題が含まれていない質問
    • 意図的に内容が抹消された質問
    • 広告と受け取られるような投稿

    評価が下がると、TOPページの「アクティブ」「注目」タブのフィードに表示されにくくなります。

    質問の評価を下げたことを取り消します

    この機能は開放されていません

    評価を下げる条件を満たしてません

    評価を下げる理由を選択してください

    詳細な説明はこちら

    上記に当てはまらず、質問内容が明確になっていない質問には「情報の追加・修正依頼」機能からコメントをしてください。

    質問の評価を下げる機能の利用条件

    この機能を利用するためには、以下の事項を行う必要があります。

回答 1

checkベストアンサー

+1

extract_words関数はリストを返していますが呼出元の[extract_words(sentence,fp) for sentence in sentences]にて、それをさらにリストにしているので2重リストになっています。

Counterの各要素はhashableである必要がありますがlisthashableではありませんので提示エラーが発生しています。ちなみにtuplehashableですが、意図した結果(単語の数を数える)は得られないかと思います。

from collections import Counter
#test = [['a','b'],['a','b','c']] # TypeError: unhashable type: 'list'
test = [('a','b'),('a','b','c')]  # tupleはhashableなのでOKだが多分意図した結果ではない。Counter({('a', 'b', 'c'): 1, ('a', 'b'): 1})
counter = Counter(test)
print(counter)

結局、解決策としてはwordlist = [extract_words(sentence,fp) for sentence in sentences]ではなく

wordlist = []
for sentence in sentences:
    wordlist.extend( extract_words(sentence,fp))


のように、extract_wordsの結果をそのまま追加していくべきかと思います。

投稿

  • 回答の評価を上げる

    以下のような回答は評価を上げましょう

    • 正しい回答
    • わかりやすい回答
    • ためになる回答

    評価が高い回答ほどページの上位に表示されます。

  • 回答の評価を下げる

    下記のような回答は推奨されていません。

    • 間違っている回答
    • 質問の回答になっていない投稿
    • スパムや攻撃的な表現を用いた投稿

    評価を下げる際はその理由を明確に伝え、適切な回答に修正してもらいましょう。

  • 2018/05/11 10:21

    回答ありがとうございます
    返答遅れて申し訳ありません
    丁寧な解説ありがとうございます
    まだまだリストやリスト内包表記の理解が足りていないと感じました

    def flatten_by_extend(nested_list):
    flat_list = []
    for e in nested_list:
    flat_list.extend(e)
    return flat_list

    countdata = flatten_by_extend(wordlist)
    のように分解する方法も書いてみましたが、そもそもこうならない処理にするべきですね
    頂いたコードを参考に書き直してみます
    丁寧な解説ありがとうございました

    キャンセル

15分調べてもわからないことは、teratailで質問しよう!

  • ただいまの回答率 90.82%
  • 質問をまとめることで、思考を整理して素早く解決
  • テンプレート機能で、簡単に質問をまとめられる

関連した質問

同じタグがついた質問を見る

  • Python

    5961questions

    Pythonは、コードの読みやすさが特徴的なプログラミング言語の1つです。 強い型付け、動的型付けに対応しており、後方互換性がないバージョン2系とバージョン3系が使用されています。 商用製品の開発にも無料で使用でき、OSだけでなく仮想環境にも対応。Unicodeによる文字列操作をサポートしているため、日本語処理も標準で可能です。

  • Python 3.x

    4485questions

    Python 3はPythonプログラミング言語の最新バージョンであり、2008年12月3日にリリースされました。