質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

ただいまの
回答率

90.50%

  • Python 3.x

    9816questions

    Python 3はPythonプログラミング言語の最新バージョンであり、2008年12月3日にリリースされました。

スクレイピングしてきた文字列を形態素解析する際に出るUnicodeDecodeErrorを無くしたい

解決済

回答 1

投稿

  • 評価
  • クリップ 1
  • VIEW 860

hanpanai-tumi

score 16

前提・実現したいこと

pythonでURLを指定し、bs4を用いてスクレイピングした後にタグを除去しテキストデータに保存、Jumanを用いて形態素解析するシステムを作っています。

発生している問題・エラーメッセージ

形態素解析する際にエラーが発生しました。

Traceback (most recent call last):
  File "Juman_FILE.py", line 35, in <module>
    for l in open(FileName,"r",encoding=Encode):
  File "C:\Users\y2j\AppData\Local\Programs\Python\Python36-32\lib\codecs.py", l
ine 321, in decode
    (result, consumed) = self._buffer_decode(data, self.errors, final)
UnicodeDecodeError: 'utf-8' codec can't decode byte 0x96 in position 13: invalid
 start byte

該当のソースコード

#スクレイピングのプログラム
import urllib.request
import bs4
from bs4 import NavigableString,Declaration,Comment


url = 'https://jouhou.nagoya/nagoya-miyage-matome/'
#soup = bs4.BeautifulSoup(urllib.request.urlopen(url).read(),"html.parser")
resulttxt='解析'

def getNavigableStrings(soup):
  if isinstance(soup, NavigableString):
    if type(soup) not in (Comment, Declaration) and soup.strip():
      yield soup
  elif soup.name not in ('script', 'style'):
    for c in soup.contents:
      for g in getNavigableStrings(c):
        yield g

soup = bs4.BeautifulSoup(urllib.request.urlopen(url).read(),"html.parser")

text = '\n'.join(getNavigableStrings(soup))

#text = text.decode("utf-8")

import codecs
file_object= codecs.open(resulttxt + ".txt", "wb", "cp932", "ignore")
file_object.write(text + "\n")
file_object.close()


# JUMANのプログラム
import subprocess
import sys
import collections



# ファイルバッファ使用

# 解析元のファイル名
FileName="解析.txt"
# 解析する最大数
LoadCount=10000
# 解析する最大数無制限
#LoadCount=float("inf")
# 表示するランキングの数
RankCount=10

# 使用するエンコード
Encode="utf-8"
JumanEnc="sjis"
# 使用するコマンド
JumanCommand=["juman"]
# バッファのファイル名
Buffer="tmp"
# 外部タスク起動
Juman=subprocess.Popen(JumanCommand,stdin=subprocess.PIPE,stdout=open(Buffer,"w"))

# TF値
TF=collections.defaultdict(lambda:0)
# 総単語数
WordsCount=0

# 形態素解析器に文単位でテキストを渡していく
C=0
for l in open(FileName,"r",encoding=Encode):
    l=l.strip()
    if len(l)==0:
        continue
    for i in l.split("。"):
        C+=1
        sys.stdout.write("{0}/{1}\r".format(C,LoadCount))
        sys.stdout.flush()
        #エンコードを指定しないとうまく行かない
        Juman.stdin.write((i+"\n").encode(JumanEnc))
        #上限に達した際のループ脱出
        if C>=LoadCount:
            break
    if C>=LoadCount:
        break
# JUMANの停止(バッファのファイルは自動で閉じられる)
Juman.stdin.close()
Juman.wait()
# 結果の読み込みとカウント
for l in open(Buffer,"r",encoding=JumanEnc):
    l=l.strip().split(" ")
    # 終端の場合ループはじめからやり直し
    if len(l)<2:
        continue
    # 対象を名詞に限定
    if l[3]!="名詞":
        continue
    Word=l[0]
    # 別の解析結果を除外
    if Word[0]=="@":
        continue
    TF[Word]+=1
    WordsCount+=1
# カウント結果からTF値へ変換
for k in TF.keys():
    TF[k]/=WordsCount
# TF値降順に並び替え
Ranking=list(TF.items())
Ranking.sort(key=lambda x:x[1],reverse=True)
# 表示
print()
print("="*40)
print("順位\t単語\tTF値")
print("="*40)
for r,(k,v) in zip(range(1,RankCount+1),Ranking):
    print("{0}\t{1}\t{2}".format(r,k,v))
print("="*40)

試したこと

http://hikm.hatenablog.com/entry/20130328/1364492471
を参考にしましたが、うまく出来ませんでした。

補足情報(言語/FW/ツール等のバージョンなど)

より詳細な情報

  • 気になる質問をクリップする

    クリップした質問は、後からいつでもマイページで確認できます。

    またクリップした質問に回答があった際、通知やメールを受け取ることができます。

    クリップを取り消します

  • 良い質問の評価を上げる

    以下のような質問は評価を上げましょう

    • 質問内容が明確
    • 自分も答えを知りたい
    • 質問者以外のユーザにも役立つ

    評価が高い質問は、TOPページの「注目」タブのフィードに表示されやすくなります。

    質問の評価を上げたことを取り消します

  • 評価を下げられる数の上限に達しました

    評価を下げることができません

    • 1日5回まで評価を下げられます
    • 1日に1ユーザに対して2回まで評価を下げられます

    質問の評価を下げる

    teratailでは下記のような質問を「具体的に困っていることがない質問」、「サイトポリシーに違反する質問」と定義し、推奨していません。

    • プログラミングに関係のない質問
    • やってほしいことだけを記載した丸投げの質問
    • 問題・課題が含まれていない質問
    • 意図的に内容が抹消された質問
    • 広告と受け取られるような投稿

    評価が下がると、TOPページの「アクティブ」「注目」タブのフィードに表示されにくくなります。

    質問の評価を下げたことを取り消します

    この機能は開放されていません

    評価を下げる条件を満たしてません

    評価を下げる理由を選択してください

    詳細な説明はこちら

    上記に当てはまらず、質問内容が明確になっていない質問には「情報の追加・修正依頼」機能からコメントをしてください。

    質問の評価を下げる機能の利用条件

    この機能を利用するためには、以下の事項を行う必要があります。

回答 1

checkベストアンサー

0

解析.txt の文字コードが全部または一部 utf-8 ではないためでしょう。

どうしてそう判断したかを以下に書きますね。

for l in open(FileName,"r",encoding=Encode):

この行でエラーになっているわけですが、変数を実値に置き換えるとこういうコードになります。

for l in open('解析.txt',"r",encoding='utf-8'):

ここで、例外 UnicodeDecodeError: 'utf-8' codec can't decode byte 0x96 in position 13: invalid が出たと言うことは、 解析.txt の文字コードが全部または一部 utf-8 ではないということになります。

投稿

  • 回答の評価を上げる

    以下のような回答は評価を上げましょう

    • 正しい回答
    • わかりやすい回答
    • ためになる回答

    評価が高い回答ほどページの上位に表示されます。

  • 回答の評価を下げる

    下記のような回答は推奨されていません。

    • 間違っている回答
    • 質問の回答になっていない投稿
    • スパムや攻撃的な表現を用いた投稿

    評価を下げる際はその理由を明確に伝え、適切な回答に修正してもらいましょう。

  • 2017/07/20 00:50

    ご指摘ありがとうございます。確認したところ確かにある特定の文字が含まれる時のみ形態素解析が実行できませんでした。
    プログラム上で解決するとなると、解析.txtの文字コードをutf-8に変換、もしくはutf-8でないものは無視する。というプログラムになるのでしょうか?

    キャンセル

  • 2017/07/20 07:41

    絵文字をちゃんと絵文字として読み込みたい、となると方法を考える必要がありますが、その文字を無視したり置き換えたりする程度でよければ方法があります。 `open('解析.txt',"r",encoding='utf-8', errors='ignore')` のようにerrorsオプションを渡せば、文字をutf-8で解釈できなかったときの挙動を指定出来ます。指定できる値はいくつか種類があるので http://docs.python.jp/3/library/functions.html#open を見てみてください。

    キャンセル

  • 2017/07/20 11:35

    ご回答ありがとうございます。書いた頂いたプログラムを参考にしたところ、その部分のエラーはなくなりましたが、新しいエラーが発生しました。
    Traceback (most recent call last):
    File "Juman_File.py", line 44, in <module>
    Juman.stdin.write((i+"\n").encode(JumanEnc))
    UnicodeEncodeError: 'shift_jis' codec can't encode character '\xc9' in position
    0: illegal multibyte sequence
    同じようなエラーではあると思いますが、どこにerrors='ignore'のようなものをつければ良いのでしょうか?

    キャンセル

  • 2017/07/20 11:44

    すいません、解決しました。ありがとうございました。

    キャンセル

同じタグがついた質問を見る

  • Python 3.x

    9816questions

    Python 3はPythonプログラミング言語の最新バージョンであり、2008年12月3日にリリースされました。