スクレイピングしてきた文字列を形態素解析する際に出るUnicodeDecodeErrorを無くしたい

Question

###前提・実現したいこと
pythonでURLを指定し、bs4を用いてスクレイピングした後にタグを除去しテキストデータに保存、Jumanを用いて形態素解析するシステムを作っています。

###発生している問題・エラーメッセージ
形態素解析する際にエラーが発生しました。

Traceback (most recent call last):
  File "Juman_FILE.py", line 35, in <module>
    for l in open(FileName,"r",encoding=Encode):
  File "C:\Users\y2j\AppData\Local\Programs\Python\Python36-32\lib\codecs.py", l
ine 321, in decode
    (result, consumed) = self._buffer_decode(data, self.errors, final)
UnicodeDecodeError: 'utf-8' codec can't decode byte 0x96 in position 13: invalid
 start byte

###該当のソースコード

#スクレイピングのプログラム
import urllib.request
import bs4
from bs4 import NavigableString,Declaration,Comment


url = 'https://jouhou.nagoya/nagoya-miyage-matome/'
#soup = bs4.BeautifulSoup(urllib.request.urlopen(url).read(),"html.parser")
resulttxt='解析'

def getNavigableStrings(soup):
  if isinstance(soup, NavigableString):
    if type(soup) not in (Comment, Declaration) and soup.strip():
      yield soup
  elif soup.name not in ('script', 'style'):
    for c in soup.contents:
      for g in getNavigableStrings(c):
        yield g

soup = bs4.BeautifulSoup(urllib.request.urlopen(url).read(),"html.parser")

text = '\n'.join(getNavigableStrings(soup))

#text = text.decode("utf-8")

import codecs
file_object= codecs.open(resulttxt + ".txt", "wb", "cp932", "ignore")
file_object.write(text + "\n")
file_object.close()


# JUMANのプログラム
import subprocess
import sys
import collections



# ファイルバッファ使用

# 解析元のファイル名
FileName="解析.txt"
# 解析する最大数
LoadCount=10000
# 解析する最大数無制限
#LoadCount=float("inf")
# 表示するランキングの数
RankCount=10

# 使用するエンコード
Encode="utf-8"
JumanEnc="sjis"
# 使用するコマンド
JumanCommand=["juman"]
# バッファのファイル名
Buffer="tmp"
# 外部タスク起動
Juman=subprocess.Popen(JumanCommand,stdin=subprocess.PIPE,stdout=open(Buffer,"w"))

# TF値
TF=collections.defaultdict(lambda:0)
# 総単語数
WordsCount=0

# 形態素解析器に文単位でテキストを渡していく
C=0
for l in open(FileName,"r",encoding=Encode):
    l=l.strip()
    if len(l)==0:
        continue
    for i in l.split("。"):
        C+=1
        sys.stdout.write("{0}/{1}\r".format(C,LoadCount))
        sys.stdout.flush()
        #エンコードを指定しないとうまく行かない
        Juman.stdin.write((i+"\n").encode(JumanEnc))
        #上限に達した際のループ脱出
        if C>=LoadCount:
            break
    if C>=LoadCount:
        break
# JUMANの停止(バッファのファイルは自動で閉じられる)
Juman.stdin.close()
Juman.wait()
# 結果の読み込みとカウント
for l in open(Buffer,"r",encoding=JumanEnc):
    l=l.strip().split(" ")
    # 終端の場合ループはじめからやり直し
    if len(l)<2:
        continue
    # 対象を名詞に限定
    if l[3]!="名詞":
        continue
    Word=l[0]
    # 別の解析結果を除外
    if Word[0]=="@":
        continue
    TF[Word]+=1
    WordsCount+=1
# カウント結果からTF値へ変換
for k in TF.keys():
    TF[k]/=WordsCount
# TF値降順に並び替え
Ranking=list(TF.items())
Ranking.sort(key=lambda x:x[1],reverse=True)
# 表示
print()
print("="*40)
print("順位\t単語\tTF値")
print("="*40)
for r,(k,v) in zip(range(1,RankCount+1),Ranking):
    print("{0}\t{1}\t{2}".format(r,k,v))
print("="*40)

###試したこと
http://hikm.hatenablog.com/entry/20130328/1364492471
を参考にしましたが、うまく出来ませんでした。

###補足情報(言語/FW/ツール等のバージョンなど)
より詳細な情報

Answer 1

解析.txt の文字コードが全部または一部 utf-8 ではないためでしょう。

どうしてそう判断したかを以下に書きますね。

for l in open(FileName,"r",encoding=Encode):

この行でエラーになっているわけですが、変数を実値に置き換えるとこういうコードになります。

for l in open('解析.txt',"r",encoding='utf-8'):

ここで、例外 UnicodeDecodeError: 'utf-8' codec can't decode byte 0x96 in position 13: invalid が出たと言うことは、 解析.txt の文字コードが全部または一部 utf-8 ではないということになります。

Comments

[hanpanai-tumi]

ご指摘ありがとうございます。確認したところ確かにある特定の文字が含まれる時のみ形態素解析が実行できませんでした。
プログラム上で解決するとなると、解析.txtの文字コードをutf-8に変換、もしくはutf-8でないものは無視する。というプログラムになるのでしょうか？

[shimizukawa]

絵文字をちゃんと絵文字として読み込みたい、となると方法を考える必要がありますが、その文字を無視したり置き換えたりする程度でよければ方法があります。 `open('解析.txt',"r",encoding='utf-8', errors='ignore')` のようにerrorsオプションを渡せば、文字をutf-8で解釈できなかったときの挙動を指定出来ます。指定できる値はいくつか種類があるので http://docs.python.jp/3/library/functions.html#open を見てみてください。

[hanpanai-tumi]

ご回答ありがとうございます。書いた頂いたプログラムを参考にしたところ、その部分のエラーはなくなりましたが、新しいエラーが発生しました。
Traceback (most recent call last):
File "Juman_File.py", line 44, in <module>
Juman.stdin.write((i+"\n").encode(JumanEnc))
UnicodeEncodeError: 'shift_jis' codec can't encode character '\xc9' in position
0: illegal multibyte sequence
同じようなエラーではあると思いますが、どこにerrors='ignore'のようなものをつければ良いのでしょうか？

[hanpanai-tumi]

すいません、解決しました。ありがとうございました。