質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

ただいまの
回答率

90.33%

  • Python 3.x

    7390questions

    Python 3はPythonプログラミング言語の最新バージョンであり、2008年12月3日にリリースされました。

pythonで日本語が文字化けする

受付中

回答 3

投稿 編集

  • 評価
  • クリップ 1
  • VIEW 642

syen2501

score 25

<相談したい事>
pythonで日本語で記載されたテキストファイルを読み込ませて、処理結果を出力しようと
すると文字化けしていしまいます。
open関数で読み込むときにencoding = 'utf8'と変換をした後で読み込んで文字化けなどを
しないようにしているつもりなのですが、原因が分からなくて困っています。

import nltk
from nltk import ngrams
from pyknp import KNP
import jctconv
import re

# knpで形態素解析を行ったあとの結果をリストで返す
def separate(text,option = '-tab'):
    number_word = []
    tokens = []
    knp = KNP(option = option)
    result = knp.parse(jctconv.h2z(text,digit = True))

    for mrph in result.mrph_list():
        tokens.append(mrph.midasi)
    return tokens


# 形態素解析を行った結果から、共起の結果を得る
def word_cooccurrence(list):
    bigrams = nltk.bigrams(list) # バイグラムを作成
    fd = nltk.FreqDist(bigrams) # バイグラムの出現頻度分布
    return fd.items()


if __name__ == '__main__':
    with open('text.txt','r', encoding = 'utf8') as f:
        text = f.read()
    result = word_cooccurrence(separate(text))
    print(result)

<text.txtの中身>
ポット内の温度が100℃より低い場合、水が沸騰しない。

<実行結果>
dict_items([(('�|�b�g', '��'), 1), (('��', '��'), 1), (('��', '���x'), 1), (('���x', '��'), 1), (('��', '�P�O�O'), 1), (('�P�O�O', '��'), 1), (('��', '���'), 1), (('���', '�Ⴂ'), 1), (('�Ⴂ', '�ꍇ'), 1), (('�ꍇ', '�A'), 1), (('�A', '��'), 1), (('��', '��'), 1), (('��', '����'), 1), (('����', '��'), 1), (('��', '�Ȃ�'), 1), (('�Ȃ�', '�B'), 1)])


<試したこと>
文字コードを宣言したり、文字コードを指定してファイルを開くなどの方法は
行ったが結果は変わらなかった。

pythonのバージョンはpython3.6.1
OSはWindows10です。

  • 気になる質問をクリップする

    クリップした質問は、後からいつでもマイページで確認できます。

    またクリップした質問に回答があった際、通知やメールを受け取ることができます。

    クリップを取り消します

  • 良い質問の評価を上げる

    以下のような質問は評価を上げましょう

    • 質問内容が明確
    • 自分も答えを知りたい
    • 質問者以外のユーザにも役立つ

    評価が高い質問は、TOPページの「注目」タブのフィードに表示されやすくなります。

    質問の評価を上げたことを取り消します

  • 評価を下げられる数の上限に達しました

    評価を下げることができません

    • 1日5回まで評価を下げられます
    • 1日に1ユーザに対して2回まで評価を下げられます

    質問の評価を下げる

    teratailでは下記のような質問を「具体的に困っていることがない質問」、「サイトポリシーに違反する質問」と定義し、推奨していません。

    • プログラミングに関係のない質問
    • やってほしいことだけを記載した丸投げの質問
    • 問題・課題が含まれていない質問
    • 意図的に内容が抹消された質問
    • 広告と受け取られるような投稿

    評価が下がると、TOPページの「アクティブ」「注目」タブのフィードに表示されにくくなります。

    質問の評価を下げたことを取り消します

    この機能は開放されていません

    評価を下げる条件を満たしてません

    評価を下げる理由を選択してください

    詳細な説明はこちら

    上記に当てはまらず、質問内容が明確になっていない質問には「情報の追加・修正依頼」機能からコメントをしてください。

    質問の評価を下げる機能の利用条件

    この機能を利用するためには、以下の事項を行う必要があります。

質問への追記・修正、ベストアンサー選択の依頼

  • can110

    2018/06/28 10:37

    ファイルから読み込まずに「text = 'ポット内の温度が~'」と直接文字列を渡した場合でも文字化けしますか?

    キャンセル

  • syen2501

    2018/06/29 01:18

    はい、文字化けしてしまいます。

    キャンセル

  • hayataka2049

    2018/06/29 19:41

    OSとpythonのバージョンの情報を追記した方が良いかもしれません

    キャンセル

回答 3

+2

問題が起きているところを、絞りこんで探していくことをしましょう。

from pyknp import KNP
sentence = KNP(option='-tab').parse('ポット内の温度が100℃より低い場合、水が沸騰しない。')
print([m.midasi for m in sentence.mrph_list()])
print(len(sentence.mrph_list()[0].midasi))
print(ord(sentence.mrph_list()[0].midasi[0]))


これをたとえばPython対話環境で動かした結果はどうなりますか?

['ポット', '内', 'の', '温度', 'が', '100', '℃', 'より', '低い', '場合', '、', '水', 'が', '沸騰', 'し', 'ない', '。']
3
12509


になりますか? (12509はのコードポイントです)

それがokだと確信が持ててはじめて、次を検証します。

import nltk
bigrams = nltk.bigrams(['ポット', '内', 'の', '温度', 'が', '100', '℃', 'より', '低い', '場合', '、', '水', 'が', '沸騰', 'し', 'ない', '。'])
fd = nltk.FreqDist(bigrams)
print(fd.items())


はどうですか?

dict_items([(('ポット', '内'), 1), (('内', 'の'), 1), (('の', '温度'), 1), (('温度', 'が'), 1), (('が', '100'), 1), (('100', '℃'), 1), (('℃', 'より'), 1), (('より', '低い'), 1), (('低い', '場合'), 1), (('場合', '、'), 1), (('、', '水'), 1), (('水', 'が'), 1), (('が', '沸騰'), 1), (('沸騰', 'し'), 1), (('し', 'ない'), 1), (('ない', '。'), 1)])


になりますか?

ここまで確認できてはじめて、ファイルの入出力が問題なんだなと考えます。

with open('text.txt','r', encoding = 'utf8') as f:
    print(ord(f.read()[0]))


の結果は12509ですか?


OSはなんですか? KNPはどうインストールしましたか?

投稿

編集

  • 回答の評価を上げる

    以下のような回答は評価を上げましょう

    • 正しい回答
    • わかりやすい回答
    • ためになる回答

    評価が高い回答ほどページの上位に表示されます。

  • 回答の評価を下げる

    下記のような回答は推奨されていません。

    • 間違っている回答
    • 質問の回答になっていない投稿
    • スパムや攻撃的な表現を用いた投稿

    評価を下げる際はその理由を明確に伝え、適切な回答に修正してもらいましょう。

  • 2018/06/29 01:25

    解答して頂きありがとうございます。
    確認の手順をご指摘してくださった通りに行おうとしたのですが、
    一番最初の部分で出力結果が、下記のようになってしまいます。
    ['�|�b�g', '��', '��', '���x', '��', '�P�O�O', '��', '���', '�Ⴂ', '�ꍇ', '�A', '��', '��', '����', '��', '�Ȃ�', '�B']
    3
    12509

    キャンセル

  • 2018/06/29 12:16

    print('ポット') がそもそもまともに表示されないのでは?

    キャンセル

  • 2018/06/29 19:32

    返信ありがとうございます。
    print('ポット')しても文字化けします。

    キャンセル

  • 2018/06/29 21:00

    きっとWindowsだと思うので別の質問を立てるのもいいでしょうし、文字化けを気にしないでこのまま、ファイルから読んでファイルに書き込む方向で作りこんでいくのでもいいかと思いました。

    キャンセル

0

テキストファイルの文字コードがutf-8になっているでしょうか?
テキストエディタでファイルを保存するとき[名前を付けてファイルを保存]のようなメニューに[文字コード]を設定できるので試されては?

投稿

  • 回答の評価を上げる

    以下のような回答は評価を上げましょう

    • 正しい回答
    • わかりやすい回答
    • ためになる回答

    評価が高い回答ほどページの上位に表示されます。

  • 回答の評価を下げる

    下記のような回答は推奨されていません。

    • 間違っている回答
    • 質問の回答になっていない投稿
    • スパムや攻撃的な表現を用いた投稿

    評価を下げる際はその理由を明確に伝え、適切な回答に修正してもらいましょう。

0

    with open('text.txt','r', encoding = 'utf8') as f:

このencodingは、
読み出し:ファイル内容がUTF8という前提で読み込む
書き込み:書き込む文字列をUTF8にして書き込む

ってことなんで、ファイルのナカミがUTF8ではない場合、文字化けします

まずは元ファイルの文字コードがなにか調べてみることです

投稿

  • 回答の評価を上げる

    以下のような回答は評価を上げましょう

    • 正しい回答
    • わかりやすい回答
    • ためになる回答

    評価が高い回答ほどページの上位に表示されます。

  • 回答の評価を下げる

    下記のような回答は推奨されていません。

    • 間違っている回答
    • 質問の回答になっていない投稿
    • スパムや攻撃的な表現を用いた投稿

    評価を下げる際はその理由を明確に伝え、適切な回答に修正してもらいましょう。

同じタグがついた質問を見る

  • Python 3.x

    7390questions

    Python 3はPythonプログラミング言語の最新バージョンであり、2008年12月3日にリリースされました。