質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

新規登録して質問してみよう
ただいま回答率
85.50%
CSV

CSV(Comma-Separated Values)はコンマで区切られた明白なテキスト値のリストです。もしくは、そのフォーマットでひとつ以上のリストを含むファイルを指します。

Django

DjangoはPythonで書かれた、オープンソースウェブアプリケーションのフレームワークです。複雑なデータベースを扱うウェブサイトを開発する際に必要な労力を減らす為にデザインされました。

Unicode

Unicodeはエンコーディングの標準規格です。1つの文字コード体系で多国語の表現を可能にすることを目指して作られています。

Python

Pythonは、コードの読みやすさが特徴的なプログラミング言語の1つです。 強い型付け、動的型付けに対応しており、後方互換性がないバージョン2系とバージョン3系が使用されています。 商用製品の開発にも無料で使用でき、OSだけでなく仮想環境にも対応。Unicodeによる文字列操作をサポートしているため、日本語処理も標準で可能です。

Q&A

1回答

2169閲覧

Pythonでの正規化

ryo387841

総合スコア13

CSV

CSV(Comma-Separated Values)はコンマで区切られた明白なテキスト値のリストです。もしくは、そのフォーマットでひとつ以上のリストを含むファイルを指します。

Django

DjangoはPythonで書かれた、オープンソースウェブアプリケーションのフレームワークです。複雑なデータベースを扱うウェブサイトを開発する際に必要な労力を減らす為にデザインされました。

Unicode

Unicodeはエンコーディングの標準規格です。1つの文字コード体系で多国語の表現を可能にすることを目指して作られています。

Python

Pythonは、コードの読みやすさが特徴的なプログラミング言語の1つです。 強い型付け、動的型付けに対応しており、後方互換性がないバージョン2系とバージョン3系が使用されています。 商用製品の開発にも無料で使用でき、OSだけでなく仮想環境にも対応。Unicodeによる文字列操作をサポートしているため、日本語処理も標準で可能です。

0グッド

0クリップ

投稿2020/10/13 00:38

編集2022/01/12 10:55

DjangoによるWebアプリで、CSV出力の機能を作ったのですが、文字化けしてしまい、
一度メモ帳で開いてutf-8に直すのが手間だったのでShift-Jisに変換して出力したのですが、
一部の環境依存文字がShift-Jisに変換できず困っています。

unicodedata.normalizeを使用することである程度の変換は出来たのですが、下記のような文字は変換することが出来ませんでした。

'嚙', '➡', '❕', '髙'
from django.http import HttpResponse import csv import unicodedata response = HttpResponse(content_type='text/csv; charset=Shift-Jis') response['Content-Disposition'] = 'attachment; filename=sample.csv;' writer = csv.writer(response) writer.writerow([ unicodedata.normalize('NFKC', text) ])

CSVをUTF-8で保存する、環境依存文字をShift-Jisに変換する。
どちらのやり方でも良いのですが、良い方法があれば教えていただきたいです。

Python == 3.7
Django == 2.1

###追記
Webアプリにアクセスし、csvをダウンロードしたら、文字化けをしてしまいました。
原因は、DBの文字コードがUTF-8なのに文字コードをそのままでcsv自体をShift-Jisで保存されているからです。

そのため、中身を確認するために該当のcsvをメモ帳で開き、utf-8で保存することで、Excel上で中身を確認することが出来ました。
ですが、毎回このようなことをするわけにはいかないので、

  • データの文字コードはUTF-8のままCSVをUTF-8として保存する
  • データの文字コードをShift-Jisに変換し、CSVは現状のままShift-Jisで保存する

上記のどちらかの方法をとる必要があると考えました。

CSVをUTF-8として保存する方法が分からなかったので、
2つ目の方法を選択し、
上に記載したコードのようにunicodedata.normalizeで正規化した後に文字コードをShit-Jisに変換して保存しようとしたのですが、
一部の文字のShift-Jisへの変換に失敗してエラーとなってしましました。

エラー画面は下記です。
イメージ説明

気になる質問をクリップする

クリップした質問は、後からいつでもMYページで確認できます。

またクリップした質問に回答があった際、通知やメールを受け取ることができます。

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

quickquip

2020/10/13 00:57

> CSV出力の機能を作ったのですが、文字化けしてしまい、 この「文字化け」は何をしたらどうなったことを言うのか? (このあたりはスクリーンショットの方が手っ取り早いです) > 一度メモ帳で開いてutf-8に直すのが手間だったので なぜ「メモ帳で開いてutf-8に直した」のか? 直すと何が変わるのか? 「utf-8に直した」が真なら元々はUTF-8じゃなかったのか? > Shift-Jisに変換して出力したのですが 元々はUTF-8じゃなかったとすると「Shift-Jisに変換して」はどういう意味か? > 環境依存文字をShift-Jisに変換する 環境依存文字は定義がない言葉だけど「ある環境では表現できない文字」という意味で使うことがほとんどだと思われ、「ある環境では表現できない文字に変換する」は論理的に破綻しているのでこれはどういう意味で言っているのか? 引用されているこのコードで何が起きて何が問題なのか? が明記されていない。直前の「下記のような文字は変換することが出来ませんでした」という状態のコードだと思えばいいのか? 「変換することが出来ませんでした」が何を見て確認したのか、結果がどうなるのかが添えられていないせいで、このコードは何? となる。 あたりを質問を編集して追記するとよいかと思いました。
quickquip

2020/10/13 01:02

あと、最初の「DjangoによるWebアプリで、CSV出力の機能を作ったのですが、文字化けしてしまい、」の時のコードを引用する方が、回答者の役に立つと思いました。
guest

回答1

0

データの文字コードはUTF-8のままCSVをUTF-8として保存する

にしてください。提示された「変換できない文字」はShift-JISが利用する文字集合(JISX 0208)に含まれていないので、Shift-JISに変換してはいけません。

メモ帳でUTF-8で保存すると、BOM付きのファイルになるので、エクセルでCSVファイルをダブルクリックして読み込める、というのが「メモ帳でUTF-8に変換」ではなく、本当に行なわれていることです。

そんなことをしなくても、エクセルを先に起動して、「テキストまたはCSVから」読み込むときに、エンコードをちゃんと指定してやれば、文字化けせずに読み込めます。

投稿2020/10/13 01:58

編集2020/10/13 02:00
Daregada

総合スコア11990

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

あなたの回答

tips

太字

斜体

打ち消し線

見出し

引用テキストの挿入

コードの挿入

リンクの挿入

リストの挿入

番号リストの挿入

表の挿入

水平線の挿入

プレビュー

まだベストアンサーが選ばれていません

会員登録して回答してみよう

アカウントをお持ちの方は

15分調べてもわからないことは
teratailで質問しよう!

ただいまの回答率
85.50%

質問をまとめることで
思考を整理して素早く解決

テンプレート機能で
簡単に質問をまとめる

質問する

関連した質問