質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

新規登録して質問してみよう
ただいま回答率
85.50%
Python

Pythonは、コードの読みやすさが特徴的なプログラミング言語の1つです。 強い型付け、動的型付けに対応しており、後方互換性がないバージョン2系とバージョン3系が使用されています。 商用製品の開発にも無料で使用でき、OSだけでなく仮想環境にも対応。Unicodeによる文字列操作をサポートしているため、日本語処理も標準で可能です。

Q&A

1回答

514閲覧

python:エンコードできない文字

scottish_tiger

総合スコア10

Python

Pythonは、コードの読みやすさが特徴的なプログラミング言語の1つです。 強い型付け、動的型付けに対応しており、後方互換性がないバージョン2系とバージョン3系が使用されています。 商用製品の開発にも無料で使用でき、OSだけでなく仮想環境にも対応。Unicodeによる文字列操作をサポートしているため、日本語処理も標準で可能です。

1グッド

0クリップ

投稿2018/12/22 12:38

エンコードできない文字が存在するときにその文字を置換する方法が知りたいです。 pythonを使ってWEBから捕ってきた文字情報をデータベースに入れる処理を作っています。 環境は Python 3.7.1 Oracle 11g Windows10 です ### 発生している問題・エラーメッセージ データベースにインサートする際、下記のエラーになります

UnicodeEncodeError: 'shift_jis' codec can't encode character '\u2588' in positio
n 51: illegal multibyte sequence

except で例外を拾って別の文字列に置換することで解決するのですが、それだとエンコードできない文字が存在するときに置換する処理をいちいち追加しなければならないので非効率です。 ### 該当のソースコード ```ここに言語名を入力 # coding: UTF-8 import requests from bs4 import BeautifulSoup from datetime import datetime import re url = "http://ja.scp-wiki.net/scp-040-jp" import cx_Oracle HOST = PORT = SID = tns = cx_Oracle.makedsn(HOST, PORT, SID) conn = cx_Oracle.connect("ORAUSER", "PASS", tns) response = requests.get(url) response.encoding = response.apparent_encoding soup = BeautifulSoup(response.content, "html.parser") for i in soup.find_all("title"): print(i.getText()) ID = i.getText()[4:7] a=0 def create_ins(tablename,col): insstr = "INSERT INTO " + tablename +" VALUES" insstr = insstr + str(col) return insstr cur = conn.cursor() for r in soup.div.find_all("p"): st_m=re.match('^特別収容プロトコル',r.getText()) st_m2=re.match('^オブジェクトクラス',r.getText()) if st_m or a >= 1: print(a) print("bef_ins") rows=(ID,r.getText(),str(a),'crawling_src.py',str(datetime.now().strftime('%Y/%m/%d %H:%M:%S')),objectclass) statement =create_ins("scp_src",rows)――ここで落ちる print("bef_ins2") cur.execute(statement) print("af_ins") conn.commit() a=a+1 elif a==0 and st_m2: objectclass=r.getText()[11:15]

試したこと

スクレイピング該当ページの█文字(ブロック文字?)が存在するデータがインサートできなかったので、これが原因だと考えています。

補足情報(FW/ツールのバージョンなど)

ここにより詳細な情報を記載してください。

naikoru👍を押しています

気になる質問をクリップする

クリップした質問は、後からいつでもMYページで確認できます。

またクリップした質問に回答があった際、通知やメールを受け取ることができます。

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

otn

2018/12/22 12:41

質問を編集して、先頭の```を削ってください。
hayataka2049

2018/12/22 13:07

https://teratail.com/tour やhttps://teratail.com/help#about-markdown を参考に質問を整形してください。エラーはtraceback全文を示してください(伏せたい部分は伏せて構いません)。
guest

回答1

0

エンコードできなかったら、█とか〓に置換してしまえばそれで済むんじゃないかと。

#ShiftJISにエンコードできない文字なんか膨大にありますぜ

投稿2018/12/23 03:04

y_waiwai

総合スコア87719

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

あなたの回答

tips

太字

斜体

打ち消し線

見出し

引用テキストの挿入

コードの挿入

リンクの挿入

リストの挿入

番号リストの挿入

表の挿入

水平線の挿入

プレビュー

まだベストアンサーが選ばれていません

会員登録して回答してみよう

アカウントをお持ちの方は

15分調べてもわからないことは
teratailで質問しよう!

ただいまの回答率
85.50%

質問をまとめることで
思考を整理して素早く解決

テンプレート機能で
簡単に質問をまとめる

質問する

関連した質問