エンコードできない文字が存在するときにその文字を置換する方法が知りたいです。 pythonを使ってWEBから捕ってきた文字情報をデータベースに入れる処理を作っています。 環境は Python 3.7.1 Oracle 11g Windows10 です ### 発生している問題・エラーメッセージ データベースにインサートする際、下記のエラーになります
UnicodeEncodeError: 'shift_jis' codec can't encode character '\u2588' in positio
n 51: illegal multibyte sequence
except で例外を拾って別の文字列に置換することで解決するのですが、それだとエンコードできない文字が存在するときに置換する処理をいちいち追加しなければならないので非効率です。 ### 該当のソースコード ```ここに言語名を入力 # coding: UTF-8 import requests from bs4 import BeautifulSoup from datetime import datetime import re url = "http://ja.scp-wiki.net/scp-040-jp" import cx_Oracle HOST = PORT = SID = tns = cx_Oracle.makedsn(HOST, PORT, SID) conn = cx_Oracle.connect("ORAUSER", "PASS", tns) response = requests.get(url) response.encoding = response.apparent_encoding soup = BeautifulSoup(response.content, "html.parser") for i in soup.find_all("title"): print(i.getText()) ID = i.getText()[4:7] a=0 def create_ins(tablename,col): insstr = "INSERT INTO " + tablename +" VALUES" insstr = insstr + str(col) return insstr cur = conn.cursor() for r in soup.div.find_all("p"): st_m=re.match('^特別収容プロトコル',r.getText()) st_m2=re.match('^オブジェクトクラス',r.getText()) if st_m or a >= 1: print(a) print("bef_ins") rows=(ID,r.getText(),str(a),'crawling_src.py',str(datetime.now().strftime('%Y/%m/%d %H:%M:%S')),objectclass) statement =create_ins("scp_src",rows)――ここで落ちる print("bef_ins2") cur.execute(statement) print("af_ins") conn.commit() a=a+1 elif a==0 and st_m2: objectclass=r.getText()[11:15]
試したこと
スクレイピング該当ページの█文字(ブロック文字?)が存在するデータがインサートできなかったので、これが原因だと考えています。
補足情報(FW/ツールのバージョンなど)
ここにより詳細な情報を記載してください。
質問を編集して、先頭の```を削ってください。
https://teratail.com/tour やhttps://teratail.com/help#about-markdown を参考に質問を整形してください。エラーはtraceback全文を示してください(伏せたい部分は伏せて構いません)。