前提
Visual Studio 2022
Python 3.9
実現したいこと
カリモク コモンズ トウキョウで、10代が考える「動く家」をテーマにした展示会を開催
https://www.elle.com/jp/decor/decor-interior-design/a40735952/karimoku-commons-tokyo-mobile-house22-07/
上記サイトに掲載されている写真3枚をスクレイピングで収集したいです。
昨日、Data URLをdecodeする方法を教えていただき、それを含めたコードでまたエラーが出ました。
プログラミングの勉強を始めて日が浅く、Webの知識が少ないためか、画像のスクレイピングが難しく感じます。
自己解決できなかったので、
ご教授いただけましたら幸いです。
該当のソースコード
Data URLの文字数をカウントし、4で割り切れないことがわかったので
encoded=base64.urlsafe_b64decode (src + '=' * (-len(src) % 4))
を入れたのですが、同じエラーが出ました。
上のコードを入れたことで、文字数が78から、56に減りました。
(src + '=' * (-len(src) % 4)の部分で、==を2つ入れて、80にしたかったのですが...
お忙しい中恐縮ですが、
教えていただけると幸いです。
Python
1 2import base64 3import requests 4from bs4 import BeautifulSoup 5from pathlib import Path 6import urllib 7import time 8from base64 import b64decode 9 10 11load_url = "https://www.elle.com/jp/decor/decor-interior-design/a40735952/karimoku-commons-tokyo-mobile-house22-07/" 12html = requests.get(load_url) 13soup=BeautifulSoup(html.content, "html.parser") 14 15out_folder = Path("Download") 16out_folder.mkdir(exist_ok = True) 17 18for element in soup.find_all("img"): 19 src = element.get("src") 20 encoded=base64.urlsafe_b64decode (src + '=' * (-len(src) % 4)) 21 decode_data=b64decode(encoded) 22 filename = src.split("/")[-1] 23 out_path = out_folder.joinpath(filename) 24 with open(filename, mode = "wb") as f: 25 f.write(decode_data) 26 time.sleep(1) 27 28
エラー内容
Incorrect padding
試したこと
python
1 2import requests 3from bs4 import BeautifulSoup 4from pathlib import Path 5import urllib 6import time 7from base64 import b64decode 8 9 10load_url = "https://www.elle.com/jp/decor/decor-interior-design/a40735952/karimoku-commons-tokyo-mobile-house22-07/" 11html = requests.get(load_url) 12soup=BeautifulSoup(html.content, "html.parser") 13 14out_folder = Path("Download") 15out_folder.mkdir(exist_ok = True) 16 17for element in soup.find_all("source"): 18 src = element.get("data-src") 19 header, encoded = src.split(",",1) 20 decode_data=b64decode(encoded) 21 filename = "test_0818" 22 out_path = out_folder.joinpath(filename) 23 with open(filename, mode = "wb") as f: 24 f.write(decode_data) 25 time.sleep(1) 26
Message='NoneType' object has no attribute 'split'
python
1 2import requests 3from bs4 import BeautifulSoup 4from pathlib import Path 5import urllib 6import time 7from base64 import b64decode 8 9 10load_url = "https://www.elle.com/jp/decor/decor-interior-design/a40735952/karimoku-commons-tokyo-mobile-house22-07/" 11html = requests.get(load_url) 12soup=BeautifulSoup(html.content, "html.parser") 13 14out_folder = Path("Download") 15out_folder.mkdir(exist_ok = True) 16 17for element in soup.find_all("source"): 18 src = element.get("data-src") 19 image_url=urllib.parse.urljoin(load_url, src) 20 imgdata = requests.get(image_url) 21 filename = "test_0818" 22 out_path = out_folder.joinpath(filename) 23 with open(filename, mode = "wb") as f: 24 f.write(imgdata.content) 25 time.sleep(1) 26
画像として表示されません
補足情報(FW/ツールのバージョンなど)
下記を参考にしました。
森巧尚, Python 2年生 スクレイピングのしくみ
https://stackoverflow.com/questions/33870538/how-to-parse-data-uri-in-python
https://www.lisz-works.com/entry/python-base64-incorrect-padding
バッドをするには、ログインかつ
こちらの条件を満たす必要があります。
2022/08/12 11:58
2022/08/13 16:25
2022/08/17 02:07 編集
2022/08/18 14:46