質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

新規登録して質問してみよう
ただいま回答率
87.20%
HTML5

HTML5 (Hyper Text Markup Language、バージョン 5)は、マークアップ言語であるHTMLの第5版です。

Visual Studio

Microsoft Visual StudioはMicrosoftによる統合開発環境(IDE)です。多種多様なプログラミング言語に対応しています。

Python

Pythonは、コードの読みやすさが特徴的なプログラミング言語の1つです。 強い型付け、動的型付けに対応しており、後方互換性がないバージョン2系とバージョン3系が使用されています。 商用製品の開発にも無料で使用でき、OSだけでなく仮想環境にも対応。Unicodeによる文字列操作をサポートしているため、日本語処理も標準で可能です。

受付中

スクレイピングで画像の収集, Incorrect paddingのエラーの直し方

Michiko
Michiko

総合スコア6

HTML5

HTML5 (Hyper Text Markup Language、バージョン 5)は、マークアップ言語であるHTMLの第5版です。

Visual Studio

Microsoft Visual StudioはMicrosoftによる統合開発環境(IDE)です。多種多様なプログラミング言語に対応しています。

Python

Pythonは、コードの読みやすさが特徴的なプログラミング言語の1つです。 強い型付け、動的型付けに対応しており、後方互換性がないバージョン2系とバージョン3系が使用されています。 商用製品の開発にも無料で使用でき、OSだけでなく仮想環境にも対応。Unicodeによる文字列操作をサポートしているため、日本語処理も標準で可能です。

1回答

-2評価

0クリップ

367閲覧

投稿2022/08/12 05:39

編集2022/08/18 23:46

前提

Visual Studio 2022
Python 3.9

実現したいこと

カリモク コモンズ トウキョウで、10代が考える「動く家」をテーマにした展示会を開催
https://www.elle.com/jp/decor/decor-interior-design/a40735952/karimoku-commons-tokyo-mobile-house22-07/

上記サイトに掲載されている写真3枚をスクレイピングで収集したいです。

昨日、Data URLをdecodeする方法を教えていただき、それを含めたコードでまたエラーが出ました。

プログラミングの勉強を始めて日が浅く、Webの知識が少ないためか、画像のスクレイピングが難しく感じます。

自己解決できなかったので、
ご教授いただけましたら幸いです。

該当のソースコード

Data URLの文字数をカウントし、4で割り切れないことがわかったので
encoded=base64.urlsafe_b64decode (src + '=' * (-len(src) % 4))
を入れたのですが、同じエラーが出ました。
上のコードを入れたことで、文字数が78から、56に減りました。
(src + '=' * (-len(src) % 4)の部分で、==を2つ入れて、80にしたかったのですが...
お忙しい中恐縮ですが、
教えていただけると幸いです。

Python

import base64 import requests from bs4 import BeautifulSoup from pathlib import Path import urllib import time from base64 import b64decode load_url = "https://www.elle.com/jp/decor/decor-interior-design/a40735952/karimoku-commons-tokyo-mobile-house22-07/" html = requests.get(load_url) soup=BeautifulSoup(html.content, "html.parser") out_folder = Path("Download") out_folder.mkdir(exist_ok = True) for element in soup.find_all("img"): src = element.get("src") encoded=base64.urlsafe_b64decode (src + '=' * (-len(src) % 4)) decode_data=b64decode(encoded) filename = src.split("/")[-1] out_path = out_folder.joinpath(filename) with open(filename, mode = "wb") as f: f.write(decode_data) time.sleep(1)

エラー内容

Incorrect padding

試したこと

python

import requests from bs4 import BeautifulSoup from pathlib import Path import urllib import time from base64 import b64decode load_url = "https://www.elle.com/jp/decor/decor-interior-design/a40735952/karimoku-commons-tokyo-mobile-house22-07/" html = requests.get(load_url) soup=BeautifulSoup(html.content, "html.parser") out_folder = Path("Download") out_folder.mkdir(exist_ok = True) for element in soup.find_all("source"): src = element.get("data-src") header, encoded = src.split(",",1) decode_data=b64decode(encoded) filename = "test_0818" out_path = out_folder.joinpath(filename) with open(filename, mode = "wb") as f: f.write(decode_data) time.sleep(1)
Message='NoneType' object has no attribute 'split'

python

import requests from bs4 import BeautifulSoup from pathlib import Path import urllib import time from base64 import b64decode load_url = "https://www.elle.com/jp/decor/decor-interior-design/a40735952/karimoku-commons-tokyo-mobile-house22-07/" html = requests.get(load_url) soup=BeautifulSoup(html.content, "html.parser") out_folder = Path("Download") out_folder.mkdir(exist_ok = True) for element in soup.find_all("source"): src = element.get("data-src") image_url=urllib.parse.urljoin(load_url, src) imgdata = requests.get(image_url) filename = "test_0818" out_path = out_folder.joinpath(filename) with open(filename, mode = "wb") as f: f.write(imgdata.content) time.sleep(1)

画像として表示されません

補足情報(FW/ツールのバージョンなど)

下記を参考にしました。
森巧尚, Python 2年生 スクレイピングのしくみ
https://stackoverflow.com/questions/33870538/how-to-parse-data-uri-in-python
https://www.lisz-works.com/entry/python-base64-incorrect-padding

良い質問の評価を上げる

以下のような質問は評価を上げましょう

  • 質問内容が明確
  • 自分も答えを知りたい
  • 質問者以外のユーザにも役立つ

評価が高い質問は、TOPページの「注目」タブのフィードに表示されやすくなります。

気になる質問をクリップする

クリップした質問は、後からいつでもマイページで確認できます。

またクリップした質問に回答があった際、通知やメールを受け取ることができます。

teratailでは下記のような質問を「具体的に困っていることがない質問」、「サイトポリシーに違反する質問」と定義し、推奨していません。

  • プログラミングに関係のない質問
  • やってほしいことだけを記載した丸投げの質問
  • 問題・課題が含まれていない質問
  • 意図的に内容が抹消された質問
  • 過去に投稿した質問と同じ内容の質問
  • 広告と受け取られるような投稿

評価を下げると、トップページの「アクティブ」「注目」タブのフィードに表示されにくくなります。

まだ回答がついていません

会員登録して回答してみよう

15分調べてもわからないことは
teratailで質問しよう!

ただいまの回答率
87.20%

質問をまとめることで
思考を整理して素早く解決

テンプレート機能で
簡単に質問をまとめる

質問する

関連した質問

同じタグがついた質問を見る

HTML5

HTML5 (Hyper Text Markup Language、バージョン 5)は、マークアップ言語であるHTMLの第5版です。

Visual Studio

Microsoft Visual StudioはMicrosoftによる統合開発環境(IDE)です。多種多様なプログラミング言語に対応しています。

Python

Pythonは、コードの読みやすさが特徴的なプログラミング言語の1つです。 強い型付け、動的型付けに対応しており、後方互換性がないバージョン2系とバージョン3系が使用されています。 商用製品の開発にも無料で使用でき、OSだけでなく仮想環境にも対応。Unicodeによる文字列操作をサポートしているため、日本語処理も標準で可能です。