🎄teratailクリスマスプレゼントキャンペーン2024🎄』開催中!

\teratail特別グッズやAmazonギフトカード最大2,000円分が当たる!/

詳細はこちら
スクレイピング

スクレイピングとは、公開されているWebサイトからページ内の情報を抽出する技術です。

Beautiful Soup

Beautiful Soupは、Pythonのライブラリの一つ。スクレイピングに特化しています。HTMLデータの構文の解析を行うために、HTMLタグ/CSSのセレクタで抽出する部分を指定することが可能です。

Python

Pythonは、コードの読みやすさが特徴的なプログラミング言語の1つです。 強い型付け、動的型付けに対応しており、後方互換性がないバージョン2系とバージョン3系が使用されています。 商用製品の開発にも無料で使用でき、OSだけでなく仮想環境にも対応。Unicodeによる文字列操作をサポートしているため、日本語処理も標準で可能です。

selenium

Selenium(セレニウム)は、ブラウザをプログラムで作動させるフレームワークです。この原理を使うことにより、ブラウザのユーザーテストなどを自動化にすることができます。

Q&A

1回答

2447閲覧

BeautifulSoupを使ってhtmlを取得する

rell2

総合スコア15

スクレイピング

スクレイピングとは、公開されているWebサイトからページ内の情報を抽出する技術です。

Beautiful Soup

Beautiful Soupは、Pythonのライブラリの一つ。スクレイピングに特化しています。HTMLデータの構文の解析を行うために、HTMLタグ/CSSのセレクタで抽出する部分を指定することが可能です。

Python

Pythonは、コードの読みやすさが特徴的なプログラミング言語の1つです。 強い型付け、動的型付けに対応しており、後方互換性がないバージョン2系とバージョン3系が使用されています。 商用製品の開発にも無料で使用でき、OSだけでなく仮想環境にも対応。Unicodeによる文字列操作をサポートしているため、日本語処理も標準で可能です。

selenium

Selenium(セレニウム)は、ブラウザをプログラムで作動させるフレームワークです。この原理を使うことにより、ブラウザのユーザーテストなどを自動化にすることができます。

0グッド

0クリップ

投稿2021/02/18 13:28

前提・実現したいこと

pythonでBeautifulSoupを使用して、スクレイピングをしたいです。しかし、要素が取得できず、htmlを表示させてみると、途中までしかhtmlが取得できていませんでした。
以下の表示されるhtmlが文字数制限のため、途中省略してあります。
よろしくお願いします。

表示されるもの

<!DOCTYPE html> <html lang="ja"> <head> <meta charset="utf-8"/> <meta content="IE=edge" http-equiv="X-UA-Compatible"/> <link href="https://cookpad.com/search/%E3%83%95%E3%82%A9%E3%83%BC" rel="canonical"/> <link href="https://cookpad.com/search/%E3%83%95%E3%82%A9%E3%83%BC?page=2" rel="next"/> <link href="http://m.cookpad.com/search.cfm?kw=%83%74%83%48%81%5B" media="handheld" rel="alternate" type="text/html"/> <link href="https://assets.cpcdn.com/assets/device/apple-touch-icon.png?92b8bd477aedd34713e3d853583626f4d29101bdc7e6ceb52dcfe037b49e0988" rel="apple-touch-icon"/> 文字数制限のため、省略します。 </script> <link as="script" href="https://flux-cdn.com/client/cookpad/flux_cookpad_AS_TM_AT.min.js" rel="preload"/> <link as="script" href="//img5-ak.cpcdn.com/platform/display/3.27.0/cookpadDisplay.js" rel="preload"/> <link as="script" href="//securepubads.g.doubleclick.net/tag/js/gpt.js" rel="preload"/> <link as="script" href="//c.amazon-adsystem.com/aax2/apstag.js" rel="preload"/> <script src="https://flux-cdn.com/client/cookpad/flux_cookpad_AS_TM_AT.min.js"></script> <script async="async" src="//securepubads.g.doubleclick.net/tag/js/gpt.js"></script> <script>var fluxtag = { readyBids: { prebid: false, amazon: false, google: false }, failSafeTimeout: 3e3, // 【注意】環境に合わせ�

該当のソースコード

python

1from bs4 import BeautifulSoup 2import requests 3import lxml.html 4url = 'https://cookpad.com/search/%E3%83%95%E3%82%A9%E3%83%BC?page=1&recipe_hit=1190.html' 5res = requests.get(url) 6res.raise_for_status() 7soup = BeautifulSoup(res.text, "html.parser") 8print(soup)

試したこと

html.parserではなく、lxmlを使用してみたり、requestsでtimeoutを設定してみましたが、変化ありませんでした。seleniumは処理が遅いので、BeautifulSoupを使用したいのですが、seleniumでないと実現不可能ですか?

補足情報(FW/ツールのバージョンなど)

Python 3.9.1

気になる質問をクリップする

クリップした質問は、後からいつでもMYページで確認できます。

またクリップした質問に回答があった際、通知やメールを受け取ることができます。

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

guest

回答1

0

時間切れで、requests.getが完了せず、htmlデータを途中までしか受け取っていないのでBeautifulSoupによる解析が失敗しています。
こちらで試したところでは,問題なく動き、

</body> <!-- rev: 8687c9a53372bf0790a268b18270f9cb6661ce5e --> </html> まで表示されました。

回線の問題なのか、cookpadのサーバの不可が高かったのかはわかりません。
夜の混んでいない時間帯に実行すれば、正常に動くかもしれません。

投稿2021/02/18 14:10

ppaul

総合スコア24670

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

rell2

2021/02/19 02:44

平日の昼間に実行してみましたが、変化ありませんでした。通信速度も80Mbps以上で有線LANを使用しています。
guest

あなたの回答

tips

太字

斜体

打ち消し線

見出し

引用テキストの挿入

コードの挿入

リンクの挿入

リストの挿入

番号リストの挿入

表の挿入

水平線の挿入

プレビュー

まだベストアンサーが選ばれていません

会員登録して回答してみよう

アカウントをお持ちの方は

15分調べてもわからないことは
teratailで質問しよう!

ただいまの回答率
85.36%

質問をまとめることで
思考を整理して素早く解決

テンプレート機能で
簡単に質問をまとめる

質問する

関連した質問