前提・実現したいこと
pythonでBeautifulSoupを使用して、スクレイピングをしたいです。しかし、要素が取得できず、htmlを表示させてみると、途中までしかhtmlが取得できていませんでした。
以下の表示されるhtmlが文字数制限のため、途中省略してあります。
よろしくお願いします。
表示されるもの
<!DOCTYPE html> <html lang="ja"> <head> <meta charset="utf-8"/> <meta content="IE=edge" http-equiv="X-UA-Compatible"/> <link href="https://cookpad.com/search/%E3%83%95%E3%82%A9%E3%83%BC" rel="canonical"/> <link href="https://cookpad.com/search/%E3%83%95%E3%82%A9%E3%83%BC?page=2" rel="next"/> <link href="http://m.cookpad.com/search.cfm?kw=%83%74%83%48%81%5B" media="handheld" rel="alternate" type="text/html"/> <link href="https://assets.cpcdn.com/assets/device/apple-touch-icon.png?92b8bd477aedd34713e3d853583626f4d29101bdc7e6ceb52dcfe037b49e0988" rel="apple-touch-icon"/> 文字数制限のため、省略します。 </script> <link as="script" href="https://flux-cdn.com/client/cookpad/flux_cookpad_AS_TM_AT.min.js" rel="preload"/> <link as="script" href="//img5-ak.cpcdn.com/platform/display/3.27.0/cookpadDisplay.js" rel="preload"/> <link as="script" href="//securepubads.g.doubleclick.net/tag/js/gpt.js" rel="preload"/> <link as="script" href="//c.amazon-adsystem.com/aax2/apstag.js" rel="preload"/> <script src="https://flux-cdn.com/client/cookpad/flux_cookpad_AS_TM_AT.min.js"></script> <script async="async" src="//securepubads.g.doubleclick.net/tag/js/gpt.js"></script> <script>var fluxtag = { readyBids: { prebid: false, amazon: false, google: false }, failSafeTimeout: 3e3, // 【注意】環境に合わせ�
該当のソースコード
python
1from bs4 import BeautifulSoup 2import requests 3import lxml.html 4url = 'https://cookpad.com/search/%E3%83%95%E3%82%A9%E3%83%BC?page=1&recipe_hit=1190.html' 5res = requests.get(url) 6res.raise_for_status() 7soup = BeautifulSoup(res.text, "html.parser") 8print(soup)
試したこと
html.parserではなく、lxmlを使用してみたり、requestsでtimeoutを設定してみましたが、変化ありませんでした。seleniumは処理が遅いので、BeautifulSoupを使用したいのですが、seleniumでないと実現不可能ですか?
補足情報(FW/ツールのバージョンなど)
Python 3.9.1
バッドをするには、ログインかつ
こちらの条件を満たす必要があります。
2021/02/19 02:44