質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

新規登録して質問してみよう
ただいま回答率
85.48%
Python 3.x

Python 3はPythonプログラミング言語の最新バージョンであり、2008年12月3日にリリースされました。

Q&A

解決済

1回答

416閲覧

スクレイピングで次のページに移動できません

ke-zo

総合スコア1

Python 3.x

Python 3はPythonプログラミング言語の最新バージョンであり、2008年12月3日にリリースされました。

0グッド

0クリップ

投稿2022/08/07 06:26

前提

BeautifulSoupを使ってスクレイピングをしているのですが「index」のページなら次のページに移動できるのですが「?page{}」だと移動できません。

実現したいこと

次ページに移動してコメント部分をスクレイピングしたいのです。

発生している問題・エラーメッセージ

スクレイピングしても1page目のコメントだけで2page目に移動して取得してくれません。
エラーメッセージ

### 該当のソースコード import requests from bs4 import BeautifulSoup from pathlib import Path from urllib.parse import urljoin import time url = ('https://greenfunding.jp/focal/projects/5541/comments/') for i in range(1,3): if i == 1: page_url = url else: page_url = urljoin(url,f'?page{i}.html') res = requests.get(page_url) soup = BeautifulSoup(res.text,'html.parser') kutikomis = soup.select('div.comment-container > div.comment-content') for kutikomi in kutikomis: print(f'{i}ページ目',kutikomi.text) time.sleep(1) ### 試したこと ここに問題に対して試したことを記載してください。 ### 補足情報(FW/ツールのバージョンなど) seleniumはつかっていません。 ここにより詳細な情報を記載してください。

気になる質問をクリップする

クリップした質問は、後からいつでもMYページで確認できます。

またクリップした質問に回答があった際、通知やメールを受け取ることができます。

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

guest

回答1

0

ベストアンサー

python

1# page_url = urljoin(url,f'?page{i}.html') 2page_url = urljoin(url,f'?page={i}')

投稿2022/08/07 07:10

melian

総合スコア19703

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

ke-zo

2022/08/07 07:29

本当にありがとうございました。 勉強になりました。
guest

あなたの回答

tips

太字

斜体

打ち消し線

見出し

引用テキストの挿入

コードの挿入

リンクの挿入

リストの挿入

番号リストの挿入

表の挿入

水平線の挿入

プレビュー

15分調べてもわからないことは
teratailで質問しよう!

ただいまの回答率
85.48%

質問をまとめることで
思考を整理して素早く解決

テンプレート機能で
簡単に質問をまとめる

質問する

関連した質問