質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

新規登録して質問してみよう
ただいま回答率
87.20%
Beautiful Soup

Beautiful Soupは、Pythonのライブラリの一つ。スクレイピングに特化しています。HTMLデータの構文の解析を行うために、HTMLタグ/CSSのセレクタで抽出する部分を指定することが可能です。

Python 3.x

Python 3はPythonプログラミング言語の最新バージョンであり、2008年12月3日にリリースされました。

selenium

Selenium(セレニウム)は、ブラウザをプログラムで作動させるフレームワークです。この原理を使うことにより、ブラウザのユーザーテストなどを自動化にすることができます。

解決済

ページ内クリック後に変化したhtmlを入手したい

nef-bre
nef-bre

総合スコア1

Beautiful Soup

Beautiful Soupは、Pythonのライブラリの一つ。スクレイピングに特化しています。HTMLデータの構文の解析を行うために、HTMLタグ/CSSのセレクタで抽出する部分を指定することが可能です。

Python 3.x

Python 3はPythonプログラミング言語の最新バージョンであり、2008年12月3日にリリースされました。

selenium

Selenium(セレニウム)は、ブラウザをプログラムで作動させるフレームワークです。この原理を使うことにより、ブラウザのユーザーテストなどを自動化にすることができます。

1回答

0評価

0クリップ

155閲覧

投稿2022/06/17 01:16

編集2022/07/08 12:11

seleniumとBeautifulSoupを使って、Yahooニュースでスクレイピングをしようとしています。
seleniumでchromeから自動検索して検索結果のページのソースを回収したいと思っているのですが、
ページ下部の「もっと見る」をクリックして記事の表示数が増えた後のソースを入手しようとしても、クリック前と同じソースしか手に入れることができません。
URLがクリック前と後で変わらないので、それが原因のひとつかなとは思っています。
これの解決方法はありますでしょうか?
回答よろしくお願いいたします。

※BeautifulSoupで解析したいので、それが可能な方法だと嬉しいです。

使用しているコードは下記の通りです。(初心者が1 から書いているので見にくいかもしれません)

python

from selenium import webdriver from selenium.webdriver.common.by import By from selenium.webdriver.chrome import service as fs from bs4 import BeautifulSoup import requests from time import sleep topic = input() chrome_service = fs.Service(executable_path='ファイルパス') driver = webdriver.Chrome(service=chrome_service) driver.get('https://news.yahoo.co.jp') form = driver.find_element(By.XPATH,'//*[@id="searchBoxWrap-header"]/form/div/div/div[1]/input[1]') form.send_keys(topic) form.submit() element = driver.find_element(By.XPATH,'//*[@id="contentsWrap"]/div/div[2]/div/div/span/button') element.click() sleep(3) top_url = driver.current_url top_responce = requests.get(top_url) top_soup = BeautifulSoup(top_responce.text, 'html.parser') type(top_soup)

良い質問の評価を上げる

以下のような質問は評価を上げましょう

  • 質問内容が明確
  • 自分も答えを知りたい
  • 質問者以外のユーザにも役立つ

評価が高い質問は、TOPページの「注目」タブのフィードに表示されやすくなります。

気になる質問をクリップする

クリップした質問は、後からいつでもマイページで確認できます。

またクリップした質問に回答があった際、通知やメールを受け取ることができます。

teratailでは下記のような質問を「具体的に困っていることがない質問」、「サイトポリシーに違反する質問」と定義し、推奨していません。

  • プログラミングに関係のない質問
  • やってほしいことだけを記載した丸投げの質問
  • 問題・課題が含まれていない質問
  • 意図的に内容が抹消された質問
  • 過去に投稿した質問と同じ内容の質問
  • 広告と受け取られるような投稿

評価を下げると、トップページの「アクティブ」「注目」タブのフィードに表示されにくくなります。

まだ回答がついていません

会員登録して回答してみよう

15分調べてもわからないことは
teratailで質問しよう!

ただいまの回答率
87.20%

質問をまとめることで
思考を整理して素早く解決

テンプレート機能で
簡単に質問をまとめる

質問する

関連した質問

同じタグがついた質問を見る

Beautiful Soup

Beautiful Soupは、Pythonのライブラリの一つ。スクレイピングに特化しています。HTMLデータの構文の解析を行うために、HTMLタグ/CSSのセレクタで抽出する部分を指定することが可能です。

Python 3.x

Python 3はPythonプログラミング言語の最新バージョンであり、2008年12月3日にリリースされました。

selenium

Selenium(セレニウム)は、ブラウザをプログラムで作動させるフレームワークです。この原理を使うことにより、ブラウザのユーザーテストなどを自動化にすることができます。