質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

新規登録して質問してみよう
ただいま回答率
85.50%
スクレイピング

スクレイピングとは、公開されているWebサイトからページ内の情報を抽出する技術です。

Ruby

Rubyはプログラミング言語のひとつで、オープンソース、オブジェクト指向のプログラミング開発に対応しています。

Webサイト

一つのドメイン上に存在するWebページの集合体をWebサイトと呼びます。

selenium

Selenium(セレニウム)は、ブラウザをプログラムで作動させるフレームワークです。この原理を使うことにより、ブラウザのユーザーテストなどを自動化にすることができます。

Q&A

1回答

2278閲覧

Seleniumを用いて全要素を表示する

tonton333

総合スコア19

スクレイピング

スクレイピングとは、公開されているWebサイトからページ内の情報を抽出する技術です。

Ruby

Rubyはプログラミング言語のひとつで、オープンソース、オブジェクト指向のプログラミング開発に対応しています。

Webサイト

一つのドメイン上に存在するWebページの集合体をWebサイトと呼びます。

selenium

Selenium(セレニウム)は、ブラウザをプログラムで作動させるフレームワークです。この原理を使うことにより、ブラウザのユーザーテストなどを自動化にすることができます。

0グッド

0クリップ

投稿2019/12/15 11:14

編集2022/01/12 10:55

Amazonのコンテンツと内容ページの全要素を取得しようとしていて詰まったので質問させて頂きます
以下の関数を使ってAmazonを下にスクロールし,HTMLから本のデータを取得

「もっと表示」ボタンを押してすべて取得するまで繰り返ししようとしているのですが
「もっと表示」ボタンが見つからないと出てエラーになります
@driver.page_sourceを保存してHTMLを表示すると"contentTable_showMore_myx "はあるのですがなぜスクリプトから探すとエラーが発生するのでしょうか?

よろしくお願いします

追記:
エラーが発生するのは
element = @driver.find_element(:id,"contentTable_showMore_myx ")です
どこで詰まってるのか調べるためにあえてbeginから外しています
HTMLは長すぎて張はれないですが以下のページです
https://www.amazon.co.jp/hz/mycd/myx?ie=UTF8&openid.identity=https%3A%2F%2Fwww.amazon.co.jp%2Fap%2Fid%2Famzn1.account.AGL4O3NQKSEFFJ64ZRPPXK3J3VPQ&openid.op_endpoint=https%3A%2F%2Fwww.amazon.co.jp%2Fap%2Fsignin&openid.pape.auth_time=2019-12-16T12%3A45%3A26Z&openid.signed=assoc_handle%2Cclaimed_id%2Cidentity%2Cmode%2Cns%2Cop_endpoint%2Cresponse_nonce%2Creturn_to%2Cns.pape%2Cpape.auth_policies%2Cpape.auth_time%2Csigned&openid.return_to=https%3A%2F%2Fwww.amazon.co.jp%2Fmn%2Fdcw%2Fmyx.html%2Fref%3Dkinw_myk_redirect&openid.assoc_handle=jpamazon&serial=&openid.mode=id_res&openid.ns.pape=http%3A%2F%2Fspecs.openid.net%2Fextensions%2Fpape%2F1.0&openid.pape.auth_policies=http%3A%2F%2Fschemas.openid.net%2Fpape%2Fpolicies%2F2007%2F06%2Fnone&openid.sig=CxxhN3fbcGW5Xr1fJRdlAuqlEur3iPtVp9fo4hJwvwk%3D&openid.claimed_id=https%3A%2F%2Fwww.amazon.co.jp%2Fap%2Fid%2Famzn1.account.AGL4O3NQKSEFFJ64ZRPPXK3J3VPQ&openid.response_nonce=2019-12-16T12%3A45%3A26Z-8094027330535764390&openid.ns=http%3A%2F%2Fspecs.openid.net%2Fauth%2F2.0#/home/content/booksAll/dateDsc/

ruby

1 def get_book_list() 2 pre = -1 3 list = [] 4 @driver.execute_script("window.scrollTo(0, document.body.scrollHeight);") 5 sleep(8) 6 #本のリストが増えなくなるまで下にスクロール 7 while (pre != list.length)do 8 pre = list.length 9 if(pre == COUNT_MAX)then 10 break 11 end 12 @driver.execute_script("window.scrollTo(0, document.body.scrollHeight);") 13 sleep(5) 14 #htmlを取得,本のリスト化 15 list = book_get Nokogiri::HTML @driver.page_source 16 end 17 #コンテンツを表示できるならもっと表示ボタンをクリック 18 if display_next then 19 list = list + get_book_list 20 end 21 return list 22 end 23 24 def display_next() 25 element = @driver.find_element(:id,"contentTable_showMore_myx ") 26 element.location_once_scrolled_into_view 27 element.click 28 begin 29 return true 30 rescue 31 return false 32 end 33 end

気になる質問をクリップする

クリップした質問は、後からいつでもMYページで確認できます。

またクリップした質問に回答があった際、通知やメールを受け取ることができます。

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

otn

2019/12/15 15:47

タグが間違っています。Ruby→Python
tonton333

2019/12/16 08:47

rubyでやってます 文章中のタグの方が間違ってますねすみません
guest

回答1

0

if display_next then、の前にtime.sleepを入れても同じでしょうか?

投稿2019/12/15 14:27

john_doe_

総合スコア354

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

tonton333

2019/12/16 12:47

動作しないですね... while文の中にもWaitはあるし取得したpage_sourceにもボタンがあるのでなぜ動作しないのか見当もつかないです
guest

あなたの回答

tips

太字

斜体

打ち消し線

見出し

引用テキストの挿入

コードの挿入

リンクの挿入

リストの挿入

番号リストの挿入

表の挿入

水平線の挿入

プレビュー

まだベストアンサーが選ばれていません

会員登録して回答してみよう

アカウントをお持ちの方は

15分調べてもわからないことは
teratailで質問しよう!

ただいまの回答率
85.50%

質問をまとめることで
思考を整理して素早く解決

テンプレート機能で
簡単に質問をまとめる

質問する

関連した質問