質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

ただいまの
回答率

87.48%

Python スクレイピング ヤフオクにて「次のページ推移」 できません

解決済

回答 1

投稿 編集

  • 評価
  • クリップ 0
  • VIEW 2,285

score 2

【現在していること】

PythonのBeautiful Soupを使ってスクレイピングをしています。
練習で「ヤフオク」からデータを抽出しようとしています。

【詰まっている箇所】

詰まっているところですが、「次の画面(2ページ目)」に推移ができません。
先に問題の箇所(コード)を記載します。

soup.find(class_="Pager__list Pager__list--next").find("a").get("href")
## https://auctions.yahoo.co.jp/search/search?p=dragon+ball+card&va=dragon+ball+card&exflg=1&b=51&n=50

【検証画面のスクショ】

イメージ説明

【スクショに写っているコード】

<li class="Pager__list Pager__list--next">
  <a class="Pager__link" href="https://auctions.yahoo.co.jp/search/search? 
  p=dragon+ball+card&va=dragon+ball+card&exflg=1&b=21&n=20&mode=2">次へ</a>
</li>


となっており2つのURLの違いは、

##こちらが正しい(検証画面)##
https://auctions.yahoo.co.jp/search/search?p=dragon+ball+card&va=dragon+ball+card&exflg=1&b=21&n=20&mode=2

##こちらが間違い(.find取得)##
https://auctions.yahoo.co.jp/search/search?p=dragon+ball+card&amp;va=dragon+ball+card&amp;exflg=1&amp;b=51&amp;n=50


となっています。

【pythonの全体コード】

pythonの全体コードを記載いたします。

import pandas as pd
import requests
from bs4 import BeautifulSoup as bs
import re
from fake_useragent import UserAgent

ua = UserAgent()
useragent = ua.random
# URLが入力されたらランダムレスポンスを返す
def get_html(url):
    headers = {"User-Agent":useragent}
    res = requests.get(url, headers = headers)
    return res

url = "https://auctions.yahoo.co.jp/search/search?auccat=&tab_ex=commerce&ei=utf-8&aq=-1&oq=&sc_i=&exflg=1&p=dragon+ball+card&x=38&y=34"

res = get_html(url)
soup = bs(res.content, "html.parser")
items = soup.find_all(class_="Product")

# 商品URLのリスト
url_list = [item.find(class_="Product__titleLink").get("href") for item in items]

# 商品リンクの取得
soup.find(class_="Pager__list Pager__list--next").find("a").get("href")


以上が現在の状況になります。

【試したこと】

①jupyter labの再起動
②chromeではなくEdgeでテスト
③解析ページが検索結果画面(1ページ)なので2ページからスタートして3ページを目指す
をテストしましたが、駄目でした。
URLを目視で見ていたらbs4のfindで抽出したURLには「;」←が多く入っていました。
ちなみに「;」のみ全て削除したURLでアクセスしてみましたがページ推移はできませんでした..

どなたかご教授願えませんでしょうか?
よろしくお願いいたします。


追記 2020/08/09-15:15

お返事ありがとうございます。

>>otn様
jupyter labにて
soup.find(class_="Pagerlist Pagerlist--next").find("a").get("href")
と入力すると下に実行結果が返ってきます。

イメージ説明

一応ですが、<test>という変数に代入してprint(test)で実行した結果もスクショ記載しておきます。(結果は変わりません..)
イメージ説明

>>autumn_nsn様
僕の環境でもres = soup.find(class_="Pagerlist Pagerlist--next").find("a").textを実行したら「次へ」という文字列が返ってきました..

autumn_nsn様の環境でうまくいっている場合、僕の環境でPythonとは関係ないところでなにかが邪魔しているのかもしれません。
コードの試行をしていただきありがとうございます。

https://www.youtube.com/watch?v=PRCLQgG0u4g&t=954s
こちらの動画を参考にしておりコードは全く同じでこの方は問題なく実行できています..

>>meg_様
利用規約やGoogleで検索してみましたが、
・スクレイピングでの自動出品
・ヤフーファイナンスの方では禁止
というところまで見つけれたのですが、ヤフーオークション内ではスクレイピングの禁止事項を見つけることはできませんでした。

  • 気になる質問をクリップする

    クリップした質問は、後からいつでもマイページで確認できます。

    またクリップした質問に回答があった際、通知やメールを受け取ることができます。

    クリップを取り消します

  • 良い質問の評価を上げる

    以下のような質問は評価を上げましょう

    • 質問内容が明確
    • 自分も答えを知りたい
    • 質問者以外のユーザにも役立つ

    評価が高い質問は、TOPページの「注目」タブのフィードに表示されやすくなります。

    質問の評価を上げたことを取り消します

  • 評価を下げられる数の上限に達しました

    評価を下げることができません

    • 1日5回まで評価を下げられます
    • 1日に1ユーザに対して2回まで評価を下げられます

    質問の評価を下げる

    teratailでは下記のような質問を「具体的に困っていることがない質問」、「サイトポリシーに違反する質問」と定義し、推奨していません。

    • プログラミングに関係のない質問
    • やってほしいことだけを記載した丸投げの質問
    • 問題・課題が含まれていない質問
    • 意図的に内容が抹消された質問
    • 過去に投稿した質問と同じ内容の質問
    • 広告と受け取られるような投稿

    評価が下がると、TOPページの「アクティブ」「注目」タブのフィードに表示されにくくなります。

    質問の評価を下げたことを取り消します

    この機能は開放されていません

    評価を下げる条件を満たしてません

    評価を下げる理由を選択してください

    詳細な説明はこちら

    上記に当てはまらず、質問内容が明確になっていない質問には「情報の追加・修正依頼」機能からコメントをしてください。

    質問の評価を下げる機能の利用条件

    この機能を利用するためには、以下の事項を行う必要があります。

質問への追記・修正、ベストアンサー選択の依頼

  • dameo

    2020/08/09 17:48

    https://support.google.com/webmasters/answer/6062608?hl=ja
    robots.txtの目的についてGoogleが言及している資料があります。

    「robots.txt ファイルは、クローラがどのページやファイルをサイトからリクエストできるか、またはできないかを検索エンジン クローラに知らせるものです。これは主に、サイトでのリクエストのオーバーロードを避けるために使用され、Google にウェブページが表示されないようにするためのメカニズムではありません。 Google にウェブページが表示されないようにするには、noindex ディレクティブを使用するか、ページをパスワードで保護する必要があります。
    ...
    robots.txt は、基本的にはクローラのサイトへのトラフィックを管理するために使用されますが、ファイルタイプに応じて Google でページを非表示にするために使用されることもよくあります」

    主に負荷や効率を考えてのものとGoogleは捉えているようですよ。

    キャンセル

  • Hi1992

    2020/08/09 19:03

    jupyter labではなく、通常のpyファイルで全く同じファイルを実行したところ
    成功しました。

    原因がわからないのですが、解決できたので良かったです!ありがとうございます。
    次回からハマった場合の試行パターンが増えたので勉強になります。

    スクレイピングは、サーバーに負荷がかかるとのことで頻繁にアクセスすることは避けて気をつけておきます。ご忠告ありがとうございました。

    キャンセル

  • otn

    2020/08/09 19:09

    > jupyter labではなく、通常のpyファイルで全く同じファイルを実行したところ成功しました。

    何らかのjupyter labの設定が残っているとかでしょうかね?

    「なんかおかしい」という場合は生の環境で実行してみましょう。

    キャンセル

回答 1

check解決した方法

0

自己解決ではないですが、「修正依頼」内で解決したためここに解決方法を記載します。

Jupyter labdではなく通常のpyファイルから実行したら無事に動作しました。
次回からハマった場合は一度pyファイルで実験する検証をしてみます。

ご回答くださった皆様、貴重なお時間を割いていただき感謝しております。
ありがとうございました。

投稿

  • 回答の評価を上げる

    以下のような回答は評価を上げましょう

    • 正しい回答
    • わかりやすい回答
    • ためになる回答

    評価が高い回答ほどページの上位に表示されます。

  • 回答の評価を下げる

    下記のような回答は推奨されていません。

    • 間違っている回答
    • 質問の回答になっていない投稿
    • スパムや攻撃的な表現を用いた投稿

    評価を下げる際はその理由を明確に伝え、適切な回答に修正してもらいましょう。

15分調べてもわからないことは、teratailで質問しよう!

  • ただいまの回答率 87.48%
  • 質問をまとめることで、思考を整理して素早く解決
  • テンプレート機能で、簡単に質問をまとめられる

関連した質問

同じタグがついた質問を見る