質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

ただいまの
回答率

88.57%

pythonのスクレイピング(google検索結果のディスクリプションの抽出)

解決済

回答 1

投稿

  • 評価
  • クリップ 0
  • VIEW 211

Dantesu

score 3

前提・実現したいこと

pythonでgoogle検索結果(タイトル・リンク・ディスクリプション)を自動抽出したいです。
調べながら、タイトルとリンクはそれぞれ別ファイルに保存する形で抽出できるようになりましたが、titleタグのディスクリプションがどうしても抽出できません。
span で結合されていて、どのように指定したらいいかもわかりません。

該当のソースコード

import time                                 # スリープを使うために必要
from selenium import webdriver            # Webブラウザを自動操作する(python -m pip install selenium)
import chromedriver_binary                  # パスを通すためのコード
driver = webdriver.Chrome()                 # Chromeを準備# サンプルのHTMLを開く
driver.get('https://www.google.com/')       # Googleを開く
search = driver.find_element_by_name('q')   # HTML内で検索ボックス(name='q')を指定する
search.send_keys('がん 検査')             # 検索ワード:例 がん 検査を送信する
search.submit()                             # 検索を実行
time.sleep(3)                               # 3秒間待機

def ranking(driver):
    i = 1               # ループ番号、ページ番号を定義
    i_max = 22           # 仮に最大22ページまで分析すると定義
    title_list = []     # タイトルを格納する空リストを用意
    link_list = []      # URLを格納する空リストを用意 # 現在のページが指定した最大分析ページを超えるまでループする
    while i <= i_max: 
        class_group = driver.find_elements_by_class_name('yuRUbf') # タイトルとリンクはclass="yuRUbf"に入っている

        for elem in class_group: # タイトルとリンクを抽出しリストに追加するforループ
            title_list.append(elem.find_element_by_class_name('LC20lb').text)           #タイトル(class="LC20lb")
            link_list.append(elem.find_element_by_tag_name('a').get_attribute('href'))  #リンク(aタグのhref属性) # 「次へ」は1つしかないが、あえてelementsで複数検索。空のリストであれば最終ページの意味になる。
        if driver.find_elements_by_id('pnnext') == []:
            i = i_max + 1
        else: # 次ページのURLはid="pnnext"のhref属性
            next_page = driver.find_element_by_id('pnnext').get_attribute('href')
            driver.get(next_page)   # 次ページへ遷移する
            i = i + 1               # iを更新
            time.sleep(3)           # 3秒間待機
    return title_list, link_list    # タイトルとリンクのリストを戻り値に指定

title, link = ranking(driver)   # ranking関数を実行してタイトルとURLリストを取得する

with open('title.txt', mode='w', encoding='utf-8') as f:
    f.write("\n".join(title))
with open('link.txt', mode='w', encoding='utf-8') as f:
    f.write("\n".join(link))

driver.quit()                               # ブラウザを閉じる

試したこと

・タイトル・リンクと同様に”ディスクリプションを入れる空リスト”を作成
・タイトルとリンクの空リストにappendした後の行に
class_group2 = driver.find_elements_by_class_name('aCOpRe')と挿入し、抽出したいディスクリプションの箇所を指定
⇒但し、そのクラスの中でさらに抽出したい個所がspan emで複数結合されていてできません。

補足情報(FW/ツールのバージョンなど)

google クロム83 
クロムdriverも同じ83です

  • 気になる質問をクリップする

    クリップした質問は、後からいつでもマイページで確認できます。

    またクリップした質問に回答があった際、通知やメールを受け取ることができます。

    クリップを取り消します

  • 良い質問の評価を上げる

    以下のような質問は評価を上げましょう

    • 質問内容が明確
    • 自分も答えを知りたい
    • 質問者以外のユーザにも役立つ

    評価が高い質問は、TOPページの「注目」タブのフィードに表示されやすくなります。

    質問の評価を上げたことを取り消します

  • 評価を下げられる数の上限に達しました

    評価を下げることができません

    • 1日5回まで評価を下げられます
    • 1日に1ユーザに対して2回まで評価を下げられます

    質問の評価を下げる

    teratailでは下記のような質問を「具体的に困っていることがない質問」、「サイトポリシーに違反する質問」と定義し、推奨していません。

    • プログラミングに関係のない質問
    • やってほしいことだけを記載した丸投げの質問
    • 問題・課題が含まれていない質問
    • 意図的に内容が抹消された質問
    • 過去に投稿した質問と同じ内容の質問
    • 広告と受け取られるような投稿

    評価が下がると、TOPページの「アクティブ」「注目」タブのフィードに表示されにくくなります。

    質問の評価を下げたことを取り消します

    この機能は開放されていません

    評価を下げる条件を満たしてません

    評価を下げる理由を選択してください

    詳細な説明はこちら

    上記に当てはまらず、質問内容が明確になっていない質問には「情報の追加・修正依頼」機能からコメントをしてください。

    質問の評価を下げる機能の利用条件

    この機能を利用するためには、以下の事項を行う必要があります。

質問への追記・修正、ベストアンサー選択の依頼

  • meg_

    2020/10/05 21:43

    googleは規約でスクレイピング禁止されているはずですが確認されましたか?

    キャンセル

  • Dantesu

    2020/10/06 13:52

    先程確認しました。

    キャンセル

回答 1

checkベストアンサー

0

規約に違反している内容ではありますが
対象の取得と、テキストの取得は以下で可能です。
for elem in class_group:のfor文が抜けた際に実行する事で取得が可能だと思います。

        discription = driver.find_elements_by_class_name('aCOpRe')
        for dis in discription:
            discription_list.append(dis.text)

投稿

  • 回答の評価を上げる

    以下のような回答は評価を上げましょう

    • 正しい回答
    • わかりやすい回答
    • ためになる回答

    評価が高い回答ほどページの上位に表示されます。

  • 回答の評価を下げる

    下記のような回答は推奨されていません。

    • 間違っている回答
    • 質問の回答になっていない投稿
    • スパムや攻撃的な表現を用いた投稿

    評価を下げる際はその理由を明確に伝え、適切な回答に修正してもらいましょう。

  • 2020/10/06 21:09 編集

    ありがとうございます!何ヶ月もここでハマってしまいました。規約違反と理解しましたので活用は控えますが、スッキリしました。

    キャンセル

  • 2020/10/06 21:37

    スクレイピングの観点としては規約の違反となってしまう為推奨できる事ではありませんが、プログラミングの観点としては数ヶ月もの間ここで頭を抱えてしまうのは問題である為この様に質問として投稿してみたりその他の手段を考えるなどしたほうが良いかもしれませんね。

    キャンセル

15分調べてもわからないことは、teratailで質問しよう!

  • ただいまの回答率 88.57%
  • 質問をまとめることで、思考を整理して素早く解決
  • テンプレート機能で、簡単に質問をまとめられる

関連した質問

同じタグがついた質問を見る