pythonのスクレイピング（google検索結果のディスクリプションの抽出）

Question

前提・実現したいこと

pythonでgoogle検索結果（タイトル・リンク・ディスクリプション）を自動抽出したいです。
調べながら、タイトルとリンクはそれぞれ別ファイルに保存する形で抽出できるようになりましたが、titleタグのディスクリプションがどうしても抽出できません。
span で結合されていて、どのように指定したらいいかもわかりません。

該当のソースコード

import time                                 # スリープを使うために必要
from selenium import webdriver            # Webブラウザを自動操作する（python -m pip install selenium)
import chromedriver_binary                  # パスを通すためのコード
driver = webdriver.Chrome()                 # Chromeを準備# サンプルのHTMLを開く
driver.get('https://www.google.com/')       # Googleを開く
search = driver.find_element_by_name('q')   # HTML内で検索ボックス(name='q')を指定する
search.send_keys('がん　検査')            　# 検索ワード：例　がん　検査を送信する
search.submit()                             # 検索を実行
time.sleep(3)                               # 3秒間待機

def ranking(driver):
    i = 1               # ループ番号、ページ番号を定義
    i_max = 22           # 仮に最大22ページまで分析すると定義
    title_list = []     # タイトルを格納する空リストを用意
    link_list = []      # URLを格納する空リストを用意　# 現在のページが指定した最大分析ページを超えるまでループする
    while i <= i_max:　
        class_group = driver.find_elements_by_class_name('yuRUbf')　# タイトルとリンクはclass="yuRUbf"に入っている
        
        for elem in class_group:　# タイトルとリンクを抽出しリストに追加するforループ
            title_list.append(elem.find_element_by_class_name('LC20lb').text)           #タイトル(class="LC20lb")
            link_list.append(elem.find_element_by_tag_name('a').get_attribute('href'))  #リンク(aタグのhref属性)　# 「次へ」は1つしかないが、あえてelementsで複数検索。空のリストであれば最終ページの意味になる。
        if driver.find_elements_by_id('pnnext') == []:
            i = i_max + 1
        else:　# 次ページのURLはid="pnnext"のhref属性
            next_page = driver.find_element_by_id('pnnext').get_attribute('href')
            driver.get(next_page)   # 次ページへ遷移する
            i = i + 1               # iを更新
            time.sleep(3)           # 3秒間待機
    return title_list, link_list    # タイトルとリンクのリストを戻り値に指定

title, link = ranking(driver)　　　# ranking関数を実行してタイトルとURLリストを取得する

with open('title.txt', mode='w', encoding='utf-8') as f:
    f.write("\n".join(title))
with open('link.txt', mode='w', encoding='utf-8') as f:
    f.write("\n".join(link))

driver.quit()                               # ブラウザを閉じる

試したこと

・タイトル・リンクと同様に”ディスクリプションを入れる空リスト”を作成
・タイトルとリンクの空リストにappendした後の行に
class_group2 = driver.find_elements_by_class_name('aCOpRe')と挿入し、抽出したいディスクリプションの箇所を指定
⇒但し、そのクラスの中でさらに抽出したい個所がspan　emで複数結合されていてできません。

補足情報（FW/ツールのバージョンなど）

google クロム83
クロムdriverも同じ83です

Comments

[meg_]

googleは規約でスクレイピング禁止されているはずですが確認されましたか？

[Dantesu]

先程確認しました。

Answer 1

規約に違反している内容ではありますが
対象の取得と、テキストの取得は以下で可能です。
for elem in class_group:のfor文が抜けた際に実行する事で取得が可能だと思います。

		discription = driver.find_elements_by_class_name('aCOpRe')
		for dis in discription:
			discription_list.append(dis.text)

Comments

[Dantesu]

ありがとうございます！何ヶ月もここでハマってしまいました。規約違反と理解しましたので活用は控えますが、スッキリしました。

[nto]

スクレイピングの観点としては規約の違反となってしまう為推奨できる事ではありませんが、プログラミングの観点としては数ヶ月もの間ここで頭を抱えてしまうのは問題である為この様に質問として投稿してみたりその他の手段を考えるなどしたほうが良いかもしれませんね。