PythonでGoogleログインをしたい

Question

実現したいこと

herokuのサーバ上でpythonプログラムによるスクレイピングを実行したいです。
chrome+chromedriver+seleniumによってgoogleログインを行い、情報を取得したいサイトへ画面遷移を行いたいです。
ローカルの環境では実行および、情報の取得はできています。
herokuで同じように実行するにはどうしたらいいでしょうか？

発生している問題

画面遷移の流れは、
①driver.get(url)でgoogleのメールアドレス入力画面
②googleのパスワード画面
③情報を取得したいページ
となっています。②から③へ遷移ができません。

URL情報について、driver.current_urlで取得すると、
①https://accounts.google.com/signin/oauth/identifier?client_id= ...
②https://accounts.google.com/signin/v2/challenge/pwd?client_id= ...
③情報を取得したいページ
となるはずですが、
②の後、
https://accounts.google.com/signin/v2/challenge/az?client_id= ...
というよくわからないURLへ遷移してしまいます。

該当のソースコード

import time
import requests
from selenium import webdriver
from selenium.webdriver.support.ui import WebDriverWait
from selenium.webdriver.support import expected_conditions as EC
from selenium.webdriver.common.by import By
from selenium.webdriver.common.keys import Keys 
from selenium.webdriver.chrome.options import Options

def main():
    # chromedriverのPATHを指定（Pythonファイルと同じフォルダの場合）
    driver_path = '/app/.chromedriver/bin/chromedriver'
    options = webdriver.ChromeOptions()
    options.add_argument('--headless')
    driver = webdriver.Chrome(options=options, executable_path=driver_path)
    
    # Googleログイン
    url = 'https://accounts.google.com/'
    driver.get(url)
    time.sleep(10)

    #ログイン情報
    login_id = #メールアドレス
    login_pw = #パスワード

    #メールアドレス入力
    el_id = driver.switch_to.active_element
    time.sleep(5)
    el_id.send_keys(login_id)
    time.sleep(5)
    el_id.send_keys(Keys.ENTER)
    time.sleep(15)

    #パスワード入力
    el_pw = driver.switch_to.active_element
    time.sleep(5)
    el_pw.send_keys(login_pw)
    time.sleep(5)
    el_pw.send_keys(Keys.ENTER)
    time.sleep(15)

    ### 情報取得　###
    # ...
    ### 情報取得後 ###
    time.sleep(1)
    # 終了
    driver.quit()
    
if __name__ == '__main__':
    
    main()

試したこと

現在、「情報をアクティブな場所に送る」という形をとっていますが、多くのサイトを参考にさせていただき、id指定、name指定、xpath指定等を行いましたが、同じ結果になりました。
例として、以下のようなコードです。

    ### IDを入力
    login_id_xpath = '//*[@id="identifierNext"]'
    # xpathの要素が見つかるまで待機します。
    WebDriverWait(driver, wait_time).until(EC.presence_of_element_located((By.XPATH, login_id_xpath)))
    driver.find_element_by_name("identifier").send_keys(login_id)
    driver.find_element_by_xpath(login_id_xpath).click()
    time.sleep(2)
    
    ### パスワードを入力
    login_pw_xpath = '//*[@id="passwordNext"]'
    # xpathの要素が見つかるまで待機します。
    WebDriverWait(driver, wait_time).until(EC.presence_of_element_located((By.XPATH, login_pw_xpath)))
    driver.find_element_by_name("password").send_keys(login_pw)
    time.sleep(1) # クリックされずに処理が終わるのを防ぐために追加。
    driver.find_element_by_xpath(login_pw_xpath).click()
    time.sleep(2)

driver.get(url)により、IDからパスワードまでを直リンクでとぶ、あるいはdriver.refresh()により、再読み込み等行いましたが意味がありませんでした。
time.sleep()の処理ですが、60秒以上指定しても効果ありませんでした。

補足情報

ローカル環境ですが、Windows10を使用しています。
VMによるUbuntuやコマンドプロンプト、git bash等で実行しましたが全てうまくいっています。試しにGCPでも試行錯誤しましたが、同様の結果でした。

なぜ「az」という場所に遷移してしまうのかだけでも構いませんので、教えていただけますでしょうか。

Answer 1

疑問の解決について

https://accounts.google.com/signin/v2/challenge/az?client_id= ... とうURLですが、不正アクセス防止用のページでした。herokuでchromedriverを使用すると、サーバーがアメリカにあり、毎度情報が消えるため、このURLへ誘導されるようです。herokuは無料の環境で実行していますが、端末情報がLinuxあるいは不明なデバイスと表示される場合もあります。

解決方法

ページ遷移時にスクリーンショットを撮るとともに、ソースコードを取得しました。
私の場合の認証方法ですが、表示されている番号と同じ番号を登録している携帯電話で選ぶタイプでした。認証されれば、driver.quit()されるまではgoogleログインが保持されます。

同じようなことを実現したい人の注意点

・Herokuはカレントディレクトリに、ファイル出力によるデータ保存ができない
・ログアウト時やスリープされる時に最後のコミット状態に戻ります
・アクセスしているサーバが異なる場合がある
・googleの認証(azのページ)は、失敗できる回数に制限がある
・もし、回数制限を超過すると、数時間認証できなくなります
・"time.sleep()"を上手く活用してください
・"heroku run bash"でログインし、スクリーンショットの保存、ソースコードの保存はログアウト時まで保持されるので、試してみてください