質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

新規登録して質問してみよう
ただいま回答率
85.48%
スクレイピング

スクレイピングとは、公開されているWebサイトからページ内の情報を抽出する技術です。

Python

Pythonは、コードの読みやすさが特徴的なプログラミング言語の1つです。 強い型付け、動的型付けに対応しており、後方互換性がないバージョン2系とバージョン3系が使用されています。 商用製品の開発にも無料で使用でき、OSだけでなく仮想環境にも対応。Unicodeによる文字列操作をサポートしているため、日本語処理も標準で可能です。

Q&A

解決済

1回答

3000閲覧

Python スクレイピングにおけるtime.sleepを記述する場所

jissin12

総合スコア6

スクレイピング

スクレイピングとは、公開されているWebサイトからページ内の情報を抽出する技術です。

Python

Pythonは、コードの読みやすさが特徴的なプログラミング言語の1つです。 強い型付け、動的型付けに対応しており、後方互換性がないバージョン2系とバージョン3系が使用されています。 商用製品の開発にも無料で使用でき、OSだけでなく仮想環境にも対応。Unicodeによる文字列操作をサポートしているため、日本語処理も標準で可能です。

0グッド

0クリップ

投稿2020/11/01 13:17

Python スクレイピングにおけるtime.sleepを記述する場所

お世話になっております。

表題の件ですが、スクレイピング学習中に疑問に思いました。
相手サーバー様に迷惑をかけないよう、1秒開けるコード(time.sleep)を入れようとしているのですが、
どの部分に入れれば良いのか迷っております。

①~⑤のどの部分に対して書くべきか、ご教示頂けないでしょうか。
お手数ですが、宜しくお願い致します。

該当のソースコード

Python

1import time 2from bs4 import BeautifulSoup 3from selenium import webdriver 4 5dr = webdriver.Chrome() 6 7# ①Webページを取得 8dr.get("http://-------------") 9 10# ②日付指定をして、検索ボタンを押す 11from_day = dr.find_element_by_xpath("path1") 12from_day.click() 13to_day = dr.find_element_by_xpath("path2") 14to_day.click() 15sb_btn = dr.find_element_by_xpath("path3") 16sb_btn.click() 17 18# ③表示されたWebページを解析する 19dr_page = dr.page_source 20dr_sp_data = BeautifulSoup(dr_page,"html.parser") 21 22# ④保存用のファイルを作る 23timestr = time.strftime("%Y%m%d") 24new_file = "./dr_file_" + timestr + ".csv" 25 26# ⑤解析したWebページのaタグを書き込む 27with open(new_file,"w",encoding="utf_8_sig") as nf: 28 for dr_a in dr_sp_data.find_all("a"): 29 nf.write(dr_a) 30 31dr.quit

補足情報(FW/ツールのバージョンなど)

Python 3.8.5

気になる質問をクリップする

クリップした質問は、後からいつでもMYページで確認できます。

またクリップした質問に回答があった際、通知やメールを受け取ることができます。

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

guest

回答1

0

ベストアンサー

ページ遷移の直後(直前でもいいですが)に置けば良いと思います。
もしくは、クリックなどすべてのアクションの後(クリックでアクセスが発生する可能性もあるので)。

1秒で十分かはサイトに依るでしょうね。

投稿2020/11/01 13:44

otn

総合スコア84499

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

jissin12

2020/11/01 14:09

有難う御座います!
guest

あなたの回答

tips

太字

斜体

打ち消し線

見出し

引用テキストの挿入

コードの挿入

リンクの挿入

リストの挿入

番号リストの挿入

表の挿入

水平線の挿入

プレビュー

15分調べてもわからないことは
teratailで質問しよう!

ただいまの回答率
85.48%

質問をまとめることで
思考を整理して素早く解決

テンプレート機能で
簡単に質問をまとめる

質問する

関連した質問