質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

新規登録して質問してみよう
ただいま回答率
85.39%
Beautiful Soup

Beautiful Soupは、Pythonのライブラリの一つ。スクレイピングに特化しています。HTMLデータの構文の解析を行うために、HTMLタグ/CSSのセレクタで抽出する部分を指定することが可能です。

selenium

Selenium(セレニウム)は、ブラウザをプログラムで作動させるフレームワークです。この原理を使うことにより、ブラウザのユーザーテストなどを自動化にすることができます。

Q&A

0回答

1146閲覧

seleniumでログイン後にbeautiful soupへセッションやcookie情報の引き継ぎ方

zakiyama

総合スコア0

Beautiful Soup

Beautiful Soupは、Pythonのライブラリの一つ。スクレイピングに特化しています。HTMLデータの構文の解析を行うために、HTMLタグ/CSSのセレクタで抽出する部分を指定することが可能です。

selenium

Selenium(セレニウム)は、ブラウザをプログラムで作動させるフレームワークです。この原理を使うことにより、ブラウザのユーザーテストなどを自動化にすることができます。

0グッド

0クリップ

投稿2020/06/19 09:28

Python 3.6.9 Selenium 3.141.0 ChromeDriver 77.0.3865.40

前提・実現したいこと

pythonとseleniumでログイン後にそのログイン状態のままbeautiful soupを使って
スクレイピングしたい。
(seleniumで書き直すことも可能なのですがbeautiful soupで書いた膨大な量のコードがあるため)

まず以下のようにログインしました

url = "スクレイピングするサイトurl" driver.get(url) id_input = driver.find_element_by_css_selector("id入力場所") password_input = driver.find_element_by_css_selector("パスワード入力場所") id.send_keys("自分のid") password.send_keys("パスワード")

試したこと

ログインした状態のままbeautiful soupのオブジェクトを作成しスクレイピングしたいと考えています。

soup = BeautifulSoup(requests.get(url).content,'html.parser')

requestのところでcookiesをオプションで指定できるため

requests.get(url, cookies=cookies)

driver.get_cookies()で取得してオプションに指定すればいいと考えましたが
エラーになりました。

参考
requestのcookie

初心者のためcookieやsessionについてまだ勉強不足です。
ほかにsessionやpickleを使う方法など色々な情報がありどれを使えばよいか分からなかったため
ご教授いただければ幸いです。

気になる質問をクリップする

クリップした質問は、後からいつでもMYページで確認できます。

またクリップした質問に回答があった際、通知やメールを受け取ることができます。

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

CHERRY

2020/06/19 22:29

どのようなエラーになったのでしょうか?
guest

あなたの回答

tips

太字

斜体

打ち消し線

見出し

引用テキストの挿入

コードの挿入

リンクの挿入

リストの挿入

番号リストの挿入

表の挿入

水平線の挿入

プレビュー

まだ回答がついていません

会員登録して回答してみよう

アカウントをお持ちの方は

15分調べてもわからないことは
teratailで質問しよう!

ただいまの回答率
85.39%

質問をまとめることで
思考を整理して素早く解決

テンプレート機能で
簡単に質問をまとめる

質問する

関連した質問