質問編集履歴
3
最終的な目的を追記
test
CHANGED
|
File without changes
|
test
CHANGED
|
@@ -69,3 +69,11 @@
|
|
|
69
69
|
```
|
|
70
70
|
|
|
71
71
|
あとは、変数driverに入っているHTML情報を元にSeleniumを動かす、もしくは、beautifulSOUPを取得して動かす、といういうふうにしたいのですが、URLが変更されないため、遷移後のHTMLを上書きしたりできず、スクレイピングできずにいます。
|
|
72
|
+
|
|
73
|
+
|
|
74
|
+
|
|
75
|
+
|
|
76
|
+
|
|
77
|
+
【最終目的】
|
|
78
|
+
|
|
79
|
+
最終的にやりたいことは、検索結果に出てくる商品それぞれのURLを取得して、ここのページで、更に詳しい商品情報を取得することです。
|
2
コードを追記
test
CHANGED
|
File without changes
|
test
CHANGED
|
@@ -17,3 +17,55 @@
|
|
|
17
17
|
|
|
18
18
|
|
|
19
19
|
Selenium、Pythonの組み合わせで、postで表示が変わるサイトでのスクレイピングをする方法はございますでしょうか。
|
|
20
|
+
|
|
21
|
+
|
|
22
|
+
|
|
23
|
+
コードを追記します。
|
|
24
|
+
|
|
25
|
+
```Python
|
|
26
|
+
|
|
27
|
+
# coding:utf-8
|
|
28
|
+
|
|
29
|
+
from selenium import webdriver
|
|
30
|
+
|
|
31
|
+
from selenium.webdriver.common.keys import Keys
|
|
32
|
+
|
|
33
|
+
import requests
|
|
34
|
+
|
|
35
|
+
from bs4 import BeautifulSoup
|
|
36
|
+
|
|
37
|
+
|
|
38
|
+
|
|
39
|
+
# アクセスするURL
|
|
40
|
+
|
|
41
|
+
url = "https://jumpcs.shueisha.co.jp/CGI/jumpcs/shop/search.cgi"
|
|
42
|
+
|
|
43
|
+
driver = webdriver.Chrome()
|
|
44
|
+
|
|
45
|
+
driver.get(url)
|
|
46
|
+
|
|
47
|
+
|
|
48
|
+
|
|
49
|
+
# 検索ワード
|
|
50
|
+
|
|
51
|
+
search = "ONE PIECE"
|
|
52
|
+
|
|
53
|
+
driver.find_element_by_id("poplinkPC01").send_keys(search)
|
|
54
|
+
|
|
55
|
+
element = driver.find_element_by_id("poplinkPC01")
|
|
56
|
+
|
|
57
|
+
element.send_keys(Keys.ENTER)
|
|
58
|
+
|
|
59
|
+
|
|
60
|
+
|
|
61
|
+
# 検索対象を在庫ありの商品→全ての商品に変更
|
|
62
|
+
|
|
63
|
+
driver.execute_script('document.getElementsByName("stock")[0].value = "off"')
|
|
64
|
+
|
|
65
|
+
driver.execute_script('document.getElementsByName("stock")[0].onchange(this.form)')
|
|
66
|
+
|
|
67
|
+
|
|
68
|
+
|
|
69
|
+
```
|
|
70
|
+
|
|
71
|
+
あとは、変数driverに入っているHTML情報を元にSeleniumを動かす、もしくは、beautifulSOUPを取得して動かす、といういうふうにしたいのですが、URLが変更されないため、遷移後のHTMLを上書きしたりできず、スクレイピングできずにいます。
|
1
わかりにくい表現の修正
test
CHANGED
|
File without changes
|
test
CHANGED
|
@@ -12,7 +12,7 @@
|
|
|
12
12
|
|
|
13
13
|
遷移後のページでHTMLを .get(url) で取得しなおすことができません。
|
|
14
14
|
|
|
15
|
-
URLが変わらないので
|
|
15
|
+
URLが変わらないので取得ができないです。
|
|
16
16
|
|
|
17
17
|
|
|
18
18
|
|