スクレイピングの結果をpandasで表示できない列があります

Question

いつもお世話になっております。
よろしくお願いいたします。

やりたいこと

スクレイピングの練習として、python3,pandas,seleniumの組み合わせで三つのショッピングサイトに同時で検索をかけて、結果を表示させたいと考えています。

行き詰っているところ

①サイトのアドレス　②商品名　③価格をpandasで表示しようとしているのですが、2番目の列が表示されません。

from selenium import webdriver
import pandas as pd

browser = webdriver.Chrome()
word = "iphone 11 pro"
urls = []
items = []
prices = []

# amazon
url = "http://www.amazon.co.jp"
browser.get(url)
input_box = browser.find_element_by_id("twotabsearchtextbox")
input_box.send_keys(word)
search_btn = browser.find_element_by_class_name("nav-input")
search_btn.click()
item = browser.find_element_by_class_name("a-size-base-plus").text
if browser.find_element_by_class_name("a-price-whole"):
    price = browser.find_element_by_class_name("a-price-whole").text
elif browser.find_element_by_class_name("a-color-price"):
    price = browser.find_element_by_class_name("a-color-price").text
urls.append(url)
items.append(item)
prices.append(price)

# 楽天
url = "https://www.rakuten.co.jp/"
browser.execute_script("window.open('','_blank');")
browser.switch_to.window(browser.window_handles[1])
browser.get(url)
input_box = browser.find_element_by_id("sitem")
input_box.send_keys(word)
search_btn = browser.find_element_by_id("searchBtn")
search_btn.click()

item_data = browser.find_element_by_class_name("dui-card")
item_h2 = item_data.find_element_by_tag_name("h2")
item = item_h2.find_element_by_tag_name("a").text
#price = item_data.find_element_by_class_name("content")
price = item_data.find_element_by_class_name("important").text
urls.append(url)
items.append(item)
prices.append(price)

# ヨドバシ
url = "https://www.yodobashi.com/"
browser.execute_script("window.open('','_blank');")
browser.switch_to.window(browser.window_handles[2])
browser.get(url)
input_box = browser.find_element_by_id("getJsonData")
input_box.send_keys(word)
search_btn = browser.find_element_by_id("js_keywordSearchBtn")
search_btn.click()

item_data = browser.find_element_by_class_name("pListBlock")
item = item_data.find_elements_by_tag_name("p")[1].text
price = item_data.find_element_by_class_name("productPrice").text
urls.append(url)
items.append(item)
prices.append(price)

#pandas
df =pd.DataFrame()
df["サイト名"] = urls
df["商品"] = items
df["価格"] = prices

print(df)

###結果
コマンド上では次のような結果となります。二つ目の列が・・・と表示されます。①～③の列の順番を入れ替えても同じ結果となるので、それぞれの値を取得してくるプロセスは問題ないのだと思っているのですが。。。

   サイト名    ...       価格
0  http://www.amazon.co.jp  ...  117,470
1  https://www.rakuten.co.jp/  ...   1,980円
2  https://www.yodobashi.com/  ...   ￥4,950

[3 rows x 3 columns]

C:\Users***>[9460:7536:1021/163904.173:ERROR:ssl_client_socket_impl.cc(941)] handshake failed; returned -1, SSL error code 1, net_error -100
[9460:7536:1021/163915.190:ERROR:ssl_client_socket_impl.cc(941)] handshake failed; returned -1, SSL error code 1, net_error -100

どうぞご教示いただければありがたいです。何卒よろしくお願いいたします。

Answer 1

表示領域の問題で省略されています。
下記なら表示されるはずです。

print(df["商品"])

Comments

[tonk]

早速のご返答ありがとうございます。
まず私にpandasに対する理解が浅いことが問題の本質かもしれませんね・・・
もっと勉強しようと思います。