質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

新規登録して質問してみよう
ただいま回答率
85.48%
スクレイピング

スクレイピングとは、公開されているWebサイトからページ内の情報を抽出する技術です。

for

for文は、様々なプログラミング言語で使われている制御構造です。for文に定義している条件から外れるまで、for文内の命令文を繰り返し実行します。

Python

Pythonは、コードの読みやすさが特徴的なプログラミング言語の1つです。 強い型付け、動的型付けに対応しており、後方互換性がないバージョン2系とバージョン3系が使用されています。 商用製品の開発にも無料で使用でき、OSだけでなく仮想環境にも対応。Unicodeによる文字列操作をサポートしているため、日本語処理も標準で可能です。

selenium

Selenium(セレニウム)は、ブラウザをプログラムで作動させるフレームワークです。この原理を使うことにより、ブラウザのユーザーテストなどを自動化にすることができます。

PyCharm

エディター・開発ツール

Q&A

解決済

1回答

1028閲覧

pythonを使ってseleniumでスクレイピングしたデータをfor文だけで上手くリストの中に格納することができません。

sakanaku

総合スコア17

スクレイピング

スクレイピングとは、公開されているWebサイトからページ内の情報を抽出する技術です。

for

for文は、様々なプログラミング言語で使われている制御構造です。for文に定義している条件から外れるまで、for文内の命令文を繰り返し実行します。

Python

Pythonは、コードの読みやすさが特徴的なプログラミング言語の1つです。 強い型付け、動的型付けに対応しており、後方互換性がないバージョン2系とバージョン3系が使用されています。 商用製品の開発にも無料で使用でき、OSだけでなく仮想環境にも対応。Unicodeによる文字列操作をサポートしているため、日本語処理も標準で可能です。

selenium

Selenium(セレニウム)は、ブラウザをプログラムで作動させるフレームワークです。この原理を使うことにより、ブラウザのユーザーテストなどを自動化にすることができます。

PyCharm

エディター・開発ツール

0グッド

0クリップ

投稿2020/09/29 14:49

前提・実現したいこと

こんにちわ。python初学者です。
seleniumでスクレイピングしたデータを順番にリストに格納して出力したいのですが、上手くいきません。

現在、下記の該当コードでarryリストのなかに
arry =
["テキスト要素", "テキスト要素","テキスト要素"....],["数字", "数字", "数字",...],["テキスト要素2""テキスト要素2""テキスト要素2"....]
このような感じで出力されてしまっているのですが、僕としては
arry=
[["テキスト要素", "数字", "テキスト要素2"]["テキスト要素", "数字", "テキスト要素2"]["テキスト要素", "数字", "テキスト要素2"]......]
このように1セットづつリストに格納したいのです。

厳密にいうと以前にこちらで質問させていただきzip()関数を使う方法とnumpyを使って
arry=
[["テキスト要素", "数字", "テキスト要素2"]["テキスト要素", "数字", "テキスト要素2"]["テキスト要素", "数字", "テキスト要素2"]......]
と格納することができました。

しかし、今回は、for文の中にfor文をいれて取得したいのですが、出力するとリストの中が何も入っていない状態になってしまいます。
for 〇〇 in 〇〇:
for 〇〇 in 〇〇:
print()
このようなイメージです。
どのようにすればいいのでしょうか??ここに新しく質問をたてなおさせていただきました。
ぜひお力を貸していただけないでしょうか??よろしくお願いします。

該当のソースコード

from selenium import webdriver import chromedriver_binary from selenium.webdriver.common.keys import Keys from selenium.webdriver.chrome.options import Options import urllib.request options = Options() options.headless = True options.add_argument('--headless') driver = webdriver.Chrome(options=options) driver.get("スクレイピングサイトURL") arry = [] selector = 'テキスト要素' element = driver.find_elements_by_css_selector(selector) element = [a.get_attribute("href") for a in element] date_element = "数字" dates = driver.find_elements_by_css_selector(date_element) dates = [b.text for b in dates] i = 'テキスト要素2' items = driver.find_elements_by_css_selector(i) items = [c.text for c in items] for x in element: for y in dates: for z in items: arry.append(x, y, z) print(arry)

試したこと

最後のこのコードで

for x in element: for y in dates: for z in items: q = arry.append(x, y, z) print(q)
for x in element: print(x) for y in dates: print(y) for z in items: print(z) q = arry.append(x, y, z) print(q)

ここで出力するとprint(x)はしっかり出力されるのですが、そのあとのprint(y)、print(z)は出力されなくなります、、、。

これはなぜなんでしょうか??ぜひアドバイスいただきたいです。
よろしくお願いします。

補足情報(FW/ツールのバージョンなど)

mac10.15.3
python3.8

気になる質問をクリップする

クリップした質問は、後からいつでもMYページで確認できます。

またクリップした質問に回答があった際、通知やメールを受け取ることができます。

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

meg_

2020/09/29 14:57

dates、itemsの中身はどうなっていますか?
sakanaku

2020/09/29 15:07

ご質問ありがとうございます。 datesの中身はwebサイトから取得した日付が["2020.10,10", "202010.01", "2020.10.09",...]]と入っていて itemsの中身は名前が書かれたテキスト文字がたくさん入っています["名前", "名前","名前"] スクレイピング で取得している要素数は毎回スクレイピングのタイミングで数が変わってると思います。
sakanaku

2020/09/29 15:09

日付の部分、正しくは["2020.10,October", "202001.October", "2020.09.October",...]このように英語で月を取得しています。
meg_

2020/09/29 15:54

「for x in element:」の直前に「print(dates)  print(items)」を入れて実行すると何が表示されますか?
sakanaku

2020/09/29 16:58

webサイトの中身に変更があったみたいでprint(dates)の中身が空でした。上手くリストにデータも格納できました。ありがとうございます。
guest

回答1

0

ベストアンサー

ここで出力するとprint(x)はしっかり出力されるのですが、そのあとのprint(y)、print(z)は出力されなくなります、、、。 これはなぜなんでしょうか?

datesが空リストだと言うことです。

投稿2020/09/29 15:08

otn

総合スコア84533

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

sakanaku

2020/09/29 15:13

ご回答ありがとうございます。 for文の中にdatesをprintすると空になってしまうのはなぜなのでしょうか?? date_element = "数字" dates = driver.find_elements_by_css_selector(date_element) dates = [b.text for b in dates] print(dates)←ここで出力するとしっかり表示されます。すいません、何か分かるでしょうか??
otn

2020/09/29 15:19

> print(dates)←ここで出力するとしっかり表示されます。 と、 > ここで出力するとprint(x)はしっかり出力されるのですが、そのあとのprint(y)、print(z)は出力されなくなります、、、。 は両立しないので、どちらかが間違っています。
sakanaku

2020/09/29 17:03

webサイトの中身に変更があったみたいでprint(dates)の中身が空でした。上手くリストにデータも格納できました for x in element:  for y in date:   for z in items:     arry.append([x, y, z]) print(arry) で上手く格納できました。ありがとうございます
guest

あなたの回答

tips

太字

斜体

打ち消し線

見出し

引用テキストの挿入

コードの挿入

リンクの挿入

リストの挿入

番号リストの挿入

表の挿入

水平線の挿入

プレビュー

15分調べてもわからないことは
teratailで質問しよう!

ただいまの回答率
85.48%

質問をまとめることで
思考を整理して素早く解決

テンプレート機能で
簡単に質問をまとめる

質問する

関連した質問