質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

新規登録して質問してみよう
ただいま回答率
85.48%
スクレイピング

スクレイピングとは、公開されているWebサイトからページ内の情報を抽出する技術です。

XPath(XML Path)

XML Path Language (XPath; XMLパス言語)は、マークアップ言語 XML に準拠した文書の特定の部分を指定する言語構文の事をいいます。XPathはXMLとは別の構文を使用します。XMLドキュメントの抽象、論理ストラクチャ上で動作します。

パス

パス(path)はファイルシステムの場所(階層)を明示したものです。

Python

Pythonは、コードの読みやすさが特徴的なプログラミング言語の1つです。 強い型付け、動的型付けに対応しており、後方互換性がないバージョン2系とバージョン3系が使用されています。 商用製品の開発にも無料で使用でき、OSだけでなく仮想環境にも対応。Unicodeによる文字列操作をサポートしているため、日本語処理も標準で可能です。

selenium

Selenium(セレニウム)は、ブラウザをプログラムで作動させるフレームワークです。この原理を使うことにより、ブラウザのユーザーテストなどを自動化にすることができます。

Q&A

解決済

1回答

1238閲覧

python selenium 要素が取得できない(Chrom開発者ツールを開くと取得できるが閉じると取得できなくなる)

i015049

総合スコア15

スクレイピング

スクレイピングとは、公開されているWebサイトからページ内の情報を抽出する技術です。

XPath(XML Path)

XML Path Language (XPath; XMLパス言語)は、マークアップ言語 XML に準拠した文書の特定の部分を指定する言語構文の事をいいます。XPathはXMLとは別の構文を使用します。XMLドキュメントの抽象、論理ストラクチャ上で動作します。

パス

パス(path)はファイルシステムの場所(階層)を明示したものです。

Python

Pythonは、コードの読みやすさが特徴的なプログラミング言語の1つです。 強い型付け、動的型付けに対応しており、後方互換性がないバージョン2系とバージョン3系が使用されています。 商用製品の開発にも無料で使用でき、OSだけでなく仮想環境にも対応。Unicodeによる文字列操作をサポートしているため、日本語処理も標準で可能です。

selenium

Selenium(セレニウム)は、ブラウザをプログラムで作動させるフレームワークです。この原理を使うことにより、ブラウザのユーザーテストなどを自動化にすることができます。

0グッド

0クリップ

投稿2020/12/27 12:20

編集2020/12/27 12:25

前提・実現したいこと

pythonでSuccessfactors上のデータをスクレイピングしています。xpathの特定まではできているのですが、実際起動すると取得できない。

発生している問題・エラーメッセージ

クローム開発者ツールでxpathを特定し、開発者ツール画面を開いた状態で、取得したパスを指定して動作させると正しく値が取得できるのですが、開発者画面を閉じると値が取得できなくなります。具体的には、開発者画面を開いて起動すると目的の値が取得できますが、閉じると取得値が0件となる。


IndexError Traceback (most recent call last)
<ipython-input-72-64b8a82270e4> in <module>
1 jobtype_datas = browser.find_elements_by_xpath('//div[2]/div/div[2]/div/section[2]/section[3]/div[2]/div/div[2]/div/div/div/div/div/div[3]/div/table/tbody/tr[5]/td/span[@class="valuePattern"]')
----> 2 value = jobtype_datas[0].text
3 values.append(value)
4 values

IndexError: list index out of range

該当のソースコード

python

jobtype_datas = browser.find_elements_by_xpath('//div[2]/div/div[2]/div/section[2]/section[3]/div[2]/div/div[2]/div/div/div/div/div/div[3]/div/table/tbody/tr[5]/td/span[@class="valuePattern"]')
value = jobtype_datas[0].text
values.append(value)
values

試したこと

クローム開発者ツールで、取得したいフィールドについて、当初はfind_elements_by_idでidを指定して取得を試みましたが、idが自動生成されid値が都度変更するとの、パッケージの挙動となっており、id指定では取得できないことを確認した。これより、xpath指定での取得を試みている。クローム開発者ツールを開いて、xpathを指定すると目的の値が取得できるところまでは確認ができている。
これより、タイプミスやパスの指定誤りがないことまでは、確認ができている状態。

補足情報(FW/ツールのバージョンなど)

jupyterlab上で開発中。

気になる質問をクリップする

クリップした質問は、後からいつでもMYページで確認できます。

またクリップした質問に回答があった際、通知やメールを受け取ることができます。

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

otn

2020/12/27 13:01

> 具体的には、開発者画面を開いて起動すると目的の値が取得できますが、閉じると取得値が0件となる。 ここを具体的に。追体験できるレベルで詳しく。
guest

回答1

0

ベストアンサー

そんな危なげなXPathで指定していると、ページがほんの少し変わっただけで、目的のノードが見つからなくなります。

開発者ツールを閉じたり開いたりしているだけのつもりでも、ページ内容が変化しているのでしょう。

HTMLをよく見て、ノードを特定する方法をちゃんと考えましょう。
テキストから辿るとか、imgsrcから辿るとか、いろいろ。

投稿2020/12/27 13:20

otn

総合スコア84499

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

i015049

2020/12/27 14:03

ありがとうございます。 アドバイス心より感謝いたしますことを
i015049

2020/12/28 04:18

言われた通り、3-5段ほど上の階層から取得する事で取得できました。 ・トップノードから取らないこととした。 ・項目に着目していたが、取得したい項目がグループ化されている、フレームに着目することで、安定した取得が可能となりました。id が動的に変更する場合においても
guest

あなたの回答

tips

太字

斜体

打ち消し線

見出し

引用テキストの挿入

コードの挿入

リンクの挿入

リストの挿入

番号リストの挿入

表の挿入

水平線の挿入

プレビュー

15分調べてもわからないことは
teratailで質問しよう!

ただいまの回答率
85.48%

質問をまとめることで
思考を整理して素早く解決

テンプレート機能で
簡単に質問をまとめる

質問する

関連した質問