質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

新規登録して質問してみよう
ただいま回答率
85.50%
スクレイピング

スクレイピングとは、公開されているWebサイトからページ内の情報を抽出する技術です。

Beautiful Soup

Beautiful Soupは、Pythonのライブラリの一つ。スクレイピングに特化しています。HTMLデータの構文の解析を行うために、HTMLタグ/CSSのセレクタで抽出する部分を指定することが可能です。

JavaScript

JavaScriptは、プログラミング言語のひとつです。ネットスケープコミュニケーションズで開発されました。 開発当初はLiveScriptと呼ばれていましたが、業務提携していたサン・マイクロシステムズが開発したJavaが脚光を浴びていたことから、JavaScriptと改名されました。 動きのあるWebページを作ることを目的に開発されたもので、主要なWebブラウザのほとんどに搭載されています。

Python

Pythonは、コードの読みやすさが特徴的なプログラミング言語の1つです。 強い型付け、動的型付けに対応しており、後方互換性がないバージョン2系とバージョン3系が使用されています。 商用製品の開発にも無料で使用でき、OSだけでなく仮想環境にも対応。Unicodeによる文字列操作をサポートしているため、日本語処理も標準で可能です。

selenium

Selenium(セレニウム)は、ブラウザをプログラムで作動させるフレームワークです。この原理を使うことにより、ブラウザのユーザーテストなどを自動化にすることができます。

Q&A

0回答

3054閲覧

JavaScriptが埋め込まれたリンク先のデータをseleniumでダウンロードしたい

nekonyangon

総合スコア14

スクレイピング

スクレイピングとは、公開されているWebサイトからページ内の情報を抽出する技術です。

Beautiful Soup

Beautiful Soupは、Pythonのライブラリの一つ。スクレイピングに特化しています。HTMLデータの構文の解析を行うために、HTMLタグ/CSSのセレクタで抽出する部分を指定することが可能です。

JavaScript

JavaScriptは、プログラミング言語のひとつです。ネットスケープコミュニケーションズで開発されました。 開発当初はLiveScriptと呼ばれていましたが、業務提携していたサン・マイクロシステムズが開発したJavaが脚光を浴びていたことから、JavaScriptと改名されました。 動きのあるWebページを作ることを目的に開発されたもので、主要なWebブラウザのほとんどに搭載されています。

Python

Pythonは、コードの読みやすさが特徴的なプログラミング言語の1つです。 強い型付け、動的型付けに対応しており、後方互換性がないバージョン2系とバージョン3系が使用されています。 商用製品の開発にも無料で使用でき、OSだけでなく仮想環境にも対応。Unicodeによる文字列操作をサポートしているため、日本語処理も標準で可能です。

selenium

Selenium(セレニウム)は、ブラウザをプログラムで作動させるフレームワークです。この原理を使うことにより、ブラウザのユーザーテストなどを自動化にすることができます。

1グッド

1クリップ

投稿2019/02/11 23:18

#前提・実現したいこと

行政がウェブサイトで公開しているデータを自動でダウンロードしてくるクローラーを作成しています。

ダウンロードボタンのhtmlソースは以下のようになっており、javascriptが埋め込まれているようです。

html

1<a href="javascript:*****_download('*****.zip')">ダウンロード</a>

javascript

1function *****_download(fileName) { 2 3 var f = document.dlform; 4 5 var dlPath = "/download/" + fileName; 6 7 f.method = "GET"; 8 f.action = dlPath; 9 f.submit(); 10 11 return; 12} 13

市販の技術書などを参考に以下のようなコードを作成・実行したところ、エラーは出ないものの、データが正しくダウンロードされた気配がありません。

クローラー・スクレイピングは初心者でして、解決策がわからず、ご教示いただけますと幸いです。

python

1# ライブラリをインポート 2import requests 3from bs4 import BeautifulSoup 4import time 5from selenium import webdriver 6from selenium.webdriver.common.keys import Keys 7 8#パラメータ 9CHROME_DRIVER_PATH = "/Users/**********/chromedriver" 10URL = "https://**********.html" 11WAIT_SEC = 10 12 13# 関数の定義 14def __main__(): 15 16 print("begin process") 17 18 driver = webdriver.Chrome(CHROME_DRIVER_PATH) 19 driver.implicitly_wait(WAIT_SEC) 20 driver.get(URL) 21 22 # 該当ページの小要素(ダウンロードリンク)を表示する 23 open_btn = driver.find_element_by_xpath(f'//a[contains(@href,"child_class_dsp_ctrl")]') 24 open_btn.click() 25 26 # ダウンロードボタンを押す 27 download_btn = driver.find_element_by_xpath(f'//a[contains(@href,"zip")]') 28 print(download_btn.is_displayed()) # ダウンロードボタンが表示されているか確認 29 driver.execute_script("arguments[0].click();", download_btn)) 30 31 print("end process") 32 return 33 34#実行 35__main__() 36

#実行結果

$ python downloader.py begin process True end process
spoofy_dragon👍を押しています

気になる質問をクリップする

クリップした質問は、後からいつでもMYページで確認できます。

またクリップした質問に回答があった際、通知やメールを受け取ることができます。

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

wwbQzhMkhhgEmhU

2019/02/12 04:07

自分が動かしているものの、中身をきちんと理解してから使用するようにしてください。 どこまで出来ていて、どこから出来ていないのか、それを切り分けた上で、実現したい内容そのものではなく、それに向けて一歩だけ前に進むような、本当に知りたいことだけをピンポイントで聞いて頂けると回答をする人もいるかもしれません。
firedfly

2019/02/12 05:01

対象のURLがわからないため、できるアドバイスは少ないです。 単純なWebサイトで練習をしつつ、 途中にWaitを入れたり、取得した要素をprintしたりして、 ひとつひとつのコードが目的通りに動いているかを確かめるとよいですよ。
guest

あなたの回答

tips

太字

斜体

打ち消し線

見出し

引用テキストの挿入

コードの挿入

リンクの挿入

リストの挿入

番号リストの挿入

表の挿入

水平線の挿入

プレビュー

まだ回答がついていません

会員登録して回答してみよう

アカウントをお持ちの方は

15分調べてもわからないことは
teratailで質問しよう!

ただいまの回答率
85.50%

質問をまとめることで
思考を整理して素早く解決

テンプレート機能で
簡単に質問をまとめる

質問する

関連した質問