質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

新規登録して質問してみよう
ただいま回答率
85.50%
Chrome

Google Chromeは携帯、テレビ、デスクトップなどの様々なプラットフォームで利用できるウェブブラウザです。Googleが開発したもので、Blink (レンダリングエンジン) とアプリケーションフレームワークを使用しています。

Python 3.x

Python 3はPythonプログラミング言語の最新バージョンであり、2008年12月3日にリリースされました。

pandas

Pandasは、PythonでRにおけるデータフレームに似た型を持たせることができるライブラリです。 行列計算の負担が大幅に軽減されるため、Rで行っていた集計作業をPythonでも比較的簡単に行えます。 データ構造を変更したりデータ分析したりするときにも便利です。

selenium

Selenium(セレニウム)は、ブラウザをプログラムで作動させるフレームワークです。この原理を使うことにより、ブラウザのユーザーテストなどを自動化にすることができます。

Q&A

1回答

3437閲覧

Python+selenium+pandsでURLからzipを取得し、zipファイル内のCSVを読み込みたい

Aquamarine

総合スコア15

Chrome

Google Chromeは携帯、テレビ、デスクトップなどの様々なプラットフォームで利用できるウェブブラウザです。Googleが開発したもので、Blink (レンダリングエンジン) とアプリケーションフレームワークを使用しています。

Python 3.x

Python 3はPythonプログラミング言語の最新バージョンであり、2008年12月3日にリリースされました。

pandas

Pandasは、PythonでRにおけるデータフレームに似た型を持たせることができるライブラリです。 行列計算の負担が大幅に軽減されるため、Rで行っていた集計作業をPythonでも比較的簡単に行えます。 データ構造を変更したりデータ分析したりするときにも便利です。

selenium

Selenium(セレニウム)は、ブラウザをプログラムで作動させるフレームワークです。この原理を使うことにより、ブラウザのユーザーテストなどを自動化にすることができます。

0グッド

0クリップ

投稿2019/09/11 16:02

編集2022/01/12 10:55

実現したいこと

ログインページ内のURLからzipファイルをダウンロードして、pandasで読み込みたい。
(その後、CSVのフォーマットを変換してto_csvで吐き出したい。)

前提

【環境】

  • CentOS7
  • Python3.6
  • selenium
  • chrome
  • pandas

【スクレイピング対象について】
ログイン後に特定のURLにアクセスすることで決まった名前のCSVファイルが入ったzipがダウンロードできます。
この時zipファイル「YYYYMMDD.zip」の中に「item.csv」が入っています。

【URLについて】
ダウンロードのURLは以下のような形式になっており、直接~.zipというURLではありません。
https://xxxxx.jp/sms/basic/download/article?date=YYYYMMDD&file_type=xxxxx=

困っていること

エラーメッセージの zipfile.BadZipFile: File is not a zip file からzipファイルではない何かを読み込んでいることが原因なことまでは理解できています。
調べてみたのですがURLから直接ファイルを読み込む形式では~.zipなど直接.zipで終わるURL以外のサンプルしか見つけられず、ここからどうして良いか分からず詰まっています。

コード

Python

1from selenium import webdriver 2from selenium.webdriver.common.keys import Keys 3import pandas as pd 4from time import sleep 5import chromedriver_binary 6import os 7 8# メールアドレスとパスワードの指定 9id1 = "ID1" 10pass1 = "password1" 11id2 = "ID2" 12pass2 = "pass2" 13 14# ドライバを設定 15options = webdriver.ChromeOptions() 16options.add_argument('--headless') 17options.add_argument('--disable-gpu') 18driver = webdriver.Chrome(options=options) 19 20#ログイン 21print("-----ログインを開始-----") 22driver.get("https://xxxxx.jp/login") 23 24# ID1入力 25ele = driver.find_element_by_xpath('//*[@id="store-login-table"]/tbody/tr[1]/td/input') 26ele.send_keys(id1) 27 28#Password2入力 29ele = driver.find_element_by_xpath('//*[@id="store-login-table"]/tbody/tr[2]/td/input') 30ele.send_keys(pass1) 31 32#Enterキーを押下 33ele.send_keys(Keys.ENTER) 34 35# 1秒間待機。 36sleep(1) 37 38# ID2入力 39ele = driver.find_element_by_xpath('//*[@id="user-login-table"]/tbody/tr[1]/td/input') 40ele.send_keys(id2) 41 42#Password2入力 43ele = driver.find_element_by_xpath('//*[@id="user-login-table"]/tbody/tr[2]/td/input') 44ele.send_keys(pass2) 45 46#Enterキーを押下 47ele.send_keys(Keys.ENTER) 48 49# 1秒間待機。 50sleep(1) 51print("タイトル" + driver.title) 52print("-----ログイン成功-----") 53 54# csvを読み込み 55csv_date = pd.read_csv('https://xxxxx.jp/sms/basic/download/article?date=YYYYMMDD&file_type=xxxxx=',compression='zip') 56print(csv_date)

エラー

Error

1Traceback (most recent call last): 2 File "aggregate.py", line 70, in <module> 3 csv_date = pd.read_csv('https://top-seller.jp/sms/basic/download/article?date=20190911&file_type=stock&price_flag=1&profit_flag=',compression='zip') 4 File "/usr/lib64/python3.6/site-packages/pandas/io/parsers.py", line 685, in parser_f 5 return _read(filepath_or_buffer, kwds) 6 File "/usr/lib64/python3.6/site-packages/pandas/io/parsers.py", line 457, in _read 7 parser = TextFileReader(fp_or_buf, **kwds) 8 File "/usr/lib64/python3.6/site-packages/pandas/io/parsers.py", line 895, in __init__ 9 self._make_engine(self.engine) 10 File "/usr/lib64/python3.6/site-packages/pandas/io/parsers.py", line 1135, in _make_engine 11 self._engine = CParserWrapper(self.f, **self.options) 12 File "/usr/lib64/python3.6/site-packages/pandas/io/parsers.py", line 1917, in __init__ 13 self._reader = parsers.TextReader(src, **kwds) 14 File "pandas/_libs/parsers.pyx", line 382, in pandas._libs.parsers.TextReader.__cinit__ 15 File "pandas/_libs/parsers.pyx", line 635, in pandas._libs.parsers.TextReader._setup_parser_source 16 File "/usr/lib64/python3.6/zipfile.py", line 1131, in __init__ 17 self._RealGetContents() 18 File "/usr/lib64/python3.6/zipfile.py", line 1198, in _RealGetContents 19 raise BadZipFile("File is not a zip file") 20zipfile.BadZipFile: File is not a zip file

気になる質問をクリップする

クリップした質問は、後からいつでもMYページで確認できます。

またクリップした質問に回答があった際、通知やメールを受け取ることができます。

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

guest

回答1

0

zipファイルではない何かを読み込んでいることが原因なことまでは理解できています。

それがわかっているなら、何を読み込んだのか調べたらいいのでは?

というか、最初にSeleniumを使ってログインしておきながら、それを捨てて、いきなりpd.read_csv(~~)とは???
ログインが必要だから、ログインしたのでは?なので、そのままSeleniumでダウンロードすべきでは?

投稿2019/09/11 16:39

otn

総合スコア84423

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

あなたの回答

tips

太字

斜体

打ち消し線

見出し

引用テキストの挿入

コードの挿入

リンクの挿入

リストの挿入

番号リストの挿入

表の挿入

水平線の挿入

プレビュー

まだベストアンサーが選ばれていません

会員登録して回答してみよう

アカウントをお持ちの方は

15分調べてもわからないことは
teratailで質問しよう!

ただいまの回答率
85.50%

質問をまとめることで
思考を整理して素早く解決

テンプレート機能で
簡単に質問をまとめる

質問する

関連した質問