実現したいこと
ログインページ内のURLからzipファイルをダウンロードして、pandasで読み込みたい。
(その後、CSVのフォーマットを変換してto_csvで吐き出したい。)
前提
【環境】
- CentOS7
- Python3.6
- selenium
- chrome
- pandas
【スクレイピング対象について】
ログイン後に特定のURLにアクセスすることで決まった名前のCSVファイルが入ったzipがダウンロードできます。
この時zipファイル「YYYYMMDD.zip」の中に「item.csv」が入っています。
【URLについて】
ダウンロードのURLは以下のような形式になっており、直接~.zipというURLではありません。
https://xxxxx.jp/sms/basic/download/article?date=YYYYMMDD&file_type=xxxxx=
困っていること
エラーメッセージの zipfile.BadZipFile: File is not a zip file
からzipファイルではない何かを読み込んでいることが原因なことまでは理解できています。
調べてみたのですがURLから直接ファイルを読み込む形式では~.zipなど直接.zipで終わるURL以外のサンプルしか見つけられず、ここからどうして良いか分からず詰まっています。
コード
Python
1from selenium import webdriver 2from selenium.webdriver.common.keys import Keys 3import pandas as pd 4from time import sleep 5import chromedriver_binary 6import os 7 8# メールアドレスとパスワードの指定 9id1 = "ID1" 10pass1 = "password1" 11id2 = "ID2" 12pass2 = "pass2" 13 14# ドライバを設定 15options = webdriver.ChromeOptions() 16options.add_argument('--headless') 17options.add_argument('--disable-gpu') 18driver = webdriver.Chrome(options=options) 19 20#ログイン 21print("-----ログインを開始-----") 22driver.get("https://xxxxx.jp/login") 23 24# ID1入力 25ele = driver.find_element_by_xpath('//*[@id="store-login-table"]/tbody/tr[1]/td/input') 26ele.send_keys(id1) 27 28#Password2入力 29ele = driver.find_element_by_xpath('//*[@id="store-login-table"]/tbody/tr[2]/td/input') 30ele.send_keys(pass1) 31 32#Enterキーを押下 33ele.send_keys(Keys.ENTER) 34 35# 1秒間待機。 36sleep(1) 37 38# ID2入力 39ele = driver.find_element_by_xpath('//*[@id="user-login-table"]/tbody/tr[1]/td/input') 40ele.send_keys(id2) 41 42#Password2入力 43ele = driver.find_element_by_xpath('//*[@id="user-login-table"]/tbody/tr[2]/td/input') 44ele.send_keys(pass2) 45 46#Enterキーを押下 47ele.send_keys(Keys.ENTER) 48 49# 1秒間待機。 50sleep(1) 51print("タイトル" + driver.title) 52print("-----ログイン成功-----") 53 54# csvを読み込み 55csv_date = pd.read_csv('https://xxxxx.jp/sms/basic/download/article?date=YYYYMMDD&file_type=xxxxx=',compression='zip') 56print(csv_date)
エラー
Error
1Traceback (most recent call last): 2 File "aggregate.py", line 70, in <module> 3 csv_date = pd.read_csv('https://top-seller.jp/sms/basic/download/article?date=20190911&file_type=stock&price_flag=1&profit_flag=',compression='zip') 4 File "/usr/lib64/python3.6/site-packages/pandas/io/parsers.py", line 685, in parser_f 5 return _read(filepath_or_buffer, kwds) 6 File "/usr/lib64/python3.6/site-packages/pandas/io/parsers.py", line 457, in _read 7 parser = TextFileReader(fp_or_buf, **kwds) 8 File "/usr/lib64/python3.6/site-packages/pandas/io/parsers.py", line 895, in __init__ 9 self._make_engine(self.engine) 10 File "/usr/lib64/python3.6/site-packages/pandas/io/parsers.py", line 1135, in _make_engine 11 self._engine = CParserWrapper(self.f, **self.options) 12 File "/usr/lib64/python3.6/site-packages/pandas/io/parsers.py", line 1917, in __init__ 13 self._reader = parsers.TextReader(src, **kwds) 14 File "pandas/_libs/parsers.pyx", line 382, in pandas._libs.parsers.TextReader.__cinit__ 15 File "pandas/_libs/parsers.pyx", line 635, in pandas._libs.parsers.TextReader._setup_parser_source 16 File "/usr/lib64/python3.6/zipfile.py", line 1131, in __init__ 17 self._RealGetContents() 18 File "/usr/lib64/python3.6/zipfile.py", line 1198, in _RealGetContents 19 raise BadZipFile("File is not a zip file") 20zipfile.BadZipFile: File is not a zip file
バッドをするには、ログインかつ
こちらの条件を満たす必要があります。