web上の表をCSV出力したが、1文字ずつになってしまう

Question

実現したいこと

★yahooファイナンス！の株価データから、表をコピペしたい。
★該当URL→　https://finance.yahoo.co.jp/quote/2769.T/history?from=20030410&to=20030423&timeFrame=d&page=1

前提

★Windows10、Python、Seleniumを使用

発生している問題・エラーメッセージ

★エクセルでcsvを開いたところ、1セルに1文字入ってしまう。

該当のソースコード

# インポートとか
from selenium import webdriver
from selenium.webdriver.common.by import By
from selenium.webdriver.common.keys import Keys
import time
from selenium.webdriver.chrome import service as fs 
CHROMEDRIVER = "C:\chromedriver_win32\chromedriver.exe"
 
# ドライバー指定でChromeブラウザを開く 
chrome_service = fs.Service(executable_path=CHROMEDRIVER) 
browser = webdriver.Chrome(service=chrome_service)

# yahooファイナンス！にアクセス
browser.get('https://finance.yahoo.co.jp/quote/2769.T/history?from=20030410&to=20030423&timeFrame=d&page=1')

# 表を取得
import csv
elem = browser.find_element(By.XPATH, '//*[@id="root"]/main/div/div/div[1]/div[2]/section[2]/div/table/tbody')

# CSV出力
f = open('out.csv', 'w')
writer = csv.writer(f)
writer.writerow(elem.text)
f.close()

試したこと

一通りググって試してみましたが、結果変わらず　or　CSV出力が成功せず　でした
CSV出力が初めてで困っています
よろしくお願いいたします

Comments

[y_waiwai]

そのCSVファイルをメモ帳で開いてみてみたらどういうもんになってるんでしょうか

[YT0014]

規約で禁止されている行為と思われます。
https://support.yahoo-net.jp/PccFinance/s/article/H000011276

Answer 1

Pandas を使う場合。

import pandas as pd
import sys

url = 'https://finance.yahoo.co.jp/quote/2769.T/history?from=20030410&to=20030423&timeFrame=d&page=1'
try:
    dfs = pd.read_html(url)
    dfs[0].to_csv('out.csv', index=False)
except ValueError:
    print('not found stock table', file=sys.stderr)

out.csv

日付,始値,高値,安値,終値,出来高,調整後終値*
2003年4月23日,642000,655000,636000,650000,155,812.5
2003年4月22日,640000,650000,620000,639000,117,798.75
2003年4月21日,662000,662000,640000,650000,456,812.5
2003年4月18日,620000,660000,620000,657000,1169,821.25
2003年4月17日,622000,622000,600000,620000,361,775.0
2003年4月16日,615000,630000,593000,622000,477,777.5
2003年4月15日,588000,615000,540000,614000,464,767.5
2003年4月14日,611000,638000,585000,598000,1190,747.5
2003年4月11日,591000,621000,572000,621000,2727,776.25
2003年4月10日,521000,521000,521000,521000,1454,651.25

追記

同じcsv（もしくはexcel）ファイルに、新しいurlの株価も続けて記載して行きたいです

全ての株価テーブルを読み込んで、最後に一つのデータフレームに結合して CSV へ書き出すとよいかと思います。

import pandas as pd
import sys

urls = [
    'https://finance.yahoo.co.jp/quote/2769.T/history?from=20030410&to=20030423&timeFrame=d&page=1',
    'https://finance.yahoo.co.jp/quote/6565.T/history?from=20220101&to=20220115&timeFrame=d&page=1'
]

dfs = []
for url in urls:
    try:
        df = pd.read_html(url)
        dfs.append(df[0])
    except ValueError:
        print('not found stock table', file=sys.stderr)
        break
else:
    df = pd.concat(dfs, ignore_index=True)
    df.to_csv('out.csv', index=False, encoding='shift-jis')

Comments

[penpen88]

ご回答ありがとうございます！
適切なセルにはうまく入りましたが、1行目や年月日の漢字が文字化けしてしまいます。どうすればよいでしょうか。

[melian]

to_csv() で encoding='shift-jis' を指定してみて下さい。

dfs[0].to_csv('out.csv', index=False, encoding='shift-jis')

もしくは直接 Excel シートとして書き出してもよいかと思います。

dfs[0].to_excel('out.xlsx', index=False)

[penpen88]

ありがとうございます。文字化けが治りました。

追加で質問なのですが、同じcsv（もしくはexcel）ファイルに、新しいurlの株価も続けて記載して行きたいです。
以下のようにcsvファイルを読み込んで、新urlの株価を書き込みましたが、新しい方はnot found stock table で表示されませんでした。どうすればよいでしょうか？

import pandas as pd
import sys

# 1つめのURL
url = 'https://finance.yahoo.co.jp/quote/2769.T/history?from=20030410&to=20030423&timeFrame=d&page=1'
browser.get(url)
try:
dfs = pd.read_html(url)
dfs[0].to_csv('out.csv', index=False, encoding='shift-jis')
except ValueError:
print('not found stock table', file=sys.stderr)

# 2つめのURL
url = 'https://finance.yahoo.co.jp/quote/6565.T/history?from=20220101&to=20220115&timeFrame=d&page=1'
browser.get(url)
try:
dfs1 = pd.read_csv('out.csv')
dfs2 = pd.read_html(url)
dfs1.dfs2[0].to_csv('out.csv', index=False, encoding='shift-jis')
except ValueError:
print('not found stock table', file=sys.stderr)

[melian]

追記しました。