beautifulsoupでスクレイピングしたデータの格納（ヘッダーにあわせて格納したい）

Question

###前提・実現したいこと
スクレイピングしたデータをヘッダーに合わせて格納したい

###発生している問題・エラーメッセージ
ヘッダーA,B摘出要素a1,a2,b1,b2に対して
A B
a1
a2
b1
b2
となっているのを

A B
a1 b1
a2 b2

として出力したいです。
プログラミング初心者すぎて困っています。

###該当のソースコード
python

# -*- coding: utf-8 -*-
import csv
import requests
from bs4 import BeautifulSoup
f = open('output.csv', 'w', newline='')

#アクセスするURL url検索
line = ["https://r.nikkei.com/search?keyword=経済","https://r.nikkei.com/search?keyword=株価"]

# ヘッダ書き込み
f.write('経済,株価\n')

for url in line:

    r = requests.get(url)

    # スクレイピング抽出要素を指定
    soup = BeautifulSoup(r.text, 'lxml')

    for list in soup.find_all('a' , class_='nui-card__meta-pubdate'):
        nlist = list.get('href')

        # データをリストに保持
        csvlist = {nlist}

        # 出力
        writer = csv.writer(f, lineterminator='\n')
        writer.writerow(csvlist)
    f.write(',')

# ファイルクローズ
f.close()

###試したこと
poko_pokoさんご回答ありがとうございます、試してみたのですがうまくいきませんでした…

###補足情報(言語/FW/ツール等のバージョンなど)
python3.6 beautifulsoup4.6.0

Comments

[LouiS0616]

インデントが崩れてコードを読めないです。編集画面を開き、コードを選択した状態で<code>ボタンを押してください。

Answer 1

期待する出力結果は以下でしょうか。

経済	株価
経済のhref１	株価のhref１
経済のhref２	株価のhref２

外側のループでは列方向に経済、株価の順にデータ取得しているので、２列目の株価の列データを取るまで行を出力することができません。つまり、経済と株価のデータを貯めたあとに出力する必要があります。

以下のような流れでできます。（ややソースを改変しています。）

import csv
import requests
from bs4 import BeautifulSoup

keywords = ['経済','株価']
cols = [] # 経済と株価 の列リストを保持
for kw in keywords: # 経済と株価
    url = "https://r.nikkei.com/search?keyword=" + kw;

    col = [] # １列分のリスト
    r = requests.get(url)
    soup = BeautifulSoup(r.text, 'lxml')
    for l in soup.find_all('a' , class_='nui-card__meta-pubdate'):
        nlist = l.get('href') # URL
        col.append(nlist) #

    cols.append(col) # 列全体を追加

# 全列を行（タプル）に展開
for line in zip(*cols): # = for c1,c2 in zip(cols[0],cols[1]):
    print(line)

Comments

[A.Kobayashi]

無事できました、ありがとうございます！

Answer 2

多分で申し訳ありませんが、list.getの部分で１行ずつ入力していっているからでは無いでしょうか。
かなり適当ですが、流れで言うとこんな感じになるのでは無いかと思います。

やりたいこと「A1,B1\n　の１行のwriteを繰り返す」

count = 0
for list in soup.find_all('a' , class_='nui-card__meta-pubdate'):
    count += 1
    nlist = nlist + list.get('href')
    if(count == 1):
       nlist = nlist + ','
    if(count == 2):
       f.write(nlist + '\n')
       nlist = ''
       count = 0
f.close()

Comments

[LouiS0616]

イテレータの性質を利用した方がきれいだと思いますよ。
tmp_iter = iter(soup.find........)
for i, j in zip(tmp_iter, tmp_iter):
......

[poko_poko]

いつもrangeでぶん回してイテレータ使ってませんでした……
これを気に使い方勉強します。ありがとうございました。