質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

ただいまの
回答率

87.49%

beautifulsoupでスクレイピングしたデータの格納(ヘッダーにあわせて格納したい)

解決済

回答 2

投稿 編集

  • 評価
  • クリップ 0
  • VIEW 1,940

score 13

前提・実現したいこと

スクレイピングしたデータをヘッダーに合わせて格納したい

発生している問題・エラーメッセージ

ヘッダーA,B摘出要素a1,a2,b1,b2に対して
A   B
a1 
a2 
b1
b2
となっているのを

A   B
a1  b1
a2  b2

として出力したいです。
プログラミング初心者すぎて困っています。

該当のソースコード

python

# -*- coding: utf-8 -*-
import csv
import requests
from bs4 import BeautifulSoup
f = open('output.csv', 'w', newline='')

#アクセスするURL url検索
line = ["https://r.nikkei.com/search?keyword=経済","https://r.nikkei.com/search?keyword=株価"]

# ヘッダ書き込み
f.write('経済,株価\n')

for url in line:

    r = requests.get(url)

    # スクレイピング抽出要素を指定
    soup = BeautifulSoup(r.text, 'lxml')

    for list in soup.find_all('a' , class_='nui-card__meta-pubdate'):
        nlist = list.get('href')

        # データをリストに保持
        csvlist = {nlist}

        # 出力
        writer = csv.writer(f, lineterminator='\n')
        writer.writerow(csvlist)
    f.write(',')

# ファイルクローズ
f.close()


```

試したこと

poko_pokoさんご回答ありがとうございます、試してみたのですがうまくいきませんでした…

補足情報(言語/FW/ツール等のバージョンなど)

python3.6 beautifulsoup4.6.0

  • 気になる質問をクリップする

    クリップした質問は、後からいつでもマイページで確認できます。

    またクリップした質問に回答があった際、通知やメールを受け取ることができます。

    クリップを取り消します

  • 良い質問の評価を上げる

    以下のような質問は評価を上げましょう

    • 質問内容が明確
    • 自分も答えを知りたい
    • 質問者以外のユーザにも役立つ

    評価が高い質問は、TOPページの「注目」タブのフィードに表示されやすくなります。

    質問の評価を上げたことを取り消します

  • 評価を下げられる数の上限に達しました

    評価を下げることができません

    • 1日5回まで評価を下げられます
    • 1日に1ユーザに対して2回まで評価を下げられます

    質問の評価を下げる

    teratailでは下記のような質問を「具体的に困っていることがない質問」、「サイトポリシーに違反する質問」と定義し、推奨していません。

    • プログラミングに関係のない質問
    • やってほしいことだけを記載した丸投げの質問
    • 問題・課題が含まれていない質問
    • 意図的に内容が抹消された質問
    • 過去に投稿した質問と同じ内容の質問
    • 広告と受け取られるような投稿

    評価が下がると、TOPページの「アクティブ」「注目」タブのフィードに表示されにくくなります。

    質問の評価を下げたことを取り消します

    この機能は開放されていません

    評価を下げる条件を満たしてません

    評価を下げる理由を選択してください

    詳細な説明はこちら

    上記に当てはまらず、質問内容が明確になっていない質問には「情報の追加・修正依頼」機能からコメントをしてください。

    質問の評価を下げる機能の利用条件

    この機能を利用するためには、以下の事項を行う必要があります。

質問への追記・修正、ベストアンサー選択の依頼

  • LouiS0616

    2017/11/08 18:05

    インデントが崩れてコードを読めないです。編集画面を開き、コードを選択した状態で<code>ボタンを押してください。

    キャンセル

回答 2

checkベストアンサー

+3

期待する出力結果は以下でしょうか。

経済 株価
経済のhref1 株価のhref1
経済のhref2 株価のhref2

外側のループでは列方向に経済、株価の順にデータ取得しているので、2列目の株価の列データを取るまで行を出力することができません。つまり、経済と株価のデータを貯めたあとに出力する必要があります。

以下のような流れでできます。(ややソースを改変しています。)

import csv
import requests
from bs4 import BeautifulSoup

keywords = ['経済','株価']
cols = [] # 経済と株価 の列リストを保持
for kw in keywords: # 経済と株価
    url = "https://r.nikkei.com/search?keyword=" + kw;

    col = [] # 1列分のリスト
    r = requests.get(url)
    soup = BeautifulSoup(r.text, 'lxml')
    for l in soup.find_all('a' , class_='nui-card__meta-pubdate'):
        nlist = l.get('href') # URL
        col.append(nlist) #

    cols.append(col) # 列全体を追加

# 全列を行(タプル)に展開
for line in zip(*cols): # = for c1,c2 in zip(cols[0],cols[1]):
    print(line)

投稿

  • 回答の評価を上げる

    以下のような回答は評価を上げましょう

    • 正しい回答
    • わかりやすい回答
    • ためになる回答

    評価が高い回答ほどページの上位に表示されます。

  • 回答の評価を下げる

    下記のような回答は推奨されていません。

    • 間違っている回答
    • 質問の回答になっていない投稿
    • スパムや攻撃的な表現を用いた投稿

    評価を下げる際はその理由を明確に伝え、適切な回答に修正してもらいましょう。

  • 2017/11/09 10:44

    無事できました、ありがとうございます!

    キャンセル

0

多分で申し訳ありませんが、list.getの部分で1行ずつ入力していっているからでは無いでしょうか。
かなり適当ですが、流れで言うとこんな感じになるのでは無いかと思います。

やりたいこと「A1,B1\n の1行のwriteを繰り返す」

count = 0
for list in soup.find_all('a' , class_='nui-card__meta-pubdate'):
    count += 1
    nlist = nlist + list.get('href')
    if(count == 1):
       nlist = nlist + ','
    if(count == 2):
       f.write(nlist + '\n')
       nlist = ''
       count = 0
f.close()

投稿

  • 回答の評価を上げる

    以下のような回答は評価を上げましょう

    • 正しい回答
    • わかりやすい回答
    • ためになる回答

    評価が高い回答ほどページの上位に表示されます。

  • 回答の評価を下げる

    下記のような回答は推奨されていません。

    • 間違っている回答
    • 質問の回答になっていない投稿
    • スパムや攻撃的な表現を用いた投稿

    評価を下げる際はその理由を明確に伝え、適切な回答に修正してもらいましょう。

  • 2017/11/09 15:02 編集

    イテレータの性質を利用した方がきれいだと思いますよ。
    tmp_iter = iter(soup.find........)
    for i, j in zip(tmp_iter, tmp_iter):
    ......

    キャンセル

  • 2017/11/09 19:40

    いつもrangeでぶん回してイテレータ使ってませんでした……
    これを気に使い方勉強します。ありがとうございました。

    キャンセル

15分調べてもわからないことは、teratailで質問しよう!

  • ただいまの回答率 87.49%
  • 質問をまとめることで、思考を整理して素早く解決
  • テンプレート機能で、簡単に質問をまとめられる

関連した質問

同じタグがついた質問を見る