質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

新規登録して質問してみよう
ただいま回答率
87.20%
スクレイピング

スクレイピングとは、公開されているWebサイトからページ内の情報を抽出する技術です。

Python 3.x

Python 3はPythonプログラミング言語の最新バージョンであり、2008年12月3日にリリースされました。

受付中

pythonにおけるスクレイピングで複数ページを取得

Sunkaze
Sunkaze

総合スコア0

スクレイピング

スクレイピングとは、公開されているWebサイトからページ内の情報を抽出する技術です。

Python 3.x

Python 3はPythonプログラミング言語の最新バージョンであり、2008年12月3日にリリースされました。

2回答

0評価

2クリップ

1736閲覧

投稿2018/07/03 03:56

前提・実現したいこと

pythonのbeautifulsoup のスクレイピング機能を使って、複数ページあるサイトのテキスト情報を取得し、csvファイルに書き込みたいと考えています。

発生している問題・エラーメッセージ

発生している問題として、各ページの最後のテキストの対応して書き出してしまっており、一覧の取得ができていません。
簡略化してサイト構造を示すと、以下のようになります。

html

<div class="media_heading">取得したいテキスト1-1</div> <div class="media_body"><p>取得したいテキスト1-2</p></div> <div class="media_heading">取得したいテキスト2-1</div> <div class="media_body"><p>取得したいテキスト2-2</p></div> ~~~~~~~~~~これが続いています~~~~~~~~~~ <div class="media_heading">取得したいテキスト20-1</div> <div class="media_body"><p>取得したいテキスト20-2</p></div>

hogehoge.com/p=1 をforで回して p=8まで取得した場合、csvファイルは

20-1,20-2(p=1の20-1,20-2) 20-1,20-2(p=2の20-1,20-2)

という感じで8行分出力されてしまいます。
いろいろなサイトを参考にしながら作っているので、キメラ的になり、ほかにもおかしいところや迷惑をかけてしまうところがございましたらお教えください。

該当のソースコード

python

import requests import bs4 import csv import time html = "hogehoge.com/p=" with open('output.csv', 'a') as fw: writer = csv.writer(fw, lineterminator='\n') for i in range(1,9): res = requests.get(html + str(i), timeout = 30) res.raise_for_status() soup = bs4.BeautifulSoup(res.text,"html.parser") elems = soup.select('.media_heading') for elem in elems: name = elem.getText() time.sleep =(1) body_elems = soup.select('.media_body') for body_elem in body_elems: body = body_elem.getText() time.sleep =(1) writer.writerow([name, body]) else: print("finish")

良い質問の評価を上げる

以下のような質問は評価を上げましょう

  • 質問内容が明確
  • 自分も答えを知りたい
  • 質問者以外のユーザにも役立つ

評価が高い質問は、TOPページの「注目」タブのフィードに表示されやすくなります。

気になる質問をクリップする

クリップした質問は、後からいつでもマイページで確認できます。

またクリップした質問に回答があった際、通知やメールを受け取ることができます。

teratailでは下記のような質問を「具体的に困っていることがない質問」、「サイトポリシーに違反する質問」と定義し、推奨していません。

  • プログラミングに関係のない質問
  • やってほしいことだけを記載した丸投げの質問
  • 問題・課題が含まれていない質問
  • 意図的に内容が抹消された質問
  • 過去に投稿した質問と同じ内容の質問
  • 広告と受け取られるような投稿

評価を下げると、トップページの「アクティブ」「注目」タブのフィードに表示されにくくなります。

まだ回答がついていません

会員登録して回答してみよう

15分調べてもわからないことは
teratailで質問しよう!

ただいまの回答率
87.20%

質問をまとめることで
思考を整理して素早く解決

テンプレート機能で
簡単に質問をまとめる

質問する

関連した質問

同じタグがついた質問を見る

スクレイピング

スクレイピングとは、公開されているWebサイトからページ内の情報を抽出する技術です。

Python 3.x

Python 3はPythonプログラミング言語の最新バージョンであり、2008年12月3日にリリースされました。