質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

新規登録して質問してみよう
ただいま回答率
85.48%
CSV

CSV(Comma-Separated Values)はコンマで区切られた明白なテキスト値のリストです。もしくは、そのフォーマットでひとつ以上のリストを含むファイルを指します。

Beautiful Soup

Beautiful Soupは、Pythonのライブラリの一つ。スクレイピングに特化しています。HTMLデータの構文の解析を行うために、HTMLタグ/CSSのセレクタで抽出する部分を指定することが可能です。

Python 3.x

Python 3はPythonプログラミング言語の最新バージョンであり、2008年12月3日にリリースされました。

pandas

Pandasは、PythonでRにおけるデータフレームに似た型を持たせることができるライブラリです。 行列計算の負担が大幅に軽減されるため、Rで行っていた集計作業をPythonでも比較的簡単に行えます。 データ構造を変更したりデータ分析したりするときにも便利です。

Q&A

解決済

1回答

1341閲覧

python3 複数ページをスクレイピング(bs4)で取得した各ページの項目値を、まとめてCSV出力するには

dub

総合スコア23

CSV

CSV(Comma-Separated Values)はコンマで区切られた明白なテキスト値のリストです。もしくは、そのフォーマットでひとつ以上のリストを含むファイルを指します。

Beautiful Soup

Beautiful Soupは、Pythonのライブラリの一つ。スクレイピングに特化しています。HTMLデータの構文の解析を行うために、HTMLタグ/CSSのセレクタで抽出する部分を指定することが可能です。

Python 3.x

Python 3はPythonプログラミング言語の最新バージョンであり、2008年12月3日にリリースされました。

pandas

Pandasは、PythonでRにおけるデータフレームに似た型を持たせることができるライブラリです。 行列計算の負担が大幅に軽減されるため、Rで行っていた集計作業をPythonでも比較的簡単に行えます。 データ構造を変更したりデータ分析したりするときにも便利です。

0グッド

0クリップ

投稿2021/07/08 03:49

前提・実現したいこと

python3 selenium Beautiful Soupを使って 「複数ページ」から データを取得して、その後  とpandas かimport csvで 複数ページのデータを整形して CSVに出力したいと考えています
ここに質問の内容を詳しく書いてください。
各ページからスクレイピングで項目の値を取得するまでは出来たのですが、
複数ページのデータを、CSVデータに「まとめて出力」するには、BeautifulSoup かpandasか、どの部分で どのように処理していくのが望ましいでしょうか?

具体例
複数ページに 特定の項目があり、各ページから値を取得
ページ1
項目aの値:page1_aaa
項目bの値:page1_bbb
項目cの値:page1_ccc
ページ2
項目aの値:page2_aaa
項目bの値:page2_bbb
項目cの値:page2_ccc
ページ3
項目aの値:page3_aaa
項目bの値:page3_bbb
項目cの値:page3_ccc

複数ページの各項目データを整形して 「まとめてCSV出力したい」
整形順番  a,b,c→b,c,a

こんなCSVファイルにしたい
列1     列2    列3
項目bの値,項目cの値,項目aの値
page1_bbb,page1_ccc,page1_aaa
page2_bbb,page2_ccc,page2_aaa
page3_bbb,page3_ccc,page3_aaa

試したこと

Beautiful soupで 各ページごとに値を取得しているが、各ページごとの項目を、どこで(Bs4orpandas)データを合算すればいいでしょうか

Beautiful Soup で各ページのデータを合算できたほうがスマートだと思うのですが、そのやり方がさっぱりわからなかったので、

import csv のopen で 引数を'a'追記にして 1ページずつデータをCSVに追記している状況です。

複数ページから 特定の項目データを取得して、まとめてCSV出力する。

これを実現するために、効率的な やり方があれば教えていただけますと幸いです

気になる質問をクリップする

クリップした質問は、後からいつでもMYページで確認できます。

またクリップした質問に回答があった際、通知やメールを受け取ることができます。

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

guest

回答1

0

ベストアンサー

csvモジュールを使うなら、for文でcsvwriter.writerowを使うか、出力データをリストのリストにしておいて、csvwriter.writerowsを使えばできます。

writer オブジェクトをご覧ください。

pandasモジュールを使うなら、DataFrameに行を追加しておいて最後に書き込めばできます。

pandas.DataFrameに列や行を追加(assign, appendなど)
pandasでcsvファイルの書き出し・追記(to_csv)をご覧ください。

投稿2021/07/08 08:18

ppaul

総合スコア24666

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

dub

2021/07/10 07:28

ヒントをありがとうございます! pandasのDataFrameに追記する事が理解していないので、やってみます
guest

あなたの回答

tips

太字

斜体

打ち消し線

見出し

引用テキストの挿入

コードの挿入

リンクの挿入

リストの挿入

番号リストの挿入

表の挿入

水平線の挿入

プレビュー

15分調べてもわからないことは
teratailで質問しよう!

ただいまの回答率
85.48%

質問をまとめることで
思考を整理して素早く解決

テンプレート機能で
簡単に質問をまとめる

質問する

関連した質問