質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

新規登録して質問してみよう
ただいま回答率
85.48%
スクレイピング

スクレイピングとは、公開されているWebサイトからページ内の情報を抽出する技術です。

Python

Pythonは、コードの読みやすさが特徴的なプログラミング言語の1つです。 強い型付け、動的型付けに対応しており、後方互換性がないバージョン2系とバージョン3系が使用されています。 商用製品の開発にも無料で使用でき、OSだけでなく仮想環境にも対応。Unicodeによる文字列操作をサポートしているため、日本語処理も標準で可能です。

Q&A

解決済

1回答

645閲覧

Pythonを用いたスクレイピングのcsv形式での出力方法について。

KNTN

総合スコア25

スクレイピング

スクレイピングとは、公開されているWebサイトからページ内の情報を抽出する技術です。

Python

Pythonは、コードの読みやすさが特徴的なプログラミング言語の1つです。 強い型付け、動的型付けに対応しており、後方互換性がないバージョン2系とバージョン3系が使用されています。 商用製品の開発にも無料で使用でき、OSだけでなく仮想環境にも対応。Unicodeによる文字列操作をサポートしているため、日本語処理も標準で可能です。

0グッド

0クリップ

投稿2022/10/20 06:56

編集2022/10/20 10:48

前提

Pythonを用いたスクレイピングの出力方法について。
下記のURL(https://100mon.jp/) から質問内容をスクレイピングするコードを作成しました。

実現したいこと

csv形式で出力すると添付写真のように、データが101行目から入力されます。
「自己紹介がしたい人に100の質問」は1-100行目に入力されますが、次の質問内容「片想いをしている人に100の質問」は101-の入力になります。これを1行目から入力する方法を知りたいです。

発生している問題・エラーメッセージ

![イメージ説明](https://ddjkaamml8q8x.cloudfront.net/questions/2022-10-20/9b85d368-c135-4ece-8c96-c43cedaf7663.png)

該当のソースコード

Python

1import requests 2import re 3from bs4 import BeautifulSoup 4 5data=[] 6 7page_count = 1 8next_res = "" 9soup="" 10 11num=0 12 13while num<4342: 14 15 next_res=requests.get("https://100mon.jp/q/"+str(page_count)).text 16 soup=BeautifulSoup(next_res,'html.parser') 17 18 title = soup.find('h1',attrs={'class':'title'}) 19 20 all_questions=soup.find_all('ol') 21 22 for some_questions in all_questions: 23 for questions in some_questions: 24 question = questions 25 26 datum={} 27 28 datum[title.text]=question.text 29 data.append(datum) 30 31 page_count+=1 32 num +=1 33 34import pandas as pd 35df=pd.DataFrame(data) 36df.to_csv('100の質問50.csv',index=False) 37

補足情報(FW/ツールのバージョンなど)

Jupiter lab, Pythonを使用してます。

気になる質問をクリップする

クリップした質問は、後からいつでもMYページで確認できます。

またクリップした質問に回答があった際、通知やメールを受け取ることができます。

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

退会済みユーザー

退会済みユーザー

2022/10/20 10:16

csvに出力する部分のコードも含めて、コードは省略せず全部記載してください。
meg_

2022/10/20 11:36

> csv形式で出力すると添付写真のように 写真が表示されていませんよ。
meg_

2022/10/21 08:29

> teratailで画像を添付するとこのような方法になるみたいです。 そうではありません。添付の仕方が間違っています。 現状おそらく「コードの挿入」の中に「画像の挿入」をしてしまっています。投稿前にレビューで確認なさるようにお願いいたします。
guest

回答1

0

ベストアンサー

多分下のようなことをやりたいのではないかと。
(サーバーへの負荷を抑えるため1ページごとにウェイトを入れる必要があります)

python

1import requests 2import re 3from bs4 import BeautifulSoup 4import time 5page_count = 1 6next_res = "" 7soup="" 8num=0 9 10data = {} 11while num < 100: 12 next_res=requests.get("https://100mon.jp/q/"+str(page_count)).text 13 soup=BeautifulSoup(next_res,'html.parser') 14 title = soup.find('h1',attrs={'class':'title'}) 15 row = [] 16 all_questions=soup.find_all('ol') 17 for some_questions in all_questions: 18 for questions in some_questions: 19 question = questions 20 row.append(question.text) 21 data[title.text] = row 22 print(f"page:{page_count} completed!") 23 time.sleep(1) 24 page_count+=1 25 num +=1 26 27import pandas as pd 28df=pd.DataFrame(data) 29 30df.to_csv('100の質問50.csv', index=False)

投稿2022/10/20 13:48

退会済みユーザー

退会済みユーザー

総合スコア0

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

KNTN

2022/10/21 04:01

ありがとうございました。
guest

あなたの回答

tips

太字

斜体

打ち消し線

見出し

引用テキストの挿入

コードの挿入

リンクの挿入

リストの挿入

番号リストの挿入

表の挿入

水平線の挿入

プレビュー

15分調べてもわからないことは
teratailで質問しよう!

ただいまの回答率
85.48%

質問をまとめることで
思考を整理して素早く解決

テンプレート機能で
簡単に質問をまとめる

質問する

関連した質問