質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

ただいまの
回答率

88.63%

pythonでWebスクレイピング 爆砕編

解決済

回答 1

投稿 編集

  • 評価
  • クリップ 0
  • VIEW 752

goki_gottan

score 57

 前提・実現したいこと

爆砕のレスをPYTHONでスクレイピングしようとしています。
単純な方法では、改行タグのせいで出力がNoneで返ってきますので、
仕方なく添付しておりますコードにしております。
問題は解決したのですが、応用性が悪く、日にちが変われば使えません。
タグをキレイに整理された状態で出力したいです。

 発生している問題・エラーメッセージ

<div>タグで区切ると欲しいデータが丸々ありますが、
いらないタグや改行によっては抜け落ちる行があります。

 該当のソースコード

import requests
from bs4 import BeautifulSoup

r = requests.get("http://kanto.hostlove.com/caat/20181028151541/a/1")
soup = BeautifulSoup(r.content, "html.parser")

for i in soup.find_all("div", class_="res"):
    for j in i.contents:
        print(j.string)

コード

 試したこと

そこで、欠落しない状態にしてから、
条件で不要な文字を削除する方法をとりました。
※コードはfor文以下を変えております。

product = soup.find_all("div",class_="res")

for i in product:
    j =str(i)
    j=j.replace("<div class=","")
    j=j.replace('"res">',"")
    j=j.replace("</div>","")
    j=j.replace("</br>","")
    j=j.replace("<br>","")
    j=j.replace('<a class="cmt fancybox fancyboxAjax" data-param="?tnum=20181028151541&amp;cnum=3" href="/caat/20181028151541/n3">&gt;&gt;3</a><br/>',"")
    j=j.replace('<a class="cmt fancybox fancyboxAjax" data-param="?tnum=20181028151541&amp;cnum=7" href="/caat/20181028151541/n7">&gt;&gt;7</a><br/>',"")

    print(j) 

コード

 補足情報(FW/ツールのバージョンなど)

python3.5を使用しております。
beautiful soupをより良い形にできれば、タグをキレイにし、
Noneや欠落した文字列を欠落せずにできると思うので、良い方法を教えてください。

  • 気になる質問をクリップする

    クリップした質問は、後からいつでもマイページで確認できます。

    またクリップした質問に回答があった際、通知やメールを受け取ることができます。

    クリップを取り消します

  • 良い質問の評価を上げる

    以下のような質問は評価を上げましょう

    • 質問内容が明確
    • 自分も答えを知りたい
    • 質問者以外のユーザにも役立つ

    評価が高い質問は、TOPページの「注目」タブのフィードに表示されやすくなります。

    質問の評価を上げたことを取り消します

  • 評価を下げられる数の上限に達しました

    評価を下げることができません

    • 1日5回まで評価を下げられます
    • 1日に1ユーザに対して2回まで評価を下げられます

    質問の評価を下げる

    teratailでは下記のような質問を「具体的に困っていることがない質問」、「サイトポリシーに違反する質問」と定義し、推奨していません。

    • プログラミングに関係のない質問
    • やってほしいことだけを記載した丸投げの質問
    • 問題・課題が含まれていない質問
    • 意図的に内容が抹消された質問
    • 過去に投稿した質問と同じ内容の質問
    • 広告と受け取られるような投稿

    評価が下がると、TOPページの「アクティブ」「注目」タブのフィードに表示されにくくなります。

    質問の評価を下げたことを取り消します

    この機能は開放されていません

    評価を下げる条件を満たしてません

    評価を下げる理由を選択してください

    詳細な説明はこちら

    上記に当てはまらず、質問内容が明確になっていない質問には「情報の追加・修正依頼」機能からコメントをしてください。

    質問の評価を下げる機能の利用条件

    この機能を利用するためには、以下の事項を行う必要があります。

質問への追記・修正、ベストアンサー選択の依頼

  • hayataka2049

    2018/11/04 20:50

    質問文を再編集し、コードを<code>ボタンで挿入できるコードブロックの中に入れてください

    キャンセル

回答 1

checkベストアンサー

+1

bs4.element.Tag.string はそのタグが1つの子要素を持ち、それが bs4.element.NavigableString である場合にテキストの内容を取得できます。
つまり、<b>test</b> のような配下がテキスト1つのみのとき、b_tag.string とすると、test が取得できます。
今回の件のように、div 配下に複数の子 (テキストや brタグ) がある場合は、bs4.element.Tag.text を使うとよいです。

import requests
from bs4 import BeautifulSoup

res = requests.get('http://kanto.hostlove.com/caat/20181028151541/a/1')
soup = BeautifulSoup(res.content, 'html.parser')

for div_tag in soup.find_all('div', class_='res'):
    text = div_tag.text.replace('\n', '')  #改行削除
    print(text)
    print('------------------------------------')

レスの区切りがわかるように ------ を入れて print() しています。

歌舞伎町コスプレセクキャバ萌
------------------------------------
前に居た、ゆうりちゃんにもう会う事は出来ないかな〜会いたい〜
------------------------------------
ヒナタと付き合いたい
------------------------------------
新店どうだった?
------------------------------------
>>3ハイエナ?wwww
------------------------------------
>>3シナモン良かったよ
------------------------------------
チナミね紹介が下がったのは店長にすてられた?
------------------------------------
ピックアップガールがリオナになったから、リオナがナンバーワンなの?
------------------------------------
新人じゃなくて、出戻りばっかり
------------------------------------
シナモン、可愛い子が多かった。
------------------------------------
>>7新人がナンバーワンなんて取れないと思うよ。
------------------------------------

投稿

  • 回答の評価を上げる

    以下のような回答は評価を上げましょう

    • 正しい回答
    • わかりやすい回答
    • ためになる回答

    評価が高い回答ほどページの上位に表示されます。

  • 回答の評価を下げる

    下記のような回答は推奨されていません。

    • 間違っている回答
    • 質問の回答になっていない投稿
    • スパムや攻撃的な表現を用いた投稿

    評価を下げる際はその理由を明確に伝え、適切な回答に修正してもらいましょう。

  • 2018/11/04 21:03

    すばらしいの一言です。感激しました。
    これまでも色々なPythonでツールを作っているのですが、一人で悩んでおりましたが、
    どしどし質問するようにいたします。
    本当に感激しました。ありがとうございます。

    キャンセル

15分調べてもわからないことは、teratailで質問しよう!

  • ただいまの回答率 88.63%
  • 質問をまとめることで、思考を整理して素早く解決
  • テンプレート機能で、簡単に質問をまとめられる

関連した質問

同じタグがついた質問を見る