現在、クローリング、スクレイピングのプログラムを組んでおりまして、
特定の文字から始まり、特定の文字で終了するまでの間のhtmlを
抽出したく考えております。
例えば、下記に記載がある「著者は梅原大吾さん。プロゲーマーである」
というワードから、「本書の言葉はとっても参考になる要素が多いように感じた」までの間のhtmlだけを抽出した場合、どういった手法を用いると可能なのか、見立てがついていない状況でございます。
ネット上でいくつか調べているのですが、当てはまるものが見つけられない状態である為、
粗粗で大変恐縮ですがお知恵お借り出来ますと幸いでございます。
下記記載の内容は、pythonでseleniumとbeautifulsoupを用いて、
特定のページのhtmlを取得したものの中で、本質問用に一部抜粋した内容になります。
宜しくお願い致します。
<div class="book_detail3" style="border-style:solid;"> <p style="margin:0px; font-size:12px; padding:10px;">初めてこの本を読んだ時、とても深い感銘を覚えたことを覚えている。<br/> なぜなら、今まで読んできた書籍(ノンフィクション等も含めて)のどの本よりも、<br/> 言葉の密度が濃かったからだ。<br/> <br/> 著者は梅原大吾さん。プロゲーマーである。<br/> 子供の頃からゲームセンターで過ごし、一度ゲームの道から遠ざかるも、<br/> 再びプロゲームの世界に戻られ、活躍をされていらっしゃる方である。<br/> <br/> そのような方が、”勝ち続ける”ということに主眼を置いて本を執筆した。<br/> それが本書である。<br/> <br/> 長い間プロゲーマーとして活躍されてきた同氏の言葉は、非常に重みがある。<br/> <br/> 「17歳で世界一になれたのは、ゲームを追求していないと自分に自信が持てず、<br/> 揺れ動く気持ちを保つことができなかったからだ」<br/> 「勝つことに執着している人は、勝ち続けることはできない」<br/> 「築き上げたことに固執する人は、自分自身の成長に対する優先度が低いのかもしれない」<br/> <br/> 等、ところどころに、梅原さんがこれまで練磨されてきた勝負観が<br/> 書かれており、大変参考になる。<br/> <br/> 大変参考になるという言葉は、大半がプロゲーマーではない私たちにとって、<br/> 飛躍しすぎているかもしれない。<br/> ただ、自分がいて、課題があって、それを乗り越えるべく努力をし続ける必要ある人に<br/> とって、本書の言葉はとっても参考になる要素が多いように感じた。<br/> <br/> 興味のある人は是非読んでみてください。</p> </div>
【追加のご相談】
ご教示頂いた内容を元に実装したところ上記で正規表現に成功致しました。
ありがとうございます。
現在は、下記のようなコードで正規表現を試みているのですが、
「TypeError: expected string or buffe」というエラーメッセージが
出てしまい正規表現ができていない状況でございます。
「bs_obj」に対して正規表現をかけたいのですが、
この場合はどこを修正すると機能する形でしょうか。
宜しくお願い致します。
#coding:utf-8 from selenium import webdriver from bs4 import BeautifulSoup import lxml.html import re import traceback import sys class Crawler(object): def main(self, url): if url is not None: print("None1") try: browser = webdriver.PhantomJS() # ブラウザを操作するオブジェクトを生成 browser.get(url) # URLへアクセス except: print("None2") html_source = browser.page_source # アクセスしたサイトのページソースを返す bs_obj = BeautifulSoup(html_source,'lxml') # ページソースを引数にとり、BeautifulSoupのオブジェクトを生成 print(bs_obj) begin = '著者は梅原大吾さん。プロゲーマーである。' end = '本書の言葉はとっても参考になる要素が多いように感じた。' import re r = re.compile( '(%s.*%s)' % (begin,end), flags=re.DOTALL) # 途中の改行も含める m = r.search(bs_obj) ret = '' if m is not None: ret = m.group(0) print(ret) cw = Crawler() cw.main("https://honbat.com/book-detail4.php?da=2")
回答1件
あなたの回答
tips
プレビュー
バッドをするには、ログインかつ
こちらの条件を満たす必要があります。
退会済みユーザー
2017/11/04 09:21