質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

新規登録して質問してみよう
ただいま回答率
85.50%
スクレイピング

スクレイピングとは、公開されているWebサイトからページ内の情報を抽出する技術です。

Beautiful Soup

Beautiful Soupは、Pythonのライブラリの一つ。スクレイピングに特化しています。HTMLデータの構文の解析を行うために、HTMLタグ/CSSのセレクタで抽出する部分を指定することが可能です。

Python 3.x

Python 3はPythonプログラミング言語の最新バージョンであり、2008年12月3日にリリースされました。

Q&A

解決済

1回答

283閲覧

【Python】【クローリング/スクレイピング】Beautifulsoupによる抽出

I_KAMAKURA

総合スコア11

スクレイピング

スクレイピングとは、公開されているWebサイトからページ内の情報を抽出する技術です。

Beautiful Soup

Beautiful Soupは、Pythonのライブラリの一つ。スクレイピングに特化しています。HTMLデータの構文の解析を行うために、HTMLタグ/CSSのセレクタで抽出する部分を指定することが可能です。

Python 3.x

Python 3はPythonプログラミング言語の最新バージョンであり、2008年12月3日にリリースされました。

0グッド

0クリップ

投稿2019/03/16 06:54

編集2019/03/16 07:13

https://r.gnavi.co.jp/a188901/ を対象に行なっています。
ここからメニューの中にあるテキストとURLを取得したいのですが以下のところまでいってからその続きが上手くいかなくお力添え頂きたいと思っております。
具体的に:find(find_all)の結果に対してfindが使えなくどうしていいかわからない

環境 Python 3.5.4

自分のコード(一部)

Python

1import requests 2from bs4 import BeautifulSoup 3 4def Crawl(URL): 5 r = requests.get(URL) 6 assert r.status_code==200, 'status code:{}'.format(r.status_code) 7 r.encoding = r.apparent_encoding 8 return BeautifulSoup(r.text, 'html.parser') 9 10soup = Crawl('https://r.gnavi.co.jp/a188901/') 11soup.find('li', id='nav-main-menu')

このfindによって以下まで抽出できます。ここからがfindのresultsetになるため、重ねてのfindやget, selectが使えなく困っています。

<li id="nav-main-menu"> <a href="https://r.gnavi.co.jp/a188901/menu1/">メニュー</a> <ul class="child"> <li class="first"> <a href="https://r.gnavi.co.jp/a188901/menu1/">2時間飲み放題</a> </li> <li> <a href="https://r.gnavi.co.jp/a188901/menu3/">おすすめの逸品</a> </li> <li> <a href="https://r.gnavi.co.jp/a188901/menu5/">定番/デザート</a> </li> <li class="last"> <a href="https://r.gnavi.co.jp/a188901/menu6/">ドリンク</a> </li> </ul> </li>

コードは一部のみ記載しているので動作問題があれば指摘をお願いいたします。
他に、記載すべきことが等あればご指導ご鞭撻お願い致します。

参考:具体的に抽出したい場所
具体的に抽出したい場所

気になる質問をクリップする

クリップした質問は、後からいつでもMYページで確認できます。

またクリップした質問に回答があった際、通知やメールを受け取ることができます。

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

tiitoi

2019/03/16 07:07

「メニューの中にあるテキストとURL」がどの箇所のことをいっているのかわからないので、キャプチャした画像に赤く印を付けていただけますか?
I_KAMAKURA

2019/03/16 07:15

失礼いたしました。 画像を掲載しましたのでご確認お願いします。掲載した後に厳密には不適切だと感じました。 正確にはメニューをおした後のプルダウンメニューのことです。
guest

回答1

0

ベストアンサー

このような意図であっていますでしょうか?

python

1import requests 2from bs4 import BeautifulSoup 3 4def Crawl(URL): 5 r = requests.get(URL) 6 assert r.status_code==200, 'status code:{}'.format(r.status_code) 7 r.encoding = r.apparent_encoding 8 return BeautifulSoup(r.text, 'html.parser') 9 10soup = Crawl('https://r.gnavi.co.jp/a188901/menu1/') 11 12links = [] 13for a in soup.select('li[id="nav-main-menu"] a'): 14 links.append([a.string, a['href']]) 15 16from pprint import pprint 17pprint(links) 18# [['メニュー', 'https://r.gnavi.co.jp/a188901/menu1/'], 19# ['2時間飲み放題', 'https://r.gnavi.co.jp/a188901/menu1/'], 20# ['おすすめの逸品', 'https://r.gnavi.co.jp/a188901/menu3/'], 21# ['定番/デザート', 'https://r.gnavi.co.jp/a188901/menu5/'], 22# ['ドリンク', 'https://r.gnavi.co.jp/a188901/menu6/']]

投稿2019/03/16 07:25

tiitoi

総合スコア21956

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

I_KAMAKURA

2019/03/16 07:29

はい、ありがとうございます! そういう書き方か・・・もっと勉強します!助かりました。
tiitoi

2019/03/16 07:32 編集

find_all() の返り値の ResultSet に対して、さらに条件を絞る場合、for a in soup.find_all(条件): のループの中で各要素の a.find(条件) を呼び出せばいいですが、条件を絞るという工程が増えてくると冗長になるので、基本的には CSS セレクタを使ったほうが簡潔にかけます http://www.htmq.com/csskihon/005.shtml
guest

あなたの回答

tips

太字

斜体

打ち消し線

見出し

引用テキストの挿入

コードの挿入

リンクの挿入

リストの挿入

番号リストの挿入

表の挿入

水平線の挿入

プレビュー

15分調べてもわからないことは
teratailで質問しよう!

ただいまの回答率
85.50%

質問をまとめることで
思考を整理して素早く解決

テンプレート機能で
簡単に質問をまとめる

質問する

関連した質問