質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

新規登録して質問してみよう
ただいま回答率
85.50%
スクレイピング

スクレイピングとは、公開されているWebサイトからページ内の情報を抽出する技術です。

Python

Pythonは、コードの読みやすさが特徴的なプログラミング言語の1つです。 強い型付け、動的型付けに対応しており、後方互換性がないバージョン2系とバージョン3系が使用されています。 商用製品の開発にも無料で使用でき、OSだけでなく仮想環境にも対応。Unicodeによる文字列操作をサポートしているため、日本語処理も標準で可能です。

Q&A

解決済

1回答

453閲覧

python/BeautifulSoupでスクレイピングをしたい。

ynj

総合スコア17

スクレイピング

スクレイピングとは、公開されているWebサイトからページ内の情報を抽出する技術です。

Python

Pythonは、コードの読みやすさが特徴的なプログラミング言語の1つです。 強い型付け、動的型付けに対応しており、後方互換性がないバージョン2系とバージョン3系が使用されています。 商用製品の開発にも無料で使用でき、OSだけでなく仮想環境にも対応。Unicodeによる文字列操作をサポートしているため、日本語処理も標準で可能です。

0グッド

0クリップ

投稿2018/02/23 15:56

###状況とエラー
タイトルの通り、スクレイピングにてweb上の情報取得を試しています。
例えばyahooトピックスの取得を試みた場合、以下のエラーメッセージが発生します。

Traceback (most recent call last): File "C:\python36\lib\runpy.py", line 183, in _run_module_as_main mod_name, mod_spec, code = _get_module_details(mod_name, _Error) File "C:\python36\lib\runpy.py", line 109, in _get_module_details __import__(pkg_name) File "C:\Users\USER\scr-yahoo.py", line 8, in <module> for i in yahoo.find("li"): AttributeError: 'NoneType' object has no attribute 'find'

該当のソースコード

python

1import requests 2from bs4 import BeautifulSoup 3 4url="https://www.yahoo.co.jp/" 5response=requests.get(url) 6bs=BeautifulSoup(response.text,"lxml") 7yahoo=bs.find("ul", class_="emphasis") 8for i in yahoo.find("li"): 9 print(i.a.text)

質問内容

'NoneType'とでているので、
yahoo=bs.find("ul", class_="emphasis")、のyahooに対して情報を取得出来て無いのだとは思いますが、方法がわかりません。

find()の中身の書き方が間違っているのか、そもそも根本的に間違っているのでしょうか?
ご回答の程よろしくお願いします。

補足情報(FW/ツールのバージョンなど)

python3.6.4

気になる質問をクリップする

クリップした質問は、後からいつでもMYページで確認できます。

またクリップした質問に回答があった際、通知やメールを受け取ることができます。

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

guest

回答1

0

ベストアンサー

当該ページですがユーザーエージェントが特定のものかチェックしているようです。応答の中身を見てみると「このページはchromeの最新バージョンか、firefoxの最新バージョンか・・・でないとダメよ」みたいな内容が書かれてます。

HTTPリクエストを発行する際のユーザーエージェントを指定する方法については
「python3 requests ユーザーエージェント」
などで検索してヒットするページが参考になると思います。

投稿2018/02/23 23:55

KSwordOfHaste

総合スコア18392

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

ynj

2018/02/24 11:50

コメントありがとうございます。 ご指摘の通り、見よう見まねでユーザーエージェントを指定する事で取得する事ができました。 初歩的な事なのかもしれませんが、出来た瞬間とてもうれしかったです。ありがとうございます。 ※ 問題は解決したのですが、 後学のために、ユーザーエージェントを指定できてない点が問題という事を、エラーのどの部分で判断したのかを最後に教えていただけると幸いです。
KSwordOfHaste

2018/02/24 13:30 編集

(1)ブラウザーでアクセスした際にデベロッパーツールでdocument.getElementByClass等で調べたらclassがemphasisのul要素はあった (2)bs4でアクセスした際のtextプロパティーを文字列検索したらそもそも"ul"がなかった。 ここからブラウザーでアクセスした結果と違う内容が読めているのかなと思い、textプロパティーをprintしてみたら回答にあるような文言が書いてあったので「UserAgentチェックしてるんだろう」と推測しました。 --- エラー情報だけでは考え得る可能性のどれかが不明だったので実際にやってみてデータを確認しながら「原因を絞っていった」という感じです。いわゆるデバッグです。
ynj

2018/02/25 15:48

<nobr>Yahoo! JAPANトップページの機能を正しくご利用いただくには、下記の環境が必要で</nobr> Windows:Internet Explorer 11.0以上 / Chrome 最新 ↑"bs"を出力してみました。この部分から判断されたということでしょうか? であればここから問題点を自己判断するのは、中々に先が長そうです。。。 ともあれ、ありがとうございます。 今後も質問させて貰う事あると思いますので、その際はよろしくお願いします。
guest

あなたの回答

tips

太字

斜体

打ち消し線

見出し

引用テキストの挿入

コードの挿入

リンクの挿入

リストの挿入

番号リストの挿入

表の挿入

水平線の挿入

プレビュー

15分調べてもわからないことは
teratailで質問しよう!

ただいまの回答率
85.50%

質問をまとめることで
思考を整理して素早く解決

テンプレート機能で
簡単に質問をまとめる

質問する

関連した質問