質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

新規登録して質問してみよう
ただいま回答率
85.50%
Google Colaboratory

Google Colaboratoryとは、無償のJupyterノートブック環境。教育や研究機関の機械学習の普及のためのGoogleの研究プロジェクトです。PythonやNumpyといった機械学習で要する大方の環境がすでに構築されており、コードの記述・実行、解析の保存・共有などが可能です。

Python

Pythonは、コードの読みやすさが特徴的なプログラミング言語の1つです。 強い型付け、動的型付けに対応しており、後方互換性がないバージョン2系とバージョン3系が使用されています。 商用製品の開発にも無料で使用でき、OSだけでなく仮想環境にも対応。Unicodeによる文字列操作をサポートしているため、日本語処理も標準で可能です。

Q&A

解決済

2回答

10612閲覧

Googleの検索はスクレイピングできないようになっていますか?

tensais1

総合スコア14

Google Colaboratory

Google Colaboratoryとは、無償のJupyterノートブック環境。教育や研究機関の機械学習の普及のためのGoogleの研究プロジェクトです。PythonやNumpyといった機械学習で要する大方の環境がすでに構築されており、コードの記述・実行、解析の保存・共有などが可能です。

Python

Pythonは、コードの読みやすさが特徴的なプログラミング言語の1つです。 強い型付け、動的型付けに対応しており、後方互換性がないバージョン2系とバージョン3系が使用されています。 商用製品の開発にも無料で使用でき、OSだけでなく仮想環境にも対応。Unicodeによる文字列操作をサポートしているため、日本語処理も標準で可能です。

0グッド

1クリップ

投稿2019/06/21 09:31

前提・実現したいこと

現在pythonでスクレイピングの勉強をしているのですが、一般的なサイトとgoogleページで同様の処理をやっているのですが、googleだけエラーが発生します。
なにか抜け道のような方法もあると思いますが、このコードでは取得できないような処理がされているのでしょうか?

発生している問題・エラーメッセージ

/url?q=http://career-theory.net/dont-want-to-go-to-work-5628&sa=U&ved=2ahUKEwiV1beCnfriAhWB51QKHXrqDeoQFjAAegQIBRAB&usg=AOvVaw1UOSDgboTy6yCM-RLRY8ZG --------------------------------------------------------------------------- AttributeError Traceback (most recent call last) <ipython-input-95-c91cb8ae4bf0> in <module>() 1 for tag in tags: ----> 2 print(tag.a.get("href")) AttributeError: 'NoneType' object has no attribute 'get'

該当のソースコード

python

1from bs4 import BeautifulSoup 2import requests 3import pandas as pd 4from google.colab import files 5 6columns = ['rank','title','url', 'affiliate_url'] 7df = pd.DataFrame(columns=columns) 8df.head() #配列の最初を取得,tail()は末尾 9 10keyword = '会社 行きたくない' 11html_doc = requests.get('https://www.google.co.jp/search?num=10&q=' +keyword).text 12soup = BeautifulSoup(html_doc, 'html.parser') # BeautifulSoupの初期化 13print(soup.prettify()) 14 15tags = soup.find_all("div",{"class":"jfp3ef"}) 16print (tags) 17 18↑ここまでは取得できる 19 20for tag in tags: 21 print(tag.a.get("href")) 22 23↑ここでエラー 24
import pandas as pd # pandasのインポート from bs4 import BeautifulSoup # BeautifulSoupのインポート import requests # requestsのインポート from google.colab import files url = "https://review-of-my-life.blogspot.com" # TODO1 requestsで、指定されたURLのHTMLを取得してください。 response = requests.get(url).text print(response) soup = BeautifulSoup(response,'html.parser') print(soup.prettify()) tags = soup.find_all("h3",{"class":"post-title"}) print(tags) for tag in tags: print(tag.a.get("href"))

試したこと

対象クラスを代えたり、aタグだけを直接指定したりしましたが、
getメソッドがきかず、リンクが容易に取得できないようになっているのかな?という印象です

補足情報(FW/ツールのバージョンなど)

Colab Notebooksで作成しています。

また、参考にしている記事は、下記の記事で、この記事の時点では検索結果に、h3などのタグがあったようですが、今はない?のか、上記コードでhtmlを開いてもでてこず、ただ、googleページで直接開発ツールを開いた場合は出てくるので、スクレイピング対策なのかな?と思いました。
https://note.mu/daikawai/n/n7cb363531396

参考記事では当時は、下記コードで

html_doc = requests.get('https://www.google.co.jp/search?num=10&q=' +keyword).text soup = BeautifulSoup(html_doc, 'html.parser') # BeautifulSoupの初期化 print(soup.prettify())

下記のように取得できたようです。今は、h3が出てきませんでした。

<ol> <div class="g"> <h3 class="r"> <a href="/url?q=http://career-theory.net/dont-want-to-go-to-work-5628&amp;sa=U&amp;ved=0ahUKEwiNk9LHldfdAhUowFkKHe1JDc4QFggUMAA&amp;usg=AOvVaw2bQgJNPO5k35th4cb-eW8A"> <b> 会社 </b> に <b> 行きたくない </b> 5つの原因を対処・解決するための全知識 </a> </h3>

気になる質問をクリップする

クリップした質問は、後からいつでもMYページで確認できます。

またクリップした質問に回答があった際、通知やメールを受け取ることができます。

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

guest

回答2

0

他の方の回答を引用しますが、Googleは無許可のスクレイピングを禁止しています。

投稿2019/06/24 16:58

javahack

総合スコア1088

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

tensais1

2019/06/24 22:47

もちろんそのことは承知しており、スクレイピング自体を対策しているサイトもあるようですね。その対策としてこういう書き方をすると、スクレイピングができなくなるのかが知りたかったです。
guest

0

ベストアンサー

a["href"]を使うのはどうでしょうか。
tagの中にaタグがない場合もある(tag.a=Noneとなりエラーの原因となる)ので、try-except構文を使うとおすすめです。

python

1for tag in tags: 2 print(type(tag.a)) 3 #hrefの中身を出力 4 try: 5 print(tag.a["href"]) 6 #aタグがない場合 7 except: 8 print('エラー発生、続行') 9 print('タグ終了') 10 11print('終了')

投稿2019/06/24 14:58

amahara_waya

総合スコア1029

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

tensais1

2019/06/24 22:45

たしかにtry構文をつかえばできますね!pirnt(type(tag.a))がなぜかエラーになってしまいましたが、対応策わかりました!ありがとうございます!
guest

あなたの回答

tips

太字

斜体

打ち消し線

見出し

引用テキストの挿入

コードの挿入

リンクの挿入

リストの挿入

番号リストの挿入

表の挿入

水平線の挿入

プレビュー

15分調べてもわからないことは
teratailで質問しよう!

ただいまの回答率
85.50%

質問をまとめることで
思考を整理して素早く解決

テンプレート機能で
簡単に質問をまとめる

質問する

関連した質問