質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

新規登録して質問してみよう
ただいま回答率
85.48%
Python 3.x

Python 3はPythonプログラミング言語の最新バージョンであり、2008年12月3日にリリースされました。

Q&A

解決済

1回答

2747閲覧

google検索結果をスクレイピングしたい

taboopython

総合スコア40

Python 3.x

Python 3はPythonプログラミング言語の最新バージョンであり、2008年12月3日にリリースされました。

0グッド

1クリップ

投稿2019/07/19 07:20

google検索結果をスクレイピングしたいが、うまくできません。

次のようなコードで実行しているのですが、結果が反映されません。(エラーにもならず、結果が出力されない状態です。)

検索結果の内容とURLを出力したいところです。
ソースのセレクト部分について特に自信がなく、原因の可能性が高いと思っていますが、原因がわかりません。

原因、対策、おわかりになれば教えていただければ幸いです。

python

1from bs4 import BeautifulSoup 2import requests 3import csv 4import re 5 6list_keywd = [‘プログラミング’,’python’] 7page = 5 8 9resp = requests.get('https://www.google.co.jp/search?num=' + str(page) + '&q=' + ' '.join(list_keywd)) 10resp.raise_for_status() 11 12soup = BeautifulSoup(resp.text, "html.parser") 13 14link_elem01 = soup.select('.r > a') 15 16with open('TitleURL.csv','w',newline='',encoding='utf8') as outcsv: 17 csvwriter = csv.writer(outcsv) 18 csvwriter.writerow(['No','タイトル','URL']) 19 for i in range(len(link_elem01)): 20 21 url_text = link_elem01[i].get('href').replace('/url?q=','') 22 url_text = re.sub('&.*', "", url_text) 23 24 title_text = link_elem01[i].get_text() 25 csvwriter.writerow([i+1,title_text,url_text]) 26 outcsv.close()

気になる質問をクリップする

クリップした質問は、後からいつでもMYページで確認できます。

またクリップした質問に回答があった際、通知やメールを受け取ることができます。

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

guest

回答1

0

ベストアンサー

googleは検索結果のスクレイピングを認めていません。

本サービスの妨害や、Google が提供するインターフェースおよび手順以外の方法による本サービスへのアクセスを試みてはなりません。

https://policies.google.com/terms?hl=ja#toc-content

 

自動化されたクエリを Google から明示的な許可を事前に得ずに Google のシステムに送信することは禁止されています。

https://support.google.com/webmasters/answer/66357

検索結果の取得には、Google Custom Searchを使うことが望ましいです。

https://developers.google.com/custom-search/?hl=ja

投稿2019/07/19 11:37

hayataka2049

総合スコア30933

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

taboopython

2019/07/20 09:09

ありがとうございます!まずはGoogle Custom Searchを確認してみます。
guest

あなたの回答

tips

太字

斜体

打ち消し線

見出し

引用テキストの挿入

コードの挿入

リンクの挿入

リストの挿入

番号リストの挿入

表の挿入

水平線の挿入

プレビュー

15分調べてもわからないことは
teratailで質問しよう!

ただいまの回答率
85.48%

質問をまとめることで
思考を整理して素早く解決

テンプレート機能で
簡単に質問をまとめる

質問する

関連した質問