質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

新規登録して質問してみよう
ただいま回答率
85.49%
Ruby

Rubyはプログラミング言語のひとつで、オープンソース、オブジェクト指向のプログラミング開発に対応しています。

Q&A

解決済

1回答

3350閲覧

open-uriでgoogle検索結果を取得しようとすると、503 Server Unavable (OpenURI::HTTPError)がでる

sayama

総合スコア28

Ruby

Rubyはプログラミング言語のひとつで、オープンソース、オブジェクト指向のプログラミング開発に対応しています。

0グッド

0クリップ

投稿2016/09/18 02:24

open-uriでgoogle検索結果を取得するプログラムを作っています。

Ruby

1#!/usr/bin/ruby 2# -*- encoding: utf-8 -*- 3require 'nokogiri' 4require 'open-uri' 5require 'uri' 6 7keyword = "Ruby" 8 9keyword_escape = URI.escape(keyword) 10 11uri = "http://www.google.co.jp/search?ie=UTF-8&oe=UTF-8&q=#{keyword_escape}&pws=0" 12 13opt = {} 14opt['User-Agent'] = 'Mozilla/5.0 (Windows NT 6.1; Trident/7.0; rv:11.0) like Gecko' 15 16doc = Nokogiri.HTML(open(uri, opt))

これを実行すると、

open-uri.rb:353:in `open': 503 Server Unavable (OpenURI::HTTPError)

というエラーがでます。

途中までは出てなかったエラーだったのですが、急に出始めました。
悪質なクローラーに対する対策のようで、User-Agentを偽装すればよいとの記事を見たので、やってみましたが解決しません。

なにか他にやりようはありますでしょうか?
よろしくお願いします。

気になる質問をクリップする

クリップした質問は、後からいつでもMYページで確認できます。

またクリップした質問に回答があった際、通知やメールを受け取ることができます。

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

guest

回答1

0

ベストアンサー

Google側でそのようなアクセスを禁止していますので、ちょっとやそっとではうまく行きません。

利用規約の「Google が提供するインターフェースおよび手順以外の方法による本サービスへのアクセスを試みてはなりません。」を根拠にした措置だと、503で帰ってくるページに書いてあった気もします。

投稿2016/09/18 02:54

maisumakun

総合スコア145179

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

sayama

2016/09/18 03:46

禁止されていたのですね。 申し訳ありませんでした。 ありがとうございました。
guest

あなたの回答

tips

太字

斜体

打ち消し線

見出し

引用テキストの挿入

コードの挿入

リンクの挿入

リストの挿入

番号リストの挿入

表の挿入

水平線の挿入

プレビュー

15分調べてもわからないことは
teratailで質問しよう!

ただいまの回答率
85.49%

質問をまとめることで
思考を整理して素早く解決

テンプレート機能で
簡単に質問をまとめる

質問する

関連した質問