質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

新規登録して質問してみよう
ただいま回答率
85.50%
Google API

Googleは多種多様なAPIを提供していて、その多くはウェブ開発者向けのAPIです。それらのAPIは消費者に人気なGoogleのサービス(Google Maps, Google Earth, AdSense, Adwords, Google Apps,YouTube等)に基づいています。

PHP

PHPは、Webサイト構築に特化して開発されたプログラミング言語です。大きな特徴のひとつは、HTMLに直接プログラムを埋め込むことができるという点です。PHPを用いることで、HTMLを動的コンテンツとして出力できます。HTMLがそのままブラウザに表示されるのに対し、PHPプログラムはサーバ側で実行された結果がブラウザに表示されるため、PHPスクリプトは「サーバサイドスクリプト」と呼ばれています。

Google

Googleは、アメリカ合衆国に位置する、インターネット関連のサービスや製品を提供している企業です。検索エンジンからアプリケーションの提供まで、多岐にわたるサービスを提供しています。

Q&A

解決済

1回答

1547閲覧

PHPでgoogleの画像検索結果のHTMLの取得をしたいです。

art_of

総合スコア21

Google API

Googleは多種多様なAPIを提供していて、その多くはウェブ開発者向けのAPIです。それらのAPIは消費者に人気なGoogleのサービス(Google Maps, Google Earth, AdSense, Adwords, Google Apps,YouTube等)に基づいています。

PHP

PHPは、Webサイト構築に特化して開発されたプログラミング言語です。大きな特徴のひとつは、HTMLに直接プログラムを埋め込むことができるという点です。PHPを用いることで、HTMLを動的コンテンツとして出力できます。HTMLがそのままブラウザに表示されるのに対し、PHPプログラムはサーバ側で実行された結果がブラウザに表示されるため、PHPスクリプトは「サーバサイドスクリプト」と呼ばれています。

Google

Googleは、アメリカ合衆国に位置する、インターネット関連のサービスや製品を提供している企業です。検索エンジンからアプリケーションの提供まで、多岐にわたるサービスを提供しています。

0グッド

0クリップ

投稿2019/05/02 07:54

編集2019/05/02 07:55

前提・実現したいこと

PHPでgoogleの画像検索結果のHTMLの取得をしたいです。(指定した画像を含むページが有るかどうか調べる)

該当のソースコード

$url = 'https://www.google.com/search?tbs=...'; $html = file_get_contents($url);

とやっているのですが、https://www.google.com/search?tbs=...のページのHTMLが取得できません。

試したこと

$header=get_headers('https://www.google.com/search?tbs=...');

こちらのコードでリダイレクト先を調べたところ、どうやらsearchの部分がwebhpに変換されてしまっているようです。
どうやればリダイレクトを防いで、https://www.google.com/search?tbs=...こちらのHTMLを取得できるでしょうか。

気になる質問をクリップする

クリップした質問は、後からいつでもMYページで確認できます。

またクリップした質問に回答があった際、通知やメールを受け取ることができます。

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

退会済みユーザー

退会済みユーザー

2019/05/02 08:04

スクレイピングをしたいってこと?
art_of

2019/05/02 08:09

回答有り難うございます。 そうです。そうしたいのですが、どうやら画像を指定した検索では上記のようにうまくHTMLの取得ができません。
退会済みユーザー

退会済みユーザー

2019/05/02 08:15

「google 検索結果 スクレイピング」で検索して出てくる記事などはすでに読んでますか? そもそもBOT対策きついGoogleに喧嘩売ってるんだけどな。
art_of

2019/05/02 08:17

いくつかスクレイピングの記事は読みましたが、googleに特化した検索はかけていませんでした。 なるほど、bot対策してるんですね。。
art_of

2019/05/02 08:24

スクレイピングを行うにもfile_get_contentsは必要だと思うのですが、file_get_contentsする時点で弾かれるので、対策方法はございますでしょうか。
guest

回答1

0

ベストアンサー

ちゃんとうまくいく保証はできません。

http_build_query()
stream_context_create()
file_get_contents()

あたりを組み合わせればできるようになるかもしれない。
ふつうのサイト(静的htmlで構成されているとか)でできることを確認してから、
本番(?)したらトラブルの切り分けがしやすいかも。

先方のサーバーに提供するHTTPヘッダーに
User-Agentを実在ブラウザの文字列を使ったり、
Cookieをなにか持たせたりとか工夫しないと、
天下のGoogle様を相手にはできない気がする。

下記、参考情報。
file_get_contents() で GET リクエストを送る場合の値は URL に持たせる | ウェブル
HTTPリクエストのカスタマイズ | PHP プログラミング解説

投稿2019/05/02 10:46

退会済みユーザー

退会済みユーザー

総合スコア0

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

art_of

2019/05/03 02:23

ありがとうございました!! $ua = $_SERVER['HTTP_USER_AGENT']; $options = array( 'http' => array( 'method' => 'GET', 'header' => "User-Agent: ".$ua, )); $context = stream_context_create( $options ); $html = file_get_contents( $url, FALSE, $context ) とすることで、取得できました。本当に助かりました。
guest

あなたの回答

tips

太字

斜体

打ち消し線

見出し

引用テキストの挿入

コードの挿入

リンクの挿入

リストの挿入

番号リストの挿入

表の挿入

水平線の挿入

プレビュー

15分調べてもわからないことは
teratailで質問しよう!

ただいまの回答率
85.50%

質問をまとめることで
思考を整理して素早く解決

テンプレート機能で
簡単に質問をまとめる

質問する

関連した質問