質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

新規登録して質問してみよう
ただいま回答率
85.35%
スクレイピング

スクレイピングとは、公開されているWebサイトからページ内の情報を抽出する技術です。

POST

POSTはHTTPプロトコルのリクエストメソッドです。ファイルをアップロードしたときや入力フォームが送信されたときなど、クライアントがデータをサーバに送る際に利用されます。

PHP

PHPは、Webサイト構築に特化して開発されたプログラミング言語です。大きな特徴のひとつは、HTMLに直接プログラムを埋め込むことができるという点です。PHPを用いることで、HTMLを動的コンテンツとして出力できます。HTMLがそのままブラウザに表示されるのに対し、PHPプログラムはサーバ側で実行された結果がブラウザに表示されるため、PHPスクリプトは「サーバサイドスクリプト」と呼ばれています。

Q&A

解決済

1回答

3376閲覧

パラメータがURLに含まれていないPOST遷移するページをスクレイピングしたい。

ppap115

総合スコア11

スクレイピング

スクレイピングとは、公開されているWebサイトからページ内の情報を抽出する技術です。

POST

POSTはHTTPプロトコルのリクエストメソッドです。ファイルをアップロードしたときや入力フォームが送信されたときなど、クライアントがデータをサーバに送る際に利用されます。

PHP

PHPは、Webサイト構築に特化して開発されたプログラミング言語です。大きな特徴のひとつは、HTMLに直接プログラムを埋め込むことができるという点です。PHPを用いることで、HTMLを動的コンテンツとして出力できます。HTMLがそのままブラウザに表示されるのに対し、PHPプログラムはサーバ側で実行された結果がブラウザに表示されるため、PHPスクリプトは「サーバサイドスクリプト」と呼ばれています。

0グッド

0クリップ

投稿2020/03/29 14:11

編集2020/03/29 14:22

前提・実現したいこと

パラメータがURLに含まれていないPOST遷移するページをスクレイピングしたい。

下記サイトをスクレイピングしたいです。
https://www.hellowork.mhlw.go.jp/kensaku/GECA110010.do?action=initDisp&screenId=GECA110010

上記ページform内の情報を受けて下記URLに遷移するようなので、今回は都道府県とページ数を指定して検索結果を取得しようと考えています。
https://www.hellowork.mhlw.go.jp/kensaku/GECA110010.do

発生している問題・エラーメッセージ

下記エラー文が表示されています。

Notice: file_get_contents(): Content-type not specified assuming application/x-www-form-urlencoded in C:\xampp\htdocs\get_post\index.php on line 13

該当のソースコード

php

1<?php 2 3$url = "https://www.hellowork.mhlw.go.jp/kensaku/GECA110010.do"; 4$data = array( 5 "tDFK1CmbBox" => 13, 6 "fwListNaviBtn1" => 1 7); 8 9$options = array("http" => array( 10 "method" => "POST", 11 "content" => http_build_query($data), 12)); 13$text = file_get_contents($url, false, stream_context_create($options));

試したこと

コンテンツタイプの指定、ヘッダー情報がないことでのエラーではないかと下記コードを実行しましたがエラーになりました。

php

1<?php 2 3$url = "https://www.hellowork.mhlw.go.jp/kensaku/GECA110010.do"; 4$data = array( 5 "tDFK1CmbBox" => 13, 6 "fwListNaviBtn1" => 1 7); 8 9$header = array( 10 "Content-Type: application/x-www-form-urlencoded", 11 "Content-Length: ".strlen($data) 12 ); 13 14$options = array("http" => array( 15 "method" => "POST", 16 "content" => http_build_query($data), 17)); 18$text = file_get_contents($url, false, stream_context_create($options));

エラーメッセージ

Warning: strlen() expects parameter 1 to be string, array given in C:\xampp\htdocs\get_post\index.php on line 11 Notice: file_get_contents(): Content-type not specified assuming application/x-www-form-urlencoded in C:\xampp\htdocs\get_post\index.php on line 18

どうすれば情報を取得できるでしょうか?
よろしくお願いします。

気になる質問をクリップする

クリップした質問は、後からいつでもMYページで確認できます。

またクリップした質問に回答があった際、通知やメールを受け取ることができます。

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

退会済みユーザー

退会済みユーザー

2020/03/29 15:21

ハローワークの開設者(国)に利用方法の確認をした方がいいと思うぞ。 企業とちがって刑事罰発生とか馬鹿にならんことになる前に
m.ts10806

2020/03/29 21:28

そもそも、公式に提供されたAPIでなかったり、許可を得ていないスクレイピングはトラブルのもとです。 それこそ不要不急の利用は避けるべき概念ですよ。
ppap115

2020/03/30 02:32

ありがとうございます。 サイトの利用に注意します。
m.ts10806

2020/03/30 02:49

「注意」では行動にならないので、確実に許可をえてください(非公開求人ではないとは言え、得られる可能性は低いと思うけど)。
guest

回答1

0

ベストアンサー

エラーではありません。Noticeの意味を調べましたか?「通知」という意味です。

POSTでデータを投げるとき、Content-type: application/x-www-form-urlencodedというヘッダが必要ですが、「指定しなかったので、勝手に追加しときましたよ」というお知らせです。

お知らせを消すには、上記ヘッダを指定します。

PHP

1$options = array("http" => array( 2 "method" => "POST", 3 "header" => "Content-type: application/x-www-form-urlencoded", 4 "content" => http_build_query($data), 5));

投稿2020/03/29 14:40

otn

総合スコア85901

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

otn

2020/03/29 14:46

入れ違いで、追記されてました。 追記部分ですが、 意味の分からないままコピペせず、意味を考えてコードを書きましょう。
ppap115

2020/03/30 02:29

ありがとうございます。 もっと意味を考えながらコードを書いていきます。
guest

あなたの回答

tips

太字

斜体

打ち消し線

見出し

引用テキストの挿入

コードの挿入

リンクの挿入

リストの挿入

番号リストの挿入

表の挿入

水平線の挿入

プレビュー

15分調べてもわからないことは
teratailで質問しよう!

ただいまの回答率
85.35%

質問をまとめることで
思考を整理して素早く解決

テンプレート機能で
簡単に質問をまとめる

質問する

関連した質問