質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

ただいまの
回答率

90.75%

  • PHP

    19212questions

    PHPは、Webサイト構築に特化して開発されたプログラミング言語です。大きな特徴のひとつは、HTMLに直接プログラムを埋め込むことができるという点です。PHPを用いることで、HTMLを動的コンテンツとして出力できます。HTMLがそのままブラウザに表示されるのに対し、PHPプログラムはサーバ側で実行された結果がブラウザに表示されるため、PHPスクリプトは「サーバサイドスクリプト」と呼ばれています。

  • Laravel 5

    1696questions

    Laravel 5は、PHPフレームワークLaravelの最新バージョンで、2014年11月に発表予定です。ディレクトリ構造がが現行版より大幅に変更されるほか、メソッドインジェクションやFormRequestの利用が可能になります。

  • Laravel

    607questions

    LaravelとはTaylor Otwellによって開発された、オープンソースなPHPフレームワークです。Laravelはシンプルで表現的なシンタックスを持ち合わせており、ウェブアプリケーション開発の手助けをしてくれます。

Goutteを使ってページ番号をクリックし、次のページに遷移させる

解決済

回答 2

投稿 編集

  • 評価
  • クリップ 1
  • VIEW 390

YYama

score 21

わからないこと

現在ハローワークの案件をクローリングしようとしています。
その中で案件一覧から次のページに進むために、ページ番号を取得しようとしていますが(inputのvalueです)、タグの取得ができずnullになってしまいます。
この原因や解決策についてご教授いただければ幸いです。

該当URL

https://www.hellowork.go.jp/servicef/130020.do

コード

        $checkPages = $GoutteClient->submit($form, array('kyujinShurui' => 1, 'shinchakuKyujin' => 1));

        $checkPage = @DOMDocument::loadHTML($checkPages->html());
        $xmlString = $checkPage->saveXML();
        $xml = simplexml_load_string($xmlString);
        $lastUrlLink = $xml->xpath("//div[contains(@class, 'number-link-top')]/p[1]");
        $lastUrl = (string)$lastUrlLink[0];
        $lastUrl = strstr($lastUrl, '件中', true);
        $lastUrl = preg_replace('/[^0-9]/', '', $lastUrl);
        $lastNum = ceil($lastUrl / 20);

        $checkPages = $checkPages->filter('div.number-link-top p')->eq(1)->parents()->filter('p')->eq(1);
     $checkPages = $checkPages->filter()->each(function($node){
                $node->html();
            });
        var_dump($checkPages);


filterを使いページ番号まで参照し、ボタンをクリックしたり、xml形式で取得しようとしていましたが、書き方の問題なのかうまくいっておりません。

進捗

次のページへの遷移ボタンの配列は出てきますが、その結果がnullになってしまっています。
こちらを解決しなければページリンクのボタンを取得できないと考えております。

array(12) {
  [0]=>
  string(0) ""
  [1]=>
  string(0) ""
  [2]=>
  string(0) ""
  [3]=>
  string(0) ""
  [4]=>
  string(0) ""
  [5]=>
  string(0) ""
  [6]=>
  string(0) ""
  [7]=>
  string(0) ""
  [8]=>
  string(0) ""
  [9]=>
  string(0) ""
  [10]=>
  string(0) ""
  [11]=>
  string(0) ""
}

お力を貸していただければ幸いです。

よろしくお願いいたします。

  • 気になる質問をクリップする

    クリップした質問は、後からいつでもマイページで確認できます。

    またクリップした質問に回答があった際、通知やメールを受け取ることができます。

    クリップを取り消します

  • 良い質問の評価を上げる

    以下のような質問は評価を上げましょう

    • 質問内容が明確
    • 自分も答えを知りたい
    • 質問者以外のユーザにも役立つ

    評価が高い質問は、TOPページの「注目」タブのフィードに表示されやすくなります。

    質問の評価を上げたことを取り消します

  • 評価を下げられる数の上限に達しました

    評価を下げることができません

    • 1日5回まで評価を下げられます
    • 1日に1ユーザに対して2回まで評価を下げられます

    質問の評価を下げる

    teratailでは下記のような質問を「具体的に困っていることがない質問」、「サイトポリシーに違反する質問」と定義し、推奨していません。

    • プログラミングに関係のない質問
    • やってほしいことだけを記載した丸投げの質問
    • 問題・課題が含まれていない質問
    • 意図的に内容が抹消された質問
    • 広告と受け取られるような投稿

    評価が下がると、TOPページの「アクティブ」「注目」タブのフィードに表示されにくくなります。

    質問の評価を下げたことを取り消します

    この機能は開放されていません

    評価を下げる条件を満たしてません

    評価を下げる理由を選択してください

    詳細な説明はこちら

    上記に当てはまらず、質問内容が明確になっていない質問には「情報の追加・修正依頼」機能からコメントをしてください。

    質問の評価を下げる機能の利用条件

    この機能を利用するためには、以下の事項を行う必要があります。

回答 2

checkベストアンサー

+1

渡すパラメータはfwListNaviBtnNextかfwListNaviBtn数字なのはわかっていると思うので、件数と、perpageを割り出して移動したほうが早い気がします。
ただ他にパラメータがいるかどうかは確認してないので、先にこのパラメータだけで次のページの内容が表示されるのか検証したほうが良いでしょう。
もしも、このパラメータだけで移動しないのであれば投げるパラメータが足りないでしょうから、チェックしていくかaro10さんのようにヘッドレスブラウザなどを利用して動かすほうが良いかもしれません。

投稿

  • 回答の評価を上げる

    以下のような回答は評価を上げましょう

    • 正しい回答
    • わかりやすい回答
    • ためになる回答

    評価が高い回答ほどページの上位に表示されます。

  • 回答の評価を下げる

    下記のような回答は推奨されていません。

    • 間違っている回答
    • 質問の回答になっていない投稿
    • スパムや攻撃的な表現を用いた投稿

    評価を下げる際はその理由を明確に伝え、適切な回答に修正してもらいましょう。

0

ハローワークのページを見てみましたが、formのパラメータがかなり多いので、そもそもkyujinShuruiとshinchakuKyujinだけでリクエストパラメータはいいのか等も検証する必要があるかと思います。
ハローワークの一覧を簡易クロールして求人ページのURLを抽出する
質問にあるhttps://www.hellowork.go.jp/servicef/130020.doのURLを単純にクリックしてもエラーになり、
前ページからのパラメータ受け渡しなどあるかと思うので、Goutteでスクレイピングを実現するならば、必要なパラメータとしてこのあたりの整理を矛盾が無い段階まで地道に行う必要があります。

あるいはLaravelDuskかPHPWebdriver等でブラウザを操作して行うほうが数倍楽だと思います(Jqueryでより柔軟な抽出指定ができるため)。
facebook/php-webdriver

[サンプル追記]
Goutteのsubmitは指定していないform値はそのまま適用してくれているみたいなので、簡易ですがページを巡回する形でサンプルプログラムを作ってみました。

 サンプルプログラム

Artisan::command('test_scrape', function () {

    $startUrl = "https://www.hellowork.go.jp/servicef/130020.do?action=initDisp&screenId=130020";
    $crawler = \Goutte::request('GET', $startUrl);
    dump($crawler->getUri());
    sleep(1);
    $form = $crawler->selectButton('検索')->form();
    $crawler = \Goutte::submit($form,['kyujinShurui' => 1, 'shinchakuKyujin' => 1]);

    $this->info("1ページ目");
    dump($crawler->getUri());
    sleep(1);
    $crawler->filter("#ID_mainForm > div:nth-child(26) > div.number-link-top > p:nth-child(1)")->each(function ($node) {
        dump($node->text());
    });
    $form = $crawler->selectButton('次へ>>')->form();
    $crawler = \Goutte::submit($form,[]);


    $this->info("2ページ目");
    dump($crawler->getUri());
    sleep(1);
    $crawler->filter("#ID_mainForm > div:nth-child(26) > div.number-link-top > p:nth-child(1)")->each(function ($node) {
        dump($node->text());
    });
    $form = $crawler->selectButton('次へ>>')->form();
    $crawler = \Goutte::submit($form,[]);
});

 出力結果

"https://www.hellowork.go.jp/servicef/130020.do?action=initDisp&screenId=130020"
1ページ目
"https://www.hellowork.go.jp/servicef/130020.do"
" 13259 件中 1 ~ 20 件を表示"
2ページ目
"https://www.hellowork.go.jp/servicef/130050.do"
" 13259 件中 21 ~ 40 件を表示"


また質問コードでは、htmlをxmlに変換して処理をしているようですが、DomCrawlerには、filterXPathがありXpathでの抽出も出来ます。
GoutteはGuzzleとBrowserKit+DomCrawlerを組み合わせた物なので、以下のドキュメントを見れば出来ることがわかると思います。

The BrowserKit Component
The CssSelector Component
The DomCrawler Component

投稿

編集

  • 回答の評価を上げる

    以下のような回答は評価を上げましょう

    • 正しい回答
    • わかりやすい回答
    • ためになる回答

    評価が高い回答ほどページの上位に表示されます。

  • 回答の評価を下げる

    下記のような回答は推奨されていません。

    • 間違っている回答
    • 質問の回答になっていない投稿
    • スパムや攻撃的な表現を用いた投稿

    評価を下げる際はその理由を明確に伝え、適切な回答に修正してもらいましょう。

15分調べてもわからないことは、teratailで質問しよう!

  • ただいまの回答率 90.75%
  • 質問をまとめることで、思考を整理して素早く解決
  • テンプレート機能で、簡単に質問をまとめられる

関連した質問

同じタグがついた質問を見る

  • PHP

    19212questions

    PHPは、Webサイト構築に特化して開発されたプログラミング言語です。大きな特徴のひとつは、HTMLに直接プログラムを埋め込むことができるという点です。PHPを用いることで、HTMLを動的コンテンツとして出力できます。HTMLがそのままブラウザに表示されるのに対し、PHPプログラムはサーバ側で実行された結果がブラウザに表示されるため、PHPスクリプトは「サーバサイドスクリプト」と呼ばれています。

  • Laravel 5

    1696questions

    Laravel 5は、PHPフレームワークLaravelの最新バージョンで、2014年11月に発表予定です。ディレクトリ構造がが現行版より大幅に変更されるほか、メソッドインジェクションやFormRequestの利用が可能になります。

  • Laravel

    607questions

    LaravelとはTaylor Otwellによって開発された、オープンソースなPHPフレームワークです。Laravelはシンプルで表現的なシンタックスを持ち合わせており、ウェブアプリケーション開発の手助けをしてくれます。