質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

ただいまの
回答率

87.91%

javaでのwebスクレイピングにおけるエラー

解決済

回答 1

投稿 編集

  • 評価
  • クリップ 0
  • VIEW 1,550

score 26

javaでjsoupを用いてwebスクレイピングを行い、新規txtファイルに保存するプログラムを作成しています。
使用している環境は
EclipseIDE Version: 2019-03 (4.11.0)
Jsoup-1.12.1.jar
です。

package getInfo;

import java.io.FileWriter;
import java.io.IOException;
import java.io.File;
import org.jsoup.Jsoup;
import org.jsoup.nodes.Document;
import org.jsoup.nodes.Element;
import org.jsoup.select.Elements;
public class test{
    public static void main(String[] args) throws IOException {

        try {
            File file = new File("c:¥¥user¥¥test7.txt");

            if(!(file.exists())) {
                FileWriter filewriter = new FileWriter(file);
                Document document = Jsoup.connect("https://news.yahoo.co.jp/").get();
                Elements elements = document.select("h6");

                for (Element element : elements) {
                    String name = element.text();
                    filewriter.write(name + "\n");
                    System.out.println(name);
                }
                filewriter.close();
            }else {
                System.out.println("このファイルは既に存在します");
            }
        }catch(IOException e) {
            System.out.println("Error:FileWrite");
        }
    }
}

このコードを実行すると、FileWriterで例外処理が発生し"Error:FileWriter"が出力されます。
System.out.println("")を挟んでチェックしたところ

Document document = Jsoup.connect("https://wa3.i-3-i.info/word13663.html").get();


ここの部分で例外処理に飛んでおり、上手くWebページからHTML情報を変数に代入出来ていないようです。
色々なページで試してみましたが全て例外処理に飛んでしまいました。

調べてみたところJavaScriptを使用しているページではJsoup.connectが上手く動作しないといった記述もありましたが
よく原因がわかりませんでした。
ちなみにもう一度実行すると"このファイルは既に存在しています"と出力されますが、フォルダにはtxtファイルが作成されていませんでした。

何か原因がわかる方いらっしゃればご教示お願いしたいです。よろしくお願い致します。

  • 気になる質問をクリップする

    クリップした質問は、後からいつでもマイページで確認できます。

    またクリップした質問に回答があった際、通知やメールを受け取ることができます。

    クリップを取り消します

  • 良い質問の評価を上げる

    以下のような質問は評価を上げましょう

    • 質問内容が明確
    • 自分も答えを知りたい
    • 質問者以外のユーザにも役立つ

    評価が高い質問は、TOPページの「注目」タブのフィードに表示されやすくなります。

    質問の評価を上げたことを取り消します

  • 評価を下げられる数の上限に達しました

    評価を下げることができません

    • 1日5回まで評価を下げられます
    • 1日に1ユーザに対して2回まで評価を下げられます

    質問の評価を下げる

    teratailでは下記のような質問を「具体的に困っていることがない質問」、「サイトポリシーに違反する質問」と定義し、推奨していません。

    • プログラミングに関係のない質問
    • やってほしいことだけを記載した丸投げの質問
    • 問題・課題が含まれていない質問
    • 意図的に内容が抹消された質問
    • 過去に投稿した質問と同じ内容の質問
    • 広告と受け取られるような投稿

    評価が下がると、TOPページの「アクティブ」「注目」タブのフィードに表示されにくくなります。

    質問の評価を下げたことを取り消します

    この機能は開放されていません

    評価を下げる条件を満たしてません

    評価を下げる理由を選択してください

    詳細な説明はこちら

    上記に当てはまらず、質問内容が明確になっていない質問には「情報の追加・修正依頼」機能からコメントをしてください。

    質問の評価を下げる機能の利用条件

    この機能を利用するためには、以下の事項を行う必要があります。

質問への追記・修正、ベストアンサー選択の依頼

  • coco_bauer

    2019/07/29 17:39

    「java.net.ConnectException: Connection timed out: connect」という説明ですから、指定したURLに接続しにいったのに制限時間内(通所、2秒以内)に接続できなかった。だから、"時間切れで接続できませんでした"という例外が挙がったという事情だったと考えられます。

    質問のプログラムの
    ”Document document = Jsoup.connect("https://news.yahoo.co.jp/").get();”の行を、"Document document = Jsoup.connect("https://news.yahoo.co.jp/").timeout(5000).get();に変更してみてください。
    ".timeout(5000)"の部分で制限時間を5秒(5000ミリ秒)に設定していますから、成功するかもしれません。(ダメなら、.timeout(100000 で試してみてください。10秒でも接続できないならネットワークの設定や、ネットワーク機器などに問題があるのかもしれません。

    キャンセル

  • junkjunk

    2019/07/30 10:57

    coco_bauerさん
    .timeout()を追加して試したところ20秒、30秒にしてもやはりconnection timed outになってしまうため、ネットワークの設定が原因だと思われます。
    ひとまず原因がわかっただけでも助かりました。ありがとうございます。

    キャンセル

  • junkjunk

    2019/07/30 12:35

    coco_bauerさん
    timeout()で制限時間を指定したところうまく接続できるようになりました。ありがとうございます。
    ベストアンサーにさせて頂きたいのですが質問に対するコメント欄でのやりとりですので自己解決にてcoco_bauerさんの解決方法を載せさせて頂きます。

    キャンセル

回答 1

check解決した方法

0

制限時間内(通常2秒以内)に接続できなかったことが原因でした。
”Document document = Jsoup.connect("https://news.yahoo.co.jp/").get();”

"Document document = Jsoup.connect("https://news.yahoo.co.jp/").timeout(10000).get();""
に変更して制限時間を延長したところ接続できるようになりました。

投稿

  • 回答の評価を上げる

    以下のような回答は評価を上げましょう

    • 正しい回答
    • わかりやすい回答
    • ためになる回答

    評価が高い回答ほどページの上位に表示されます。

  • 回答の評価を下げる

    下記のような回答は推奨されていません。

    • 間違っている回答
    • 質問の回答になっていない投稿
    • スパムや攻撃的な表現を用いた投稿

    評価を下げる際はその理由を明確に伝え、適切な回答に修正してもらいましょう。

15分調べてもわからないことは、teratailで質問しよう!

  • ただいまの回答率 87.91%
  • 質問をまとめることで、思考を整理して素早く解決
  • テンプレート機能で、簡単に質問をまとめられる

関連した質問

同じタグがついた質問を見る