質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

新規登録して質問してみよう
ただいま回答率
85.50%
Java

Javaは、1995年にサン・マイクロシステムズが開発したプログラミング言語です。表記法はC言語に似ていますが、既存のプログラミング言語の短所を踏まえていちから設計されており、最初からオブジェクト指向性を備えてデザインされています。セキュリティ面が強力であることや、ネットワーク環境での利用に向いていることが特徴です。Javaで作られたソフトウェアは基本的にいかなるプラットフォームでも作動します。

Q&A

解決済

1回答

4656閲覧

phantomJSを用いたスクレイピング

renkon203

総合スコア13

Java

Javaは、1995年にサン・マイクロシステムズが開発したプログラミング言語です。表記法はC言語に似ていますが、既存のプログラミング言語の短所を踏まえていちから設計されており、最初からオブジェクト指向性を備えてデザインされています。セキュリティ面が強力であることや、ネットワーク環境での利用に向いていることが特徴です。Javaで作られたソフトウェアは基本的にいかなるプラットフォームでも作動します。

0グッド

2クリップ

投稿2016/12/11 10:05

編集2016/12/17 15:08

###java phantomJS ページ遷移

seleniumのようにブラウザを開くことなくスクレイピングを行うために、
phantomJSを用いてスクレイピングを行う方法を調べています。
特に、javaの中でphantomJSを使って、あるページの中のリンクを仮想的にクリックしてページ遷移する方法を考えています。

phantomJSDriver.get(url);

のようにドライバーにurlをセットしてから、
どのようにリンクをクリックし、
リンク先の情報を取得するのでしょうか。
java言語でphantomJSを操作する方法がわからないんです。

narita_takashiさん

ご回答ありがとうございます。
ならびに返信が遅くなり申し訳ありません。
質問の意味を私が誤解しておりました。
phantomjsはjavaのライブラリとしてサポートされていますので
javaの中でjavascriptを動かすライブラリ等を別に用意する必要はないと考えています。
また、phantomjsはseleniumのライブラリの中に組み込まれているものがあり、seleniumと同様の操作がある程度可能ということもわかりました。
ちなみに私がphantomjsを使おうとしている理由としましては、
1.ブラウザを実際にGUI上で起動する必要がない(処理が気持ち早い)
2.java上で動かすことができる
3.click操作によるクローリングが可能
点にひかれました。

これらを通して、質問内容が少し具体的になってきました。

画面遷移の方法

java環境にてphantomjsを使ってスクレイピングをする。
例えば、引数にStringでurlが投げられて
urlがhttp://baseball.yahoo.co.jp/
であったばあいに、

DesiredCapabilities cap = DesiredCapabilities.phantomjs(); cap.setJavascriptEnabled(true); System.setProperty("phantomjs.binary.path", PHANTOMJS_PATH); PhantomJSDriver driver = new PhantomJSDriver(cap); driver.get(url) driver.get(url + "/hsb/"); driver.findElement(By.xpath("//a[contains(text(),'日程・結果')]")).click(); driver.findElement(By.xpath("//body/a")).click();

という書き方があったときに(これでは実際に動かないが例として)最後のfindElementがうまく動作せずに
その後の処理がスルーされて終了してしまいます。
xpathはsseleniumIDEでテストの記録を行って得たものです。
・サイトURLによってclick操作が不可能なものがあるのでしょうか。

・というか、seleniumIDEでテストの記録を行ったものに対してそのままテストケースを実行したときにテストに失敗するのはどういうことなんでしょうか。
http://baseball.yahoo.co.jp/hsb/
を使って画面遷移しようとしたときのテストケースは失敗してしまいます(seleniumIDEにて)。

気になる質問をクリップする

クリップした質問は、後からいつでもMYページで確認できます。

またクリップした質問に回答があった際、通知やメールを受け取ることができます。

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

narita_takashi

2016/12/11 13:34

phantomJSってJavaScirptのライブラリだと思うのですが、Javaから使いたい理由はなんでしょうか?
renkon203

2016/12/11 14:28

抽出したデータの分析はjavaでやるほうが得意なのでjavaにphantomJSを組み込む形にしようと考えています。jsoupでのリンク先への遷移はできなさそうなので使っていません。
guest

回答1

0

ベストアンサー

Java6以降という前提ですが、一応javax.script パッケージを利用することでJavaScirptそのものを動かすことが可能です。

[Java8] Java上でJavaScriptを動かす

ただphantomJSそのものにこだわりがないので、あればJava言語のスクレイピングライブラリはjsoup以外にもありますので、こちらをご利用することをオススメします。

これ以外にも探せばあるかもしれませんね。

投稿2016/12/13 01:39

narita_takashi

総合スコア131

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

あなたの回答

tips

太字

斜体

打ち消し線

見出し

引用テキストの挿入

コードの挿入

リンクの挿入

リストの挿入

番号リストの挿入

表の挿入

水平線の挿入

プレビュー

15分調べてもわからないことは
teratailで質問しよう!

ただいまの回答率
85.50%

質問をまとめることで
思考を整理して素早く解決

テンプレート機能で
簡単に質問をまとめる

質問する

関連した質問