casperjsで特定のサイトがopenできない

前提

UbuntuにphantomJSとcasperJSをインストールして管理画面の操作をしています。

発生している問題

特定のサイトに対し、casper.openができなくなってしまいました。
例えば下記のコードは普通にgoogle.comのソースを表示します。

var casper=require('casper').create({
	viewportSize:{
		width: 1920,
		height: 1080
	}
	,pageSettings: {
		userAgent: 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10.13; rv:95.0) Gecko/20100101 Firefox/95.0'
	}
});


casper.start();

casper.then(function(){
	url='https://www.google.com/';
	this.open(url);
});

casper.then(function(){
	html=this.getHTML();
	this.echo(html);
});

casper.run();

ところが

url='http://shop.fuzoku-datacenter.com/';

とすると長時間待たされた結果、

<html><head></head><body></body></html>

と返されてしまいます。
userAgentを色々変えてみたり、casper.page.onAlertやcasper.page.onConfirmの可能性も試してみましたがうまく行きません。
どうしたら良いか、ご教示いただけたらありがたいです。

環境

Ubuntu 18.04.1 LTS
phantomJS 2.1.1
casperJS 1.1.4

以上、よろしくお願いいたします。

行動規範の内容に同意します

回答1件

これはGCPで作った環境です。
過去にAWSにphantomJS+casperJSの環境を作ったことがあるのでそちらで試してみたところうまく行きました。
バージョンを調べてみたら
phantomJS=1.9.7
casperJS=1.1.2
でした。

投稿2022/01/03 12:27

編集2022/01/03 13:18

kobayacy

総合スコア0

kobayacy

2022/01/04 19:27

バージョンにかかわらず、GCPからは不可、AWSからは可能でした。 IPの範囲で制限がかけられたのかもしれません。

kobayacy

2022/01/06 17:27

AWSに移行してしばらくはうまく行きましたが、またアクセスできなくなりました。そしてIPを変えたらうまく行きました。

kobayacy

2022/01/07 08:00 編集

対象サイトのサポートに問い合わせたところ、Dos攻撃対策で特定IPからはアクセスできないようになったらしいです。

kobayacy

2022/01/07 14:53

ということで使えるIPにプロキシサーバーを建てて対応しました。

行動規範の内容に同意します

あなたの回答

tips

プレビュー

行動規範の内容に同意します

質問の解決につながる回答をしましょう。サンプルコードなど、より具体的な説明があると質問者の理解の助けになります。また、読む側のことを考えた、分かりやすい文章を心がけましょう。

まだベストアンサーが選ばれていません

会員登録して回答してみよう

アカウントをお持ちの方は

15分調べてもわからないことは
teratailで質問しよう！

ただいまの回答率
85.35%

質問をまとめることで
思考を整理して素早く解決

テンプレート機能で
簡単に質問をまとめる

質問する

質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう！

casperjsで特定のサイトがopenできない

前提

発生している問題

環境

関連した質問