質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

ただいまの
回答率

90.51%

  • Node.js

    1858questions

    Node.jsとはGoogleのV8 JavaScriptエンジンを使用しているサーバーサイドのイベント駆動型プログラムです。

puppeteerでHeadlessChromeの立ち上がりを高速化したい

受付中

回答 1

投稿 編集

  • 評価
  • クリップ 1
  • VIEW 426

pikohanflatt

score 1

現在、業務の効率化のための簡単なWeb操作の自動化や、スクレイピングを行うツールを作成しています。
個人用ツールですのでクライアントPC(Windows7)より実行します。

現在はnode.jspuppeteerパッケージを使っていますが、どうもHeadless Chromeの立ち上がりに
毎回時間がかかり、テストや実際の処理がスムーズに行かず困っています。

この立ち上がり処理のネックを低減する方法はありませんでしょうか?
Headless Chromeのデーモン化等できればと考えているのですが、、
(Chromeはメモリ使用量が非常に大きいイメージがあるので常駐させるのも少し躊躇いますが)

puppeteer以外のパッケージを利用する方法でも構いませんので、どなたかご存知でしたらご教示ください。

素人質問で拙い面が多々あると思いますが、よろしくお願いします。

どのようなコードなのかとのご意見頂きましたので、
コードの一部を記載します。

(async() => {
    const browser = await puppeteer.launch({ "ignoreHTTPSErrors" : true });
    const page = await browser.newPage();
    await page.goto(uri.uri);
    /* Web操作 */
    browser.close();
)


立ち上がりの高速化を検討しているため、Webページに対する操作は省略しています。
また、ignoreHTTPSErrors : trueは、接続先のページで証明書エラーが出るため記載しています。

  • 気になる質問をクリップする

    クリップした質問は、後からいつでもマイページで確認できます。

    またクリップした質問に回答があった際、通知やメールを受け取ることができます。

    クリップを取り消します

  • 良い質問の評価を上げる

    以下のような質問は評価を上げましょう

    • 質問内容が明確
    • 自分も答えを知りたい
    • 質問者以外のユーザにも役立つ

    評価が高い質問は、TOPページの「注目」タブのフィードに表示されやすくなります。

    質問の評価を上げたことを取り消します

  • 評価を下げられる数の上限に達しました

    評価を下げることができません

    • 1日5回まで評価を下げられます
    • 1日に1ユーザに対して2回まで評価を下げられます

    質問の評価を下げる

    teratailでは下記のような質問を「具体的に困っていることがない質問」、「サイトポリシーに違反する質問」と定義し、推奨していません。

    • プログラミングに関係のない質問
    • やってほしいことだけを記載した丸投げの質問
    • 問題・課題が含まれていない質問
    • 意図的に内容が抹消された質問
    • 広告と受け取られるような投稿

    評価が下がると、TOPページの「アクティブ」「注目」タブのフィードに表示されにくくなります。

    質問の評価を下げたことを取り消します

    この機能は開放されていません

    評価を下げる条件を満たしてません

    評価を下げる理由を選択してください

    詳細な説明はこちら

    上記に当てはまらず、質問内容が明確になっていない質問には「情報の追加・修正依頼」機能からコメントをしてください。

    質問の評価を下げる機能の利用条件

    この機能を利用するためには、以下の事項を行う必要があります。

質問への追記・修正、ベストアンサー選択の依頼

  • HayatoKamono

    2018/06/25 16:31

    どういうコードでどのような使い方をしていて、どのくらいの時間がかかっているのかを具体的に記載した方が質問の前提を閲覧者側と共有出来ると思います。

    キャンセル

  • pikohanflatt

    2018/06/26 17:25

    ご指摘ありがとうございます。立ち上がり処理のコードを追記しました。ほぼサンプル通りといった形ですが、よろしくお願いします。

    キャンセル

回答 1

+1

puppeteerに限らずChromeDriverを使う場合でもheadlessオプションを指定してChromeを起動すると処理時間が数倍から数十倍以上かかる現象があります。

対策として、以下の2つの起動オプションを追加します。

  • "--proxy-server='direct://'"
  • "--proxy-bypass-list=*"
// Selenium 環境で ChromeDriver から起動する場合
ChromeOptions options = new ChromeOptions();
options.addArguments("--headless");
options.addArguments("--proxy-server='direct://'");
options.addArguments("--proxy-bypass-list=*");
ChromeDriver driver = new ChromeDriver(options);

puppeteerについては私は未検証ですが、恐らく以下のような起動方法になるかと。

// puppeteer の場合
const browser = await puppeteer.launch({
    headless: true,
    args: ["--proxy-server='direct://'", "--proxy-bypass-list=*"]
});

ご参考になれば

投稿

編集

  • 回答の評価を上げる

    以下のような回答は評価を上げましょう

    • 正しい回答
    • わかりやすい回答
    • ためになる回答

    評価が高い回答ほどページの上位に表示されます。

  • 回答の評価を下げる

    下記のような回答は推奨されていません。

    • 間違っている回答
    • 質問の回答になっていない投稿
    • スパムや攻撃的な表現を用いた投稿

    評価を下げる際はその理由を明確に伝え、適切な回答に修正してもらいましょう。

  • 2018/06/26 17:37

    tkandaさん
    ご回答ありがとうございます。
    >headlessオプションを指定してChromeを起動すると処理時間が数倍から数十倍以上かかる現象があります。
    こちら初耳でした。そのような現象が発生するのですね。
    ご提示頂いたオプションを追加するとProxyを経由しなくなるのでしょうか?
    調べた限りではそのようなオプションだと読み取れました。
    Proxy環境下で作業を行っているので、そうであればこのオプションは使用できないかもしれません。。
    もう1点質問なのですが、このオプションを追加すると、なぜ立ち上がりが早くなるのでしょうか?

    キャンセル

  • 2018/06/26 21:39

    このオプションはProxy設定を検証したり、実際にProxyサーバーに接続を試みる処理をスキップする効果があるのだと思います。なぜ、ヘッドレスの場合にだけこのオプションが必要になるのかは、実際のところよく知りません。Proxy環境下であれば、Proxyサーバーを明示的に指定すると同じ効果が得られるかもしれません。このオプションが有効という情報は以前にJava+Seleniumの環境で同じ現象に遭遇した際に検索してたどり着きました。" chrome headless slow" でググるといくつかのスレッドが見つかると思います。

    キャンセル

15分調べてもわからないことは、teratailで質問しよう!

  • ただいまの回答率 90.51%
  • 質問をまとめることで、思考を整理して素早く解決
  • テンプレート機能で、簡単に質問をまとめられる

関連した質問

同じタグがついた質問を見る

  • Node.js

    1858questions

    Node.jsとはGoogleのV8 JavaScriptエンジンを使用しているサーバーサイドのイベント駆動型プログラムです。