質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

ただいまの
回答率

87.49%

NodeListのchildrenプロパティの中身が空になる

解決済

回答 1

投稿

  • 評価
  • クリップ 0
  • VIEW 1,593

score 16

前提・実現したいこと

あるサイト上で定期的に取得したい情報があったのでnode.jsからnpmでpuppeteerをインストールして使っていました。
goto()関数で指定のサイトに飛び、そこからDOMを解析し情報を取得しようと考えていました。
しかし、queryselectorall()関数などを使ってDOMのchildrenなどにアクセスしても中身がありません。
おかしいと思い指定のサイトをchromeで開いて検証ツールで先程の関数などを使ってみるとchildrenの中身は入っていました。

一応puppeteerのwaitforselector()関数を使い取得したいセレクタが生成されてから取得できるようにしていましたが、うまくいきません。
これはなにが原因なのでしょうか?

以下に試したコードを書きます。

const items = await page.evaluate( () => {
    return document.querySelectorAll('.resultitem');
});
console.log(items[0].children); <-- 複数返ってくるnodelistの内一つを選んでchildrenにアクセスして、またそこからデータを取得したい。

よろしくおねがいします。

  • 気になる質問をクリップする

    クリップした質問は、後からいつでもマイページで確認できます。

    またクリップした質問に回答があった際、通知やメールを受け取ることができます。

    クリップを取り消します

  • 良い質問の評価を上げる

    以下のような質問は評価を上げましょう

    • 質問内容が明確
    • 自分も答えを知りたい
    • 質問者以外のユーザにも役立つ

    評価が高い質問は、TOPページの「注目」タブのフィードに表示されやすくなります。

    質問の評価を上げたことを取り消します

  • 評価を下げられる数の上限に達しました

    評価を下げることができません

    • 1日5回まで評価を下げられます
    • 1日に1ユーザに対して2回まで評価を下げられます

    質問の評価を下げる

    teratailでは下記のような質問を「具体的に困っていることがない質問」、「サイトポリシーに違反する質問」と定義し、推奨していません。

    • プログラミングに関係のない質問
    • やってほしいことだけを記載した丸投げの質問
    • 問題・課題が含まれていない質問
    • 意図的に内容が抹消された質問
    • 過去に投稿した質問と同じ内容の質問
    • 広告と受け取られるような投稿

    評価が下がると、TOPページの「アクティブ」「注目」タブのフィードに表示されにくくなります。

    質問の評価を下げたことを取り消します

    この機能は開放されていません

    評価を下げる条件を満たしてません

    評価を下げる理由を選択してください

    詳細な説明はこちら

    上記に当てはまらず、質問内容が明確になっていない質問には「情報の追加・修正依頼」機能からコメントをしてください。

    質問の評価を下げる機能の利用条件

    この機能を利用するためには、以下の事項を行う必要があります。

回答 1

checkベストアンサー

+1

ブラウザ側で生成保持しているNodeListをnodejs側にそのまま持ってきていじることはできないのでは?
textContentやinnerHTMLなど文字列なら渡せますし、ドキュメント読むとJSONにして取得するメソッドもあるようですよ。

解決方法としてはevaluateの中でやりたいこと(詳しくは知りませんが。)すべて終わらせてから文字列で返すとか・・・

    const children0Html = await page.evaluate(() => {
        const items = document.querySelectorAll('.resultitem');
        return items[0].children[0].innerHTML;
    });
    console.log(children0Html);


ElementHandleを使って、

    const items = await page.$$('.resultitem');
    const children0Html = await page.evaluate(item => {
        return item.children[0].innerHTML;
    }, items[0]);
    console.log(children0Html);


とか、

    const items = await page.$$('.resultitem');
    const items0Html = await page.evaluate(item => item.innerHTML, items[0]);
    console.log(items0Html);
    const children = await items[0].$$('*');
    const children0Html = await page.evaluate(child => child.innerHTML, children[0]);
    console.log(children0Html);


等になるのでしょうか。
しかしやりたいことはブラウザ操作ではなくDOMを解析してquerySelectorで特定の情報を抜き出すことなのですよね?
でしたら私だったらnpm i
<消えたのでここから続き>
でしたら私だったらnpm install jsdomして、chromeにDOM構築させてから文字列で受け取ってあとはnode側でJSDOM使って処理します。以下のように(urlは変えてくださいね)

const { JSDOM } = require('jsdom');
const puppeteer = require('puppeteer');
(async () => {
    const browser = await puppeteer.launch();
    const page = await browser.newPage();
    await page.goto('https://example.com/');
    await page.waitForSelector('.resultitem');
    const html = await page.evaluate(() => document.documentElement.outerHTML);
    browser.close();

    const document = new JSDOM(html).window.document;
    const items = document.querySelectorAll('.resultitem');
    console.log(items[0].children);
})();


更にnpm install jqueryして以下のようにするとjQueryも使えますよ。

const { JSDOM } = require('jsdom');
const puppeteer = require('puppeteer');
(async () => {
    const browser = await puppeteer.launch();
    const page = await browser.newPage();
    await page.goto('https://example.com/');
    await page.waitForSelector('.resultitem');
    const html = await page.evaluate(() => document.documentElement.outerHTML);
    browser.close();

    const window = new JSDOM(html).window;
    const document = window.document;
    const $ = require('jquery')(window);

    const $items = $('.resultitem');
    console.log($items.children());
})();


いつもクライアント側でやるのと同じように書けて分かりやすくないでしょうか?
お求めの答えかは分かりませんが、参考になりましたら幸いです。

投稿

編集

  • 回答の評価を上げる

    以下のような回答は評価を上げましょう

    • 正しい回答
    • わかりやすい回答
    • ためになる回答

    評価が高い回答ほどページの上位に表示されます。

  • 回答の評価を下げる

    下記のような回答は推奨されていません。

    • 間違っている回答
    • 質問の回答になっていない投稿
    • スパムや攻撃的な表現を用いた投稿

    評価を下げる際はその理由を明確に伝え、適切な回答に修正してもらいましょう。

  • 2019/02/20 01:45

    本当だっ!できました!
    ありがとうございます。
    今回の問題解決のキモはouterHTMLを利用して、どんどん自分の知りたいnodeまで掘り下げていくという感じですね。

    最後にふと思った疑問なのですが
    ```
    const items = await page.$$('.resultitem');
    const items0Html = await page.evaluate(item => item.innerHTML, items[0]);
    console.log(items0Html);
    ```
    の item.innerHTML の innerHTML を消してみると、普通は変数itemsの中身にnodelistがあるはずなので、3行目のコンソールではオブジェクトの中身が表示されても良いと思うのですが、 {}のような表示しかなく、データが取得できていないと思っていました。
    これはこういう仕様なのか、なにか私が勘違いしているのでしょうか?

    度々の質問ですがよろしくおねがいします!

    キャンセル

  • 2019/02/20 10:39

    > 普通は変数itemsの中身にnodelistがあるはずなので、3行目のコンソールではオブジェクトの中身が表示されても良いと思うのですが、

    普通って、ブラウザの開発者ツールでやると、ってことですか?それだったらブラウザが分かりやすく忖度して表示してくれてるためですね。nodeでやる場合、たいてい標準出力に出すことになるので、console.logするときは文字列にして出すようにしたほうがいいです。
    上で例としてouterHTML使ったのは単に、文字列返すからです。別にinnerHTMLでもtextContentでもgetAttribute("<<属性名>>")でもなんでもいいです。
    ブラウザのほうが分かりやすいならブラウザで目的の操作ができるコードを作ってからnodeの方に移したらいいのでは。

    キャンセル

  • 2019/02/21 02:48

    先程outerHTMLやgetAttributeなどで試してみると普通に動作しました!
    何度も丁寧に教えていただきありがとうございました。
    もっともっと勉強していきたいと思います!

    キャンセル

15分調べてもわからないことは、teratailで質問しよう!

  • ただいまの回答率 87.49%
  • 質問をまとめることで、思考を整理して素早く解決
  • テンプレート機能で、簡単に質問をまとめられる

関連した質問

同じタグがついた質問を見る