NodeListのchildrenプロパティの中身が空になる

Question

前提・実現したいこと

あるサイト上で定期的に取得したい情報があったのでnode.jsからnpmでpuppeteerをインストールして使っていました。
goto()関数で指定のサイトに飛び、そこからDOMを解析し情報を取得しようと考えていました。
しかし、queryselectorall()関数などを使ってDOMのchildrenなどにアクセスしても中身がありません。
おかしいと思い指定のサイトをchromeで開いて検証ツールで先程の関数などを使ってみるとchildrenの中身は入っていました。

一応puppeteerのwaitforselector()関数を使い取得したいセレクタが生成されてから取得できるようにしていましたが、うまくいきません。
これはなにが原因なのでしょうか？

以下に試したコードを書きます。

const items = await page.evaluate( () => {
    return document.querySelectorAll('.resultitem');
});
console.log(items[0].children); <-- 複数返ってくるnodelistの内一つを選んでchildrenにアクセスして、またそこからデータを取得したい。

よろしくおねがいします。

Answer 1

ブラウザ側で生成保持しているNodeListをnodejs側にそのまま持ってきていじることはできないのでは？
textContentやinnerHTMLなど文字列なら渡せますし、ドキュメント読むとJSONにして取得するメソッドもあるようですよ。

解決方法としてはevaluateの中でやりたいこと（詳しくは知りませんが。）すべて終わらせてから文字列で返すとか・・・

    const children0Html = await page.evaluate(() => {
        const items = document.querySelectorAll('.resultitem');
        return items[0].children[0].innerHTML;
    });
    console.log(children0Html);

ElementHandleを使って、

    const items = await page.$$('.resultitem');
    const children0Html = await page.evaluate(item => {
        return item.children[0].innerHTML;
    }, items[0]);
    console.log(children0Html);

とか、

    const items = await page.$$('.resultitem');
    const items0Html = await page.evaluate(item => item.innerHTML, items[0]);
    console.log(items0Html);
    const children = await items[0].$$('*');
    const children0Html = await page.evaluate(child => child.innerHTML, children[0]);
    console.log(children0Html);

等になるのでしょうか。
しかしやりたいことはブラウザ操作ではなくDOMを解析してquerySelectorで特定の情報を抜き出すことなのですよね？
でしたら私だったらnpm i
＜消えたのでここから続き＞
でしたら私だったらnpm install jsdomして、chromeにDOM構築させてから文字列で受け取ってあとはnode側でJSDOM使って処理します。以下のように（urlは変えてくださいね）

const { JSDOM } = require('jsdom');
const puppeteer = require('puppeteer');
(async () => {
    const browser = await puppeteer.launch();
    const page = await browser.newPage();
    await page.goto('https://example.com/');
    await page.waitForSelector('.resultitem');
    const html = await page.evaluate(() => document.documentElement.outerHTML);
    browser.close();

    const document = new JSDOM(html).window.document;
    const items = document.querySelectorAll('.resultitem');
    console.log(items[0].children);
})();

更にnpm install jqueryして以下のようにするとjQueryも使えますよ。

const { JSDOM } = require('jsdom');
const puppeteer = require('puppeteer');
(async () => {
    const browser = await puppeteer.launch();
    const page = await browser.newPage();
    await page.goto('https://example.com/');
    await page.waitForSelector('.resultitem');
    const html = await page.evaluate(() => document.documentElement.outerHTML);
    browser.close();

    const window = new JSDOM(html).window;
    const document = window.document;
    const $ = require('jquery')(window);

    const $items = $('.resultitem');
    console.log($items.children());
})();

いつもクライアント側でやるのと同じように書けて分かりやすくないでしょうか？
お求めの答えかは分かりませんが、参考になりましたら幸いです。

Comments

[sponge]

回答ありがとうございます。
shinji709様のお答え頂いた考え方であっています。
早速回答頂いた
```javascript
const { JSDOM } = require('jsdom');
const puppeteer = require('puppeteer');
(async () => {
const browser = await puppeteer.launch();
const page = await browser.newPage();
await page.goto('https://example.com/');
await page.waitForSelector('.resultitem');
const html = await page.evaluate(() => document.documentElement.outerHTML);
browser.close();

const document = new JSDOM(html).window.document;
const items = document.querySelectorAll('.resultitem');
console.log(items[0].children);
})();
```
を適宜URL等を直して試してみましたが、私が書いていたコードと同様に、nodelistは取得できていませんでした。
結果は
```
NodeList {
'0': HTMLDivElement {},
'1': HTMLDivElement {},
'2': HTMLDivElement {},
'3': HTMLDivElement {},
'4': HTMLDivElement {} }
```
の様になり、肝心の中身が取得できません。
結果を見る限り私の取得したい要素数は取れているので、それ以降のデータはnode.jsの仕様上取れないのでしょうか？
chromeの検証用ツールでは問題なくデータが取得できているのでshinji709様のおっしゃる通り、ブラウザ側で生成保持しているNodeListをnodejs側にそのまま持ってきていじることはできないのではないのかと思います。

[shinji709]

> nodelistは取得できていませんでした。
とおっしゃっていますが、
> 結果は
> ```
> NodeList {
> '0': HTMLDivElement {},
> '1': HTMLDivElement {},
> '2': HTMLDivElement {},
> '3': HTMLDivElement {},
> '4': HTMLDivElement {} }
> ```
とあるように、NodeListが取得できています。
肝心の中身は取得できていますね。おめでとうございます。
あとはもうDOM APIの知識で、ブラウザでやるのと一緒です。
たとえばconsole.log(items[0].children);の次の行に
console.log(items[0].children[0].outerHTML);とでも書いてみてください。何が見えますか？

[sponge]

本当だっ！できました！
ありがとうございます。
今回の問題解決のキモはouterHTMLを利用して、どんどん自分の知りたいnodeまで掘り下げていくという感じですね。

最後にふと思った疑問なのですが
```
const items = await page.$$('.resultitem');
const items0Html = await page.evaluate(item => item.innerHTML, items[0]);
console.log(items0Html);
```
の item.innerHTML の innerHTML を消してみると、普通は変数itemsの中身にnodelistがあるはずなので、３行目のコンソールではオブジェクトの中身が表示されても良いと思うのですが、 {}のような表示しかなく、データが取得できていないと思っていました。
これはこういう仕様なのか、なにか私が勘違いしているのでしょうか？

度々の質問ですがよろしくおねがいします！

[shinji709]

> 普通は変数itemsの中身にnodelistがあるはずなので、３行目のコンソールではオブジェクトの中身が表示されても良いと思うのですが、

普通って、ブラウザの開発者ツールでやると、ってことですか？それだったらブラウザが分かりやすく忖度して表示してくれてるためですね。nodeでやる場合、たいてい標準出力に出すことになるので、console.logするときは文字列にして出すようにしたほうがいいです。
上で例としてouterHTML使ったのは単に、文字列返すからです。別にinnerHTMLでもtextContentでもgetAttribute("<<属性名>>")でもなんでもいいです。
ブラウザのほうが分かりやすいならブラウザで目的の操作ができるコードを作ってからnodeの方に移したらいいのでは。

[sponge]

先程outerHTMLやgetAttributeなどで試してみると普通に動作しました！
何度も丁寧に教えていただきありがとうございました。
もっともっと勉強していきたいと思います！