質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

新規登録して質問してみよう
ただいま回答率
86.12%
スクレイピング

スクレイピングとは、公開されているWebサイトからページ内の情報を抽出する技術です。

Google Apps Script

Google Apps ScriptはGoogleの製品と第三者のサービスでタスクを自動化するためのJavaScriptのクラウドのスクリプト言語です。

解決済

GASのスクレイピングで、読み込んでいるcssのpath(複数)を取得したい。

tohaku
tohaku

総合スコア1

スクレイピング

スクレイピングとは、公開されているWebサイトからページ内の情報を抽出する技術です。

Google Apps Script

Google Apps ScriptはGoogleの製品と第三者のサービスでタスクを自動化するためのJavaScriptのクラウドのスクリプト言語です。

1回答

0リアクション

0クリップ

278閲覧

投稿2022/08/24 09:46

前提

GASでサイトのページをスクレイピングし、Cheerioで取得した以下の情報をスプレッドシートに記録しようとしています。

  • title
  • カノニカルタグ
  • 読み込んでいるcssのpath(複数)

下記のサイトを参考にコードを書きましたが、読み込んでいるcssのpathが最初の一つしか取得できません。
https://blog.members.co.jp/article/51649

実現したいこと

  • 各ページに読み込んでいるcssのpath(ページによって数が違う)を取得し、したい。
  • 取得したcssのpathをスプレッドシート各行の末尾に列方向に追加したい。

発生している問題・エラーメッセージ

  • 最初のcssのpathだけ記録できるが、2番目以降が取得できない。

該当のソースコード

GS

function checker(){ /* ======================================== 初期設定 ======================================== */ const sheet = SpreadsheetApp.getActiveSheet(), startRow = 2,//情報を置くセルの一番左上の列番号(A = 1...) startCol = 6,//情報を置くセルの一番左上の行番号(1 = 1...) URLListRow = startRow - 1,//URLリストの配置した列番号 authInfo = { userName : '',//basic認証を行う場合のユーザーネーム password : ''//basic認証を行う場合のパスワード } /** * 取得するメタ情報 * outName => 取得する情報の名前 好きに設定(空は不可) * name => name or property属性を設定 * prop => 上記nameで設定した属性の値を設定 metaInfo = [ { outName:'keywords', name:'name', prop:'keywords', }, { outName:'desc', name:'name', prop:'description', }, { outName:'og_title', name:'property', prop:'og:title', }, { outName:'og_desc', name:'property', prop:'og:description', }, { outName:'og_url', name:'property', prop:'og:url', }, ] */ /* ======================================== 以下 script ======================================== */ // clear cell for (let i = startRow; i <= sheet.getLastColumn(); i++){ const dataRange = sheet.getRange(startCol,i,sheet.getLastRow()); dataRange.clearContent(); } // create url data const urlData = sheet.getRange(startCol,URLListRow,sheet.getLastRow() - 1).getValues(); let ary = ''; for (var a = 0; a<urlData.length;a++){ if(urlData[a][0]){ ary = ary + String(urlData[a][0]) + ',' } } ary = ary.split(','); ary.pop(); // header option const options = { method: "GET", headers: {"Authorization" : "Basic " + Utilities.base64Encode(authInfo.userName + ":" + authInfo.password)}, "muteHttpExceptions" : true, "validateHttpsCertificates" : false, "followRedirects" : false } let result = []; // get html data for(var i = 0; i < ary.length; i++){   try {    let obj = Object.assign({});    let r = Object.assign({});    let resultURL = ary[i];    const res = UrlFetchApp.fetch(resultURL,options); const content = res.getContentText() const $ = Cheerio.load(content); obj.title = $('head title').text(); obj.canonical = $('link[rel="canonical"]').attr('href'), obj.stylesheet = $('link[rel="stylesheet"]').attr('href'), /* metaInfo.forEach((v)=>{ const reg = new RegExp(v.prop,'g'); if(content.match(reg)){ obj[v.outName] = $(`meta[${v.name}="${v.prop}"]`).attr("content"); }else{ obj[v.outName] = false; } }) */ r.props = Object.assign({},obj); result.push(r); obj = null; r = null; //sleep 1秒 Utilities.sleep(1000); } catch(e) { // 例外エラー処理 console.log('Error:'+e); } } // draw cell result.forEach((d,r)=>{ Object.keys(d.props).forEach((k,i)=>{ const row = startCol + r; const col = startRow + i; sheet.getRange(row, col).setValue(d.props[k]); }) }) }

試したこと

GS

obj.stylesheet = $('link[rel="stylesheet"]').attr('href'),

この部分が繰り返し処理できれば良いのだろうと思いますが、
どのように書けば参考にさせていただいたコードにうまく適合するのかがわからなく困っております。

初歩的な質問で申し訳ありませんが、どなたかご教示いただけると幸いです。(JS.GASともに自己流で学習を始めたばかりです。)

以下のような質問にはリアクションをつけましょう

  • 質問内容が明確
  • 自分も答えを知りたい
  • 質問者以外のユーザにも役立つ

リアクションが多い質問は、TOPページの「注目」タブのフィードに表示されやすくなります。

気になる質問をクリップする

クリップした質問は、後からいつでもマイページで確認できます。

またクリップした質問に回答があった際、通知やメールを受け取ることができます。

下記のような質問は推奨されていません。

  • 間違っている
  • 質問になっていない投稿
  • スパムや攻撃的な表現を用いた投稿

適切な質問に修正を依頼しましょう。

まだ回答がついていません

会員登録して回答してみよう

アカウントをお持ちの方は

15分調べてもわからないことは
teratailで質問しよう!

ただいまの回答率
86.12%

質問をまとめることで
思考を整理して素早く解決

テンプレート機能で
簡単に質問をまとめる

質問する

関連した質問

同じタグがついた質問を見る

スクレイピング

スクレイピングとは、公開されているWebサイトからページ内の情報を抽出する技術です。

Google Apps Script

Google Apps ScriptはGoogleの製品と第三者のサービスでタスクを自動化するためのJavaScriptのクラウドのスクリプト言語です。