質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

ただいまの
回答率

87.49%

広告収益集計ページのtable情報を取得したい

受付中

回答 0

投稿 編集

  • 評価
  • クリップ 0
  • VIEW 952

score 8

広告収益を手動でコピペではなく、自動的にtableタグ内を自動的に引っ張って来ることで自動化したいのですが、うまくいかず、、、お手数ですが、ご助力いただけますと助かります、、、!

前提・実現したいこと

UrlFetchApp.fetchを用いて、ログイン後に確認できるページのtable要素を取り出したい

発生している問題・エラーメッセージ

var response = UrlFetchApp.fetch(URL, options);
上記に関して、
var URL = "https://oct-pass.net/publisher";
であれば通るのですが、
var URL = "https://oct-pass.net/publisher/#/adunit/detail/3010014/";
を設定すると、

https://oct-pass.net/publisher/#/adunit/detail/3010014/ のリクエストに失敗しました(エラー: 401)。サーバー応答の一部: <html>
 <head><title>401 Authorization Required</title></head>
 <body bgcolor="white">
 <center><h1>401 Authorization Required</h1></center>
 <hr><...


というエラーが出ます。
※エラーが出る方に取得したい情報があります。

該当のソースコード

function Scraper() {
  // ログインページ
  var LOGIN_URL = "https://oct-pass.net/publisher";
  var ADUNIT_URL = "https://oct-pass.net/publisher/#/adunit/detail/3010014/";
  // ID
  var username = "xxxxxxxx";
  // パスワード
  var password = "xxxxxxxx";

  // HTTPリクエストのパラメータをobjectで設定
  // POSTで渡すフォームデータはpayloadで指定します。
  var options = {
    method : "post",
    followRedirects: false, // リダイレクト無し
    payload : {
      username: username,
      password: password
    }
  };

  // ログイン
  var response = UrlFetchApp.fetch(LOGIN_URL, options);
  // レスポンスヘッダーからcookieを取得
  var headers = response.getAllHeaders();
  var cookies = [];
  if ( typeof headers['Set-Cookie'] !== 'undefined' ) {
    // Set-Cookieヘッダーが2つ以上の場合はheaders['Set-Cookie']の中身は配列
    var cookies = typeof headers['Set-Cookie'] == 'string' ? [ headers['Set-Cookie'] ] : headers['Set-Cookie'];
    for (var i = 0; i < cookies.length; i++) {
      // Set-Cookieヘッダーからname=valueだけ取り出し、セミコロン以降の属性は除外する
      cookies[i] = cookies[i].split( ';' )[0];
    };
  }

  var optionsC = {
    method: "get",
    followRedirects: true,
    headers: {
      Cookie: cookies.join(';')
    }
  };

  var response = UrlFetchApp.fetch(ADUNIT_URL, optionsC);

  var ss = SpreadsheetApp.getActiveSpreadsheet();
  var sheet = ss.getActiveSheet();
  var row = sheet.getLastRow() + 1;

  var getBody = response.getContentText();  
  var regExp  = new RegExp( ".*<table>.*", "g" ) ;
  var elems = getBody.match(regExp);

  for(var i in elems) {
    var title = elems[i]
    sheet.getRange(row,1).setValue(title);
    row++;
  }
}

お手数おかけいたしますが、よろしくお願いいたします。

  • 気になる質問をクリップする

    クリップした質問は、後からいつでもマイページで確認できます。

    またクリップした質問に回答があった際、通知やメールを受け取ることができます。

    クリップを取り消します

  • 良い質問の評価を上げる

    以下のような質問は評価を上げましょう

    • 質問内容が明確
    • 自分も答えを知りたい
    • 質問者以外のユーザにも役立つ

    評価が高い質問は、TOPページの「注目」タブのフィードに表示されやすくなります。

    質問の評価を上げたことを取り消します

  • 評価を下げられる数の上限に達しました

    評価を下げることができません

    • 1日5回まで評価を下げられます
    • 1日に1ユーザに対して2回まで評価を下げられます

    質問の評価を下げる

    teratailでは下記のような質問を「具体的に困っていることがない質問」、「サイトポリシーに違反する質問」と定義し、推奨していません。

    • プログラミングに関係のない質問
    • やってほしいことだけを記載した丸投げの質問
    • 問題・課題が含まれていない質問
    • 意図的に内容が抹消された質問
    • 過去に投稿した質問と同じ内容の質問
    • 広告と受け取られるような投稿

    評価が下がると、TOPページの「アクティブ」「注目」タブのフィードに表示されにくくなります。

    質問の評価を下げたことを取り消します

    この機能は開放されていません

    評価を下げる条件を満たしてません

    評価を下げる理由を選択してください

    詳細な説明はこちら

    上記に当てはまらず、質問内容が明確になっていない質問には「情報の追加・修正依頼」機能からコメントをしてください。

    質問の評価を下げる機能の利用条件

    この機能を利用するためには、以下の事項を行う必要があります。

まだ回答がついていません

15分調べてもわからないことは、teratailで質問しよう!

  • ただいまの回答率 87.49%
  • 質問をまとめることで、思考を整理して素早く解決
  • テンプレート機能で、簡単に質問をまとめられる

関連した質問

同じタグがついた質問を見る