質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

ただいまの
回答率

89.13%

クローラー作成時のデータベース設計方法

解決済

回答 3

投稿

  • 評価
  • クリップ 1
  • VIEW 1,014

coinbura

score 101

複数のページ(1,000URL程。URLの変更や数の増減も有)をクロールし、そのページ1つ1つのtitleが変更されたかどうかを知りたいと思っています。
この場合、データベース(MySQL5.7)にどのようなテーブルを作れば良いでしょうか?

仕組みとしては、前回のクロール結果と直近のクロール結果を比較するわけなので、データを登録するためのテーブルを2つ作れば良いかと考えました。
具体的には以下です。

▼テーブル1
ページURL VARCHAR(2083) 主キー
ページタイトル VARCHA(100)
日時 TIMESTAMP

▼テーブル2
ページURL VARCHAR(2083) 主キー
ページタイトル VARCHA(100)
日時 TIMESTAMP

クロールの度、古い方のテーブルに書き込み、もう一方と比較。titleの変更を見る、というやり方です。

ただしこれだと、主キーが長すぎて無駄に重くなってしまうと思います。

何かいい方法はないものでしょうか?

  • 気になる質問をクリップする

    クリップした質問は、後からいつでもマイページで確認できます。

    またクリップした質問に回答があった際、通知やメールを受け取ることができます。

    クリップを取り消します

  • 良い質問の評価を上げる

    以下のような質問は評価を上げましょう

    • 質問内容が明確
    • 自分も答えを知りたい
    • 質問者以外のユーザにも役立つ

    評価が高い質問は、TOPページの「注目」タブのフィードに表示されやすくなります。

    質問の評価を上げたことを取り消します

  • 評価を下げられる数の上限に達しました

    評価を下げることができません

    • 1日5回まで評価を下げられます
    • 1日に1ユーザに対して2回まで評価を下げられます

    質問の評価を下げる

    teratailでは下記のような質問を「具体的に困っていることがない質問」、「サイトポリシーに違反する質問」と定義し、推奨していません。

    • プログラミングに関係のない質問
    • やってほしいことだけを記載した丸投げの質問
    • 問題・課題が含まれていない質問
    • 意図的に内容が抹消された質問
    • 過去に投稿した質問と同じ内容の質問
    • 広告と受け取られるような投稿

    評価が下がると、TOPページの「アクティブ」「注目」タブのフィードに表示されにくくなります。

    質問の評価を下げたことを取り消します

    この機能は開放されていません

    評価を下げる条件を満たしてません

    評価を下げる理由を選択してください

    詳細な説明はこちら

    上記に当てはまらず、質問内容が明確になっていない質問には「情報の追加・修正依頼」機能からコメントをしてください。

    質問の評価を下げる機能の利用条件

    この機能を利用するためには、以下の事項を行う必要があります。

回答 3

checkベストアンサー

+2

ただしこれだと、主キーが長すぎて無駄に重くなってしまうと思います。

具体的に何を懸念されているかわかりません。

  • 何が重くなると思われているのか。
  • なぜ重くなると駄目なのか。

おそらくですがクローラーの場合、
DBへのアクセスよりHTTPなどネットワークのほうを懸念されたほうがいいと思います。
リアルタイムにずっと眺めているモノでもないでしょうし、多少遅くても問題ないかと。

またURLの変更された場合にテーブル1とテーブル2に主キーが違うので、
タイトルの変更を見れなくないですか?

2つのテーブルに分ける必要性がありますか。
個人的には、1つのテーブルに前回と今回のフィールド持つかたちで、例えば。

カラム名 備考
ID int PK、サロゲートキー
ページID int 比較したいページ毎のID
前回ページURL text
前回ページタイトル varchar
前回クロール日時 timestamp
今回ページURL text
今回ページタイトル varchar
今回クロール日時 timestamp
差分有無 bool (前回ページタイトル!=前回ページタイトル)

投稿

  • 回答の評価を上げる

    以下のような回答は評価を上げましょう

    • 正しい回答
    • わかりやすい回答
    • ためになる回答

    評価が高い回答ほどページの上位に表示されます。

  • 回答の評価を下げる

    下記のような回答は推奨されていません。

    • 間違っている回答
    • 質問の回答になっていない投稿
    • スパムや攻撃的な表現を用いた投稿

    評価を下げる際はその理由を明確に伝え、適切な回答に修正してもらいましょう。

  • 2018/01/22 21:27

    >DBへのアクセスよりHTTPなどネットワークのほうを懸念……多少遅くても問題ないかと
    目からうろこです!
    考え方が180度変わりました!

    そして、具体的なテーブルを掲示いただけたこと、ほんと感謝です!
    ほぼこのまま使わせていただきますm(_ _)m

    キャンセル

+1

主キーは、IDとかの別のカラムにしましょう。
あと、URL_HASHとかのカラム(インデックス付き)を追加して、URLの検索はこれを使うとかですかね

投稿

  • 回答の評価を上げる

    以下のような回答は評価を上げましょう

    • 正しい回答
    • わかりやすい回答
    • ためになる回答

    評価が高い回答ほどページの上位に表示されます。

  • 回答の評価を下げる

    下記のような回答は推奨されていません。

    • 間違っている回答
    • 質問の回答になっていない投稿
    • スパムや攻撃的な表現を用いた投稿

    評価を下げる際はその理由を明確に伝え、適切な回答に修正してもらいましょう。

  • 2018/01/20 21:02

    ご回答ありがとうございます!

    >URL_HASHとかのカラム(インデックス付き)を追加
    URL_HASHという技術(?)は、正直よく分かっていませんが、今から調べてみようかと思います!

    キャンセル

+1

前回の結果と比較するということなので、一つのテーブルで行うなら、lag()等の分析関数に相当する問合せを行うことになります。
MySQLで分析関数を模倣3(後編)

ただ、コストが高いので、別テーブルにするという案も良いかとは思いますが、移し替えるというタイミングについてエラー考慮すると複雑になりそうな気がします。

実行ログのように、一つのテーブルにクロールの結果を書き込むようにしたほうが良いかと思います。

主キーが長すぎて無駄に重くなってしまうと思います。

主キー自体は連番などにしたほうが良いかと思いますが、比較のためにインデックスを作成するなら、どの道消費する資源です。

投稿

  • 回答の評価を上げる

    以下のような回答は評価を上げましょう

    • 正しい回答
    • わかりやすい回答
    • ためになる回答

    評価が高い回答ほどページの上位に表示されます。

  • 回答の評価を下げる

    下記のような回答は推奨されていません。

    • 間違っている回答
    • 質問の回答になっていない投稿
    • スパムや攻撃的な表現を用いた投稿

    評価を下げる際はその理由を明確に伝え、適切な回答に修正してもらいましょう。

  • 2018/01/22 21:24

    ご回答ありがとうございます。

    >移し替えるというタイミングについてエラー考慮すると複雑になりそう
    はい!おっしゃる通りここで躓いてしまいました(^^A

    >比較のためにインデックスを作成するなら、どの道消費する資源
    なるほど、そういうものなのですね!勉強になりました!

    キャンセル

15分調べてもわからないことは、teratailで質問しよう!

  • ただいまの回答率 89.13%
  • 質問をまとめることで、思考を整理して素早く解決
  • テンプレート機能で、簡単に質問をまとめられる