質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

新規登録して質問してみよう
ただいま回答率
85.50%
MySQL

MySQL(マイエスキューエル)は、TCX DataKonsultAB社などが開発するRDBMS(リレーショナルデータベースの管理システム)です。世界で最も人気の高いシステムで、オープンソースで開発されています。MySQLデータベースサーバは、高速性と信頼性があり、Linux、UNIX、Windowsなどの複数のプラットフォームで動作することができます。

Q&A

解決済

3回答

277閲覧

クローラー作成時のデータベース設計方法

coinbura

総合スコア106

MySQL

MySQL(マイエスキューエル)は、TCX DataKonsultAB社などが開発するRDBMS(リレーショナルデータベースの管理システム)です。世界で最も人気の高いシステムで、オープンソースで開発されています。MySQLデータベースサーバは、高速性と信頼性があり、Linux、UNIX、Windowsなどの複数のプラットフォームで動作することができます。

0グッド

1クリップ

投稿2018/01/20 09:51

複数のページ(1,000URL程。URLの変更や数の増減も有)をクロールし、そのページ1つ1つのtitleが変更されたかどうかを知りたいと思っています。
この場合、データベース(MySQL5.7)にどのようなテーブルを作れば良いでしょうか?

仕組みとしては、前回のクロール結果と直近のクロール結果を比較するわけなので、データを登録するためのテーブルを2つ作れば良いかと考えました。
具体的には以下です。

▼テーブル1
ページURL VARCHAR(2083) 主キー
ページタイトル VARCHA(100)
日時 TIMESTAMP

▼テーブル2
ページURL VARCHAR(2083) 主キー
ページタイトル VARCHA(100)
日時 TIMESTAMP

クロールの度、古い方のテーブルに書き込み、もう一方と比較。titleの変更を見る、というやり方です。

ただしこれだと、主キーが長すぎて無駄に重くなってしまうと思います。

何かいい方法はないものでしょうか?

気になる質問をクリップする

クリップした質問は、後からいつでもMYページで確認できます。

またクリップした質問に回答があった際、通知やメールを受け取ることができます。

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

guest

回答3

0

ベストアンサー

ただしこれだと、主キーが長すぎて無駄に重くなってしまうと思います。

具体的に何を懸念されているかわかりません。

  • 何が重くなると思われているのか。
  • なぜ重くなると駄目なのか。

おそらくですがクローラーの場合、
DBへのアクセスよりHTTPなどネットワークのほうを懸念されたほうがいいと思います。
リアルタイムにずっと眺めているモノでもないでしょうし、多少遅くても問題ないかと。

またURLの変更された場合にテーブル1とテーブル2に主キーが違うので、
タイトルの変更を見れなくないですか?

2つのテーブルに分ける必要性がありますか。
個人的には、1つのテーブルに前回と今回のフィールド持つかたちで、例えば。

カラム名備考
IDintPK、サロゲートキー
ページIDint比較したいページ毎のID
前回ページURLtext
前回ページタイトルvarchar
前回クロール日時timestamp
今回ページURLtext
今回ページタイトルvarchar
今回クロール日時timestamp
差分有無bool(前回ページタイトル!=前回ページタイトル)

投稿2018/01/22 05:20

szk.

総合スコア1400

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

coinbura

2018/01/22 12:27

>DBへのアクセスよりHTTPなどネットワークのほうを懸念……多少遅くても問題ないかと 目からうろこです! 考え方が180度変わりました! そして、具体的なテーブルを掲示いただけたこと、ほんと感謝です! ほぼこのまま使わせていただきますm(_ _)m
guest

0

前回の結果と比較するということなので、一つのテーブルで行うなら、lag()等の分析関数に相当する問合せを行うことになります。
MySQLで分析関数を模倣3(後編)

ただ、コストが高いので、別テーブルにするという案も良いかとは思いますが、移し替えるというタイミングについてエラー考慮すると複雑になりそうな気がします。

実行ログのように、一つのテーブルにクロールの結果を書き込むようにしたほうが良いかと思います。

主キーが長すぎて無駄に重くなってしまうと思います。

主キー自体は連番などにしたほうが良いかと思いますが、比較のためにインデックスを作成するなら、どの道消費する資源です。

投稿2018/01/22 01:38

sazi

総合スコア25138

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

coinbura

2018/01/22 12:24

ご回答ありがとうございます。 >移し替えるというタイミングについてエラー考慮すると複雑になりそう はい!おっしゃる通りここで躓いてしまいました(^^A >比較のためにインデックスを作成するなら、どの道消費する資源 なるほど、そういうものなのですね!勉強になりました!
guest

0

主キーは、IDとかの別のカラムにしましょう。
あと、URL_HASHとかのカラム(インデックス付き)を追加して、URLの検索はこれを使うとかですかね

投稿2018/01/20 11:25

hichon

総合スコア5737

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

coinbura

2018/01/20 12:02

ご回答ありがとうございます! >URL_HASHとかのカラム(インデックス付き)を追加 URL_HASHという技術(?)は、正直よく分かっていませんが、今から調べてみようかと思います!
guest

あなたの回答

tips

太字

斜体

打ち消し線

見出し

引用テキストの挿入

コードの挿入

リンクの挿入

リストの挿入

番号リストの挿入

表の挿入

水平線の挿入

プレビュー

15分調べてもわからないことは
teratailで質問しよう!

ただいまの回答率
85.50%

質問をまとめることで
思考を整理して素早く解決

テンプレート機能で
簡単に質問をまとめる

質問する

関連した質問