質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

ただいまの
回答率

90.48%

  • MySQL

    6029questions

    MySQL(マイエスキューエル)は、TCX DataKonsultAB社などが開発するRDBMS(リレーショナルデータベースの管理システム)です。世界で最も人気の高いシステムで、オープンソースで開発されています。MySQLデータベースサーバは、高速性と信頼性があり、Linux、UNIX、Windowsなどの複数のプラットフォームで動作することができます。

[MySQL]大量データのフリーワード検索を高速に行いたい

解決済

回答 2

投稿

  • 評価
  • クリップ 2
  • VIEW 2,872

shunshun

score 79

お世話になります。

php・MySQL(5.6)を使用してWEBアプリケーションを作成しております。
現在、フリーワード検索を実装中なのですが、高速にデータを検索することができず困っております。
皆様のお知恵をお貸し下さい。

要件は、「1秒以内に約100万件のデータに対してフリーワード検索を行い、取得結果をソートして表示する」です。
この要件を満たす為に、下記のような検索用テーブルを作成しました。


id | point1 | point2 | freeword 

PRIMARYKEY -- id
INDEX -- point1, point2 (複合index)
FULL TEXT INDEX -- freeword

エンジン MyISAM

LIKE句を使用した場合、速度がでないと聞きましたのでfull_text_searchを採用しました。
freewordには、『名前』をBIGRAM、UNIGRAM化したものを入れています。

このテーブルに対して、下記のようなSQL文を流しています。
SELECT SQL_CALC_FOUND_ROWS
  id
FROM table
WHERE
  MATCH(freeword ) AGAINST('+"あい" +"いう"' IN BOOLEAN MODE)
ORDER BY
  point1 DESC
 ,point2 DESC

EXPLAINの結果をみつつ、自己結合してみたりサブクエリを流してみたりチューニングを試みておりますが、どうしても取得結果をORDER BYすることによるソート処理で時間がかかっているようです。

FULL TEXT INDEXとINDEXの2つのINDEXを効かせることで高速に検索できるようになりませんでしょうか。

分かる方がいらっしゃいましたらご回答をお願いいたします。
  • 気になる質問をクリップする

    クリップした質問は、後からいつでもマイページで確認できます。

    またクリップした質問に回答があった際、通知やメールを受け取ることができます。

    クリップを取り消します

  • 良い質問の評価を上げる

    以下のような質問は評価を上げましょう

    • 質問内容が明確
    • 自分も答えを知りたい
    • 質問者以外のユーザにも役立つ

    評価が高い質問は、TOPページの「注目」タブのフィードに表示されやすくなります。

    質問の評価を上げたことを取り消します

  • 評価を下げられる数の上限に達しました

    評価を下げることができません

    • 1日5回まで評価を下げられます
    • 1日に1ユーザに対して2回まで評価を下げられます

    質問の評価を下げる

    teratailでは下記のような質問を「具体的に困っていることがない質問」、「サイトポリシーに違反する質問」と定義し、推奨していません。

    • プログラミングに関係のない質問
    • やってほしいことだけを記載した丸投げの質問
    • 問題・課題が含まれていない質問
    • 意図的に内容が抹消された質問
    • 広告と受け取られるような投稿

    評価が下がると、TOPページの「アクティブ」「注目」タブのフィードに表示されにくくなります。

    質問の評価を下げたことを取り消します

    この機能は開放されていません

    評価を下げる条件を満たしてません

    評価を下げる理由を選択してください

    詳細な説明はこちら

    上記に当てはまらず、質問内容が明確になっていない質問には「情報の追加・修正依頼」機能からコメントをしてください。

    質問の評価を下げる機能の利用条件

    この機能を利用するためには、以下の事項を行う必要があります。

回答 2

+8

MySQLなどのDBでは限界があると思います。
DBで100万件処理するときは必ずパフォーマンスが問題なる。と考えるようにしています。

例えば、1件1ミリセック(0.001秒)で処理したとしても、
100万件処理するなら1,000秒(16分)かかることになります。(ありえないですね)

Like検索などは、特に遅くなるのでDBは利用しません。

フリーワード検索が必須ならば、Solrなどを検討してみてはいかがでしょうか?

投稿

  • 回答の評価を上げる

    以下のような回答は評価を上げましょう

    • 正しい回答
    • わかりやすい回答
    • ためになる回答

    評価が高い回答ほどページの上位に表示されます。

  • 回答の評価を下げる

    下記のような回答は推奨されていません。

    • 間違っている回答
    • 質問の回答になっていない投稿
    • スパムや攻撃的な表現を用いた投稿

    評価を下げる際はその理由を明確に伝え、適切な回答に修正してもらいましょう。

  • 2015/06/16 00:03

    ご回答ありがとうございました。

    今回は自己解決に至りましたが、
    次回同じような状況に陥った場合は、Solrやmroongaなどのエンジンの導入も検討したいと思います。
    ありがとうございました。

    キャンセル

check解決した方法

+3

自己解決しましたので、解決に至った経緯について報告します。

エンジンをInnoDBに変更した以外、環境やテーブルの設定に関しては変えておりません。
当方の環境下では、
FULL TEXT INDEXは、結果レコードが多い場合は(20万件以上)検索結果の取得に時間がかかり、結果レコードが少ない場合は1秒未満でかえってくるような状態でした。
また、FULL TEXT INDEXのはったカラムにLIKE句を使用して検索した場合(検索時のキーワードはNgram化したもの)、その逆の結果が得られました。(結果レコードの多いものに関してははやいが少ないものに関しては遅い)

そこで、検索結果が多くなると考えられる検索キーワードはLIKE句のクエリを発行し、
逆に検索結果が少なくなると考えられる検索キーワードにはFULL TEXT INDEXの検索方法を用いました。

投稿

  • 回答の評価を上げる

    以下のような回答は評価を上げましょう

    • 正しい回答
    • わかりやすい回答
    • ためになる回答

    評価が高い回答ほどページの上位に表示されます。

  • 回答の評価を下げる

    下記のような回答は推奨されていません。

    • 間違っている回答
    • 質問の回答になっていない投稿
    • スパムや攻撃的な表現を用いた投稿

    評価を下げる際はその理由を明確に伝え、適切な回答に修正してもらいましょう。

15分調べてもわからないことは、teratailで質問しよう!

  • ただいまの回答率 90.48%
  • 質問をまとめることで、思考を整理して素早く解決
  • テンプレート機能で、簡単に質問をまとめられる

関連した質問

同じタグがついた質問を見る

  • MySQL

    6029questions

    MySQL(マイエスキューエル)は、TCX DataKonsultAB社などが開発するRDBMS(リレーショナルデータベースの管理システム)です。世界で最も人気の高いシステムで、オープンソースで開発されています。MySQLデータベースサーバは、高速性と信頼性があり、Linux、UNIX、Windowsなどの複数のプラットフォームで動作することができます。