回答編集履歴

- 基本的にはmaisumakun様のuser_id, data_id, valueを基本ーブルにして宜しいのではないかと思います。

- インデックス等での高速対応が心配あれば、後で検索用のテーブルを追加作成し、MySQLのトリガー機能を利用して基本ーブルの更新発生都度、基本ーブルから集計テーブルへ結果書き込みする方法も有るかと思います。