MySQLのbigint型の最大値を超える値の扱い方

Question

Twitterの各ツイート固有のIDとして割り当てられる値(id_str)をMySQLのchar型でInsertしているのですが、
最大値を取得するのに、

SELECT MAX(id_str) from testTBL;

などとしてしまうと、例えば、900と1000のレコードがあった場合、900の値が返ってくるなど、意図した結果が得られません。
そのため、id_strをキャストすることで取得しています。

しかし、今後id_strがMySQLのunsignedのbigint型の最大値である
18446744073709551615(8byte)を超えた場合、
どのようにして最大値を取得するのが筋でしょうか。

Answer 1

いくつかの方法がありますので参考にしてみてください。
https://qiita.com/kawasima/items/6b0f47a60c9cb5ffb5c4

Twitterは独自のID生成戦略を持っているようです。
https://qiita.com/kawasima/items/6b0f47a60c9cb5ffb5c4#snowflake

確か、膨大なニュースを取り扱うsmartnewsさんはこちらをフォークしていた記憶があります。

個人的にはMySQLをお使いならUUIDがお手軽かなと思います。
ただ、そのまま使うと容量や速度面からデメリットが大きいので主キーとして使うなら型はvarcharではなくbinaryで管理されるほうが良いと思います。
その場合、MySQL5系はこちらのような変換処理が必要になってきますが、8系からは機能要求により同様の処理（関数）が公式サポートされましたのでより手軽に利用できるでしょう。

Comments

[matusmon]

IDを生成するための手法がこんなにあるなんて知りませんでした。
奥が深いですね...。

ちょっとよく分かっていないのですが、id_strとは別にUUID用のカラムを一つ用意する、という認識で正しいですか？
取得した最新のツイートににリプライを送ったりする目的でid_strを用いているので、ツイートを識別できないとなりません。
ちなみに、いろんなプロセスからinsertするので、レコードへ追加する順序はバラバラです。

Answer 2

普通に文字列で処理するものでしょうね
最大桁数さえ決めればそれに合わせて、比較したりソートしたりするさい
0フィルすればよいでしょう

create table tbl(id char(10));
insert into tbl values(1),(100),(90),(12);

select * from tbl order by lpad(id,10,'0');

Comments

[matusmon]

テーブルの構成を全くいじらずにできる方法ですね。
0埋め桁合わせは完全に盲点でした。
ありがとうございます。

Answer 3

64ビットを超えた時にツィッター社がどう対応を行うのかは、憶測でしか対応できないと思いますが。
数字の桁数が増えるという仮定を置いての対応ならば、DECIMAL型で定義して、外部とのやりとり(JSONなど)部分は文字列で扱うのが良いのでは。

Comments

[matusmon]

"id"とは別に"id_str"というキーが用意されているということは、64bitを超えて表現するのを想定しているんだろうな、という認識でいます。
DECIMAL型なら最大65桁まで行けるんですね。
ありがとうございます。

[umyu]

＞matusmonさんへ
https://developer.twitter.com/en/docs/basics/twitter-ids.html
id_strの用途は53ビットを超える数値を扱えない言語(JavaScriptなど)用に文字列表現として提供しているのが目的だったよーな。

[matusmon]

そうだったんですね！
"id_str"の目的から勘違いしていました...。
教えていただいたURLからすると、"These IDs are unique 64-bit unsigned integers, which are based on time, instead of being sequential."と明記されていることから、割り当てられるIDは64bit長なんですね。
しかも、最新のツイートを取得する目的でid_strの最大値を取得していましたが、様々な要素からIDが構成されるということは、必ずしも最大値が最新のツイートとは限らないということですね...。
created_atのカラムを用意して使用するのがベストという結論に落ち着きそうです。
ありがとうございます。

[sazi]

>必ずしも最大値が最新のツイートとは限らない
maverixzさんの回答のリンクにありますが、
・41bit タイムスタンプ
から始まるようですので、大丈夫じゃないでしょうか。

Answer 4

今後id_strがMySQLのunsignedのbigint型の最大値である18446744073709551615(8byte)を超えた場合

この値を日本語の数値区切りにすると、1844京6744兆737億955万1615という値になります。

そして、1秒あたりのツイート数の最大値は「バルス」の際の14万ツイート/秒ということで、仮に毎秒このペースでツイートが流れていっても、64ビットを使い切るには400万年以上かかる計算になります。ツイッターもmatusmonさんも、そこまで生き残ることはないでしょう。

結論：ツイッターが「IDの体系を、64ビットからはみ出る形で変える」という可能性は低いので、発表されてから考えればいい

Comments

[matusmon]

ただ、事実として、
今週辺りからid_strが1001000000000000000(dec)を超えていて、現実味を帯びている気がしていました。

一応レコードを確認してみたのですが、
3/20に取得していた値と4/21に取得していた値の差が
11596413494309000
4/21に取得していた値と5/22に取得していた値の差が
11234022965567000

ほどなので、
18446744073709551615 - 1001000000000000000
= 17445744073709500000

今と同じペースであるという前提であれば
17445744073709500000 / 11000000000000000
= 1586ヶ月
= 132年ほどで溢れそうであることがわかりました。