KVMとGlusterFSのアクセス競合について

Question

KVMとGlusterFSがFSに対してアクセスの競合を起こし
FSが破損する事は考えられるでしょうか。

OS:centos7

今回の質問の前提として
KVMにて構成しているVMのdbサーバが今まで動いていたのですが
/dev/mapper/rhel-rootが破損しマウントできない状態になってしまい
ダウンしたまま起動ができなくなってしまいました。
再起動しセーフモードにてxfsの修復とrebootで復旧はしたものの
今後同じ事象で落ちられると困る為、原因を調べたいと思っております。

想定ではKVMとGlusterFSのアクセス競合が考えられるかなと思い
上記質問をしていますが、他に原因が分かる方がいらっしゃいましたら
ご教示いただけますと幸いです。

また、KVMのFSへのアクセスタイミングやGlusterFSのファイルロックが考えられる
タイミングが分かる方がいらっしゃいましたらご教示ください。

Answer 1

ベンチマークを取った帰途がありますが、KVMのvm imageをGlusterFSに置くのは、用途によってはおすすめされません。

なぜかというと、何を使ってkvm nodeでマウントしているかによりますが、GlusterFSで基本だとFuse client
でマウントしますが、その場合にはFuse gluster driverが分散の振り分けを決めるコントローラとなります。

それが、実際gluster nodeまで書き込みをcommitするまでに、ネットワークのバッファを経由して、brickのファイルおオブジェクトに対してseekして、書き込みします。コントローラとIOのnodeとの距離が遠いために、その間でのネットワーク遅延や書き込み遅延が起こった場合、コントローラ自体がIO waitが発生することになり、処理街状態となります。また、Fuseはqemuでアクセスするときにover headがあり、それが問題になってGuestがKernel hangしたりしていました。

libgfapiというGlusterFSのAPIにQemuからアクセスする仕組みが開発されましたが、ベンチマークした限りでは負荷に弱く、kernel hangがqemuに及ぶので使い物になりませんでした。

Kubernetesのvolumeとしての利用がされるようになってから、"gluster-block" という仕組みが導入されました。Kubernetesのようなサイズの小さな利用でのvolume利用では、適しているようです。

dbでのご利用とのことですが、image の置き方を単一ファイルではなく、複数ファイルに分割してqemu-imgでcreateするか、OS上で結合するなと、工夫しない限りdbでの利用は問題があると思われます。