質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

ただいまの
回答率

90.45%

  • Linux

    4536questions

    Linuxは、Unixをベースにして開発されたオペレーティングシステムです。日本では「リナックス」と呼ばれています。 主にWebサーバやDNSサーバ、イントラネットなどのサーバ用OSとして利用されています。 上位500のスーパーコンピュータの90%以上はLinuxを使用しています。 携帯端末用のプラットフォームAndroidは、Linuxカーネル上に構築されています。

  • キャッシュ

    68questions

    キャッシュはドキュメントやデータを一時的に保管するもので、アクセス処理時間を短くするために使用されます。

  • mmap

    1questions

    mmapは、UNIXのOSのシステムコールです。ファイルやデバイスなどのOS上のリソースの一部もしくは全てを連続した仮想アドレス空間にマッピングします。

Linuxファイルシステムのメモリ常駐方法について

解決済

回答 3

投稿 編集

  • 評価
  • クリップ 1
  • VIEW 1,720

snowfaller

score 113

Linux (RHEL 7.2)上に16[GByte]のファイルシステムを構築しました。
このファイルシステムの内容をメモリに常駐させたいと考えております。

物理メモリはこのファイシステムの情報をすべて保持するだけの十分な容量があります。

当初考えていたのは、OS 起動時にファイルシステムに格納されているファイルを全て読み込み /dev/null に捨てると言う方法です。これにより、ファイルシステムの内容は、一旦はメモリ上にキャッシュとして読み込まれ、次回以降、物理ディスクにアクセスを行うことなくファイルの読みこみができます。

しかし、この方法ですと、他のファイルシステムの読み込みが行われた場合、そのファイルシステムの情報がメモリ上にキャッシュとして読み込ま、最初に格納された目的のファイルシステムの情報がキャッシュから追い出されてしまいます。

これを防ぎたいと考えておりますが、何か良い方法はございますでしょうか?
特定のファイルシステム「専用」に、メモリ上にキャッシュを確保できるれば良いのですが。

これ以外の方法として tmpfs を使用する方法も考えましたが、ファイルシステムに書き込まれた情報を不揮発性の記録媒体に退避する運用が煩雑になるのと、不意の電源断等の障害が発生した際の信頼性に影響が出るため、この案の採用は難しい状況です。

(追記)

mmap()でファイルの内容をプロセスメモリにマッピングし、当該領域をスワップアウト禁止とする方法はありませんでしょうか?
最悪、このようなデーモンを作成し、常駐させることにより、バッファからの追い出しを防ぐことが出来るかと考えています。(検証は必要ですが、まずはできるかどうか)

(追記1)

mlock()が使えそうです。引き続き調査中。

(追記2)

open(), mmap(), mlock()を使用したアプリを作って検証。
dd文で直接デバイスファイルの読み取りを行う分には効果あり。
しかしながら、デバイスファイル上に作成したファイルシステム上での読み取りでは効果なく、それぞれ別にキャッシュされる。(free, iostatコマンドで確認)。

なんでだろ・・・。

  • 気になる質問をクリップする

    クリップした質問は、後からいつでもマイページで確認できます。

    またクリップした質問に回答があった際、通知やメールを受け取ることができます。

    クリップを取り消します

  • 良い質問の評価を上げる

    以下のような質問は評価を上げましょう

    • 質問内容が明確
    • 自分も答えを知りたい
    • 質問者以外のユーザにも役立つ

    評価が高い質問は、TOPページの「注目」タブのフィードに表示されやすくなります。

    質問の評価を上げたことを取り消します

  • 評価を下げられる数の上限に達しました

    評価を下げることができません

    • 1日5回まで評価を下げられます
    • 1日に1ユーザに対して2回まで評価を下げられます

    質問の評価を下げる

    teratailでは下記のような質問を「具体的に困っていることがない質問」、「サイトポリシーに違反する質問」と定義し、推奨していません。

    • プログラミングに関係のない質問
    • やってほしいことだけを記載した丸投げの質問
    • 問題・課題が含まれていない質問
    • 意図的に内容が抹消された質問
    • 広告と受け取られるような投稿

    評価が下がると、TOPページの「アクティブ」「注目」タブのフィードに表示されにくくなります。

    質問の評価を下げたことを取り消します

    この機能は開放されていません

    評価を下げる条件を満たしてません

    評価を下げる理由を選択してください

    詳細な説明はこちら

    上記に当てはまらず、質問内容が明確になっていない質問には「情報の追加・修正依頼」機能からコメントをしてください。

    質問の評価を下げる機能の利用条件

    この機能を利用するためには、以下の事項を行う必要があります。

回答 3

check解決した方法

0

出来ました。デバイスファイルを直接open(), mmap(), mlock()するのではなく、1クッション置いたファイルシステムに対して実行するようにしました。以下。

  1. 既存のファイルシステム上にメモリ常駐させたいファイルシステム用の通常ファイルを作成。
    (ddコマンドで)
  2. 作成した通常ファイルをファイルシステムとしてフォーマット
    (mkfsコマンドで)
  3. 通常ファイルを指定してマウント
    (mountコマンドで)
  4. 通常ファイルをopen(), mmap(), mlock()したまま起動し続けるアプリを実行。

投稿

  • 回答の評価を上げる

    以下のような回答は評価を上げましょう

    • 正しい回答
    • わかりやすい回答
    • ためになる回答

    評価が高い回答ほどページの上位に表示されます。

  • 回答の評価を下げる

    下記のような回答は推奨されていません。

    • 間違っている回答
    • 質問の回答になっていない投稿
    • スパムや攻撃的な表現を用いた投稿

    評価を下げる際はその理由を明確に伝え、適切な回答に修正してもらいましょう。

  • 2016/10/23 01:10

    あっはっはっは
    それってファイルシステムをループバックマウントしてmmapしてるってこと? なんか本末転倒な気が…

    キャンセル

  • 2016/10/23 01:31

    なんだか、遠回りしているような気がしますが、目的は達成できました。
    でもなんで、デバイスファイルを直接mmapじゃだめなんでしょうね・・・。

    キャンセル

0

「ファイルシステムの内容をメモリに常駐させたい」とのことですが、RAMディスク (tmpfsもこれです) を使ってメモリに常駐させると

ファイルシステムに書き込まれた情報を不揮発性の記録媒体に退避する運用が煩雑になるのと、不意の電源断等の障害が発生した際の信頼性に影響が出る

ということは避けられないと思います。

Linuxカーネルでは、空きメモリ領域は優先的にディスクキャッシュに割り当てられます。ですので当初検討された方法であれば実質的に「メモリに常駐」を実現できているとも言えます。同時に、ライトバックが常時行われているため、障害対策もできていると言えます。

投稿

  • 回答の評価を上げる

    以下のような回答は評価を上げましょう

    • 正しい回答
    • わかりやすい回答
    • ためになる回答

    評価が高い回答ほどページの上位に表示されます。

  • 回答の評価を下げる

    下記のような回答は推奨されていません。

    • 間違っている回答
    • 質問の回答になっていない投稿
    • スパムや攻撃的な表現を用いた投稿

    評価を下げる際はその理由を明確に伝え、適切な回答に修正してもらいましょう。

  • 2016/10/22 16:57

    ご回答ありがとうございます。

    >当初検討された方法であれば実質的に「メモリに常駐」を実現できているとも言えます。同時に、ライトバックが常時行われているため、障害対策もできていると言えます。

    はい。私も、これがベストだと考えています。
    しかしながら、本文中にも記載しましたが、このOSには複数のファイルシステムが存在します。
    ファイルシステムAとファイルシステムBがあったとして、ファイルシステムAのみをメモリに常駐させたいと考えています。

    何もしなければファイルシステムAへの読み書きがしばらく行われない状態で、ファイルシステムBへの読み込みが発生した場合、ファイルシステムAのキャッシュが追い出されてしまいます。

    ファイルシステムA専用のキャッシュ領域を作成し、他のファイルシステムへのアクセスに影響を受けることなく常にメモリに常駐させたいのです。

    キャンセル

  • 2016/10/22 17:33

    LinuxであればダイレクトI/O http://itpro.nikkeibp.co.jp/article/Keyword/20070207/261244/ を使ってキャッシュを経由**せずに**アクセスすることが可能です。アプリやミドルウェア毎の対応になりますが。MySQLなどが対応しています。

    なお、使われていないキャッシュがメモリから追い出されても、パフォーマンスへの影響はほぼないと考えられます。そもそも、メモリキャッシュを増やすことによって本当にパフォーマンスが上がるのかどうかは、実運用環境に近い環境で検証しないと確定できないことだと思います。

    あと、キャッシュのためにメモリに投資するより、ディスクドライブ自体を大容量キャッシュのものやSSDにするという手もあると思います。

    キャンセル

  • 2016/10/22 17:44

    ご回答ありがとうございます。

    > メモリキャッシュを増やすことによって本当にパフォーマンスが上がるのかどうかは、実運用環境に近い環境で検証

    環境を専有した状態で検証を行い、実運用環境で効果があることは検証済みです。ただし、先述の「ファイルシステムB」へのアクセスによる追い出しが問題となっております。ファイルシステムBもUNIXファイルシステムで通常運用に使われています。

    > メモリに投資

    メモリに余裕がある現実でこれを活用する方法を検討しております。

    キャンセル

0

これ以外の方法として tmpfs を使用する方法も考えましたが、ファイルシステムに書き込まれた情報を不揮発性の記録媒体に退避する運用が煩雑になるのと、不意の電源断等の障害が発生した際の信頼性に影響が出るため、この案の採用は難しい状況です。

クラスタを組んだり、横に並べれば信頼性への対応は可能です。
また、サーバ本体の電源モジュールは2つインストールし、電源は、系統の異なる電源系統1、電源系統2からそれぞれ供給すれば信頼性はあがります。

投稿

  • 回答の評価を上げる

    以下のような回答は評価を上げましょう

    • 正しい回答
    • わかりやすい回答
    • ためになる回答

    評価が高い回答ほどページの上位に表示されます。

  • 回答の評価を下げる

    下記のような回答は推奨されていません。

    • 間違っている回答
    • 質問の回答になっていない投稿
    • スパムや攻撃的な表現を用いた投稿

    評価を下げる際はその理由を明確に伝え、適切な回答に修正してもらいましょう。

  • 2016/10/22 17:38

    ご回答ありがとうございます。

    > サーバ本体の電源モジュールは2つインストールし、電源は、系統の異なる電源系統1、電源系統2からそれぞれ供給すれば信頼性はあがります。

    は実施済みです。電源断の表現が不完全でした。カーネルパニック等を想定しています。
    また運用の煩雑への課題が残ってしまいます。

    キャンセル

  • 2016/10/22 17:49

    実施済なんですね。
    運用の煩雑というのはどこまで許容できるか決めの問題ですしね。
    ikedasさんの回答している通り、ディスクに何を導入するか見直せば運用の煩雑は減らせると思いますよ。障害時はベンダーが対応、これにまさる運用の楽さはありません。
    SSD以外ですと、FusionIO社のioDrive等いかがでしょうか。

    キャンセル

  • 2016/10/22 18:14

    ご回答ありがとうございます。
    やはり、ハード増強が必要なのでしょうか・・・。

    キャンセル

  • 2016/10/22 18:20

    色々工夫して上のレイヤーであれこれやるのと、ハード増強で解決するのでどちらがTCOが低くすむかって話にたどり着くと思います。
    運用が煩雑になると障害時の対応にコストがかかり、更に機会損失も大きくなると思います。それならお金で解決したほうがハッピーだと思います。

    キャンセル

15分調べてもわからないことは、teratailで質問しよう!

  • ただいまの回答率 90.45%
  • 質問をまとめることで、思考を整理して素早く解決
  • テンプレート機能で、簡単に質問をまとめられる

同じタグがついた質問を見る

  • Linux

    4536questions

    Linuxは、Unixをベースにして開発されたオペレーティングシステムです。日本では「リナックス」と呼ばれています。 主にWebサーバやDNSサーバ、イントラネットなどのサーバ用OSとして利用されています。 上位500のスーパーコンピュータの90%以上はLinuxを使用しています。 携帯端末用のプラットフォームAndroidは、Linuxカーネル上に構築されています。

  • キャッシュ

    68questions

    キャッシュはドキュメントやデータを一時的に保管するもので、アクセス処理時間を短くするために使用されます。

  • mmap

    1questions

    mmapは、UNIXのOSのシステムコールです。ファイルやデバイスなどのOS上のリソースの一部もしくは全てを連続した仮想アドレス空間にマッピングします。