NoMemoryError failed to allocate memory (*◔ڼ◔)

Question

###前提・実現したいこと
Ruby on Sinatraで極秘のシステムを作っています。
MySQLからselect文で読む時に以下↓のエラーメッセージが発生しました。
発生した箇所まで突き止めましたが必ず発生するわけではないようなので、設定メモリが小さ過ぎてメモリリークが実際に起きているのかもしれないと疑っております。
メモリリークの防ぎ方、またはSinatraでの使用可能メモリの増やし方、NoMemoryErrorと出ているがバグでじつは全く別の原因？かなど、ご教授願います。

###発生している問題・エラーメッセージ

NoMemoryError
failed to allocate memory

/magi/source/class/magiAdmin.rb:258:in `each'
/magi/source/class/magiAdmin.rb:258:in `fuckinMethod'
/magi/source/class/magiAdmin.rb:206:in `fuckin'
/magi/source/online/web/pgeIndex.rb:84:in `httpGetfuck'

###該当のソースコード

def fuckinMethod(strJobNameEN)

  # create select sql
  sqlSelect =
    %Q{ select SQLLine \n} +
    %Q{   from admin_log_sql \n} +
    %Q{  where JobNameEN = '#{strJobNameEN}' \n} +
    %Q{  order by LineNo asc \n};

  # run select sql
  strSQL = "";
  rstDataset = self.runSQLSelect(sqlSelect);
  # ↓ここでNoMemoryError発生（する時としない時がある）
  rstDataset.each() do |recDataset|
  # ↑
    strSQL = %Q{#{strSQL}#{recDataset["SQLLine"]}\n};
  end

end

def runSQLSelect(strSQL)

  self.statusSQL();

  # connect to mysql server
  objClient = nil;
  objClient = Mysql2::Client.new(
    :host => "localhost",
    :username => @recUserInfo.strDBUser,
    :password => @recUserInfo.strDBPass,
    :database => "magi");

  # start transaction
  begin
    rstDataset = objClient.query(strSQL);
  rescue => e
    objClient.query("rollback");
    objError = SQLException.new(e.message, e.backtrace, strSQL);
  ensure
    objClient.close();
    objClient = nil;
  end

  if objError != nil then
    raise objError;
  end

  self.debugSQL(strSQL, rstDataset);
  self.statusProcess();

  return rstDataset;

end

# ###*********************************************************************###
# #   debug sql
# ###*********************************************************************###

def debugSQL(strSQL, rstDataset)

  if @flgDebug then

    @hshResult.delete(:sql);
    @hshResult[:sql] = strSQL;
    @hshResult.delete(:dataset);
    @hshResult[:dataset] = self.debugSQL_display(rstDataset);

  end

end

# ###=====================================================================###
# #   debug sql - display dataset
# ###=====================================================================###

def debugSQL_display(rstDataset)

  lstDataset = Array.new();
  if rstDataset != nil then
# ここから↓
    rstDataset.each() do |recDataset|
      recDataset.each() do |strKey, datValue|
        hshRow = Hash.new();
        hshRow[:key]   = strKey;
        hshRow[:value] = datValue.to_s();
        lstDataset.push(hshRow);
      end
      break;
    end
# ↑ここまでの処理を行わない時はエラーが起きない
  end

  return lstDataset;

end

###メモリの空き

             total       used       free     shared    buffers     cached
Mem:      16269900    3770256   12499644          0     294024    2722060
-/+ buffers/cache:     754172   15515728
Swap:     16609276      53336   16555940

###気になっていること
他のページではMySQLからselect文2回発行までは問題なく動いております。
今回のページは4回発行の4回目で失敗しております。
（必ず失敗するわけでもない）
4回目のSQL発行を無くし3回のみにするとNoMemoryErrorは発生しなくなります。

Sinatraのウェブページ表示は@付きの変数に処理結果を入れて*.erbファイルから参照してウェブページに表示するというものです。自分の場合は変数を増やしたくないので@hshResultというハッシュに色々と追加して、ウェブページで表示をしております。
どこかのサイトでrubyのHashに値を突っ込んでいくとメモリをどんどん消費して、何故かガベレージコレクタにも検知されず解放されない？というのを前に見た覚えがあります。自分は@hshResult = nil;することでメモリ解放をしているつもりなのですが、これはやり方としてあってますでしょうか？

###試したこと
debugSQL_display()でrstDataset.each()でselect結果を一度読み込んでいます。
この読み込みを辞めるとエラーが発生しなくなりました。
（読み込み結果をhashでarrayに入れてますがこの処理があってもなくてもエラーになります）
つまり結果データセットのeach()を2回目に発行した場合にMySQLのgem内でメモリエラーが起きたり起きなかったりしているみたいです。

MySQLからの結果データセットをeach()で読み込んだ後、読み込み開始位置？が最後のレコードになっている状態で、再度each()を発行するとダメということでしょうか？そもそも根本的に結果データセットのeach()について自分が勘違いしているかも知れませんので、（動くようにはなりましたが）自己解決にはしないことにします。
どなたか詳しい方、ご教授お願い致します。

###補足情報(言語/FW/ツール等のバージョンなど)
ruby 2.1.1p76 (2014-02-24 revision 45161) [x86_64-linux-gnu]
sinatra 1.4.5
MySQL 5.5.32-0ubuntu7 (Ubuntu)

Answer 1

queryでstreamオプションを有効にするとうまくいくかも知れません。
https://github.com/brianmario/mysql2#user-content-streaming
あとは、全体の物理メモリやスワップメモリの容量はどうでしょうか？膨大なメモリの予約を行う場合があり、スワップメモリがある程度ないとメモリ不足として弾かれる場合があるというのを聞いたことがあります。

---

MySQLからの結果データセットをeach()で読み込んだ後、読み込み開始位置？が最後のレコードになっている状態で、再度each()を発行するとダメということでしょうか？そもそも根本的に結果データセットのeach()について自分が勘違いしているかも知れませんので、（動くようにはなりましたが）自己解決にはしないことにします。

どなたか詳しい方、ご教授お願い致します。

each()の実装の仕方によります。each()が実装されているオブジェクトは大きく二種類あって、ArrayやHashのように何からのデータの集まり(コレクション)なものと、IOなどのデータの流れ(ストリーム)なものです。コレクションでのeach()は単純で、毎回上から順番に辿ることができます。しかし、ストリームでは、基本一度流れたものは(リセットしない限り)二度目は流れません。このような場合はeach()が使えるのは一度だけになります。その代わり、ストリームはコレクションのように全てをメモリに展開する必要が無いため、メモリ消費量を抑えることができます。

mysql2のeach()はlazy(遅延)処理であり、必要になって初めてsqlの結果からオブジェクトを生成するようで、上で言うストリームに近い処理です。ただ二回走らせることができるようにと、キャッシュを生成するようになっています。問題はそのキャッシュです。each()が完全に終わるまではキャッシュは中途半端な状態であり、そんなときにeach()が呼ばれたため、キャッシュ生成に不整合が発生しておかしくなったと思われます。一度each()を呼び出した場合でうまくいったのは、そのキャッシュが完全にできあがったため、不整合が発生しなくなくなったからだと思われます。

なお、キャッシュを持たずに一回だけを省メモリで高速にするのが上で述べたstreamのオプションであり、この場合は完全にストリームとなって一度だけになります。また、配列と同じようにしたい場合にeachに:as => :arrayオプションが用意されているようです。こちらを使うことでも、上のキャッシュ生成による不整合を防げるかもしれません。

Comments

[sirosiro]

freeの結果を添付しました。また、「気になっていること」にHashの初期化について追加しました。

[sirosiro]

上記の「queryでstream」を参考に実装してみたのですが、私がウンコなのかselectの結果が取得できなくなりました…。rubyでの実装例がわかりません。

[raccy]

追加の質問へ回答しました。

[sirosiro]

1回のみ読む時は問題なく動いていた為、あとはその理由が知りたかったのですが、
上記の内容で納得致しました。ありがとうございます。
これで解決としようと思います。

Answer 2

回答ではないですが、SQLインジェクションが起きそうなコードになっていますので、見直すことをお勧めします。

IPAが公開している安全なウェブサイトの作り方や、「体系的に学ぶ安全なWebアプリケーションの作り方」(ISBN 4797361190)などを読まれると良いでしょう。

Answer 3

可能性を幾つか列挙します。

• runSQLSelec() 中で objError の初期化がされていない？ エラーが発生した時に例外が投げられていない？
• fuckinMethod() なかで得ている rstDataset の数がとても大きくなっている？

可能なら、 limit 指定して個数を制限するとよいかもしれません。

stacktrace はでていないのでしょうか？
でていれば、それを提示して欲しいです。

Comments

[sirosiro]

stacktraceを追加しました（極秘システムなので全部はお見せできません）
objErrorが初期化されてないのは確かにバグです。ご指摘ありがとうございます。
ただ、メモリエラーとは関係ないようです。
また、rstDatasetのcountはゼロです（select結果がゼロ件）
limitを指定して個数の制限をするテクニックは必要ですね、ありがとうございます。