前提・実現したいこと
Ruby on Sinatraで極秘のシステムを作っています。
MySQLからselect文で読む時に以下↓のエラーメッセージが発生しました。
発生した箇所まで突き止めましたが必ず発生するわけではないようなので、設定メモリが小さ過ぎてメモリリークが実際に起きているのかもしれないと疑っております。
メモリリークの防ぎ方、またはSinatraでの使用可能メモリの増やし方、NoMemoryErrorと出ているがバグでじつは全く別の原因?かなど、ご教授願います。
発生している問題・エラーメッセージ
NoMemoryError
failed to allocate memory
/magi/source/class/magiAdmin.rb:258:in `each'
/magi/source/class/magiAdmin.rb:258:in `fuckinMethod'
/magi/source/class/magiAdmin.rb:206:in `fuckin'
/magi/source/online/web/pgeIndex.rb:84:in `httpGetfuck'
該当のソースコード
def fuckinMethod(strJobNameEN)
# create select sql
sqlSelect =
%Q{ select SQLLine \n} +
%Q{ from admin_log_sql \n} +
%Q{ where JobNameEN = '#{strJobNameEN}' \n} +
%Q{ order by LineNo asc \n};
# run select sql
strSQL = "";
rstDataset = self.runSQLSelect(sqlSelect);
# ↓ここでNoMemoryError発生(する時としない時がある)
rstDataset.each() do |recDataset|
# ↑
strSQL = %Q{#{strSQL}#{recDataset["SQLLine"]}\n};
end
end
def runSQLSelect(strSQL)
self.statusSQL();
# connect to mysql server
objClient = nil;
objClient = Mysql2::Client.new(
:host => "localhost",
:username => @recUserInfo.strDBUser,
:password => @recUserInfo.strDBPass,
:database => "magi");
# start transaction
begin
rstDataset = objClient.query(strSQL);
rescue => e
objClient.query("rollback");
objError = SQLException.new(e.message, e.backtrace, strSQL);
ensure
objClient.close();
objClient = nil;
end
if objError != nil then
raise objError;
end
self.debugSQL(strSQL, rstDataset);
self.statusProcess();
return rstDataset;
end
# ###*********************************************************************###
# # debug sql
# ###*********************************************************************###
def debugSQL(strSQL, rstDataset)
if @flgDebug then
@hshResult.delete(:sql);
@hshResult[:sql] = strSQL;
@hshResult.delete(:dataset);
@hshResult[:dataset] = self.debugSQL_display(rstDataset);
end
end
# ###=====================================================================###
# # debug sql - display dataset
# ###=====================================================================###
def debugSQL_display(rstDataset)
lstDataset = Array.new();
if rstDataset != nil then
# ここから↓
rstDataset.each() do |recDataset|
recDataset.each() do |strKey, datValue|
hshRow = Hash.new();
hshRow[:key] = strKey;
hshRow[:value] = datValue.to_s();
lstDataset.push(hshRow);
end
break;
end
# ↑ここまでの処理を行わない時はエラーが起きない
end
return lstDataset;
end
メモリの空き
total used free shared buffers cached
Mem: 16269900 3770256 12499644 0 294024 2722060
-/+ buffers/cache: 754172 15515728
Swap: 16609276 53336 16555940
気になっていること
他のページではMySQLからselect文2回発行までは問題なく動いております。
今回のページは4回発行の4回目で失敗しております。
(必ず失敗するわけでもない)
4回目のSQL発行を無くし3回のみにするとNoMemoryErrorは発生しなくなります。
Sinatraのウェブページ表示は@付きの変数に処理結果を入れて*.erbファイルから参照してウェブページに表示するというものです。自分の場合は変数を増やしたくないので@hshResultというハッシュに色々と追加して、ウェブページで表示をしております。
どこかのサイトでrubyのHashに値を突っ込んでいくとメモリをどんどん消費して、何故かガベレージコレクタにも検知されず解放されない?というのを前に見た覚えがあります。自分は@hshResult = nil;することでメモリ解放をしているつもりなのですが、これはやり方としてあってますでしょうか?
試したこと
debugSQL_display()でrstDataset.each()でselect結果を一度読み込んでいます。
この読み込みを辞めるとエラーが発生しなくなりました。
(読み込み結果をhashでarrayに入れてますがこの処理があってもなくてもエラーになります)
つまり結果データセットのeach()を2回目に発行した場合にMySQLのgem内でメモリエラーが起きたり起きなかったりしているみたいです。
MySQLからの結果データセットをeach()で読み込んだ後、読み込み開始位置?が最後のレコードになっている状態で、再度each()を発行するとダメということでしょうか?そもそも根本的に結果データセットのeach()について自分が勘違いしているかも知れませんので、(動くようにはなりましたが)自己解決にはしないことにします。
どなたか詳しい方、ご教授お願い致します。
補足情報(言語/FW/ツール等のバージョンなど)
ruby 2.1.1p76 (2014-02-24 revision 45161) [x86_64-linux-gnu]
sinatra 1.4.5
MySQL 5.5.32-0ubuntu7 (Ubuntu)
-
気になる質問をクリップする
クリップした質問は、後からいつでもマイページで確認できます。
またクリップした質問に回答があった際、通知やメールを受け取ることができます。
クリップを取り消します
-
良い質問の評価を上げる
以下のような質問は評価を上げましょう
- 質問内容が明確
- 自分も答えを知りたい
- 質問者以外のユーザにも役立つ
評価が高い質問は、TOPページの「注目」タブのフィードに表示されやすくなります。
質問の評価を上げたことを取り消します
-
評価を下げられる数の上限に達しました
評価を下げることができません
- 1日5回まで評価を下げられます
- 1日に1ユーザに対して2回まで評価を下げられます
質問の評価を下げる
teratailでは下記のような質問を「具体的に困っていることがない質問」、「サイトポリシーに違反する質問」と定義し、推奨していません。
- プログラミングに関係のない質問
- やってほしいことだけを記載した丸投げの質問
- 問題・課題が含まれていない質問
- 意図的に内容が抹消された質問
- 過去に投稿した質問と同じ内容の質問
- 広告と受け取られるような投稿
評価が下がると、TOPページの「アクティブ」「注目」タブのフィードに表示されにくくなります。
質問の評価を下げたことを取り消します
この機能は開放されていません
評価を下げる条件を満たしてません
質問の評価を下げる機能の利用条件
この機能を利用するためには、以下の事項を行う必要があります。
- 質問回答など一定の行動
-
メールアドレスの認証
メールアドレスの認証
-
質問評価に関するヘルプページの閲覧
質問評価に関するヘルプページの閲覧
checkベストアンサー
+2
queryでstreamオプションを有効にするとうまくいくかも知れません。
https://github.com/brianmario/mysql2#user-content-streaming
あとは、全体の物理メモリやスワップメモリの容量はどうでしょうか?膨大なメモリの予約を行う場合があり、スワップメモリがある程度ないとメモリ不足として弾かれる場合があるというのを聞いたことがあります。
MySQLからの結果データセットをeach()で読み込んだ後、読み込み開始位置?が最後のレコードになっている状態で、再度each()を発行するとダメということでしょうか?そもそも根本的に結果データセットのeach()について自分が勘違いしているかも知れませんので、(動くようにはなりましたが)自己解決にはしないことにします。
どなたか詳しい方、ご教授お願い致します。
each()の実装の仕方によります。each()が実装されているオブジェクトは大きく二種類あって、ArrayやHashのように何からのデータの集まり(コレクション)なものと、IOなどのデータの流れ(ストリーム)なものです。コレクションでのeach()は単純で、毎回上から順番に辿ることができます。しかし、ストリームでは、基本一度流れたものは(リセットしない限り)二度目は流れません。このような場合はeach()が使えるのは一度だけになります。その代わり、ストリームはコレクションのように全てをメモリに展開する必要が無いため、メモリ消費量を抑えることができます。
mysql2のeach()はlazy(遅延)処理であり、必要になって初めてsqlの結果からオブジェクトを生成するようで、上で言うストリームに近い処理です。ただ二回走らせることができるようにと、キャッシュを生成するようになっています。問題はそのキャッシュです。each()が完全に終わるまではキャッシュは中途半端な状態であり、そんなときにeach()が呼ばれたため、キャッシュ生成に不整合が発生しておかしくなったと思われます。一度each()を呼び出した場合でうまくいったのは、そのキャッシュが完全にできあがったため、不整合が発生しなくなくなったからだと思われます。
なお、キャッシュを持たずに一回だけを省メモリで高速にするのが上で述べたstreamのオプションであり、この場合は完全にストリームとなって一度だけになります。また、配列と同じようにしたい場合にeachに:as => :array
オプションが用意されているようです。こちらを使うことでも、上のキャッシュ生成による不整合を防げるかもしれません。
投稿
-
回答の評価を上げる
以下のような回答は評価を上げましょう
- 正しい回答
- わかりやすい回答
- ためになる回答
評価が高い回答ほどページの上位に表示されます。
-
回答の評価を下げる
下記のような回答は推奨されていません。
- 間違っている回答
- 質問の回答になっていない投稿
- スパムや攻撃的な表現を用いた投稿
評価を下げる際はその理由を明確に伝え、適切な回答に修正してもらいましょう。
0
可能性を幾つか列挙します。
- runSQLSelec() 中で objError の初期化がされていない? エラーが発生した時に例外が投げられていない?
- fuckinMethod() なかで得ている rstDataset の数がとても大きくなっている?
可能なら、 limit 指定して個数を制限するとよいかもしれません。
stacktrace はでていないのでしょうか?
でていれば、それを提示して欲しいです。
投稿
-
回答の評価を上げる
以下のような回答は評価を上げましょう
- 正しい回答
- わかりやすい回答
- ためになる回答
評価が高い回答ほどページの上位に表示されます。
-
回答の評価を下げる
下記のような回答は推奨されていません。
- 間違っている回答
- 質問の回答になっていない投稿
- スパムや攻撃的な表現を用いた投稿
評価を下げる際はその理由を明確に伝え、適切な回答に修正してもらいましょう。
0
回答ではないですが、SQLインジェクションが起きそうなコードになっていますので、見直すことをお勧めします。
IPAが公開している安全なウェブサイトの作り方や、「体系的に学ぶ安全なWebアプリケーションの作り方」(ISBN 4797361190)などを読まれると良いでしょう。
投稿
-
回答の評価を上げる
以下のような回答は評価を上げましょう
- 正しい回答
- わかりやすい回答
- ためになる回答
評価が高い回答ほどページの上位に表示されます。
-
回答の評価を下げる
下記のような回答は推奨されていません。
- 間違っている回答
- 質問の回答になっていない投稿
- スパムや攻撃的な表現を用いた投稿
評価を下げる際はその理由を明確に伝え、適切な回答に修正してもらいましょう。
15分調べてもわからないことは、teratailで質問しよう!
- ただいまの回答率 88.10%
- 質問をまとめることで、思考を整理して素早く解決
- テンプレート機能で、簡単に質問をまとめられる
2016/04/25 08:14
2016/04/25 08:25
2016/04/26 07:00
2016/04/27 04:53
上記の内容で納得致しました。ありがとうございます。
これで解決としようと思います。