linux ptraceとシグナル

Question

ptraceはデバッガの中核であるシステムコールですが、デバッガとデバッギの間でどのようにシグナルが処理されるかよくわかりません。

linux manページによると

トレースの実行中、子プロセスはシグナルが配送されるたびに、 たとえそのシグナルが
無視すべきものであっても停止する (SIGKILL は例外で、通常どおりの効果をもたらす)。
 親プロセスには次の wait(2) で通知され、停止している間に子プロセスを調べたり修
正したりすることができる。 そして親プロセスは子プロセスの実行を再開させるが、配送
された シグナルを無視することもできる (あるいは代わりに別のシグナルを 配送するこ
ともできる) 。

ということになっています。

これは例えば、デバッギの実行がint3命令に到達しカーネルからSIGTRAPシグナルを受け取ったときには
デバッギは単に停止し、デバッガがwaitシステムコールを使ってデバッギの状態変化を受け取るということだと思います。以前にあるプログラムをデバッグしたときのことなのですが、デバッギがSIGTRAPに対して登録したシグナルハンドラが呼び出されませんでした。「デバッギは停止する」という表現が曖昧でよくわからないのですが、この際デバッギに配送されたシグナルはどう処理されるのでしょうか？

Answer 1

int3はハードウエアの話で、OS, アプリに関係無く発生します。
一方、SIGTRAP等の割り込みは、Unix系のOSの話で、8086では無いマシンであっても発生します。
int3 が起こったときに、ハードウエアは現在の処理内容をスタックして、特定のアドレスから処理を続けます。それはデバッガかもしれないし、もっと違うものかもしれません。ハードウエアに処理が登録されていなければ、暴走します。元の「現在の処理内容」に戻ることもできるし、戻らないこともできます。例えば、電源切ってしまうとか。

SIGTRAPは、int3とは限らず0による除算、キーボード入力、HDDなどの外部機器が原因になって発生することもあります。signal イベントが発生したときには、OSに登録された処理が実行されます。デバッガを使ってデバッグしているのであれば、デバッガが登録した関数などの処理が行われます。

デバッグ対象のアプリ、DUTが自発的にSIGxxxするとは限らず、debug目的であれば、デバッガが何かSIGxxxを行う要因を作ります。例えば、マシンコードレベルの一連の命令コードの中に"CD"という命令を既存の命令ストリームに上書きして埋め込みます。CDの命令に達したときに、ハードは、ハードの割り込み処理を行い、それはOSの割り込みハンドラになっていて、そのOS割り込みハンドラは、実行中のプロセスのシグナルハンドラを呼び出します。今の場合、debuggerの割り込みハンドラ。

気に入ったか、解決したら評価してね。