Stencil Testを使ってウィンドウを入れ子にしたい

###前提・実現したいこと
JavaのOpenGL、LWJGLを使いGUIを作ろうとしています。
しかし、中のウィンドウが外のウィンドウをはみ出してしまうので、Stencil Testを使い、はみ出さないようにしたいと思います。
いろいろ試したところ、一階層までならうまく切り抜くことができました。
海外のサイトなど見ながら試しましたが、二階層以上はどうにもうまく切り抜けません。
よろしくお願いします。

###目標
このような形を目標にしています。

###該当のソースコード
以下は失敗作です。
このプログラムを改良して、目標の描画ができるようにしたいです。

java
1StencilClip clip = StencilClip.instance;
2clip.clipArea(75, 75, 150, 150);
3glColor4f(0f, 0f, 1f, 0.3f);
4drawRect(0, 0, 500, 500);
5clip.clipArea(85, 85, 160, 160);
6glColor4f(1f, 0f, 0f, 0.3f);
7drawRect(0, 0, 500, 500);
8clip.end();
9clip.end();

java
1public static void drawRect(float x1, float y1, float x2, float y2) {
2	glBegin(GL_QUADS);
3	glVertex3f(x1, y2, 0f);
4	glVertex3f(x2, y2, 0f);
5	glVertex3f(x2, y1, 0f);
6	glVertex3f(x1, y1, 0f);
7	glEnd();
8}

java
1public class StencilClip {
2	public static final StencilClip instance = new StencilClip();
3	private int layer = 0;
4
5	private StencilClip() {}
6
7	public void startCropping() {
8		if (this.layer <= 0) {
9			glEnable(GL_STENCIL_TEST);
10			glClear(GL_STENCIL_BUFFER_BIT);
11		}
12		// layer
13		this.layer++;
14
15		// stencil mode on
16		glStencilOp(GL_KEEP, GL_KEEP, GL_INCR);
17		glColorMask(false, false, false, false);
18		glDepthMask(false);
19		glStencilMask(0xff);
20
21		glStencilFunc(GL_EQUAL, this.layer, 0xff);
22	}
23
24	public void endCropping() {
25		if (this.layer < 0) {
26			throw new IllegalStateException("Not Clipping");
27		} else {
28			// stencil mode off
29			glStencilOp(GL_KEEP, GL_KEEP, GL_KEEP);
30			glColorMask(true, true, true, true);
31			glDepthMask(true);
32			glStencilMask(0x00);
33
34			glStencilFunc(GL_EQUAL, this.layer, 0xff);
35		}
36	}
37
38	public void end() {
39		if (this.layer > 0) {
40			// layer
41			this.layer--;
42
43			glStencilFunc(GL_EQUAL, this.layer, 0xff);
44		}
45		if (this.layer <= 0) {
46			glClear(GL_STENCIL_BUFFER_BIT);
47			glDisable(GL_STENCIL_TEST);
48		}
49	}
50
51	public void clipArea(float x1, float y1, float x2, float y2) {
52		startCropping();
53		drawRect(x1, y1, x2, y2);
54		endCropping();
55	}
56}