Java中如何在递归函数即将发生栈溢出前提前返回？

你之前调用Runtime系列内存接口不生效的原因很简单：StackOverflowError是栈内存耗尽触发的，而freeMemory()、totalMemory()、maxMemory()这几个方法查询的全是堆内存的占用情况。栈和堆是JVM里完全独立的两块内存区域，查堆内存的剩余容量当然判断不了栈什么时候溢出。
Java的栈是线程私有的，每个线程启动时就会分配固定大小的栈空间（默认一般在512KB~1MB之间，可以通过-Xss启动参数调整）。递归每深入一层，就会往栈里压入一个新的方法栈帧，存局部变量、返回地址这些数据，当栈帧总大小超过栈的容量阈值时，就会抛出栈溢出错误。

1. 直接捕获StackOverflowError（最简单，适配所有场景） #

没必要费劲提前预判栈剩余空间，JVM在栈满到压不下下一个栈帧的时候，会直接在当前调用层抛出StackOverflowError，你只要在递归方法里捕获这个错误直接返回就行，不会导致整个进程崩溃。
代码示例：

public static void func() {
    try {
        func();
    } catch (StackOverflowError e) {
        // 到达栈容量阈值，直接返回
        return;
    }
}

public static void main(String[] args) {
    func();
    System.out.println("递归正常退出，没有触发进程崩溃");
}

这个方案的实际效果和“即将溢出时提前返回”几乎没有差别：抛错的位置就是刚好容纳不下下一层递归的位置，既不会多压无效栈帧，也不会提前终止递归。
很多开发规范说不要捕获Error，是因为大部分Error属于不可恢复的故障（比如堆内存溢出OOM），但StackOverflowError抛出时，栈会自动回退到捕获点的位置，占用的栈内存会正常释放，属于可以安全捕获的Error类型，在这个场景下用完全合理。注意不要扩大捕获范围，不要直接捕获Throwable，避免把其他真正的程序故障吞掉。

2. 手动计数控制递归深度（性能最好，可控性强） #

如果你不想用捕获异常的逻辑，可以在程序启动时先探测当前环境下的最大递归深度，之后递归时传入当前深度参数，到安全阈值就直接返回。
代码示例：

// 启动时探测最大安全递归深度，预留冗余避免临界区溢出
private static final int MAX_SAFE_DEPTH;
static {
    int depth = 0;
    try {
        while (true) {
            depth++;
            probeDepth();
        }
    } catch (StackOverflowError e) {
        // 留50层的冗余量，避免递归方法里新增局部变量占用栈空间导致意外溢出
        MAX_SAFE_DEPTH = depth - 50;
    }
}
private static void probeDepth() {
    probeDepth();
}

public static void func(int currentDepth) {
    if (currentDepth >= MAX_SAFE_DEPTH) {
        return;
    }
    func(currentDepth + 1);
}

public static void main(String[] args) {
    func(0);
    System.out.println("递归正常退出，当前环境最大安全递归深度：" + MAX_SAFE_DEPTH);
}

这个方案没有异常捕获的开销，性能最好，深度阈值完全可控。要注意的是如果不同递归层级的局部变量数量差异很大，需要根据实际情况调整预留的冗余量，避免预留不足还是触发溢出。

不推荐的做法 #

不要尝试通过反射或者JVM非公开API去查询栈的剩余内存，不同JDK版本、不同厂商的JVM（Oracle HotSpot、OpenJ9、GraalVM等）内部实现差异极大，这类代码兼容性极差，换个JDK版本或者换个JVM可能就直接失效。

内容的提问来源于stack exchange，提问作者Shubham Maheshwari