rusty_v8中v8::TryCatch无法捕获堆内存超限问题求助

问题背景 #

设置V8 Isolate的堆内存限制后，调用无限分配内存的JavaScript函数，v8::TryCatch未捕获到内存不足异常，程序直接崩溃并输出C栈追踪信息。

核心原因 #

V8堆内存耗尽时会触发**致命内存不足（FatalProcessOutOfMemory）**错误，这属于C++ Runtime层面的底层错误，不会被转化为JavaScript层面的异常，因此v8::TryCatch无法捕获。TryCatch仅能处理JS代码中主动抛出的异常（如throw new Error()）。

解决方案 #

通过为Isolate注册OOM（内存不足）回调函数来处理该场景，替代TryCatch的方式。回调函数可自定义处理逻辑，比如记录日志、清理资源，甚至阻止进程直接终止。

修改后的代码示例 #

1. 注册OOM回调创建Isolate

let platform = v8::new_default_platform(0, false).make_shared();
v8::V8::initialize_platform(platform);
v8::V8::initialize();

{
    let mb = 1 << 20;
    let mut params = v8::CreateParams::default().heap_limits(mb, 10 * mb);

    // 注册内存不足回调
    params.on_oom(|_isolate, details| {
        println!("捕获到V8内存不足: 已用{}MB, 限制{}MB", 
            details.used_heap_size() / mb, 
            details.heap_limit() / mb
        );
        // 返回true: 让V8继续尝试分配（可能触发更多GC）
        // 返回false: 立即终止进程
        true
    });

    let isolate = &mut v8::Isolate::new(params);

    // 后续HandleScope、Context创建逻辑不变
    let handle_scope = &mut v8::HandleScope::new(isolate);
    let context = v8::Context::new(handle_scope);
    let scope = &mut v8::ContextScope::new(handle_scope, context);
    let mut scope = v8::TryCatch::new(scope);

    // ... 其他代码
}

2. 处理函数调用的返回值

即使注册了OOM回调，函数调用仍可能返回None，需避免直接panic，改为自定义错误处理：

let result = match multiply_fn.call(&mut scope, instance.into(), args) {
    Some(result) => {
        println!("result");
        result
    },
    None => {
        println!("JS执行失败（可能是内存不足）");
        // 这里执行清理逻辑，而非直接终止程序
        return;
    }
};

补充说明 #

• OOM回调的返回值决定V8后续行为：返回true会让V8尝试继续分配（可能反复触发GC），返回false会直接终止进程。
• TryCatch依然可用于捕获JS层面的常规异常，和OOM回调是互补关系。
• 极端内存耗尽场景下，V8可能无法恢复进程，但回调至少能提供机会完成必要的日志记录和资源清理。

内容的提问来源于stack exchange，提问作者danthegoodman