Ruby捕获NoMemoryError后内存无法回收触发致命错误如何解决？

云上老周

2026-9-23

Ruby捕获NoMemoryError后无法正常运行的解决方案

问题根因

你遇到的是Ruby垃圾回收器在超大内存分配失败场景下的已知边界缺陷：

执行1<<10000000000000这类超大整数移位操作时，Ruby需要申请连续的大块内存存储BigNum对象，申请过程中会生成多个中间缓冲区
当内存不足抛出NoMemoryError时，异常栈回退逻辑没有将这些半初始化的中间内存块标记为「未使用」，GC扫描时会误以为这些内存仍被占用，不会回收
手动执行GC.start也无法识别这部分遗漏的内存，导致后续内存申请直接触发操作系统级的致命错误，无法被Ruby自身捕获

可行解决方案

激进GC配置（临时修复）
在运行Ruby程序前设置环境变量调整GC行为，让GC更激进地回收内存，可降低该问题的触发概率：
```
export RUBY_GC_HEAP_OLDOBJECT_LIMIT_FACTOR=0.9
```
同时在捕获NoMemoryError后调用内存压缩（仅Ruby 3.2+支持）代替普通GC：
```
GC.compact
```

子进程隔离（最稳妥方案）
将可能触发超大内存分配的危险逻辑放到独立子进程中执行，子进程的内存状态完全和主进程隔离，就算触发内存不足也不会影响主进程运行，示例代码如下：

# 父子进程通信管道
read_io, write_io = IO.pipe
pid = fork do
  read_io.close
  begin
    result = 1 << 10000000000000
    write_io.write Marshal.dump(result)
  rescue NoMemoryError
    write_io.write Marshal.dump(:alloc_failed)
  end
  write_io.close
end
# 等待子进程执行完成
Process.wait(pid)
write_io.close
exec_result = Marshal.load(read_io.read)
read_io.close

if exec_result == :alloc_failed
  puts "RESCUE: out of memory"
else
  a = exec_result
  puts "Calculated answer somehow"
end
puts "Finished first begin/rescue/end"

该方案完全规避了主进程的内存被污染的问题，后续操作不会出现致命错误。