受限设备上Python多进程应用的内存管理问题排查

问题背景 #

我有一台仅256MB内存的Ubuntu 20.04主机，运行的Python多进程应用数小时后出现OOM（内存不足）错误。手动在某个子进程中调用gc.collect()后问题解决，但想了解背后原因并确认这是不是最优方案。

我定位到内存占比最高且持续增长的进程，将其简化为以下最小示例代码：

import pyogg
from pyogg import OpusBufferedEncoder
import os
import time
import numpy as np
import gc

def float32_to_int16(arr):
    arr = arr / np.max(np.abs(arr)) # scale to [-1.0,1.0]
    return (arr * (2**15 - 1)).astype(np.int16) # scale to int16 range

#initializes a numpy array of 720000 float_32 values
data32 = np.random.uniform(-1,1,720000).astype(np.float32) #10s of 48kHz sample rate mono audio

#converts the numpy array to int16
data16 = float32_to_int16(data32)

while True:
        print("loop")
        opus_buffered_encoder = OpusBufferedEncoder()
        opus_buffered_encoder.set_application("audio")
        opus_buffered_encoder.set_sampling_frequency(48000)
        opus_buffered_encoder.set_channels(1)
        opus_buffered_encoder.set_frame_size(20)

        ogg_opus_writer = pyogg.OggOpusWriter("test.opus", opus_buffered_encoder)
        ogg_opus_writer.write(memoryview(bytearray(data16)))
        ogg_opus_writer.close()

        time.sleep(5)

测试结果 #

• 该示例在多进程环境下会引发OOM错误；
• 单进程运行时，内存会持续膨胀，但耗尽系统内存前会自动触发垃圾回收，未出现OOM；
• 循环末尾添加gc.collect()后，内存占用趋于稳定，说明无实际内存泄漏；将该调用加入原多进程代码对应位置后，OOM问题消失。

技术疑问与解答 #

1. 当其他Python进程请求内存且系统内存不足时，操作系统是否应触发某一Python进程的垃圾回收？ #

不会。操作系统完全不知道Python的垃圾回收机制，它只负责管理进程的虚拟内存和物理内存分配。当系统内存不足时，OS会通过OOM Killer选择并终止占用内存较多的进程，而不会主动触发某个进程内部的GC。Python的自动GC触发只由进程自身的内存分配情况决定（比如达到阈值时触发），和其他进程或系统内存状态无关。

2. 是否我的代码或pyogg（封装C库的工具）存在问题，导致无法自动触发垃圾回收？在无法提供完整应用代码的情况下，应如何排查？ #

大概率是pyogg封装的C底层资源没有被正确追踪，导致Python的GC无法识别这些循环引用或者未被标记的内存块：

• pyogg作为C扩展库，若其内部创建的C对象和Python对象存在循环引用，而扩展库没有正确实现__del__方法或注册垃圾回收追踪，Python的GC可能无法自动清理这些内存；
• 排查方法：
  • 使用gc.get_objects()遍历所有存活对象，查找重复创建的OpusBufferedEncoder或OggOpusWriter实例，确认它们是否被正确回收；
  • 启用gc.set_debug(gc.DEBUG_LEAK)，运行一段时间后查看GC日志，识别未被回收的对象类型和引用链；
  • 用tracemalloc模块追踪内存分配，对比循环前后的内存快照，定位哪些对象持续增长；
  • 检查ogg_opus_writer.close()是否真正释放了所有底层C资源，若存在资源泄漏，可尝试手动调用底层释放接口（如果pyogg提供的话）。

3. 除强制触发垃圾回收外，是否可考虑在循环中每次创建新进程来写入opus文件？ #

可以，但需要权衡开销：

• 优点：每次进程结束后，操作系统会自动回收该进程的所有内存（包括Python和C扩展的资源），彻底避免内存累积问题；
• 缺点：创建和销毁进程有一定的系统开销，尤其是5秒一次的循环，频繁fork进程会增加CPU和内存的瞬时消耗，在256MB内存的环境下可能引发新的资源紧张；
• 替代方案：可以复用单个子进程，通过IPC（比如队列）传递任务，既避免重复创建进程的开销，又隔离内存空间防止累积。

内容的提问来源于stack exchange，提问作者davegravy