如何在主进程与多进程子进程中同时运行Keras？

我之前也踩过一模一样的坑！核心问题在于TensorFlow的CUDA上下文和多进程默认的fork机制完全不兼容——主进程如果提前初始化了TF，fork出来的子进程会继承混乱的CUDA状态，导致各种莫名其妙的初始化错误。结合你的场景，给你一套能稳定跑通的方案：

关键思路：完全隔离主进程与子进程的TensorFlow环境 #

TensorFlow对多进程的支持非常严格，必须让每个子进程完全独立初始化TF，绝对不能继承主进程的任何CUDA资源。具体按以下步骤落地：

1. 强制使用spawn进程启动方式 #

Unix系统默认用fork，会直接复制主进程的内存（包括TF已经初始化的CUDA上下文），这就是错误的根源。换成spawn启动方式后，子进程会重新启动一个干净的Python解释器，从零开始初始化TF，彻底避免状态冲突。

在主进程的最开头就设置：

import multiprocessing
if __name__ == '__main__':
    multiprocessing.set_start_method('spawn')  # Windows默认就是spawn，Unix必须手动设置

2. 把所有TensorFlow/Keras相关操作移到子进程内 #

主进程只负责进程调度和管理，绝对不要在主进程里导入TF、创建模型或者调用任何TF API——哪怕只是导入keras模块，都可能偷偷初始化CUDA，给子进程埋坑。

子进程的任务函数要这样写：

def worker_process(input_data):
    # 子进程内部才导入TF/Keras，保证环境干净
    import tensorflow as tf
    from tensorflow import keras
    
    # 配置GPU内存策略，避免子进程抢占全部显存导致冲突
    gpus = tf.config.experimental.list_physical_devices('GPU')
    if gpus:
        try:
            for gpu in gpus:
                tf.config.experimental.set_memory_growth(gpu, True)
        except RuntimeError as e:
            print(f"GPU配置出错: {e}")
    
    # 加载预训练模型（或者在这里训练新模型）
    model = keras.models.load_model('your_trained_model.h5')
    # 先处理你的CPU密集型代码
    processed_data = your_cpu_intensive_logic(input_data)
    # 再执行模型预测
    prediction = model.predict(processed_data)
    return prediction

3. 用进程池管理并行任务 #

用multiprocessing.Pool来管理子进程，既简化代码，又能自动处理进程的创建和回收。完整的主进程示例：

import multiprocessing
import os

def your_cpu_intensive_logic(data):
    # 这里写你的CPU密集型处理代码
    return processed_data

def worker_process(input_data):
    # 子进程内的TF操作，如上面的代码
    # ...（省略重复代码）...

if __name__ == '__main__':
    # 第一步：设置spawn启动方式
    multiprocessing.set_start_method('spawn')
    
    # 准备需要并行处理的任务列表
    task_list = [data_sample_1, data_sample_2, data_sample_3]
    
    # 启动进程池，进程数根据你的CPU核心数调整
    with multiprocessing.Pool(processes=4) as pool:
        results = pool.map(worker_process, task_list)
    
    # 处理返回的预测结果
    for idx, res in enumerate(results):
        print(f"任务{idx+1}的预测结果: {res}")

为什么你之前的方案没生效？ #

• 仅把Keras导入移到子进程但没改启动方式：fork会继承主进程的CUDA状态，哪怕子进程重新导入TF，还是会和主进程的CUDA上下文冲突，必须用spawn彻底隔离。
• 多线程方案：Python的GIL会让CPU密集型任务无法真正并行，而且TF本身的线程池和Python线程容易互相干扰，完全不适合你的场景。
• 子进程创建新Session：在fork出来的进程里创建Session，还是会继承主进程的错误CUDA状态，只有spawn能彻底解决这个问题。

额外注意事项 #

• 如果你的场景不需要GPU，可以在子进程开头强制禁用CUDA，避免不必要的初始化错误：

  os.environ['CUDA_VISIBLE_DEVICES'] = '-1'
  

• 每个子进程的模型是独立的，如果需要共享模型权重，得用进程间通信（如队列）传递，但一般这种CPU密集+预测的场景，每个子进程单独加载模型更简单稳定。

内容的提问来源于stack exchange，提问作者lhk