C#多线程运行Keras.NET模型UI卡顿及内存访问违规问题咨询

该内存访问冲突错误本质是Keras.NET底层依赖的TensorFlow运行时默认未开启多线程安全支持，多个独立线程同时创建、编译、拟合模型时，会并发操作底层共享的非托管计算资源，触发非法内存访问。此前子线程训练的模型赋值给主线程全局变量后预测出现无响应卡顿，也是因为跨线程调用TensorFlow计算图时上下文不匹配引发死锁。

• 方案1：全局配置TensorFlow多线程支持
  在程序入口所有Keras操作执行前，先配置TensorFlow会话参数启用独立线程池，避免多线程资源冲突：

  public int main() 
  {
      // 全局TensorFlow配置，必须放在所有Keras逻辑前执行
      Keras.Backend.SetSession(Keras.Backend.GetSession(new Tensorflow.SessionOptions()
      {
          InterOpParallelismThreads = 4, // 数值建议不超过当前设备CPU核心数
          IntraOpParallelismThreads = 4,
          UsePerSessionThreads = true // 核心配置：每个会话使用独立线程池
      }));
  
      Thread modelThread1 = new Thread(() => runModel(
          np.array(new float[] { 0, 1, 4, 6 }), 
          np.array(new float[] { 0, 1, 4, 6 })));
      modelThread1.IsBackground = true; // 设为后台线程，避免阻塞主程序退出
      modelThread1.Start();
  
      Thread modelThread2 = new Thread(() => runModel(
          np.array(new float[] { 0, 1, 2, 3 }), 
          np.array(new float[] { 1, 3, 5, 7 })));
      modelThread2.IsBackground = true;
      modelThread2.Start();
      return 0;
  }
  

• 方案2：加锁保证模型操作串行执行
  若不需要并行训练多个模型，可通过全局锁控制同一时间仅一个线程操作Keras相关逻辑，实现成本最低：
  首先定义全局锁对象：

  private static object _kerasOperationLock = new object();
  

  修改runModel函数，所有Keras操作都包裹在锁逻辑内：

  private void runModel(NDarray xs, NDarray ys)
  {
      lock(_kerasOperationLock)
      {
          Keras.Models.Sequential model = new Keras.Models.Sequential();
          model.Add(new Dense(1, input_shape: new Shape(1)));
          model.Compile(optimizer: "sgd", loss: "mean_squared_error");
          model.Fit(xs, ys, epochs: 500, verbose: 0);
          Console.WriteLine(model.Predict(new float[] { 11 }, verbose: 0));
      }
  }
  

• 方案3：跨线程传递模型的标准处理方式
  若需要将子线程训练好的模型返回主线程做预测，不要直接传递模型对象，避免跨线程上下文冲突：子线程完成训练后将模型序列化保存到临时文件/内存流，主线程需要预测时再加载模型文件执行操作：

  // 子线程训练完成后保存模型
  model.Save("trained_model_temp.h5");
  
  // 主线程侧加载模型后执行预测
  var loadedModel = Keras.Models.Model.LoadModel("trained_model_temp.h5");
  var predictResult = loadedModel.Predict(new float[] { 11 }, verbose: 0);
  

内容的提问来源于stack exchange，提问作者BlackGraper