Julia中中断繁忙Worker进程的问题咨询及方案寻求

我正在对自研算法进行基准测试，为此将算法运行于多个实例并测量时间、内存等指标。每个实例对应创建一个新进程，避免单个实例过大导致整个基准测试崩溃。主进程及所有Worker进程已设置虚拟内存ulimit限制，同时希望限制单个实例的运行时间，超时即终止进程。由于不想将耗时的初始化操作纳入时间限制，因此未采用prlimit限制Worker进程。

可行测试代码 #

using Distributed
addprocs(1)
@everywhere function f()
  sleep(10)
end
pid = workers()[1]
t = remotecall(f, pid)
if timedwait(()->isready(t), 2) == :timed_out
  println("Interrupted worker")
  rmprocs(pid)
else
  print("Worker gave ", fetch(t))
end

该代码可在2秒后如期终止Worker进程。

异常场景代码 #

但将函数f替换为计算密集型任务：

@everywhere function f()
  rand(10000, 10000)^2
end

后，Worker进程会在完成计算后才终止，无法按预期超时中断。我怀疑Worker进程中的基准测试任务需间歇性让出控制权，主进程才能执行中断操作，但这不符合我的应用需求。

疑问 #

请问我的判断是否正确？若正确，有什么替代方案？若错误，为何第二种情况无法正常工作？

补充说明：因依赖的库在多线程Julia进程中无法正常工作，故无法采用多线程Worker方案。

你的判断是正确的。Julia的进程间中断机制依赖Worker进程主动检查信号，对于计算密集型任务，如果代码完全是连续的数值计算（比如矩阵乘法这类底层已被编译为机器码的操作），Worker进程会一直占用CPU，没有机会去处理主进程发送的终止信号，直到计算完成才会响应rmprocs的请求。

针对这个问题，有以下几个替代方案：

• 直接发送系统信号终止进程：绕过Julia的进程管理机制，直接调用系统级的信号命令强制终止Worker进程。这种方式不需要Worker进程配合，能立即终止计算，但要注意清理进程可能留下的资源。
  示例修改代码：

  using Distributed, Libc
  addprocs(1)
  @everywhere function f()
    rand(10000, 10000)^2
  end
  pid = workers()[1]
  t = remotecall(f, pid)
  if timedwait(()->isready(t), 2) == :timed_out
    println("Force killing worker")
    Libc.kill(pid, 9) # 发送SIGKILL信号强制终止进程
  else
    print("Worker gave ", fetch(t))
    rmprocs(pid)
  end
  

• 使用进程级超时包装器：在启动Worker进程时，用外部系统工具（如Linux的timeout命令）包装进程启动命令，超时后系统会自动终止Worker。不过这种方式需要手动管理Worker进程的启动与通信对接，复杂度较高。
• 插入主动检查点（可选）：如果允许修改算法代码，可以在计算的关键循环或步骤中插入少量检查逻辑，定期检测中断请求。例如：

  @everywhere function f()
    mat = rand(10000, 10000)
    result = similar(mat)
    for i in 1:100:size(mat,1)
      # 检查是否有中断请求
      if Base.istaskdone(current_task())
        return
      end
      block = mat[i:min(i+99,end), :]
      result[i:min(i+99,end), :] = block^2
    end
    result
  end
  

  不过这种方式需要改动算法代码，仅适合允许调整计算逻辑的场景。

内容的提问来源于stack exchange，提问作者Bubaya