Snakemake v8提交SLURM GPU任务失败，如何正确传递参数？

核心问题分析 #

Snakemake v8对SLURM资源参数的传递逻辑依赖于集群配置模板或规则级cluster参数，若全局配置未正确映射GPU资源，即使规则中定义了gpus或gres，SLURM也会因未收到--gpus/--gres选项而拒绝作业。

解决方案 #

1. 配置SLURM Profile的资源映射 #

创建或修改SLURM profile的config.yaml文件（通常位于~/.config/snakemake/slurm/config.yaml），确保cluster命令模板包含GPU参数的映射：

# SLURM Profile config.yaml示例
cluster: >-
  sbatch
  --partition={resources.partition}
  --gpus={resources.gpus}
  --cpus-per-task={threads}
  --mem={resources.mem_mb}MB
  --job-name={rule}
default-resources:
  - partition=default_cpu_partition  # 全局默认CPU分区
  - mem_mb=2000
jobs: 8

若集群要求用--gres=gpu:N格式，可将模板改为--gres=gpu:{resources.gpus}。

2. 在规则中明确指定GPU资源与分区 #

在需要GPU的规则中，通过resources字段指定目标分区和GPU数量：

rule run_gpu_task:
    input: "data/input.raw"
    output: "data/output.processed"
    resources:
        partition="gpu_test",
        gpus=1,
        mem_mb=16000
    threads: 4
    shell: """
        your_gpu_commands_here --input {input} --output {output}
    """

3. 直接在规则中强制指定cluster参数（快速验证） #

若全局profile配置仍有问题，可在规则中直接添加cluster字段，绕过全局配置传递SLURM参数：

rule run_gpu_task:
    # ... 其他字段 ...
    cluster: "--partition=gpu_test --gpus=1 --cpus-per-task=4 --mem=16G"
    # ... 其他字段 ...

4. 验证Snakemake生成的SBATCH命令 #

运行Snakemake的dry-run模式查看实际提交的命令：

snakemake --profile slurm -n -v

检查输出中的sbatch命令是否包含--gpus=1（或--gres=gpu:1）和--partition=gpu_test参数。若未包含，说明配置未生效，需重新检查profile模板或规则定义。

关键注意事项 #

• Snakemake v8不再默认自动映射gres资源，需显式在cluster模板中定义
• 确保SLURM集群的gpu_test分区确实支持--gpus或--gres参数（部分集群可能仅支持其中一种）
• 避免在命令行或全局配置中设置覆盖规则资源的参数（如--default-resources不要强制指定CPU分区）

内容的提问来源于stack exchange，提问作者Julia