如何在SLURM集群上正确配置与使用Snakemake？

1. 你确实未正确使用SLURM Profile，作业一直在登录节点运行 #

你的调用命令snakemake --use-conda --cores 40 -j1未指定SLURM Profile，Snakemake默认以本地模式执行，直接占用登录节点资源，这就是管理员封禁你的原因。

正确调用需添加--profile参数，指定Profile所在目录（假设你的Profile文件存放在~/.config/snakemake/slurm/下），修改后的命令：

snakemake --profile slurm --cores 40 -j1

注意：--cores是Snakemake调度器可用的总核心数，单个作业的核心数由规则的threads和Profile中--cpus-per-task={threads}控制，请勿混淆。

2. 监控集群作业的方法 #

• 使用SLURM原生命令：squeue -u 你的用户名，可查看所有队列中或运行中的作业，Snakemake提交的作业名格式为smk-{rule}-{wildcards}，易于识别。
• 查看日志文件：Profile配置中指定日志存于logs/{rule}/目录，每个作业的标准输出/错误分别在{rule}-{wildcards}-%j.out和{rule}-{wildcards}-.%j.err（%j为SLURM作业ID），实时查看可执行tail -f logs/目标规则名/对应日志文件名。
• Snakemake终端输出：默认会显示作业提交状态、运行进度，添加--verbose参数可查看更详细的调度信息。

3. 实现逐个提交作业的配置 #

你的Profile已设置jobs: 1，该参数控制Snakemake同时提交的最大作业数，确保其生效即可实现逐个提交：

• 命令中的-j1与Profile的jobs:1作用相同，保留其一即可，建议将配置写在Profile中，避免每次命令重复输入。
• 检查工作流依赖：若规则间无依赖关系，Snakemake可能尝试并行提交，可通过snakemake --dag | dot -Tpng > dag.png生成依赖图排查，或给规则设置priority控制执行顺序，也可使用--rerun-triggers mtime确保作业按预期顺序执行。

内容的提问来源于stack exchange，提问作者sgkion