在Wrapper脚本中处理Bash系统变量与SLURM环境变量的问题

问题场景 #

用Bash包装脚本提交SLURM数组任务时，依赖$SLURM_ARRAY_TASK_ID作为参数传给Python脚本，但该变量为空导致Python脚本崩溃。奇怪的是，任务日志明明显示数组ID为1，脚本却判定变量为空。

示例代码 #

test_wrapper.sh #

#!/bin/bash
#SBATCH --job-name=test_array
#SBATCH --array=1-2
#SBATCH --output=test_%A_%a.out

echo "Array ID: $SLURM_ARRAY_TASK_ID"

if [ -z "$SLURM_ARRAY_TASK_ID" ]; then
    echo "ERROR: SLURM_ARRAY_TASK_ID is empty!"
    exit 1
fi

python foo.py $SLURM_ARRAY_TASK_ID

foo.py #

import sys

if __name__ == "__main__":
    if len(sys.argv) != 2:
        print("Error: Missing task ID argument")
        sys.exit(1)
    task_id = sys.argv[1]
    print(f"Processing task ID: {task_id}")

异常日志输出 #

Array ID: 1
ERROR: SLURM_ARRAY_TASK_ID is empty!

原因分析与解决方法 #

这种矛盾现象通常是变量引用语法错误或脚本执行方式问题导致，以下是具体排查方向：

1. 脚本执行方式错误 #

如果直接用./test_wrapper.sh运行脚本，而非通过sbatch test_wrapper.sh提交，SLURM不会注入环境变量，$SLURM_ARRAY_TASK_ID自然为空。但日志显示了数组ID，说明提交方式没问题，跳过此点。

2. 条件判断语法错误 #

重点检查if [ -z "$SLURM_ARRAY_TASK_ID" ]; then这一行：

• 必须使用英文双引号，不能是中文引号
• [与-z、变量与]之间必须有空格。比如写成if [-z "$SLURM_ARRAY_TASK_ID"]; then会把[-z当成命令，导致判断逻辑出错，误判变量为空。

3. 变量被意外覆盖 #

检查脚本是否在之前的代码中不小心清空了SLURM_ARRAY_TASK_ID，比如：

SLURM_ARRAY_TASK_ID=""

这种操作会直接覆盖SLURM注入的变量，导致后续判断为空。

4. SLURM配置/版本问题 #

部分旧版本SLURM或集群配置可能存在数组任务环境变量传递bug。可以在脚本开头添加以下代码打印所有SLURM环境变量，确认SLURM_ARRAY_TASK_ID是否存在：

env | grep SLURM

如果输出中没有该变量，联系集群管理员检查配置。

修复后的脚本示例 #

#!/bin/bash
#SBATCH --job-name=test_array
#SBATCH --array=1-2
#SBATCH --output=test_%A_%a.out

# 打印SLURM环境变量用于排查
echo "=== SLURM环境变量 ==="
env | grep SLURM
echo "===================="

echo "Array ID: $SLURM_ARRAY_TASK_ID"

# 确保条件判断语法正确
if [ -z "$SLURM_ARRAY_TASK_ID" ]; then
    echo "ERROR: SLURM_ARRAY_TASK_ID为空!"
    exit 1
fi

python foo.py "$SLURM_ARRAY_TASK_ID"

内容的提问来源于stack exchange，提问作者Luke Anderson- Trocme