You need to enable JavaScript to run this app.
优惠活动
大模型
产品
解决方案
定价
更多

如何无需登录GPU集群、无需复制文件,从本地提交Slurm作业?

无需登录GPU集群直接提交Slurm作业的实现方法

当然可以,有几种实用的方法能实现无需登录集群、不用手动复制文件就提交Slurm作业:

1. 利用Slurm原生远程提交功能

Slurm自带远程作业提交支持,无需提前复制文件。你可以直接在本地执行带远程参数的sbatch命令,Slurm会自动将本地的作业脚本和可执行文件传输到集群节点。

常用命令示例:

# 集群已配置别名的情况
sbatch -M <集群别名> --transfer /path/to/local/executable /path/to/local/job_script.sh
# 直接指定集群地址的情况
sbatch --cluster=<集群地址> --wrap="./your_executable" /path/to/local/job_script.sh

其中--transfer参数会自动把本地文件复制到集群临时目录,作业执行完成后自动清理这些临时文件。

2. SSH管道/临时传输结合远程提交

如果集群未配置Slurm远程提交,你可以通过SSH直接在本地完成文件传递+作业提交的操作,无需手动登录集群。

  • 直接传递作业脚本内容提交:
cat /path/to/local/job_script.sh | ssh <集群用户名>@<集群IP> 'sbatch -'
  • 临时传输可执行文件后提交:
scp /path/to/local/executable <集群用户名>@<集群IP>:~/temp/ && ssh <集群用户名>@<集群IP> 'sbatch --wrap="~/temp/your_executable" && rm ~/temp/your_executable'

这个命令会先把可执行文件传到集群临时目录,提交作业后自动删除该文件。

3. 挂载集群共享文件系统

如果你的本地机器能挂载集群的共享文件系统(如NFS、SMB),本地文件就能直接被集群节点访问,完全不需要复制操作。

先挂载集群共享目录到本地:

mount <集群IP>:/cluster/shared/dir /local/mount/point

之后直接通过SSH远程提交作业,脚本里直接引用本地挂载路径下的文件即可:

ssh <集群用户名>@<集群IP> 'sbatch /local/mount/point/your_job_script.sh'

关键注意事项

  • 建议配置SSH免密登录,避免每次提交都输入密码。通过ssh-keygen生成密钥对,将公钥添加到集群用户的~/.ssh/authorized_keys文件即可。
  • 部分集群可能限制远程提交权限,若遇到问题可联系集群管理员确认是否开启相关功能。

内容的提问来源于stack exchange,提问作者Mahesh

相关产品推荐
方舟 Agent Plan

超全模态模型 × Harness 升级,最新支持 Deepseek-V4.1-Flash、GLM-5.3 系列、Doubao-Seedream-5.0-pro、Kimi-K3 (部分), 限时 9.9 元起

最近更新时间:2026.07.31 12:10:24