如何用sbatch提交并运行作业？

Question

如何在Slurm集群中使用sbatch提交并运行作业？常见问题有哪些？

Answer 1

一、Slurm中使用sbatch提交作业的基础操作

在Slurm集群环境中，sbatch是最常用的命令之一，用于将批处理作业提交到集群队列中。

1. 基本命令格式：

sbatch [options] script.sh

其中，script.sh是一个包含Slurm指令和实际任务命令的脚本文件。

1. 一个简单的Slurm脚本示例：

#!/bin/bash
#SBATCH --job-name=test_job
#SBATCH --output=output_%j.txt
#SBATCH --ntasks=1
#SBATCH --time=01:00:00
#SBATCH --partition=debug

echo "Hello from Slurm job!"

• --job-name：设置作业名称
• --output：指定标准输出文件，%j代表作业ID
• --ntasks：请求的CPU核心数
• --time：最大运行时间
• --partition：指定提交到的分区

二、sbatch常见参数详解

为了更好地控制作业执行环境，可以使用多个sbatch参数。以下是一些常用参数及其用途：

参数	说明
--nodes	指定使用的节点数
--cpus-per-task	每个任务使用的CPU核心数
--mem	分配给作业的内存总量（单位MB）
--gres	请求GPU等资源，如--gres=gpu:1
--mail-type	作业状态变化时发送邮件通知类型

三、常见问题及分析过程

使用sbatch提交作业时，可能会遇到各种问题。以下是几个典型问题及其排查思路：

1. 作业无法提交，提示Partition not available

2. 分析：分区名称拼写错误或分区当前不可用。可通过sinfo命令查看可用分区。

3. 作业提交成功但一直处于Pending状态

4. 分析：资源不足或优先级低。使用squeue -u 用户名查看作业状态，结合scontrol show jobid -dd 作业ID获取详细原因。

5. 作业运行失败，输出文件为空或报错

6. 分析：脚本语法错误、路径问题或资源不足。检查脚本中的命令是否正确，输出路径是否可写。

四、进阶技巧与优化建议

为了提高作业执行效率和资源利用率，建议使用以下技巧：

• 合理设置--time和--mem，避免资源浪费或被系统终止。
• 使用--array参数提交数组作业，批量处理多个相似任务。
• 使用--dependency实现作业依赖，构建任务流水线。

sbatch --array=1-10%5 --dependency=afterok:12345 script.sh

该命令表示：提交一个数组作业，最多同时运行5个任务，且仅当作业ID为12345的作业成功完成后才开始。

五、流程图展示提交流程

graph TD A[编写Slurm脚本] --> B[使用sbatch提交作业] B --> C[作业进入队列] C --> D{资源是否可用?} D -- 是 --> E[作业开始执行] D -- 否 --> F[继续等待] E --> G[生成输出结果]