Databricks Jobs是否支持重启失败任务而非重新运行整个流水线?
Databricks 串行任务失败断点重跑问题解答
可以直接从第二个失败的任务启动运行,无需重新执行整个流水线,具体逻辑和操作注意事项如下:
- Databricks 多任务Jobs 原生支持断点重跑能力,你只需要找到对应失败的Job 运行记录,点击
重新运行失败的任务按钮,系统会自动跳过已经执行成功的第一个任务,直接从失败的第二个任务开始执行,后续第三个任务也会按照原有依赖逻辑在第二个任务运行成功后自动触发。 - 你也可以提前在Job 配置中开启自动重试失败任务选项,同时勾选仅重试失败任务及其下游依赖,运行过程中如果第二个任务失败,系统会自动按配置的重试次数直接从第二个任务开始重试,无需人工介入。
- 注意适用前提:你需要预先在多任务Job 中显式配置三个任务的串行依赖关系(第二个任务依赖第一个任务执行成功、第三个任务依赖第二个任务执行成功),如果仅按提交顺序隐式串行没有配置依赖关系,需要先补全依赖配置再使用重跑能力。
- 额外注意:如果第一个任务的输出是临时产物、会被后续Job 运行覆盖,重跑前需要确认第一个任务的输出仍然可用,避免第二个任务读取上游数据失败。
内容的提问来源于stack exchange,提问作者Stanislav Žoldak
相关产品推荐
相关产品推荐

