E-MapReduce
在火山引擎EMR上使用DolphineScheduler服务时,当前支持使用优化的 shell kill 能力,本文为您介绍 DolphineScheduler shell kill应用实践。
在火山引擎EMR上使用优化后的shell kill能力时,您需要保障:
支持通过全局/作业级别设置参数,使用优化的 shell kill 能力,配置文件为 common.properties,相关全局/作业级别参数如下。
参数名 | 参数含义 | 参数生效级别 |
|---|---|---|
| 是否启用优化 shell kill 能力,默认 false。 |
|
参数设置结果生效逻辑示例详情如下。
全局配置 | 作业配置 | 是否生效 |
|---|---|---|
true | true | true |
true | false | false |
true | / | true |
false | true | true |
false | false | false |
false | / | false |
/ | true | true |
/ | false | false |
/ | / | false |
全局配置 | 作业配置 |
|---|---|
参数名 | 参数含义 | 参数生效级别 |
|---|---|---|
| 每次 shell kill signal 下发后等待时间,默认 10s。 |
|
EMR软件栈版本3.20.0版本开始默认支持,存量建议3.17.0版本及以上可以进行升级使用,操作如下。
存量节点更新路径,替换路径下的依赖包: dolphinscheduler-task-api-3.1.9.jar 。
master-server 依赖路径
/usr/lib/emr/current/dolphin_scheduler/master-server/libs
api-server 依赖路径
/usr/lib/emr/current/dolphin_scheduler/api-server/libs
alert-server 依赖路径
/usr/lib/emr/current/dolphin_scheduler/alert-server/libs
worker-server 依赖路径
/usr/lib/emr/current/dolphin_scheduler/worker-server/libs
替换完成依赖包后,重启服务,使替换后的依赖包生效。