You need to enable JavaScript to run this app.
导航

DescribeApplication

最近更新时间2023.05.11 16:26:02

首次发布时间2023.05.11 16:17:41

调用 DescribeApplication 接口,查询目标任务的详情。

前提条件

您必须是目标项目的项目成员,否则无法查询到 Spark 任务详情。相关文档,请参见权限概述

请求参数

参数

类型

是否必填

示例值

说明

ApplicationTrn

string

1646***3459458

任务 ID。

返回参数

参数

类型

示例值

说明

RestUrl

string

/ui/spark-history-server:18080/history/s-164**601/jobs

任务相对路径。

Jar

string

5eb5896a**70108933

任务资源文件路径或元数据 ID。

  • Java Main Jar 文件路径或 Python 文件路径
  • 资源文件元数据 ID

ApplicationTrn

string

1646***3459458

任务 ID。

Args

string

3 60

任务启动类的参数。

ApplicationType

string

SPARK_BATCH_SQL

任务类型。可能的取值如下:

  • SPARK_BATCH_JAR:当是 Spark Scala 任务时,同样是这个类型。
  • SPARK_BATCH_SQL
  • SPARK_BATCH_PYTHON

Conf

map<string,string>

{
"spark.executor.memory": "4G"
}

任务额外自定义的配置参数。

DeployRequest

object(POSTApiV1AppUpdateDeployRequest)

-

任务部署策略,详情请参见 POSTApiV1AppUpdateDeployRequest 数据结构

State

string

CREATED

任务状态,可能的取值如下:

  • CREATED:已创建
  • STARTING:启动中
  • RUNNING:运行中
  • FAILED:失败
  • CANCELLING:下线中
  • SUCCEEDED:成功
  • STOPPED:停止
  • UNKNOWN:未知

MainClass

string

com.bytedance.openplatform.SparkPi

Jar 类型任务的启动类。

UserId

string

6e224069****cc1517306a

任务创建者的 ID。

EngineVersion

string

SPARK_VERSION_3_0_1_OS

引擎版本。可能的取值如下:

  • SPARK_VERSION_3_0_1_OS
  • SPARK_VERSION_3_2_2

ApplicationName

string

spark-application-2

任务名称。

ProjectId

string

w4***rd65

任务所属项目的 ID。

POSTApiV1AppUpdateDeployRequest 数据结构

参数

类型

示例值

说明

Priority

string

3

任务优先级。
支持 1~5 的优先级,数字越小优先级越高。
任务优先级决定了内部的调度顺序,优先级高的任务先被调度,如 L3 先于 L4 被调度。

ResourcePoolTrn

string

doc-resource-1-***226

任务运行资源池的唯一标识符。

SchedulePolicy

string

GANG

任务调度策略。

  • GANG:保证任务的所有实例被一起调度,即当剩余资源满足任务正常运行所需资源时才进行分配;不满足所需资源则不分配。
    该策略不会出现分配资源后,任务却不能启动的现象,解决了资源死锁问题。
  • DRF:从多维资源考虑,更为合理地将资源公平分配给资源池内的各个任务,从而提升利用率。
    例如:剩余10核 40 GB的资源,A任务需要10核20GB资源;B任务需要2核8GB的资源。如果分配给A任务,剩余0核20GB资源无法被利用;DRF策略会选择分配给B任务,剩下 8 核 32 GB 可以继续给后来任务使用。

ScheduleTimeout

string

0

设置为 GANG 调度策略时,对应的调度时长,单位为秒。
如果超过调度时长,作业就会调度失败。如果设置为0,则会一直重试。

请求示例

POST https://open.volcengineapi.com?Action=DescribeApplication&Version=2021-06-01
Content-Type: application/json
Region: cn-beijing
ServiceName: spark
{
    "ApplicationTrn": "1647**4065"
}

返回示例

{
    "ResponseMetadata": {
        "RequestId": "202304171852264D58F678887E2C795C61",
        "Action": "DescribeApplication",
        "Version": "2021-06-01",
        "Service": "spark",
        "Region": "cn-beijing"
    },
    "Result": {
        "ApplicationName": "spark-application-2",
        "State": "CREATED",
        "EngineVersion": "SPARK_VERSION_3_0_1_OS",
        "ProjectId": "w4***rd65",
        "SqlText": "select * from `docdb`.`hivetable`;",
        "Conf": {},
        "DeployRequest": {
            "Priority": "4",
            "ResourcePoolTrn": "doc-resource-1-***226",
            "SchedulePolicy": "DRF",
            "ScheduleTimeout": "0"
        },
        "UserId": "6e224069****cc1517306a"
    }
}