airflow.providers.cncf.kubernetes.operators.custom_object_launcher

启动自定义对象。

SparkJobSpec

Spark 作业规范。

KubernetesSpec

Spark Kubernetes 规范。

SparkResources

Spark 资源。

CustomObjectStatus

Pod 的状态。

CustomObjectLauncher

启动 Pod。

函数

should_retry_start_spark_job(exception)

检查异常是否表示瞬时错误并需要重试。

模块内容

airflow.providers.cncf.kubernetes.operators.custom_object_launcher.should_retry_start_spark_job(exception)[source]

检查异常是否表示瞬时错误并需要重试。

class airflow.providers.cncf.kubernetes.operators.custom_object_launcher.SparkJobSpec(**entries)[source]

Spark 作业规范。

validate()[source]
update_resources()[source]
class airflow.providers.cncf.kubernetes.operators.custom_object_launcher.KubernetesSpec(**entries)[source]

Spark Kubernetes 规范。

set_attribute()[source]
class airflow.providers.cncf.kubernetes.operators.custom_object_launcher.SparkResources(driver=None, executor=None)[source]

Spark 资源。

default[source]
driver[source]
executor[source]
property resources[source]

返回作业资源。

property driver_resources[source]

返回要使用的资源。

property executor_resources[source]

返回要使用的资源。

convert_resources()[source]
class airflow.providers.cncf.kubernetes.operators.custom_object_launcher.CustomObjectStatus[source]

Pod 的状态。

SUBMITTED = 'SUBMITTED'[source]
RUNNING = 'RUNNING'[source]
FAILED = 'FAILED'[source]
SUCCEEDED = 'SUCCEEDED'[source]
class airflow.providers.cncf.kubernetes.operators.custom_object_launcher.CustomObjectLauncher(name, namespace, kube_client, custom_obj_api, template_body=None)[source]

基类: airflow.utils.log.logging_mixin.LoggingMixin

启动 Pod。

name[source]
namespace[source]
template_body = None[source]
body: dict[source]
kind[source]
plural = 'Uninferables'[source]
custom_obj_api[source]
spark_obj_spec: dict[source]
pod_spec: kubernetes.client.models.V1Pod | None = None[source]
property pod_manager: airflow.providers.cncf.kubernetes.utils.pod_manager.PodManager[source]
get_body()[source]
start_spark_job(image=None, code_path=None, startup_timeout=600)[source]

同步启动 Pod 并等待完成。

参数:
  • image – 镜像名称

  • code_path – Python 的 .py 文件路径,Scala 的 jar 文件路径

  • startup_timeout (int) – Pod 启动超时时间(如果 Pod 挂起时间过长,任务将失败)

返回:

spark_job_not_running(spark_obj_spec)[source]

测试 spark_obj_spec 是否尚未启动。

check_pod_start_failure()[source]
delete_spark_job(spark_job_name=None)[source]

删除 Spark 作业。

此条目有帮助吗?