airflow.providers.databricks.hooks.databricks_base

Databricks 钩子。

这个钩子允许向 Databricks 平台提交和运行作业。 在内部,操作符与 api/2.0/jobs/runs/submit 端点 进行通信。

模块内容

BaseDatabricksHook

与 Databricks 交互的基础。

BearerAuth

aiohttp 仅提供 BasicAuth,对于 Bearer 认证,我们需要 BasicAuth 的子类。

属性

AZURE_METADATA_SERVICE_TOKEN_URL

AZURE_METADATA_SERVICE_INSTANCE_URL

TOKEN_REFRESH_LEAD_TIME

AZURE_MANAGEMENT_ENDPOINT

DEFAULT_DATABRICKS_SCOPE

OIDC_TOKEN_SERVICE_URL

DEFAULT_AZURE_CREDENTIAL_SETTING_KEY

airflow.providers.databricks.hooks.databricks_base.AZURE_METADATA_SERVICE_TOKEN_URL = 'http://169.254.169.254/metadata/identity/oauth2/token'[source]
airflow.providers.databricks.hooks.databricks_base.AZURE_METADATA_SERVICE_INSTANCE_URL = 'http://169.254.169.254/metadata/instance'[source]
airflow.providers.databricks.hooks.databricks_base.TOKEN_REFRESH_LEAD_TIME = 120[source]
airflow.providers.databricks.hooks.databricks_base.AZURE_MANAGEMENT_ENDPOINT = 'https://management.core.windows.net/'[source]
airflow.providers.databricks.hooks.databricks_base.DEFAULT_DATABRICKS_SCOPE = '2ff814a6-3304-4ab8-85cb-cd0e6f879c1d'[source]
airflow.providers.databricks.hooks.databricks_base.OIDC_TOKEN_SERVICE_URL = '{}/oidc/v1/token'[source]
airflow.providers.databricks.hooks.databricks_base.DEFAULT_AZURE_CREDENTIAL_SETTING_KEY = 'use_default_azure_credential'[source]
class airflow.providers.databricks.hooks.databricks_base.BaseDatabricksHook(databricks_conn_id=default_conn_name, timeout_seconds=180, retry_limit=3, retry_delay=1.0, retry_args=None, caller='Unknown')[source]

基类: airflow.hooks.base.BaseHook

与 Databricks 交互的基础。

参数
  • databricks_conn_id (str) – 引用Databricks 连接

  • timeout_seconds (int) – 请求库在超时之前等待的时间(以秒为单位)。

  • retry_limit (int) – 在服务中断的情况下重试连接的次数。

  • retry_delay (float) – 重试之间等待的秒数(可以是浮点数)。

  • retry_args (dict[Any, Any] | None) – 一个可选的字典,其中包含传递给 tenacity.Retrying 类的参数。

  • caller (str) – 调用此钩子的操作符的名称。

conn_name_attr: str = 'databricks_conn_id'[source]
default_conn_name = 'databricks_default'[source]
conn_type = 'databricks'[source]
extra_parameters[source]
databricks_conn()[source]
get_conn()[source]

返回钩子的连接。

user_agent_header()[source]
user_agent_value()[source]
host()[源代码]
async __aenter__()[源代码]
async __aexit__(*err)[源代码]
class airflow.providers.databricks.hooks.databricks_base.BearerAuth(token)[源代码]

基类: aiohttp.BasicAuth

aiohttp 仅提供 BasicAuth,对于 Bearer 认证,我们需要 BasicAuth 的子类。

encode()[源代码]

编码凭据。

此条目是否有帮助?