Amazon Redshift 数据¶

Amazon Redshift管理设置、操作和扩展数据仓库的所有工作：配置容量、监控和备份集群，以及对 Amazon Redshift 引擎应用补丁和升级。你可以专注于使用数据为你的企业和客户获取新的见解。

先决任务¶

要使用这些操作符，你必须执行以下操作

使用 AWS 控制台或 AWS CLI 创建必要的资源。
通过 pip 安装 API 库。
pip install 'apache-airflow[amazon]'
详细信息请见安装 Airflow™
设置连接.

通用参数¶

aws_conn_id

引用 Amazon Web Services 连接 ID。如果此参数设置为 None，则使用默认 boto3 行为，无需查找连接。否则，使用存储在连接中的凭据。默认值：aws_default

region_name

AWS 区域名称。如果此参数设置为 None 或省略，则将使用 AWS 连接额外参数中的 region_name。否则，使用指定的值而不是连接值。默认值：None

验证

是否验证 SSL 证书。

False - 不验证 SSL 证书。
path/to/cert/bundle.pem - 要使用的 CA 证书包的文件名。如果你想使用与 botocore 使用的不同的 CA 证书包，则可以指定此参数。

如果此参数设置为 None 或省略，则将使用 AWS 连接额外参数中的 verify。否则，使用指定的值而不是连接值。默认值：None

botocore_config

提供的字典用于构建 botocore.config.Config。此配置可用于配置避免限制异常、超时等。

示例，有关参数的更多详细信息，请参阅 botocore.config.Config¶

{
    "signature_version": "unsigned",
    "s3": {
        "us_east_1_regional_endpoint": True,
    },
    "retries": {
      "mode": "standard",
      "max_attempts": 10,
    },
    "connect_timeout": 300,
    "read_timeout": 300,
    "tcp_keepalive": True,
}

如果此参数设置为 None 或省略，则将使用 AWS 连接额外参数中的 config_kwargs。否则，使用指定的值而不是连接值。默认值：None

注意

指定一个空字典 {}，将覆盖 botocore.config.Config 的连接配置

操作符¶

在 Amazon Redshift 集群上执行语句¶

使用 RedshiftDataOperator 在 Amazon Redshift 集群上执行语句。

这与 RedshiftSQLOperator 不同，因为它允许用户通过 AWS API 查询和检索数据，而无需 Postgres 连接。

tests/system/providers/amazon/aws/example_redshift.py[源代码]

create_table_redshift_data = RedshiftDataOperator(
    task_id="create_table_redshift_data",
    cluster_identifier=redshift_cluster_identifier,
    database=DB_NAME,
    db_user=DB_LOGIN,
    sql="""
        CREATE TABLE IF NOT EXISTS fruit (
        fruit_id INTEGER,
        name VARCHAR NOT NULL,
        color VARCHAR NOT NULL
        );
    """,
    poll_interval=POLL_INTERVAL,
    wait_for_completion=True,
)

参考¶

Amazon Redshift 数据的 AWS boto3 库文档