SFTP 到 Azure Blob 存储传输算子

Blob 服务将文本和二进制数据作为对象存储在云中。Blob 服务提供以下三种资源:存储帐户、容器和 Blob。在存储帐户中,容器提供了一种组织 Blob 集的方式。有关该服务的详细信息,请访问 Azure Blob 存储 API 文档

开始之前

在 Airflow 中使用 Blob 存储之前,你需要使用令牌、登录名和密码对帐户进行身份验证。请按照 Azure 说明 进行操作。

请参见以下示例。为此字段设置值

SFTP Conn Id: sftp_default
WASB Conn Id: wasb_default

将数据从 SFTP 源路径传输到 Blob 存储

算子将数据从 SFTP 源路径传输到 Azure Blob 存储中的指定容器

若要获取 Azure Blob 存储中作业的信息,请使用: SFTPToWasbOperator 示例用法

tests/system/providers/microsoft/azure/example_sftp_to_wasb.py[源代码]

transfer_files_to_azure = SFTPToWasbOperator(
    task_id="transfer_files_from_sftp_to_wasb",
    # SFTP args
    sftp_source_path=SFTP_SRC_PATH,
    # AZURE args
    container_name=AZURE_CONTAINER_NAME,
    blob_prefix=BLOB_PREFIX,
)

此条目是否有用?