SFTP 到 Azure Blob 存储传输算子¶
Blob 服务将文本和二进制数据作为对象存储在云中。Blob 服务提供以下三种资源:存储帐户、容器和 Blob。在存储帐户中,容器提供了一种组织 Blob 集的方式。有关该服务的详细信息,请访问 Azure Blob 存储 API 文档。
开始之前¶
在 Airflow 中使用 Blob 存储之前,你需要使用令牌、登录名和密码对帐户进行身份验证。请按照 Azure 说明 进行操作。
请参见以下示例。为此字段设置值
SFTP Conn Id: sftp_default
WASB Conn Id: wasb_default
将数据从 SFTP 源路径传输到 Blob 存储¶
算子将数据从 SFTP 源路径传输到 Azure Blob 存储中的指定容器
若要获取 Azure Blob 存储中作业的信息,请使用: SFTPToWasbOperator
示例用法
transfer_files_to_azure = SFTPToWasbOperator(
task_id="transfer_files_from_sftp_to_wasb",
# SFTP args
sftp_source_path=SFTP_SRC_PATH,
# AZURE args
container_name=AZURE_CONTAINER_NAME,
blob_prefix=BLOB_PREFIX,
)