airflow.providers.amazon.aws.transfers.sftp_to_s3

模块内容

SFTPToS3Operator

将文件从 SFTP 服务器传输到 Amazon S3。

class airflow.providers.amazon.aws.transfers.sftp_to_s3.SFTPToS3Operator(*, s3_bucket, s3_key, sftp_path, sftp_conn_id='ssh_default', s3_conn_id='aws_default', use_temp_file=True, fail_on_file_not_exist=True, **kwargs)[源代码]

基类: airflow.models.BaseOperator

将文件从 SFTP 服务器传输到 Amazon S3。

另请参阅

有关如何使用此操作符的更多信息,请参阅指南: SFTP 到 Amazon S3 传输操作符

参数
  • sftp_conn_id (str) – SFTP 连接 ID。用于建立与 SFTP 服务器连接的名称或标识符。

  • sftp_path (str) – SFTP 远程路径。这是从 SFTP 服务器下载文件的指定文件路径。

  • s3_conn_id (str) – S3 连接 ID。用于建立与 S3 连接的名称或标识符。

  • s3_bucket (str) – 目标 S3 存储桶。这是上传文件的 S3 存储桶。

  • s3_key (str) – 目标 S3 键。这是上传到 S3 的指定文件路径。

  • use_temp_file (bool) – 如果为 True,则先将文件复制到本地;如果为 False,则将文件从 SFTP 流式传输到 S3。

  • fail_on_file_not_exist (bool) – 如果为 True,当文件不存在时,操作符将失败;如果为 False,操作符将不会失败并跳过传输。默认值为 True。

template_fields: collections.abc.Sequence[str] = ('s3_key', 'sftp_path', 's3_bucket')[源代码]
static get_s3_key(s3_key)[源代码]

解析 S3 键的正确格式,无论 S3 URL 如何传递。

execute(context)[源代码]

在创建操作符时派生。

上下文与渲染 Jinja 模板时使用的字典相同。

有关更多上下文,请参阅 get_template_context。

此条目是否有帮助?