配置参考¶
此页面包含 apache-airflow-providers-common-io
提供程序的所有可用 Airflow 配置列表,这些配置可以在 airflow.cfg
文件中设置或使用环境变量设置。
注意
嵌入在提供程序包中的配置从 Airflow 2.7.0 开始使用。以前,配置在 Airflow 核心包中描述和配置 - 因此,如果您使用的是低于 2.7.0 的 Airflow 版本,请查看 Airflow 文档,了解 Airflow 核心中可用的配置选项列表。
注意
有关更多信息,请参见 设置配置选项。
章节
[common.io]¶
通用 IO 配置部分
xcom_objectstorage_compression¶
1.3.0 版本新增。
在对象存储中存储 XCom 时使用的压缩算法。支持的算法包括:snappy、zip、gzip、bz2 和 lzma。如果未指定,则不使用压缩。请注意,压缩算法必须在 Python 安装中可用(例如,snappy 的 python-snappy)。默认情况下提供 Zip、gz、bz2。
- 类型
字符串
- 默认
''
- 环境变量
AIRFLOW__COMMON_IO__XCOM_OBJECTSTORAGE_COMPRESSION
- 示例
gz
xcom_objectstorage_path¶
1.3.0 版本新增。
以 URL 格式在对象存储中存储 XCom 的位置的路径。
- 类型
字符串
- 默认
''
- 环境变量
AIRFLOW__COMMON_IO__XCOM_OBJECTSTORAGE_PATH
- 示例
s3://conn_id@bucket/path
xcom_objectstorage_threshold¶
1.3.0 版本新增。
以字节为单位的阈值,用于在对象存储中存储 XCom。-1 表示始终存储在数据库中。0 表示始终存储在对象存储中。任何正数都表示如果该值的大小大于阈值,则将其存储在对象存储中。
- 类型
整数
- 默认
-1
- 环境变量
AIRFLOW__COMMON_IO__XCOM_OBJECTSTORAGE_THRESHOLD
- 示例
1000000