发行说明¶
Apache Airflow Helm Chart 发行版本
在将 chart 升级到最新版本之前,请运行 helm repo update
。
Airflow Helm Chart 1.15.0 (2024-07-24)¶
重大更改¶
默认 Airflow 镜像已更新至 2.9.3
(#40816)¶
现在,chart 使用的默认 Airflow 镜像为 2.9.3
,之前为 2.9.2
。
默认 PgBouncer Exporter 镜像已更新 (#40318)¶
PgBouncer Exporter 镜像已更新至 airflow-pgbouncer-exporter-2024.06.18-0.17.0
,解决了 CVE-2024-24786。
新特性¶
添加 git-sync 容器生命周期钩子 (#40369)
为作业添加 init 容器 (#40454)
添加持久卷声明保留策略 (#40271)
为 Redis StatefulSet 添加注解 (#40281)
添加
dags.gitSync.sshKey
,允许直接在 values 文件中配置 git-sync 私钥 (#39936)向 git-sync 容器添加
extraEnvFrom
(#39031)
改进¶
当使用动态 webserver 密钥时,
UIAlert
中的生产指南链接现在在新标签页中打开 (#40635)支持禁用
extraConfigMaps
和extraSecrets
上的 helm 钩子 (#40294)
Bug 修复¶
将 git-sync ssh 密钥添加到 DAG 处理器 (#40691)
修复重复的
safeToEvict
注解 (#40554)向 values.yaml 添加缺少的
triggerer.keda.usePgbouncer
(#40614)使用 mysql 后端时修剪前导
//
字符 (#40401)
仅文档更改¶
更新 chart 下载链接以使用 Apache 下载 CDN (#40618)
其他¶
将 PgBouncer exporter 镜像更新为
airflow-pgbouncer-exporter-2024.06.18-0.17.0
(#40318)默认 airflow 版本为 2.9.3 (#40816)
修复
startupProbe
时间注释 (#40412)
Airflow Helm Chart 1.14.0 (2024-06-18)¶
重大更改¶
ClusterRole
和 ClusterRoleBinding
名称已更新为唯一 (#37197)¶
启用 multiNamespaceMode
时创建的 ClusterRole
和 ClusterRoleBinding
已重命名,以确保名称唯一
{{ include "airflow.fullname" . }}-pod-launcher-role
已重命名为{{ .Release.Namespace }}-{{ include "airflow.fullname" . }}-pod-launcher-role
{{ include "airflow.fullname" . }}-pod-launcher-rolebinding
已重命名为{{ .Release.Namespace }}-{{ include "airflow.fullname" . }}-pod-launcher-rolebinding
{{ include "airflow.fullname" . }}-pod-log-reader-role
已重命名为{{ .Release.Namespace }}-{{ include "airflow.fullname" . }}-pod-log-reader-role
{{ include "airflow.fullname" . }}-pod-log-reader-rolebinding
已重命名为{{ .Release.Namespace }}-{{ include "airflow.fullname" . }}-pod-log-reader-rolebinding
{{ include "airflow.fullname" . }}-scc-rolebinding
已重命名为{{ .Release.Namespace }}-{{ include "airflow.fullname" . }}-scc-rolebinding
workers.safeToEvict
默认值已更改为 False (#40229)¶
现在 workers.safeToEvict
的默认值更改为 False。这是一个更安全的默认值,因为它防止了运行 worker 的节点被 K8s 集群自动伸缩器缩减。如果您希望保留之前的行为,可以将此配置设置为 True。
默认 Airflow 镜像已更新为 2.9.2
(#40160)¶
Chart 使用的默认 Airflow 镜像现在是 2.9.2
,之前是 2.8.3
。
默认 StatsD 镜像已更新为 v0.26.1
(#38416)¶
Chart 使用的默认 StatsD 镜像现在是 v0.26.1
,之前是 v0.26.0
。
新功能¶
启用对触发器的 MySQL KEDA 支持 (#37365)
允许 AWS 执行器 (#38524)
改进¶
允许组件的环境配置中使用
valueFrom
(#40135)在
extraContainers
和extraInitContainers
中启用模板化 (#38507)将 safe-to-evict 注解添加到 pod-template-file (#37352)
支持 KubernetesExecutor 的
workers.command
(#39132)将
priorityClassName
添加到 Jobs (#39133)将 Kerberos sidecar 添加到 pod-template-file (#38815)
为额外的容器添加模板化字段支持 (#38510)
Bug 修复¶
将
workers.safeToEvict
的默认值设置为 False (#40229)
仅文档更改¶
记录模板化的
extraContainers
和extraInitContainers
(#40033)修复 HorizontalPodAutoscaling 文档中的错别字 (#39307)
修复文档中支持的 k8s 版本 (#39172)
修复
brokerUrlSecretName
的 YAML 路径中的错别字 (#39115)
其他¶
默认 Airflow 版本设置为 2.9.2 (#40160)
将 Redis 镜像限制为 7.2 (#38928)
使用 Kubernetes 1.29 资源构建 Helm 值模式 (#38460)
将缺失的容器添加到资源文档 (#38534)
将 StatsD Exporter 镜像升级到 0.26.1 (#38416)
删除 K8S 1.25 支持 (#38367)
Airflow Helm Chart 1.13.1 (2024-03-25)¶
Bug 修复¶
不要覆盖
.Values.airflowPodAnnotations
(#37917)修复当使用具有相同名称的多个
multiNamespace
版本时,集群范围内的 RBAC 命名冲突 (#37197)
其他¶
Chart:默认 airflow 版本设置为 2.8.3 (#38036)
Airflow Helm Chart 1.13.0 (2024-03-05)¶
新功能¶
支持特定于数据库迁移对象和 pod 的标签 (#37490)
改进¶
Flower K8s Probe 配置 (#37528)
Bug 修复¶
删除 webserver 服务中重复的 ports 键 (#37356)
将
AIRFLOW_HOME
环境变量添加到日志清理 sidecar (#37588)在准备可重复的包时跳过
.
路径 (#37402)
其他¶
默认 airflow 版本设置为 2.8.2 (#37704)
Airflow Helm Chart 1.12.0 (2024-02-11)¶
重大更改¶
helm chart 现在使用较新版本的 bitnami/postgresql
依赖项 (#34817)¶
bitnami/postgresql
子图的版本从 12.10.0
升级到 13.2.24
。PostgreSQL
二进制文件的版本从 11
升级到 16.1.0
。
此更改要求现有的 bitnami/postgresql
子图用户使用 pg_dumpall
或 pg_upgrade
执行手动主版本升级。
提醒一下,建议在生产环境中设置外部数据库。
默认 Airflow 镜像已更新为 2.8.1
(#36907)¶
Chart 使用的默认 Airflow 镜像现在是 2.8.1
,之前是 2.7.1
。
默认 PgBouncer 和 PgBouncer Exporter 镜像已更新 (#36898)¶
PgBouncer 和 PgBouncer Exporter 镜像基于较新的软件/操作系统。
pgbouncer
:1.21.0,基于 alpine 3.14 (airflow-pgbouncer-2024.01.19-1.21.0
)
pgbouncer-exporter
:0.16.0,基于 alpine 3.19 (apache/airflow:airflow-pgbouncer-exporter-2024.01.19-0.16.0
)
默认 StatsD 镜像已更新为 v0.26.0
(#37187)¶
Chart 使用的默认 StatsD 镜像现在是 v0.26.0
,之前是 v0.22.8
。
默认 Redis 镜像已更新为 7-bookworm
(#37187)¶
Chart 使用的默认 Redis 镜像现在是 7-bookworm
,之前是 7-bullseye
。
新功能¶
为 Airflow Workers 启用原生 HPA (#36174)
为 Airflow Kerberos 添加 init container + sidecar 支持 (#35548)
支持 MySQL 后端作为 KEDA 触发器 (#36167)
改进¶
改进 PriorityClass 以提高可调试性 (#36365)
在 dag 处理器日志清理 sidecar 中添加
securityContexts
(#34499)在 dag 处理器 wait-for-migrations 容器中添加对
securityContexts
的支持 (#35593)为 PVC
storageClassName
添加模板化 (#35581)为 worker 添加
volumeClaimTemplate
(#34986)在 Redis pod 上添加对
priorityClassName
的支持 (#34879)为 DAG 卷配置可挂载路径 (#35083)
添加对自定义
emptyDir
配置的支持 (#34837)添加启用/禁用调度程序和 webserver 的功能 (#36991)
Bug 修复¶
修复 Airflow 配置中的 StatsD 主机 (#35679)
使用
airflowHome
值设置AIRFLOW_HOME
环境变量 (#34839)更安全的 worker pod 注解 (#35309)
正确设置 worker 的
safeToEvict
(#35130)修复使用
useStandardNaming
的 Redis broker URL (#34825)当
usePgbouncer
为 false 时,修复 KEDA 连接中的元数据数据库和端口 (#34741)修复使用
useStandardNaming
的 PgBouncer 连接问题 (#34787)
仅文档更改¶
添加有关扩展 Airflow Helm Chart 的文档 (#36331)
为 Elasticsearch 连接方案添加注释 (#35588)
添加关于虚拟环境避免需要自定义镜像的说明 (#35306)
其他¶
将默认 Airflow 版本设置为 2.8.1 (#36907)
支持 git-sync v4 (#34731)
将
bitnami/postgresql
子图升级到13.2.24
(#36156)将 git 同步容器缩进更改为 4 (#35824)
删除对 K8S 1.24 的支持 (#35214)
使用较新版本重建
pgbouncer
和pgbouncer-exporter
镜像 (#36898)更新
statsd
和redis
图表镜像 (#37187)
Airflow Helm Chart 1.11.0 (2023-10-02)¶
重大更改¶
支持在 Helm Chart 资源上进行命名自定义,一些资源可能会在升级过程中重命名 (#31066)¶
这是一个新的选择性开关 useStandardNaming
,为了向后兼容,利用标准的命名约定,允许在所有资源中完全使用 fullnameOverride
和 nameOverride
。
升级到 1.11.0 或更高版本时,以下资源将使用 useStandardNaming=false
的默认值重命名。
ConfigMap
{release}-airflow-config
改为{release}-config
Secret
{release}-airflow-metadata
改为{release}-metadata
Secret
{release}-airflow-result-backend
改为{release}-result-backend
Ingress
{release}-airflow-ingress
改为{release}-ingress
对于现有安装,您的所有资源都将使用新名称重新创建,Helm 将删除之前的资源。
这不会删除 StatefulSet/Deployments 使用的日志的现有 PVC,但会使用全新的 PVC 重新创建它们。如果您确实想保留日志历史记录,则需要在部署后手动将这些卷的数据复制到新卷中。根据您使用的存储后端/类,此过程可能会有所不同。如果您不介意从新的日志/redis 卷开始,您可以删除旧的 PVC,例如,其名称为
kubectl delete pvc -n airflow logs-gta-triggerer-0
kubectl delete pvc -n airflow logs-gta-worker-0
kubectl delete pvc -n airflow redis-db-gta-redis-0
如果在升级后不更改 useStandardNaming
或 fullnameOverride
,则可以像往常一样继续,并且不会出现意外行为。
bitnami/postgresql
子图已更新至 12.10.0
(#33747)¶
与图表一起使用的 PostgreSQL 子图现在是 12.10.0
,之前是 12.1.9
。
默认 git-sync 镜像已更新至 3.6.9
(#33748)¶
与图表一起使用的默认 git-sync 镜像现在是 3.6.9
,之前是 3.6.3
。
默认 Airflow 镜像已更新至 2.7.1
(#34186)¶
与图表一起使用的默认 Airflow 镜像现在是 2.7.1
,之前是 2.6.2
。
新特性¶
添加对 POD 模板的调度器名称的支持 (#33843)
支持触发器的 KEDA 扩展 (#32302)
添加对容器生命周期钩子的支持 (#32349, #34677)
支持在 Helm Chart 资源上进行命名自定义 (#31066)
向调度器和 Web 服务器添加
startupProbe
(#33107)允许使用
automountServiceAccountToken
禁用令牌挂载 (#32808)添加对定义自定义优先级类别的支持 (#31615)
添加对
runtimeClassName
的支持 (#31868)添加对工作程序 KEDA 触发器中自定义查询的支持 (#32308)
改进¶
为清理作业添加
containerSecurityContext
(#34351)为 PGBouncer 指标导出器添加现有密钥支持 (#32724)
允许在 Web 服务器入口主机名中使用模板 (#33142)
允许在 Flower 入口主机名中使用模板 (#33363)
向 StatsD 和 Web 服务器添加 configmap 注释 (#33340)
向 PgBouncer 添加 Pod 安全上下文 (#32662)
添加一个选项,在启用 PgBouncer 时在 KEDA 中使用直接数据库连接 (#32608)
允许在 cleanup.schedule 中使用模板 (#32570)
模板化 dag 处理器
waitformigration
容器extraVolumeMounts
(#32100)能够将额外的容器注入 PgBouncer (#33686)
允许向 PgBouncer 容器添加自定义环境变量 (#33438)
添加对 StatsD 容器中的环境变量的支持 (#33175)
Bug 修复¶
将
airflow db migrate
命令添加到数据库迁移作业 (#34178)将
workers.terminationGracePeriodSeconds
传递到 KubeExecutor Pod 模板 (#33514)CeleryExecutor 命名空间取决于 Airflow 版本 (#32753)
修复 dag 处理器不包含 Web 服务器配置卷的问题 (#32644)
Dag 处理器活性探针包括
--local
和--job-type
参数 (#32426)修改 flower_url_prefix 以考虑默认值 (#33134)
仅文档更改¶
为生产添加更明确的“嵌入式 postgres”排除 (#33034)
更新 git-sync 描述 (#32181)
其他¶
将默认 Airflow 版本设置为 2.7.1 (#34186)
将 PostgreSQL 子图更新至 12.10.0 (#33747)
将 git-sync 更新至 3.6.9 (#33748)
删除从 Helm 值加载环境变量的不必要循环 (#33506)
在入口模板文件中将
common.tplvalues.render
替换为tpl
(#33384)删除对 K8S 1.23 的支持 (#32899)
修复图表命名模板注释 (#32681)
删除工作程序 KEDA 配置部分中图表值的过时注释 (#32300)
删除模板文件中不必要的
or
函数 (#34415)
Airflow Helm Chart 1.10.0 (2023-06-26)¶
新特性¶
添加对容器安全上下文的支持 (#31043)
改进¶
验证
executor
和config.core.executor
是否匹配 (#30693)支持 PodDisruptionBudget 的
minAvailable
属性 (#30603)将
volumeMounts
添加到 dag 处理器waitForMigrations
(#30990)模板化额外的卷 (#30773)
Bug 修复¶
修复 Web 服务器探针超时和周期 (#30609)
为工作程序添加缺失的
waitForMigrations
(#31625)向 K8S 工作程序 Pod 模板添加缺失的
priorityClassName
(#31328)将日志清理器边车添加到 dag 处理器 (#30726)
不要将全局安全上下文传播到 statsd 和 redis (#31865)
其他¶
将默认 Airflow 版本设置为 2.6.2 (#31979)
在图表许可证标头中使用模板注释 (#30569)
在图表模板中对齐
apiVersion
和kind
的顺序 (#31850)清理 Kubernetes < 1.23 支持 (#31847)
Airflow Helm Chart 1.9.0 (2023-04-14)¶
重大更改¶
默认 PgBouncer 和 PgBouncer Exporter 镜像已更新 (#29919)¶
PgBouncer 和 PgBouncer Exporter 镜像基于较新的软件/操作系统。它们也是多平台的 AMD/ARM 镜像
pgbouncer
:基于 alpine 3.14 的 1.16.1 (airflow-pgbouncer-2023.02.24-1.16.1
)
pgbouncer-exporter
:基于 alpine 3.17 的 0.14.0 (apache/airflow:airflow-pgbouncer-exporter-2023.02.21-0.14.0
)
默认 Airflow 镜像已更新至 2.5.3
(#30411)¶
与图表一起使用的默认 Airflow 镜像现在是 2.5.3
,之前是 2.5.1
。
新特性¶
为 Airflow Web 服务器和调度器添加对
hostAliases
的支持 (#30051)添加对 StatsD Deployment 和清理 CronJob 的注释的支持 (#30126)
添加对日志 PVC 中注释的支持 (#29270)
添加对额外 ConfigMap 和 Secrets 中注释的支持 (#30303)
添加对 PgBouncer 的 Pod 注释的支持 (#30168)
添加对
migrateDatabaseJob
和createUserJob
上ttlSecondsAfterFinished
的支持 (#29314)添加对使用 Docker 镜像的 SHA 摘要的支持 (#30214)
改进¶
Helm Chart 中的模板额外卷 (#29357)
为 PgBouncer Exporter 配置活跃性和就绪性探测超时 (#29752)
启用单个触发器日志记录 (#29482)
Bug 修复¶
将
config.kubernetes_executor
添加到 values (#29818)阻止镜像配置中的额外属性 (#30217)
如果启用了 KEDA,则删除副本 (#29838)
启用时将
kerberos.keytab
挂载到 worker (#29526)修复为 DAG 持久化 PVC 添加注解的问题 (#29622)
修复
bitnami/postgresql
默认用户名和密码的问题 (#29478)在 Pod 模板文件中添加全局卷 (#29295)
将日志清理 sidecar 添加到触发器服务 (#29392)
当使用
postgresql.nameOverride
时,Helm 部署失败 (#29214)
仅文档更改¶
添加 gitSync 可选 env 描述 (#29378)
添加 Web 服务器 NodePort 示例 (#29460)
在 Helm chart 安装说明中包含 Rancher (#28416)
更改 RSA SSH 主机密钥以反映 Github 的更新 (#30286)
其他¶
将 Airflow 版本更新到 2.5.3 (#30411)
在 chart 中切换到更新版本的 PgBouncer 和 PgBouncer Exporter (#29919)
重新格式化 chart 模板 (#29917)
重新格式化 chart 模板第 2 部分 (#29941)
重新格式化 chart 模板第 3 部分 (#30312)
替换已弃用的 k8s 注册表引用 (#29938)
修复
airflow_dags_mount
格式 (#29296)修复
webserver.service.ports
格式 (#29297)
Airflow Helm Chart 1.8.0 (2023-02-06)¶
重大更改¶
bitnami/postgresql
子图更新到 12.1.9
(#29071)¶
安装的 postgresql 版本仍然是 11。
如果要使用内置 postgres 数据库升级现有的 helm 发布版本,你需要删除你的发布版本并重新安装,或者手动删除以下 2 个对象。
kubectl delete secret {RELEASE_NAME}-postgresql
kubectl delete statefulset {RELEASE_NAME}-postgresql
提醒一下,建议在生产环境中设置外部数据库。
此版本的 chart 使用不同的变量名称来设置 postgres 数据库中的用户名和密码。
postgresql.auth.enablePostgresUser
用于确定是否将创建 “postgres” 管理员帐户。postgresql.auth.postgresPassword
设置 “postgres” 用户的密码。如果需要,
postgresql.auth.username
和postrgesql.auth.password
用于设置非管理员帐户的凭据。postgresql.postgresqlUsername
和postgresql.postresqlPassword
(在 chart 的先前版本中使用)不再使用。
如果用户要更改 Postgres 配置,则需要在其 values 文件中进行这些更改。
以前的子图版本是 10.5.3
。
默认 dags.gitSync.wait
减少到 5
秒 (#27625)¶
dags.gitSync.wait
的默认值已从 60
秒减少到 5
秒,以减少 Airflow 组件之间 DAG 不一致的可能性。但是,这将增加远程 git 仓库的流量。
默认 Airflow 镜像更新到 2.5.1
(#29074)¶
与 Chart 一起使用的默认 Airflow 镜像现在是 2.5.1
,以前是 2.4.1
。
默认 git-sync 镜像更新到 3.6.3
(#27848)¶
与 Chart 一起使用的默认 git-sync 镜像现在是 3.6.3
,以前是 3.4.0
。
默认 redis 镜像更新到 7-bullseye
(#27443)¶
与 Chart 一起使用的默认 redis 镜像现在是 7-bullseye
,以前是 6-bullseye
。
新特性¶
在部署上添加注解 (#28688)
向 chart 添加全局卷和 volumeMounts (#27781)
改进¶
添加对
webserverConfigConfigMapName
的支持 (#27419)增强 chart 以允许覆盖 statsd exporter 的命令行参数 (#28041)
添加对 Services 中 NodePort 的支持 (#26945)
添加 worker 日志清理 sidecar 启用选项 (#27178)
将 HostAliases 添加到 Pod 模板文件 (#27544)
允许配置 PgBouncer 副本 (#27439)
Bug 修复¶
创建调度程序服务以服务于 LocalKubernetesExecutor 的任务日志 (#28828)
修复 NOTES.txt 以显示正确的 URL (#28264)
为 LocalKubernetesExecutor 添加 worker 服务帐户 (#28813)
删除 1.19 api 检查的检查 (#28461)
将 airflow_local_settings 添加到所有 airflow 容器 (#27779)
使作业模板的自定义环境变量可选 (#27148)
减少默认 gitSync 等待时间 (#27625)
也将
extraVolumeMounts
添加到 sidecar (#27420)修复 PostgreSQL 子图升级后的 PgBouncer 问题 (#29207)
仅文档更改¶
通过一些特定于 Argo 的指南来增强生产指南 (#29078)
添加有关 Pod 模板镜像的文档说明 (#29032)
更新生产指南数据库部分 (#28610)
修复 LoadBalancer 代码段 (#28014)
修复 gitSync 示例代码 (#28083)
更正通过 ssh 克隆的仓库示例 (#27671)
其他¶
将 Airflow 版本更新到 2.5.1 (#29074)
将 git-sync 更新到 3.6.3 (#27848)
将
bitnami/postgresql
子图升级到 12.1.9 (#29071)将 redis 更新到 7 (#27443)
替换 helm chart 图标 (#27704)
Airflow Helm Chart 1.7.0 (2022-10-14)¶
新特性¶
使清理作业历史可配置 (#26838)
将标签添加到特定的 Airflow 组件 (#25031)
在 Helm chart values 中添加 StatsD
overrideMappings
(#26598)将
podAnnotations
添加到 StatsD 部署模板 (#25732)特定于容器的额外环境变量 (#24784)
额外 Secrets 和 ConfigMaps 的自定义标签 (#25283)
将
revisionHistoryLimit
添加到所有部署 (#25059)将
podAnnotations
添加到 Redis StatefulSet (#23708)配置独立的 Dag 处理器 (#23711)
为 Web 服务器探测添加可配置的方案 (#22815)
添加对 Helm chart 的 KEDA HPA 配置的支持 (#24220)
改进¶
将 “executor” 标签添加到 Airflow 调度程序部署 (#25684)
在 Helm chart values 中添加默认
flower_url_prefix
(#26415)为 Celery worker 添加活跃性探测 (#25561)
当未设置
result_backend
时,将sql_alchemy_conn
用于 celery 结果后端 (#24496)
Bug 修复¶
修复 Pod 模板
imagePullPolicy
(#26423)如果启用了 dag 持久性,则不要为
sshKeySecret
声明卷 (#22913)将 worker 注解传递给生成的 pod 模板 (#24647)
修复
jobs check
命令的 semver 比较数字 (#24480)在 Airflow 2.5+ 中,为活跃性探测使用
--local
标志 (#24999)
仅文档更改¶
改进有关禁用 helm hooks 的文档 (#26747)
从 git 仓库值中删除
ssh://
前缀 (#26632)修复
defaultAirflowRepository
注释 (#26428)将 DAG 烘焙到 Docker 镜像中 (#26401)
当使用相同的 DAG 标签时,重新加载 Pod (#24576)
关于
result_backend
、dag 处理器和helm uninstall
的次要说明 (#24929)为发行说明添加指向 GitHub PR 的超链接 (#24532)
Terraform 不应使用 Helm hooks 来启动作业 (#26604)
Flux 不应使用 Helm hooks 来启动作业 (#24288)
提供有关如何从私有仓库拉取 Airflow 镜像的详细信息 (#24394)
Helm 徽标不再是链接 (#23977)
记录 Chart 中 LocalKubernetesExecutor 的支持 (#23876)
更新生产指南 (#23836)
其他¶
默认 Airflow 版本为 2.4.1 (#26485)
在 Bitnami chart 中进行 Vendor (#24395)
删除 kubernetes 1.20 支持 (#25871)
Airflow Helm Chart 1.6.0 (2022-05-20)¶
重大更改¶
默认 Airflow 镜像更新到 2.3.0
(#23386)¶
与 Chart 一起使用的默认 Airflow 镜像现在是 2.3.0
,以前是 2.2.4
。
ingress.enabled
已弃用¶
现在,不再使用单个标志来控制 webserver 和 flower 的入口资源,而是使用单独的标志分别控制它们,即 ingress.web.enabled
和 ingress.flower.enabled
。ingress.enabled
现在已被弃用,但仍将继续控制这两者。
默认禁用 Flower¶
使用 CeleryExecutor 时,默认不再启用 Flower。如果您想部署它,请在您的 values 文件中将 flower.enabled
设置为 true。
新功能¶
支持在
volumeClaimTemplates
上使用annotations
(#23433)为 Helm Chart 添加对
topologySpreadConstraints
的支持 (#22712)Helm 支持 LocalKubernetesExecutor (#22388)
为 Helm chart 中的 Redis 添加
securityContext
配置 (#22182)允许在 Helm DAG PVC 上使用
annotations
(#22261)为 DAG 卷挂载启用可选的
subPath
(#22323)在 PgBouncer Helm 配置中添加了覆盖
auth_file
中auth_type
的支持 (#21999)向 Flower 添加
extraVolumeMounts
(#22414)添加 webserver
PodDisruptionBudget
(#21735)
改进¶
确保迁移作业的消息尽早显示 (#23479)
允许迁移作业和 init 容器成为可选 (#22195)
在 Airflow 2 中使用作业检查命令进行存活探测检查 (#22143)
仅限文档的更改¶
在 Helm 生产文档中添加
resultBackendSecretName
警告 (#23307)
其他¶
将默认 Airflow 版本更新为
2.3.0
(#23386)将数据库配置移动到新的部分 (#22284)
默认在 chart 中禁用 flower (#23737)
Airflow Helm Chart 1.5.0,(2022-03-07)¶
重大更改¶
默认 Airflow 镜像更新为 2.2.4
¶
现在 Chart 使用的默认 Airflow 镜像为 2.2.4
,之前为 2.2.3
。
删除 config.api
¶
此部分配置了 Airflow API 的身份验证后端,但使用了与 Airflow 默认设置相同的值,这使得再次声明相同的值变得不必要。
新功能¶
添加对作业中自定义命令和参数的支持 (#20864)
支持
priorityClassName
(#20794)将
envFrom
添加到 Flower 部署 (#21401)向清理 pod 添加注释 (#21484)
改进¶
加速调度器和触发器的存活探测 (#20833, #21108)
将 git-sync 更新到 v3.4.0 (#21309)
删除默认的身份验证后端设置 (#21640)
错误修复¶
修复用户名/密码为空时的 elasticsearch URL (#21222)
在 wait-for-airflow-migrations 容器中挂载
airflow.cfg
(#20609)向触发器的 ServiceAccount 授予 pod 日志读取器权限 (#21111)
仅限文档的更改¶
简化配置 Airflow 的 chart 文档 (#21747)
添加有关所需时间同步的额外信息 (#21685)
修复额外容器文档 (#20787)
其他¶
使用
2.2.4
作为默认 Airflow 版本 (#21745)将 Redis 镜像更改为 bullseye (#21875)
Airflow Helm Chart 1.4.0,(2022-01-10)¶
重大更改¶
默认 Airflow 镜像更新为 2.2.3
¶
现在 Chart 使用的默认 Airflow 镜像为 2.2.3
,之前为 2.2.1
。
ingress.web.hosts
和 ingress.flower.hosts
参数数据类型已更改,并且 ingress.web.tls
和 ingress.flower.tls
已移动¶
ingress.web.hosts
和 ingress.flower.hosts
的类型已从字符串数组更改为对象数组。现在可以在 ingress.web.hosts
和 ingress.flower.hosts
中分别为每个主机指定 ingress.web.tls
和 ingress.flower.tls
。
旧的参数名称将继续工作,但对它们的支持将在未来版本中删除,因此请更新您的 values 文件。
修复了 nodeSelector
、affinity
和 tolerations
参数的优先级¶
已修复所有组件上 nodeSelector
、affinity
和 tolerations
参数的优先级。现在,组件特定的参数(例如,webserver.affinity
)优先于全局参数(例如,affinity
)。
删除默认 KubernetesExecutor
工作节点的亲和性¶
之前,向 KubernetesExecutor
工作节点添加了默认的亲和性,以将工作节点分散到各个节点上。现在不再设置此默认亲和性,因为通常没有理由将特定于任务的工作节点分散到各个节点上。
webserver 和 flower 的 NetworkPolicy
默认端口的更改¶
webserver.networkPolicy.ingress.ports
和 flower.networkPolicy.ingress.ports
的默认设置从使用命名端口改为使用数字端口,以避免 OpenShift 出现问题。
增加调度器和触发器的默认 livenessProbe
timeoutSeconds
¶
调度器和触发器的默认 livenessProbe
超时时间已从 10 秒增加到 20 秒。
新功能¶
向额外的 secrets 参数添加
type
(#20599)支持 elasticsearch 连接
scheme
(#20564)允许单独禁用内置的 secret 变量 (#18974)
添加对
securityContext
的支持 (#18249)为作业添加额外的容器、卷和卷挂载 (#18808)
允许使用不同的 secret 进行入口的多个主机名配置 (#18542)
PgBouncer 的额外卷、卷挂载和
sslmode
(#19749)允许指定 kerberos keytab (#19054)
允许禁用 Helm hooks (#18776, #20018)
添加
migration-wait-timeout
(#20069)
改进¶
增加默认的
livenessProbe
超时时间 (#20698)values.yaml 的 k8s 对象使用严格的模式 (#19181)
删除不必要的
pod_template_file
默认值 (#19690)对 Airflow >= 2 使用内置的
check-migrations
命令 (#19676)
错误修复¶
修复
affinity
、nodeSelector
和tolerations
的优先级 (#20641)修复 chart elasticsearch 默认端口 80 为 9200 (#20616)
修复 webserver 和 flower ui 的网络策略问题 (#20199)
使用本地定义进行 k8s 模式验证 (#20544)
为 ingresses/PVCs 添加自定义标签 (#20535)
修复额外的 secrets/configmaps 标签 (#20464)
修复更新时 flower 重启的问题 (#20316)
正确引用命名空间名称 (#20266)
仅限文档的更改¶
在图表安装中添加
helm dependency update
步骤 (#20702)重新措辞有关 envvar 密钥的部分 (#20566)
添加“自定义 Worker”页面 (#20331)
在生产指南中包含 Datadog 示例 (#17996)
更新生产 Helm 指南数据库部分以使用 k8s 密钥 (#19892)
修复
multiNamespaceMode
文档以涵盖 KPO (#19879)阐明 Helm 在加载默认连接时的行为 (#19708)
其他¶
使用
2.2.3
作为默认 Airflow 版本 (#20450)为文档和屏幕截图添加 ArtifactHUB 注释 (#20558)
添加 kubernetes 1.21 支持 (#19557)
Airflow Helm Chart 1.3.0 (2021-11-08)¶
重大更改¶
默认 Airflow 镜像已更新为 2.2.1
¶
现在与图表一起使用的默认 Airflow 镜像为 2.2.1
(即 Python 3.7
),之前为 2.1.4
(即 Python 3.6
)。
触发器组件需要 Python 3.7
。 如果你需要 Python 3.6
和 Airflow 2.2.0
或更高版本,请使用基于 3.6
的镜像,并在你的值中设置 triggerer.enabled=False
。
airflow-run-airflow-migrations
作业的资源可配置¶
现在可以通过 migrateDatabaseJob.resources
值设置迁移作业的资源请求和限制。
新功能¶
图表:为
cleanup
和createuser
作业添加资源 (#19263)图表:将标签添加到由清理 Pod 创建的作业 (#19225)
添加迁移作业资源 (#19175)
允许自定义 Pod 注释到所有组件 (#18481)
图表:使 PgBouncer cmd/args 可配置 (#18910)
图表:默认使用 Python 3.7;支持禁用触发器 (#18920)
改进¶
图表:增加默认的存活探针超时 (#19003)
图表:在触发器中挂载 DAG (#18753)
Bug 修复¶
允许 Airflow UI 通过“清除”>“运行”创建 Worker Pod (#18272)
允许 Airflow 标准镜像在使用官方 Helm 图表的 OpenShift 中运行 #18136 (#18147)
仅文档更改¶
图表:修复
extraEnvFrom
示例 (#19144)图表文档:更新 Web 服务器密钥参考配置 (#18595)
修复源安装指南中的 Helm 图表链接 (#18588)
其他¶
图表:将默认 Airflow 版本更新为
2.2.1
(#19326)现代化 Dockerfile 构建 (#19327)
图表:使用严格的 k8s 模式进行模板验证 (#19379)
Airflow Helm Chart 1.2.0 (2021-09-28)¶
重大更改¶
ingress.web.host
和 ingress.flower.host
参数已重命名且数据类型已更改¶
ingress.web.host
和 ingress.flower.host
参数已分别重命名为 ingress.web.hosts
和 ingress.flower.hosts
。它们的类型已从字符串更改为字符串数组。
旧的参数名称将继续工作,但对它们的支持将在未来版本中删除,因此请更新您的 values 文件。
默认 Airflow 版本已更新为 2.1.4
¶
现在与图表一起安装的默认 Airflow 版本为 2.1.4
,之前为 2.1.2
。
删除 ingress.flower.precedingPaths
和 ingress.flower.succeedingPaths
参数¶
由于 ingress.flower.precedingPaths
和 ingress.flower.succeedingPaths
参数之前对呈现的 YAML 输出没有影响,因此已被删除。
更改 Ingress 上的默认 path
¶
随着对稳定 Kubernetes Ingress API 的支持,默认路径已从未设置更改为 /
。 对于大多数 Ingress 控制器,这不应更改生成的 Ingress 资源的行为。
新功能¶
将触发器添加到 Helm 图表 (#17743)
图表:当未设置 Web 服务器密钥时发出警告 (#18306)
为
migrateDatabaseJob
添加extraContainers
(#18379)作业模板上的标签 (#18403)
图表:允许使用默认镜像运行和等待数据库迁移 (#18218)
图表:使清理 cronjob cmd/args 可配置 (#17970)
图表:日志修剪器的保留天数可配置 (#17764)
图表:在 Web 服务器和 Flower 服务中添加
loadBalancerSourceRanges
(#17666)图表:支持 k8s worker 中的
extraContainers
(#17562)
改进¶
切换到最新版本的 PGBouncer-Exporter (#18429)
图表:能够通过多个主机名访问 http k8s (#18257)
图表:尽可能使用稳定的 API 版本 (#17211)
图表:允许模板化
podTemplate
(#17560)
Bug 修复¶
图表:修复在触发器上应用
labels
(#18299)修复 Celery Worker 的热关闭。 (#18068)
图表:修复次要的触发器问题 (#18105)
图表:修复 Web 服务器密钥更新 (#18079)
图表:修复使用
uid
0
运行 (#17688)图表:对日志读取器 RoleBinding 使用 ServiceAccount 模板 (#17645)
图表:修复 elasticsearch-secret 模板端口默认函数 (#17428)
KEDA 任务计数查询应忽略 k8s 队列 (#17433)
仅文档更改¶
图表文档:删除添加连接文档中的额外空格 (#18424)
改进所有组件的源安装页面 (#18251)
图表文档:使用代码块格式化
loadBalancerSourceRanges
(#17763)文档:修复与 ssh 相关的警告消息中的断开链接 (#17294)
图表:添加在升级前更新 Helm Repo 的说明 (#17282)
图表文档:更好地说明日志现有 PVC 权限 (#17177)
其他¶
图表:将默认 Airflow 版本更新为
2.1.4
(#18354)
Airflow Helm Chart 1.1.0 (2021-07-26)¶
重大更改¶
在将 chart 升级到最新版本之前,请运行 helm repo update
。
默认 Airflow 版本已更新为 2.1.2
¶
现在与图表一起安装的默认 Airflow 版本为 2.1.2
,之前为 2.0.2
。
不再支持 Helm 2¶
此图表已停止支持 Helm 2,因为它已被弃用,并且自 2020 年 11 月起不再接收安全更新。
webserver.extraNetworkPolicies
和 flower.extraNetworkPolicies
参数已重命名¶
webserver.extraNetworkPolicies
和 flower.extraNetworkPolicies
已分别重命名为 webserver.networkPolicy.ingress.from
和 flower.networkPolicy.ingress.from
。 它们的值和行为相同。
旧的参数名称将继续工作,但对它们的支持将在未来版本中删除,因此请更新您的 values 文件。
移除了 dags.gitSync.root
、 dags.gitSync.dest
和 dags.gitSync.excludeWebserver
参数¶
dags.gitSync.root
和 dags.gitSync.dest
参数没有为图表用户提供任何有用的行为,因此已被移除。如果您的 values 文件中设置了它们,您可以安全地删除它们。
dags.gitSync.excludeWebserver
参数被错误地包含在图表的 values.schema.json
中。如果您的 values 文件中设置了它,您可以安全地删除它。
在 migrateDatabaseJob
和 createUserJob
作业上使用 nodeSelector
、 affinity
和 tolerations
¶
migrateDatabaseJob
和 createUserJob
作业错误地使用了 webserver
的 nodeSelector
、 affinity
和 tolerations
(如果设置了)。现在每个作业都是单独配置的。
新功能¶
图表:允许在
CeleryExecutor
中使用krb5.conf
(#16822)图表:重构 webserver 和 flower NetworkPolicy (#16619)
图表:将 worker 的节点分配设置应用于 Pod 模板文件 (#16663)
图表:支持覆盖 webserver 和 flower 服务端口 (#16572)
图表:支持 flower 中的
extraContainers
和extraVolumes
(#16515)图表:允许在 helm 图表中配置 pod 资源 (#16425)
图表:支持作业级别的注解;修复作业调度配置 (#16331)
feat:Helm 图表将
minReplicaCount
添加到 KEDA 的worker-kedaautoscaler.yaml
(#16262)图表:添加对自定义命令和参数的支持 (#16153)
图表:向
pgbouncer
添加额外的 ini 配置 (#16120)图表:向调度器/webserver/workers 添加
extraInitContainers
(#16098)git-sync sidecar 的可配置资源 (#16080)
图表:模板化
airflowLocalSettings
和webserver.webserverConfig
(#16074)支持调度器上的
strategy
/updateStrategy
(#16069)图表:向作业添加 airflow 和额外的注解 (#16058)
Flower 和 Webserver 的
loadBalancerIP
和annotations
(#15972)
改进¶
图表:将 Postgres 子图更新到 10.5.3 (#17041)
图表:将默认 Airflow 版本更新为
2.1.2
(#17013)将 Helm 图表的默认镜像更新为
2.1.1
(#16785)图表:当使用
KubernetesExecutor
时,警告使用默认日志记录 (#16784)放弃对 Helm 2 的支持 (#16575)
图表:调度器、webserver 和 workers 的
podAntiAffinity
(#16315)图表:将默认 Airflow 版本更新为
2.1.0
(#16273)图表:仅在需要时在 webserver 中挂载 DAG (#16229)
图表:移除
git-sync
:root
和dest
参数 (#15955)图表:添加关于缺少
knownHosts
的警告 (#15950)
Bug 修复¶
图表:为 Webserver 的 flask 密钥创建一个随机密钥 (#17142)
图表:修复清理 ServiceAccount 上的标签 (#16722)
图表:修复 Worker Deployment 上覆盖节点分配设置的问题 (#16670)
图表:始终部署一个
gitsync
初始化容器 (#16339)图表:修复从
KubernetesExecutor
更新到CeleryExecutor
的问题 (#16242)图表:向 Kubernetes worker pod 添加标签 (#16203)
图表:允许将
webserver.base_url
模板化 (#16126)图表:修复
PgBouncer
导出器 sidecar (#16099)从图表
values.schema.json
中移除dags.gitSync.excludeWebserver
(#16070)图表:修复在未启用 Elasticsearch 的情况下创建 Elasticsearch 密钥的问题 (#16015)
处理 Helm 图表中密码中的特殊字符 (#16004)
修复在未启用 flower 的情况下创建的 flower ServiceAccount (#16011)
图表:
KubernetesExecutor
的gitsync
清理 (#15925)当使用
gitsync
时,以只读方式挂载 DAG (#15953)
仅文档更改¶
图表文档:注意现有 PVC 的 uid 写入权限 (#17170)
图表文档:为
multiNamespaceMode
添加单行描述 (#17147)图表:更新 Helm 图表的描述以包含“官方” (#17040)
图表:为
podTemplate
提供更好的注释和示例 (#16859)图表:为设置
pod_template_file.yaml
添加更清晰的文档 (#16632)修复
scheduler.livenessprobe.periodSeconds
上的描述 (#16486)图表文档:修复
extrasecrets
示例 (#16305)对
README.md
文件进行小的改进 (#16244)
其他¶
从我们的工具链中删除 pylint (#16682)
更新链接以匹配 pre-commit 中的内容 (#16408)
图表:在
Chart.yaml
中将appVersion
更新为 2.1.0 (#16337)将 Airflow 存储库的主分支重命名为
main
(#16149)将图表版本更新为
1.1.0-rc1
(#16124)