Airflow+Kubernetes执行器资源版本太旧

2024-04-29 00:06:21 发布

您现在位置:Python中文网/ 问答频道 /正文

我对库伯内特的遗嘱执行人有一种奇怪的行为。在我的配置中,任务在动态创建的kubernetes吊舱中运行,我有许多任务每天运行一到两次。Taks本身就是运行一些ETL例程的python操作符,dag文件通过单独的pod与内部的git repo进行同步。有一段时间,所有工作正常,但不久前在调度舱我开始看到错误

kubernetes.client.exceptions.ApiException: (410)
Reason: Gone: too old resource version: 51445975 (51489631)

出现该错误后,任务中的旧POD将不会被删除,一段时间后,新POD将无法创建,任务将无法运行(或者更准确地说,它将冻结在“计划”状态)。在这种情况下,仅删除带有

kubectl delete -n SERVICE_NAME pod scheduler 

等待库伯内特斯重新创建它会有所帮助,但一段时间后,错误再次出现,情况再次发生。另一件奇怪的事情是,这个错误似乎只有在计划任务运行之后才会出现。如果我通过UI多次触发任何任务,都不会出现错误,POD也会正常创建和删除。 气流版本为1.10.12,如有任何帮助,将不胜感激,谢谢


Tags: 文件git错误情况etl例程kubernetes计划