使用stackdriver日志计算Cloud Composer(气流任务)的任务持续时间的脚本

2024-04-28 05:54:46 发布

您现在位置:Python中文网/ 问答频道 /正文

我不熟悉使用GCP的Composer服务,希望计算每个任务运行的持续时间。是否有任何脚本可以运行以从Stackdriver日志中获取气流DAG的每个任务的持续时间。我可以通过减去任务的开始和结束时间来手动计算持续时间,但我想使用脚本来完成。这里有谁能帮我吗。我附上了生成日志的截图,供您参考

enter image description here


Tags: 脚本时间手动持续时间dagcomposerstackdrivergcp
1条回答
网友
1楼 · 发布于 2024-04-28 05:54:46

您可以在监视工作流(DAG)和芹菜执行器中检查气流度量。为了帮助您监控工作流运行的效率,可以使用以下工作流度量:

  1. 工作流运行数:composer.googleapis.com/workflow/run_count
  2. 每个工作流运行的持续时间:composer.googleapis.com/workflow/run_duration
  3. 任务运行数:composer.googleapis.com/workflow/task/run_count
  4. 每个任务的持续时间:composer.googleapis.com/workflow/task/run_duration

如您所见,请使用composer.googleapis.com/workflow/task/run_durationAPI。 云监控仅显示已完成工作流和任务运行(成功或失败)的指标。此外,请查看official documentation

相关问题 更多 >