以编程方式编写、调度和监视数据管道

apache-airflow的Python项目详细描述


apache气流

pypi version构建状态coverage statusdocumentation statuslicensepypi-python版本/a>推特关注

注意:从1.8.0(或之前)到1.8.1(或之后)的转换需要在安装新版本之前卸载ApacheAirflow。从版本1.8.1开始,包名称已从airlow更改为apache airlow

ApacheAirflow(或简称Airflow)是一个以编程方式编写、调度和监视工作流的平台。

当工作流被定义为代码时,它们变得更易于维护, 可版本化、可测试和协作。

使用Airflow按任务的有向非循环图(DAG)编写工作流。气流计划程序在遵循指定依赖项的同时对工作线程数组执行任务。丰富的命令行实用程序使在DAG上执行复杂的手术变得轻而易举。丰富的用户界面使您可以方便地可视化生产中运行的管道、监视进度并在需要时排除问题。

开始

请访问Airflow平台文档(最新的稳定版)以获取有关安装Airflow、获取快速启动或更多帮助。完成教程

Github Master(最新开发分支)文档:阅读文档

有关更多信息,请访问airlow wiki

超出地平线

Airflow不是数据流解决方案。任务不移动数据 一对一(尽管任务n交换元数据!).气流不是 在spark streaming中 或者风暴空间,它更类似于 oozie阿兹卡班

工作流通常是静态的或缓慢变化的。你可以想想 工作流中任务的结构稍微更具动态性 而不是数据库结构。气流工作流预计将 类似于从一次跑步到下一次跑步,这样可以清楚地看到 工作单位和连续性。

原理

  • 动态:气流管道配置为代码(python),允许动态管道生成。这允许编写动态实例化管道的代码。
  • 可扩展性:轻松定义自己的运算符、执行器并扩展库,使其符合适合您的环境的抽象级别。
  • 优雅:气流管道简洁明了。使用强大的Jinja模板引擎将脚本参数化内置到Airflow的核心中。
  • 可伸缩性:Airflow具有模块化架构,并使用消息队列编排任意数量的工作进程。

用户界面

  • DAG:环境中所有DAG的概述。  src=

  • 树视图:跨越时间的DAG的树表示。  src=

  • 图形视图:显示特定运行的DAG依赖项及其当前状态。  src=

  • 任务持续时间:一段时间内用于不同任务的总时间。  src=

  • 甘特图:DAG的持续时间和重叠。  src=

  • 代码视图:查看DAG源代码的快速方法。  src=

贡献

想帮助构建apache气流吗?查看我们的贡献文档

谁使用气流?

随着ApacheAirflow社区的发展,我们希望跟踪谁在使用 站台。请发送带有您公司名称和@githubhandle的公关 如果可以的话。

提交人:

  • 请参阅提交者。

目前正式使用气流:

  1. adboost[adboost]
  2. agari[@r39132]
  3. airbnb[@mistercrunch@artwr]
  4. airtel[@harishbisht]
  5. alan[@charles go]
  6. allegro.pl[@kretes]
  7. altx[@pedromduarte]
  8. apigee[@btallman]
  9. Argo实验室[加州数据协作]
  10. 天文学家@benjamingregory]
  11. auth0[@sicarul]
  12. 离开[@trunsky]
  13. azri解决方案[@userimack]
  14. 平衡英雄[@swalloow]
  15. 格式银行[@guiligan]
  16. 带宽x[@dineshdshama]
  17. 行李厢
  18. 白鲸数据库[@fabio nukui&;@joao sallabery&;@lucianoviola&;@tmatuki]
  19. blablacar[@puckel&;@wmorin]
  20. bloc[@dpaola2]
  21. 蓝色那边[@蓝色那边]
  22. 蓝围裙[@jasonjho&;@matthewdavidhauser]
  23. 蓝芯[@jldlaughlin]
  24. 博达电信套件-CE
  25. bodastage解决方案[@erssebaggala@bodastage]
  26. 邦尼尔广播[@wileeam]
  27. bouncex[@joshferge@hudsonrio@ronniekritou]
  28. California Data Collaborative由Argo Labs提供支持
  29. 碳岩[@ajbosco]
  30. celect[@superdosh&;@chadcelect]
  31. change.org[@change@vijaykramesh]
  32. checkr[@tongboh]
  33. 费城儿童医院基因组诊断科
  34. cinimex数据实验室[@kdubovikov]
  35. 圣地亚哥市
  36. 透视@shekharv
  37. 三叶草健康[@gwax&;@vansivallab]
  38. chartboost[@cgelman&;@dclubb]
  39. contaazul[@bern4rdelli@renanleme&;@sabino]
  40. cotap[@maraca&;@richardchew]
  41. craig@work
  42. 信用业[@preite-dixit-ck&;@harish gaggar-ck&;@greg-finley-ck]
  43. creditcards.com[@vmaggies&;@jay wallaby]
  44. creditas[@dcassiano]
  45. 自定义墨水[@david dalisay@dmartin11&;a href="https://github.com/mpeteuil" rel="nofollow">@mpeteuil]
  46. 数据回复[@kaxil]
  47. datafox[@sudowork]
  48. <<<<<<<<<<<<<<<Digital First Media <<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<< & <<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<]
  49. dotmodus[@dannylee12]
  50. drivy[@antoineaugusti]
  51. <<<<<<<<<<<<<<<<<Easy Taxi [<<<<<>>>>>>>> >>>><<<<<<<<<<<@diraol ]
  52. erevalue[@hamedhsn]
  53. evo.company[@或hideous]
  54. 新鲜图书[@dinocow]
  55. fundera[@和yxhadji]
  56. 游戏指南[@tjbiii&;@theryanwalls]
  57. gentner实验室[@神经音乐]
  58. 玻璃门[@syvineckruyk]
  59. 全球时尚集团
  60. govtech gds[@chrissng&;@datagovsg]
  61. <<<<<<<<<<<<<<<<<Grand Rounds < [<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<>><<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<>>>>>><<<<<<<<<<<<<<<<<<<<<<@runongirlrunon]
  62. groupalia[@jesusfcr]
  63. groupon[@stevencasey]
  64. 趣味[@frankhsu]
  65. 握手[@mhickman]
  66. 便利[@marcintustin/@mtustin便利]
  67. HBC Digital[@tmccartan&;@dmateusp]
  68. 家庭影院[@yiwang]
  69. 健康跳跃[@miscbits]
  70. hellofresh[@tammymmendt&;@davidsbatista&;@iuriinedostup]
  71. holimetrix[@thibault-ketterer]
  72. hootsuite
  73. 主机[@cyrillemat&;@pierrechopin&;@alexisrosuel]
  74. 快速酒店[@zinuzoid]
  75. ifttt[@apurvajoshi]
  76. iheartradio[@yiwang]
  77. imgix[@dclubb]
  78. 正在进行
  79. 内部通信系统
  80. 投资机构[@svenvarkel]
  81. jampp
  82. 任务摘要[@stefani75&;@knil sama]
  83. kalibrr[@charlesverdad]
  84. karmic[@hyw]
  85. kiwi.com[@underyx]
  86. kogan.com[@geeknam]
  87. Lemann基金会[@fernandosjp]
  88. 借出[@借出]
  89. letsbonus[@jesusfcr&;@opringaodoturno]
  90. liligo[@tromika]
  91. href="http://www.liulishuo.com/" rel="nofollow">行话夹[@haitoaoyao]
  92. 清晰[@jbrownlucid&;@kkourtchikov]
  93. 卢莫斯实验室[@rfroetscher&;@zzimbo]
  94. lyft[@saurabbajaj]
  95. m4u[@msantino]
  96. madrone[@mbreining&;@scotthb]
  97. <<<<<<<<<<<<<<<Markovi<<< [<<<<<<<
  98. mercadoni[@demorenoc]
  99. mercari[@yu-iskw]
  100. 制造实验室
  101. minodes[@dice89@diazcelsa>]
  102. 乘法[@nrhvyc]
  103. mytaxi[@mytaxi]
  104. nerdwallet
  105. 新遗迹[@marcweil]
  106. newzoo[@newzoo-nexus]
  107. <<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<>>>>>><<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<123]
  108. 奥德赛Prime[@davideberdin]
  109. offerup
  110. onefinestay[@slangwald]
  111. 开放知识国际@vitorbaptista
  112. 积压[@mhousley&;@mct006]
  113. 潘多拉媒体
  114. Paymill[@paymill&;@matthiashuschle]
  115. 一个HeRF= ="HTTPS://www. PayPalc/"Re="NoFoLoLy"> PayPal < /A> [HtPSF= ] /HTTPS://GITHUB/www/R13132"Re==nFoLoLo>"@ R39 132 和;< HeRF="HTTPS://GithUbj/JHSENJAYLYA"Re="NoFoLoLo>>JHSENJYALYA
  116. pernod-ricard[@romain-nio]
  117. <<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<Plaid <<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<]
  118. playbusz[@clintonboys&;@dbn]
  119. pmc[@andrewm4894]
  120. 邮递日期[@syeoryn]
  121. 快速工具[@zkan&;@mesodiar]
  122. pubnub[@jzucker2]
  123. qplum[@manti]
  124. 全方位的[@eronarn]
  125. qubole[@msumit]
  126. quizlet[@quizlet]
  127. quora
  128. REA组
  129. reddit[@reddit]
  130. 罗比尼奥[@vineet-rh]
  131. 通道[@kdeldycke]
  132. sense360[@kamilmroczk]
  133. 购物键[@shopkick]
  134. 边车[@getsidecar]
  135. similarweb[@similarweb]
  136. 智能新闻[@takus]
  137. socialcops[@vinayak-mehta&;@sharky93]
  138. spotahome[@spotahome]
  139. spotify[@znichols]
  140. 堆栈空间
  141. 条纹[@jbalogh]
  142. tails.com[@alanmcruickshank]
  143. 思维机器[@marksteve]
  144. thinknear[@d3cay1@ccson,&;@ababian]
  145. 图钉[@natekupp]
  146. tictail
  147. 平铺[@ranjanmanish]
  148. 托科佩迪亚托科佩迪亚@topedmaria
  149. 绳线实验室[@ivorpeles]
  150. 推特[@aoen]
  151. t2系统[@unclaimedpants]
  152. ubisoft[@walkoss]
  153. 联合航空公司
  154. upsight[@dhuang]
  155. vente exclusive.com[@alexvanboxel]
  156. vevo[@csetiawan&;@jerrygillespie]
  157. vnomics[@lpalum]
  158. 我们支付[@cricomini&;@mtagle]
  159. 湿传输[@jochem]
  160. 哨声实验室
  161. 智慧银行
  162. wooga
  163. 施乐[@yan9yu]
  164. xoom
  165. 雅虎!
  166. yieldr[@ggeorgiadis]
  167. zapier[@drknexus&;@statwonk]
  168. zego[@ruimffl]
  169. zendesk
  170. z恩利[@cerisier&;@jbdalido]
  171. zymergen
  172. 99[@fbenevides@gustavoamigo&;@mmmaia]

谁维护阿帕奇的气流?

Airflow是社区的工作, 但是,核心提交者/维护者 负责审阅和合并prs,并指导围绕新功能请求的对话。 如果您想成为一名维护人员,请查看apache airlow 提交者要求

链接

欢迎加入QQ群-->: 979659372 Python中文网_新手群

推荐PyPI第三方库


热门话题
java将变量从一个类发送到另一个类   使用Java Kubernetes客户端Api部署pod   sql如何从oracle检索图像并在java框架中显示   java更改Clover检测类的位置   java安卓位置。getAccuracy()返回1   运行时。不支持Java ME 8上的exec()。还有别的选择吗?   bdd在Java中运行Cucumber时修改CucumberOptions标记   在java中将方法更改为运行时异常   构造函数类中的Java NullPointerException   java SetResizeable(false)不会阻止双击后的帧还原   java智能卡终端移除:SCARD_E_无服务卡例外   Java正则表达式和组   爪哇骑士巡回赛   端口8443上通过ssl的java Spring安全登录在使用http协议的端口8080上无法识别   java如何确定读取文件的哪一行特定行