以编程方式编写、调度和监视数据管道
apache-airflow的Python项目详细描述
apache气流
注意:从1.8.0(或之前)到1.8.1(或之后)的转换需要在安装新版本之前卸载ApacheAirflow。从版本1.8.1开始,包名称已从airlow
更改为apache airlow
。
ApacheAirflow(或简称Airflow)是一个以编程方式编写、调度和监视工作流的平台。
当工作流被定义为代码时,它们变得更易于维护, 可版本化、可测试和协作。
使用Airflow按任务的有向非循环图(DAG)编写工作流。气流计划程序在遵循指定依赖项的同时对工作线程数组执行任务。丰富的命令行实用程序使在DAG上执行复杂的手术变得轻而易举。丰富的用户界面使您可以方便地可视化生产中运行的管道、监视进度并在需要时排除问题。
开始
请访问Airflow平台文档(最新的稳定版)以获取有关安装Airflow、获取快速启动或更多帮助。完成教程
Github Master(最新开发分支)文档:阅读文档
有关更多信息,请访问airlow wiki Airflow不是数据流解决方案。任务不移动数据
一对一(尽管任务n交换元数据!).气流不是
在spark streaming中
或者风暴空间,它更类似于
oozie或
阿兹卡班 工作流通常是静态的或缓慢变化的。你可以想想
工作流中任务的结构稍微更具动态性
而不是数据库结构。气流工作流预计将
类似于从一次跑步到下一次跑步,这样可以清楚地看到
工作单位和连续性。 DAG:环境中所有DAG的概述。
树视图:跨越时间的DAG的树表示。
图形视图:显示特定运行的DAG依赖项及其当前状态。
任务持续时间:一段时间内用于不同任务的总时间。
甘特图:DAG的持续时间和重叠。
代码视图:查看DAG源代码的快速方法。
想帮助构建apache气流吗?查看我们的贡献文档超出地平线
原理
用户界面
贡献
谁使用气流?
随着ApacheAirflow社区的发展,我们希望跟踪谁在使用 站台。请发送带有您公司名称和@githubhandle的公关 如果可以的话。
提交人:
- 请参阅提交者。
目前正式使用气流:
- adboost[adboost]
- agari[@r39132]
- airbnb[@mistercrunch,@artwr]
- airtel[@harishbisht]
- alan[@charles go]
- allegro.pl[@kretes]
- altx[@pedromduarte]
- apigee[@btallman]
- Argo实验室[加州数据协作]
- 天文学家@benjamingregory]
- auth0[@sicarul]
- 离开[@trunsky]
- azri解决方案[@userimack]
- 平衡英雄[@swalloow]
- 格式银行[@guiligan]
- 带宽x[@dineshdshama]
- 行李厢
- 白鲸数据库[@fabio nukui&;@joao sallabery&;@lucianoviola&;@tmatuki]
- blablacar[@puckel&;@wmorin]
- bloc[@dpaola2]
- 蓝色那边[@蓝色那边]
- 蓝围裙[@jasonjho&;@matthewdavidhauser]
- 蓝芯[@jldlaughlin]
- 博达电信套件-CE
- bodastage解决方案[@erssebaggala,@bodastage]
- 邦尼尔广播[@wileeam]
- bouncex[@joshferge,@hudsonrio,@ronniekritou]
- California Data Collaborative由Argo Labs提供支持
- 碳岩[@ajbosco]
- celect[@superdosh&;@chadcelect]
- change.org[@change,@vijaykramesh]
- checkr[@tongboh]
- 费城儿童医院基因组诊断科
- cinimex数据实验室[@kdubovikov]
- 圣地亚哥市
- 透视@shekharv
- 三叶草健康[@gwax&;@vansivallab]
- chartboost[@cgelman&;@dclubb]
- contaazul[@bern4rdelli,@renanleme&;@sabino]
- cotap[@maraca&;@richardchew]
- craig@work
- 信用业[@preite-dixit-ck&;@harish gaggar-ck&;@greg-finley-ck]
- creditcards.com[@vmaggies&;@jay wallaby]
- creditas[@dcassiano]
- 自定义墨水[@david dalisay,@dmartin11&;a href="https://github.com/mpeteuil" rel="nofollow">@mpeteuil]
- 数据回复[@kaxil]
- datafox[@sudowork] <<<<<<<<<<<<<<<
- dotmodus[@dannylee12]
- drivy[@antoineaugusti] <<<<<<<<<<<<<<<<<
- erevalue[@hamedhsn]
- evo.company[@或hideous]
- 新鲜图书[@dinocow]
- fundera[@和yxhadji]
- 游戏指南[@tjbiii&;@theryanwalls]
- gentner实验室[@神经音乐]
- 玻璃门[@syvineckruyk]
- 全球时尚集团
- govtech gds[@chrissng&;@datagovsg] <<<<<<<<<<<<<<<<<
- groupalia[@jesusfcr]
- groupon[@stevencasey]
- 趣味[@frankhsu]
- 握手[@mhickman]
- 便利[@marcintustin/@mtustin便利]
- HBC Digital[@tmccartan&;@dmateusp]
- 家庭影院[@yiwang]
- 健康跳跃[@miscbits]
- hellofresh[@tammymmendt&;@davidsbatista&;@iuriinedostup]
- holimetrix[@thibault-ketterer]
- hootsuite
- 主机[@cyrillemat&;@pierrechopin&;@alexisrosuel]
- 快速酒店[@zinuzoid]
- ifttt[@apurvajoshi]
- iheartradio[@yiwang]
- imgix[@dclubb]
- 正在进行
- 内部通信系统
- 投资机构[@svenvarkel]
- jampp
- 任务摘要[@stefani75&;@knil sama]
- kalibrr[@charlesverdad]
- karmic[@hyw]
- kiwi.com[@underyx]
- kogan.com[@geeknam]
- Lemann基金会[@fernandosjp]
- 借出[@借出]
- letsbonus[@jesusfcr&;@opringaodoturno]
- liligo[@tromika]
- 清晰[@jbrownlucid&;@kkourtchikov]
- 卢莫斯实验室[@rfroetscher&;@zzimbo]
- lyft[@saurabbajaj]
- m4u[@msantino]
- madrone[@mbreining&;@scotthb] <<<<<<<<<<<<<<<
- mercadoni[@demorenoc]
- mercari[@yu-iskw]
- 制造实验室
- minodes[@dice89,@diazcelsa>]
- 乘法[@nrhvyc]
- mytaxi[@mytaxi]
- nerdwallet
- 新遗迹[@marcweil]
- newzoo[@newzoo-nexus] <<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<
- 奥德赛Prime[@davideberdin]
- offerup
- onefinestay[@slangwald]
- 开放知识国际@vitorbaptista
- 积压[@mhousley&;@mct006]
- 潘多拉媒体
- Paymill[@paymill&;@matthiashuschle] 一个HeRF= ="HTTPS://www. PayPalc/"Re="NoFoLoLy"> PayPal < /A> [HtPSF= ] /HTTPS://GITHUB/www/R13132"Re==nFoLoLo>"@ R39 132 和;< HeRF="HTTPS://GithUbj/JHSENJAYLYA"Re="NoFoLoLo>>JHSENJYALYA
- pernod-ricard[@romain-nio] <<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<
- playbusz[@clintonboys&;@dbn]
- pmc[@andrewm4894]
- 邮递日期[@syeoryn]
- 快速工具[@zkan&;@mesodiar]
- pubnub[@jzucker2]
- qplum[@manti]
- 全方位的[@eronarn]
- qubole[@msumit]
- quizlet[@quizlet]
- quora
- REA组
- reddit[@reddit]
- 罗比尼奥[@vineet-rh]
- 通道[@kdeldycke]
- sense360[@kamilmroczk]
- 购物键[@shopkick]
- 边车[@getsidecar]
- similarweb[@similarweb]
- 智能新闻[@takus]
- socialcops[@vinayak-mehta&;@sharky93]
- spotahome[@spotahome]
- spotify[@znichols]
- 堆栈空间
- 条纹[@jbalogh]
- tails.com[@alanmcruickshank]
- 思维机器[@marksteve]
- thinknear[@d3cay1,@ccson,&;@ababian]
- 图钉[@natekupp]
- tictail
- 平铺[@ranjanmanish]
- 托科佩迪亚托科佩迪亚@topedmaria
- 绳线实验室[@ivorpeles]
- 推特[@aoen]
- t2系统[@unclaimedpants]
- ubisoft[@walkoss]
- 联合航空公司
- upsight[@dhuang]
- vente exclusive.com[@alexvanboxel]
- vevo[@csetiawan&;@jerrygillespie]
- vnomics[@lpalum]
- 我们支付[@cricomini&;@mtagle]
- 湿传输[@jochem]
- 哨声实验室
- 智慧银行
- wooga
- 施乐[@yan9yu]
- xoom
- 雅虎!
- yieldr[@ggeorgiadis]
- zapier[@drknexus&;@statwonk]
- zego[@ruimffl]
- zendesk
- z恩利[@cerisier&;@jbdalido]
- zymergen
- 99[@fbenevides,@gustavoamigo&;@mmmaia]
谁维护阿帕奇的气流?
Airflow是社区的工作, 但是,核心提交者/维护者 负责审阅和合并prs,并指导围绕新功能请求的对话。 如果您想成为一名维护人员,请查看apache airlow 提交者要求