气流的BigQuery记录器处理程序

airflow-bigquerylogger的Python项目详细描述


气流的BigQuery记录器处理程序

安装

pip install airflow-bigquerylogger

配置

AIRFLOW__CORE__REMOTE_LOGGING='true'AIRFLOW__CORE__REMOTE_BASE_LOG_FOLDER='gs://bucket/path'AIRFLOW__CORE__REMOTE_LOG_CONN_ID='gcs_log'AIRFLOW__CORE__LOGGING_CONFIG_CLASS='bigquerylogger.config.LOGGING_CLASS'AIRFLOW__CORE__LOG_BIGQUERY_DATASET='dataset.table'AIRFLOW__CORE__LOG_BIGQUERY_LIMIT=50

谷歌云BigQuery

最近通过流式处理(使用tabledata.insertall方法)不能使用UPDATE、DELETE或MERGE语句进行修改。我建议设置一个表保留!在

学分

感谢Bluecore工程团队的this usefull article。在

欢迎加入QQ群-->: 979659372 Python中文网_新手群

推荐PyPI第三方库


热门话题
java Jgit对于给定的存储库,我们如何确定新提交的列表,以及每个提交来自哪个分支?   从MS Access数据库添加java ComboBoxItem   如何禁止Java列表中不同类的实例?   java在没有Web的JAXR上使用Shiro过滤器。xml   由于java原因,无法在Ubuntu上安装Netbeans 8.2。awt。未找到恐怖和辅助技术   java JUnit对RuntimeException的处理(特别是)   java空集合在Apache CXF服务(JAXWS)中被转换为null   java CannotAcquireLockException问题   sql如何在数据库中对(Java)枚举建模(使用SQL92)   安卓在Java中获取友好url后面的文件名   java如何访问数组名以获取列表?   javascript Java Nashorn longBitsToDouble   java控制台<init>错误   java将一个LinkedList追加/连接到另一个LinkedList的最有效方式是什么?   Java for正在跳过的循环   java帮助创建带有动画的复杂Swing GUI   java Android编辑文本。setHint在片段中不工作