未提供项目说明

khadoop的Python项目详细描述


自述文件

解析和切片hadoop日志

纱线室

alt

数据集

fromkhadoop.yarnimportlogrm

使用默认名称解析所有看起来像常规资源管理器日志的文件。在

logrm.FILEPATTERN是一个类似于unix的模式文件,可以帮助glob它们。在

^{pr2}$

logrm.process将解析每一行并生成一个包含合理信息的dict列表

每个dict看起来像:

{'accepted_to_running':6,# nb sec between ACCEPT to RUNNING'id_application':'application_1596547077642_6854','accept_to_running_ts':'2020-08-06 14:59:59,119'# timestamp set for log line 'FROM accepted to RUNNING'}

accepted_to_running表示yarn聚合RM log上这两个时间戳之间的数字:

2020-08-06 14:59:52,756 INFO  rmapp.RMAppImpl (RMAppImpl.java:handle(779)) - application_1596547077642_6854 State change from SUBMITTED to ACCEPTED
...
2020-08-06 14:59:59,119 INFO  rmapp.RMAppImpl (RMAppImpl.java:handle(779)) - application_1596547077642_6854 State change from ACCEPTED to RUNNING

相关

欢迎加入QQ群-->: 979659372 Python中文网_新手群

推荐PyPI第三方库


热门话题
在java中将字符串转换为音频输入   java如何使用Spring Boot RestTemplate解组json列表   计算机上C++ OpenCV项目转换为OpenCV Android的java步骤   Java Spring Telegraf数据表不工作   openurlconnection与connect之间的java差异?   java Solr字段搜索、通配符和转义字符   java如何使用DLFolderLocalServiceUtil类的getFolders()方法?   尝试用Java编写文件   java连续双缓冲解决方案不起作用   两个数组的Java乘积   java Jackson,如何正确编写自定义反序列化程序   java将布尔标志按一定顺序排列以获得更好的性能是否有意义   java Vaadin无缓冲网格无法关闭   java在MySQL中以同一用户身份同时从不同客户端登录安全吗?   java如何使用安卓asynchttp库   java无法在Android中使用AlarmManager停止服务   java在Hibernate的XML配置文件中指定默认值   Spring启动应用程序中的java内存SQLITE不工作   Java代码无法写入文本文件,