现在的位置: 首页 > 操作系统 > 正文

Python实时处理log文件脚本

2020年02月13日 操作系统 ⁄ 共 2461字 ⁄ 字号 评论关闭

这个Python脚本是用来对实时文件的内容监控,比如 Error 或者 time out 字段都可以进行自定义;算是我的第一个真正的Python脚本,自己感觉还是比较臃肿,不过打算放到blog上记录一下(还是初学者,大神们勿喷哈),真心希望博友们能够再指点一下(现在记录每次的文件大小值是输出到了一个文件中,并且里面还嵌套了有shell命令,这些我认为都是可以优化掉的吧,只是现在我还不知道怎么做);告警是基于zabbix,自定义的模板是120s执行一次

#!/usr/local/bin/python3.5###Destription: 实时读取log信息###Author: Danny Deng###Datetime: 2016-11-17import re,time,subprocess,os,linecache#####定义log文件file_name = "/usr/local/nginx/logs/error.log"file_number = "/usr/local/zabbix_agent/number.txt"j = int(0)seek = int(0)##判断过程:文件是否存在---判断存储日志大小的文件是否存在---判断number size 与 filesize的大小###定义函数按行读取文件内容def readline():####if判断 seek是否大于0,大于则赋值,否则初始为0 while True:######定义文件,根据seek值进行每行读取,每次tell赋值给seek with open(file_name,'r') as f: global seek #seek = seek f.seek(seek) data = f.readline() if data: seek = f.tell() yield data else:######Python变量转换为shell变量 global file_number os.environ['seek'] = str(seek) os.environ['file_number'] = str(file_number) os.system('echo $seek > $file_number') os.system('chown zabbix.zabbix $file_number') returndef func_for(): j = int(0) for i in readline(): f_find = re.findall(r"check time out", i,flags=re.IGNORECASE) if "check time out" in f_find: j += 1#####没有输出0,有值输出出现error匹配到的次数值 try: print(j) except NameError: print(int("0"))###判断日志文件是否存在if os.path.isfile(file_name):###判断存储文件内容大小的文件是否存在 if os.path.isfile(file_number):####存在则读取文件size大小,赋值给seek_number seek_number = int(linecache.getline(file_number, 1))####然后继续判断存储的文件大小与现在文件大小(确定文件是否是重新生成的) if os.path.getsize(file_name) >= seek_number and seek_number > 0: seek = seek_number func_for()###若为新文件则,seek 赋值为0 else: #open(arg1, "a+").write("0") #seek = int(linecache.getline(file_number, 1)) seek = int(0) func_for()####file_number 不存在则新建,并赋值seek变量为0 else: #open(file_number, "a+").write("0") #seek = int(linecache.getline(file_number, 1)) os.environ['file_number'] = str(file_number) os.system('echo 0 > $file_number') os.system('chown zabbix.zabbix $file_number') func_for()else: print("Error") quit()

零基础如何入门Python http://www.xuebuyuan.com/Linux/2016-10/136485.htm

Ubuntu 14.04安装Python 3.3.5 http://www.xuebuyuan.com/Linux/2014-05/101481.htm

CentOS上源码安装Python3.4 http://www.xuebuyuan.com/Linux/2015-01/111870.htm

《Python核心编程 第二版》.(Wesley J. Chun ).[高清PDF中文版] http://www.xuebuyuan.com/Linux/2013-06/85425.htm

《Python开发技术详解》.( 周伟,宗杰).[高清PDF扫描版+随书视频+代码] http://www.xuebuyuan.com/Linux/2013-11/92693.htm

在CentOS 6.5上安装Python2.7 http://www.xuebuyuan.com/Linux/2016-10/136206.htm

在Ubuntu下用Python搭建桌面算法交易研究环境 http://www.xuebuyuan.com/Linux/2013-11/92534.htm

本文永久更新链接地址:http://www.xuebuyuan.com/Linux/2016-11/137375.htm

以上就上有关Python实时处理log文件脚本的全部内容,学步园全面介绍编程技术、操作系统、数据库、web前端技术等内容。

抱歉!评论已关闭.