Linux中logrotate日志轮询操作总结
前言
对于Linux系统安全来说,日志文件是极其重要的工具。不知为何,我发现很多运维同学的服务器上都运行着一些诸如每天切分Nginx日志之类的CRON脚本,大家似乎遗忘了Logrotate,争相发明自己的轮子,这真是让人沮丧啊!就好比明明身边躺着现成的性感美女,大家却忙着自娱自乐,罪过!logrotate程序是一个日志文件管理工具。用于分割日志文件,删除旧的日志文件,并创建新的日志文件,起到“转储”作用。可以节省磁盘空间。
下面就对logrotate日志轮转操作做一梳理记录:
1)配置文件介绍
Linux系统默认安装logrotate工具,它默认的配置文件在:
/etc/logrotate.conf
/etc/logrotate.d/
logrotate.conf才主要的配置文件,logrotate.d是一个目录,该目录里的所有文件都会被主动的读入/etc/logrotate.conf中执行。
另外,如果/etc/logrotate.d/里面的文件中没有设定一些细节,则会以/etc/logrotate.conf这个文件的设定来作为默认值。
Logrotate是基于CRON来运行的,其脚本是/etc/cron.daily/logrotate,日志轮转是系统自动完成的。
实际运行时,Logrotate会调用配置文件/etc/logrotate.conf。
可以在/etc/logrotate.d目录里放置自定义好的配置文件,用来覆盖Logrotate的缺省值。
[root@huanqiu_web1~]#cat/etc/cron.daily/logrotate #!/bin/sh /usr/sbin/logrotate/etc/logrotate.conf>/dev/null2>&1 EXITVALUE=$? if[$EXITVALUE!=0];then /usr/bin/logger-tlogrotate"ALERTexitedabnormallywith[$EXITVALUE]" fi exit0
如果等不及cron自动执行日志轮转,想手动强制切割日志,需要加-f参数;不过正式执行前最好通过Debug选项来验证一下(-d参数),这对调试也很重要
#/usr/sbin/logrotate-f/etc/logrotate.d/nginx #/usr/sbin/logrotate-d-f/etc/logrotate.d/nginx
logrotate命令格式:
- logrotate[OPTION...]
- -d,--debug:debug模式,测试配置文件是否有错误。
- -f,--force:强制转储文件。
- -m,--mail=command:压缩日志后,发送日志到指定邮箱。
- -s,--state=statefile:使用指定的状态文件。
- -v,--verbose:显示转储过程。
根据日志切割设置进行操作,并显示详细信息
[root@huanqiu_web1~]#/usr/sbin/logrotate-v/etc/logrotate.conf [root@huanqiu_web1~]#/usr/sbin/logrotate-v/etc/logrotate.d/php
根据日志切割设置进行执行,并显示详细信息,但是不进行具体操作,debug模式
[root@huanqiu_web1~]#/usr/sbin/logrotate-d/etc/logrotate.conf [root@huanqiu_web1~]#/usr/sbin/logrotate-d/etc/logrotate.d/nginx
查看各log文件的具体执行情况
[root@fangfull_web1~]#cat/var/lib/logrotate.status
2)切割介绍
比如以系统日志/var/log/message做切割来简单说明下:
第一次执行完rotate(轮转)之后,原本的messages会变成messages.1,而且会制造一个空的messages给系统来储存日志;
第二次执行之后,messages.1会变成messages.2,而messages会变成messages.1,又造成一个空的messages来储存日志!
如果仅设定保留三个日志(即轮转3次)的话,那么执行第三次时,则messages.3这个档案就会被删除,并由后面的较新的保存日志所取代!也就是会保存最新的几个日志。
日志究竟轮换几次,这个是根据配置文件中的dateext参数来判定的。
看下logrotate.conf配置:
#cat/etc/logrotate.conf #底下的设定是"logrotate的默认值",如果別的文件设定了其他的值, #就会以其它文件的设定为主 weekly//默认每一周执行一次rotate轮转工作 rotate4//保留多少个日志文件(轮转几次).默认保留四个.就是指定日志文件删除之前轮转的次数,0指没有备份 create//自动创建新的日志文件,新的日志文件具有和原来的文件相同的权限;因为日志被改名,因此要创建一个新的来继续存储之前的日志 dateext//这个参数很重要!就是切割后的日志文件以当前日期为格式结尾,如xxx.log-20131216这样,如果注释掉,切割出来是按数字递增,即前面说的xxx.log-1这种格式 compress//是否通过gzip压缩转储以后的日志文件,如xxx.log-20131216.gz;如果不需要压缩,注释掉就行 include/etc/logrotate.d #将/etc/logrotate.d/目录中的所有文件都加载进来 /var/log/wtmp{//仅针对/var/log/wtmp所设定的参数 monthly//每月一次切割,取代默认的一周 minsize1M//文件大小超过1M后才会切割 create0664rootutmp//指定新建的日志文件权限以及所属用户和组 rotate1//只保留一个日志. } #这个wtmp可记录用户登录系统及系统重启的时间 #因为有minsize的参数,因此不见得每个月一定会执行一次喔.要看文件大小。
由这个文件的设定可以知道/etc/logrotate.d其实就是由/etc/logrotate.conf所规划出来的目录,虽然可以将所有的配置都写入/etc/logrotate.conf,但是这样一来这个文件就实在是太复杂了,尤其是当使用很多的服务在系统上面时,每个服务都要去修改/etc/logrotate.conf的设定也似乎不太合理了。
所以,如果独立出来一个目录,那么每个要切割日志的服务,就可以独自成为一个文件,并且放置到/etc/logrotate.d/当中
其他重要参数说明
---------------------------------------------------------------------------------------------------------
- compress 通过gzip压缩转储以后的日志
- nocompress 不做gzip压缩处理
- copytruncate 用于还在打开中的日志文件,把当前日志备份并截断;是先拷贝再清空的方式,拷贝和清空之间有一个时间差,可能会丢失部分日志数据。
- nocopytruncate 备份日志文件不过不截断
- createmodeownergroup 轮转时指定创建新文件的属性,如create0777nobodynobody
- nocreate 不建立新的日志文件
- delaycompress 和compress一起使用时,转储的日志文件到下一次转储时才压缩
- nodelaycompress 覆盖delaycompress选项,转储同时压缩。
- missingok 如果日志丢失,不报错继续滚动下一个日志
- errorsaddress 专储时的错误信息发送到指定的Email地址
- ifempty 即使日志文件为空文件也做轮转,这个是logrotate的缺省选项。
- notifempty 当日志文件为空时,不进行轮转
- mailaddress 把转储的日志文件发送到指定的E-mail地址
- nomail 转储时不发送日志文件
- olddirdirectory 转储后的日志文件放入指定的目录,必须和当前日志文件在同一个文件系统
- noolddir 转储后的日志文件和当前日志文件放在同一个目录下
- sharedscripts 运行postrotate脚本,作用是在所有日志都轮转后统一执行一次脚本。如果没有配置这个,那么每个日志轮转后都会执行一次脚本
- prerotate 在logrotate转储之前需要执行的指令,例如修改文件的属性等动作;必须独立成行
- postrotate 在logrotate转储之后需要执行的指令,例如重新启动(kill-HUP)某个服务!必须独立成行
- daily 指定转储周期为每天
- weekly 指定转储周期为每周
- monthly 指定转储周期为每月
- rotatecount 指定日志文件删除之前转储的次数,0指没有备份,5指保留5个备份
- dateext 使用当期日期作为命名格式
- dateformat.%s 配合dateext使用,紧跟在下一行出现,定义文件切割后的文件名,必须配合dateext使用,只支持%Y%m%d%s这四个参数
- size(或minsize)log-size 当日志文件到达指定的大小时才转储,log-size能指定bytes(缺省)及KB(sizek)或MB(sizem).
- 当日志文件>=log-size的时候就转储。以下为合法格式:(其他格式的单位大小写没有试过)
- size=5或size5(>=5个字节就转储)
- size=100k或size100k
- size=100M或size100M
小示例:下面一个切割nginx日志的配置
[root@master-server~]#vim/etc/logrotate.d/nginx /usr/local/nginx/logs/*.log{ daily rotate7 missingok notifempty dateext sharedscripts postrotate if[-f/usr/local/nginx/logs/nginx.pid];then kill-USR1`cat/usr/local/nginx/logs/nginx.pid` fi endscript }
--------------------------------------------------分享一例曾经使用过的nginx日志切割处理脚本-----------------------------------------------
1)logrotate日志分割配置:
[root@bastion-IDC~#vim/etc/logrotate.d/nginx /data/nginx_logs/*.access_log { nocompress daily copytruncate create ifempty olddir/data/nginx_logs/days rotate0 }
2)日志分割脚本
[root@bastion-IDC~#vim/usr/local/sbin/logrotate-nginx.sh #!/bin/bash #创建转储日志压缩存放目录 mkdir-p/data/nginx_logs/days #手工对nginx日志进行切割转换 /usr/sbin/logrotate-vf/etc/logrotate.d/nginx #当前时间 time=$(date-d"yesterday"+"%Y-%m-%d") #进入转储日志存放目录 cd/data/nginx_logs/days #对目录中的转储日志文件的文件名进行统一转换 foriin$(ls./|grep"^\(.*\)\.[[:digit:]]$") do mv${i}./$(echo${i}|sed-n's/^\(.*\)\.\([[:digit:]]\)$/\1/p')-$(echo$time) done #对转储的日志文件进行压缩存放,并删除原有转储的日志文件,只保存压缩后的日志文件。以节约存储空间 foriin$(ls./|grep"^\(.*\)\-\([[:digit:]-]\+\)$") do tarjcvf${i}.bz2./${i} rm-rf./${i} done #只保留最近7天的压缩转储日志文件 find/data/nginx_logs/days/*-name"*.bz2"-mtime7-typef-execrm-rf{}\;
3)crontab定时执行
[root@bastion-IDC~#crontab-e #logrotate 00***/bin/bash-x/usr/local/sbin/logrotate-nginx.sh>/dev/null2>&1
手动执行脚本,测试下看看:
[root@bastion-IDC~#/bin/bash-x/usr/local/sbin/logrotate-nginx.sh [root@bastion-IDC~#cd/data/nginx_logs/days [root@bastion-IDCdays#ls huantest.access_log-2017-01-18.bz2
----------------------------------php脚本切割一例----------------------------------
[root@huanqiu_web1~]#cat/etc/logrotate.d/php /Data/logs/php/*log{ daily rotate365 missingok notifempty compress dateext sharedscripts postrotate if[-f/Data/app/php5.6.26/var/run/php-fpm.pid];then kill-USR1`cat/Data/app/php5.6.26/var/run/php-fpm.pid` fi endscript postrotate /bin/chmod644/Data/logs/php/*gz endscript } [root@huanqiu_web1~]#ll/Data/app/php5.6.26/var/run/php-fpm.pid -rw-r--r--1rootroot4Dec2817:03/Data/app/php5.6.26/var/run/php-fpm.pid [root@huanqiu_web1~]#cd/Data/logs/php [root@huanqiu_web1php]#ll total25676 -rw-r--r--1rootroot0Jun12016error.log -rw-r--r--1nobodynobody182Aug302015error.log-20150830.gz -rw-r--r--1nobodynobody371Sep12015error.log-20150901.gz -rw-r--r--1nobodynobody315Sep72015error.log-20150907.gz ......... .........
----------------------------------nginx日志切割一例-----------------------------------
[root@huanqiu_web1~]#cat/etc/logrotate.d/nginx /Data/logs/nginx/*/*log{ daily rotate365 missingok notifempty compress dateext sharedscripts postrotate /etc/init.d/nginxreload endscript } [root@huanqiu_web1~]#ll/Data/logs/nginx/www.huanqiu.com/ .......... -rw-r--r--1rootroot1652Jan100:00error.log-20170101.gz -rw-r--r--1rootroot1289Jan200:00error.log-20170102.gz -rw-r--r--1rootroot1633Jan300:00error.log-20170103.gz -rw-r--r--1rootroot3239Jan400:00error.log-20170104.gz
----------------------------------系统日志切割一例-----------------------------------
[root@huanqiu_web1~]#cat/etc/logrotate.d/syslog /var/log/cron /var/log/maillog /var/log/messages /var/log/secure /var/log/spooler { sharedscripts postrotate /bin/kill-HUP`cat/var/run/syslogd.pid2>/dev/null`2>/dev/null||true endscript } [root@huanqiu_web1~]#ll/var/log/messages* -rw-------1rootroot34248975Jan1918:42/var/log/messages -rw-------1rootroot51772994Dec2503:11/var/log/messages-20161225 -rw-------1rootroot51800210Jan103:05/var/log/messages-20170101 -rw-------1rootroot51981366Jan803:36/var/log/messages-20170108 -rw-------1rootroot51843025Jan1503:40/var/log/messages-20170115 [root@huanqiu_web1~]#ll/var/log/cron* -rw-------1rootroot2155681Jan1918:43/var/log/cron -rw-------1rootroot2932618Dec2503:11/var/log/cron-20161225 -rw-------1rootroot2939305Jan103:06/var/log/cron-20170101 -rw-------1rootroot2951820Jan803:37/var/log/cron-20170108 -rw-------1rootroot3203992Jan1503:41/var/log/cron-20170115 [root@huanqiu_web1~]#ll/var/log/secure* -rw-------1rootroot275343Jan1918:36/var/log/secure -rw-------1rootroot2111936Dec2503:06/var/log/secure-20161225 -rw-------1rootroot2772744Jan102:57/var/log/secure-20170101 -rw-------1rootroot1115543Jan803:26/var/log/secure-20170108 -rw-------1rootroot731599Jan1503:40/var/log/secure-20170115 [root@huanqiu_web1~]#ll/var/log/spooler* -rw-------1rootroot0Jan1503:41/var/log/spooler -rw-------1rootroot0Dec1803:21/var/log/spooler-20161225 -rw-------1rootroot0Dec2503:11/var/log/spooler-20170101 -rw-------1rootroot0Jan103:06/var/log/spooler-20170108 -rw-------1rootroot0Jan803:37/var/log/spooler-20170115
----------------------------------tomcat日志切割一例-----------------------------------
[root@huanqiu-backup~]#cat/etc/logrotate.d/tomcat /Data/app/tomcat-7-huanqiu/logs/catalina.out{ rotate14 daily copytruncate compress notifempty missingok } [root@huanqiu-backup~]#ll/Data/app/tomcat-7-huanqiu/logs/catalina.* -rw-r--r--.1rootroot0Jan1919:11/Data/app/tomcat-7-huanqiu/logs/catalina.out -rw-r--r--.1rootroot95668Jan1919:11/Data/app/tomcat-7-huanqiu/logs/catalina.out.1.gz
---------------------------------早期用过的nginx日志处理一例----------------------------------
[root@letv-backup~]#vim/letv/sh/cut_nginx_log.sh #!/bin/bash #你的日志文件存放目录 logs_path="/letv/logs/" #日志文件的名字,多个需要空格隔开 logs_names=(erroraccesspv_access) dates=`date-d"yesterday"+"%Y%m%d"` mkdir-p${logs_path}$dates/ num=${#logs_names[@]} for((i=0;i/dev/null2>$1
3)尝试解决logrotate无法自动轮询日志的办法
现象说明:
使用logrotate轮询nginx日志,配置好之后,发现nginx日志连续两天没被切割,这是为什么呢??
然后开始检查日志切割的配置文件是否有问题,检查后确定配置文件一切正常。
于是怀疑是logrotate预定的cron没执行,查看了cron的日志,发现有一条Dec704:02:01wwwcrond[18959]:(root)CMD(run-parts/etc/cron.daily)这样的日志,证明cron在04:02分时已经执行/etc/cron.daily目录下的程序。
接着查看/etc/cron.daily/logrotate(这是logrotate自动轮转的脚本)的内容:
[root@huanqiu_test~]#cat/etc/cron.daily/logrotate #!/bin/sh /usr/sbin/logrotate/etc/logrotate.conf>/dev/null2>&1 EXITVALUE=$? if[$EXITVALUE!=0];then /usr/bin/logger-tlogrotate"ALERTexitedabnormallywith[$EXITVALUE]" fi exit0
没有发现异常,配置好的日志轮转操作都是由这个脚本完成的,一切运行正常,脚本应该就没问题。
直接执行命令:
[root@huanqiu_test~]#/usr/sbin/logrotate/etc/logrotate.conf
这些系统日志是正常轮询了,但nginx日志却还是没轮询
接着强行启动记录文件维护操作,纵使logrotate指令认为没有需要,应该有可能是logroate认为nginx日志太小,不进行轮询。
故需要强制轮询,即在/etc/cron.daily/logrotate脚本中将-t参数替换成-f参数
[root@huanqiu_test~]#cat/etc/cron.daily/logrotate #!/bin/sh /usr/sbin/logrotate/etc/logrotate.conf>/dev/null2>&1 EXITVALUE=$? if[$EXITVALUE!=0];then /usr/bin/logger-flogrotate"ALERTexitedabnormallywith[$EXITVALUE]" fi exit0
最后最后重启下cron服务:
[root@huanqiu_test~]#/etc/init.d/crondrestart Stoppingcrond:[OK] Startingcrond:[OK]
总结
以上就是这篇文章的全部内容了,希望本文的内容对大家的学习或者工作能带来一定的帮助,如果有疑问大家可以留言交流,谢谢大家对毛票票的支持。