redis日志_ELK总结—第三篇Logstash监控Nginx日志存入redis，实现服务解耦

1、安装nginx

 [root&＃64;elasticsearch-01 ~]# yum install nginx

2、修改nginx是日志文件以json的格式输出

 ##添加 13          log_format json &＃39;{"&＃64;timestamp":"$time_iso8601",&＃39; 14                           &＃39;"&＃64;version":"1",&＃39; 15                           &＃39;"client":"$remote_addr",&＃39; 16                           &＃39;"url":"$uri",&＃39; 17                           &＃39;"status":"$status",&＃39; 18                           &＃39;"domain":"$host",&＃39; 19                           &＃39;"host":"$server_addr",&＃39; 20                           &＃39;"size":$body_bytes_sent,&＃39; 21                           &＃39;"responsetime":$request_time,&＃39; 22                           &＃39;"referer": "$http_referer",&＃39; 23                           &＃39;"ua": "$http_user_agent"&＃39; 24               &＃39;}&＃39;; 43    access_log /var/log/nginx/access_json.log json;

3、安装redis(搭建过程可以参考之前的文章redis主从结构)

为了节省资源&＃xff0c;博主这里只搭建了一台&＃xff0c;只有一台主的服务器。端口&＃xff1a;6301密码&＃xff1a;rds6301_paswd

4、编写logstash.conf配置文件(将Nginx日志存入redis)

 input {       file {               path &＃61;> "/var/log/nginx/access.log"               type &＃61;> "nginx_102_20"               start_position &＃61;> "beginning"               stat_interval &＃61;> "2"       } }  output {        if[type] &＃61;&＃61;"nginx_102_20"{               redis {                       data_type &＃61;> "list" ##使用发布/订阅模式                       host &＃61;> "172.17.120.12" ##redis主机地址                       db &＃61;> "6" ##Redis会生成0-15号默认有16个库,默认连接的是 index&＃61;0 的那一个。这16个库互相之间是独立的。                       port &＃61;> "6301" ##redis端口号                       password &＃61;> "rds6301_paswd" ##redis密码                       key &＃61;> "nginx_102_20" ##发布通道名称               }       } }

5、将数据从redis写入es

 input {       redis {               type &＃61;> "systemlog"               host &＃61;> "172.17.120.12"               password &＃61;> &＃39;rds6301_paswd&＃39;               port &＃61;> "6301"               db &＃61;> "6"               data_type &＃61;> "list"               key &＃61;> "systemlog"               } } filter {       json {            source&＃61;> "message"       } } output {  stdout {}    if[status] &＃61;&＃61;"304"{        exec {               command &＃61;> "python /root/elk_alarm/count.py err_304 %{proxy_host}"           }      } elasticsearch {               index &＃61;> "test"       #索引信息               hosts &＃61;> [ "172.17.120.11:9200"]                     } } ------------------------------------------------------------------ 这里agent往redis里写数据 server从redis里读数据&＃xff0c;并且判断状态码304(方便测试而已具体规则自己定义&＃xff0c;也支持and or等)发现后执行python脚本。

6、自定义报警脚本

 [root&＃64;elasticsearch-01 ~]# vim /root/elk_alarm/count.py ##大致意思为发现报警自动往redis增加一条计数器 #!/usr/bin/python  import redis import sys  f&＃61;open("/root/elk_alarm/status.log","a") f.write(sys.argv[1] &＃43;"") f.write(sys.argv[2] &＃43;"") f.close()  r &＃61;StrictRedis(host&＃61;&＃39;172.17.0.9&＃39;, port&＃61;6306, db&＃61;6, password&＃61;&＃39;rds6306_paswd&＃39;) count &＃61;r.hget(sys.argv[1],sys.argv[2]) ifcount:       r.hset(sys.argv[1],sys.argv[2],int(count)&＃43;1) else:       r.hset(sys.argv[1],sys.argv[2],1)

7、还要写一个报警脚本

 [root&＃64;elasticsearch-01 ~]# vim /root/elk_alarm/check.py ##大致是发现304超过3时报警&＃xff0c;需要配合crontab定时执行&＃xff0c;如果在定义的时间内达不到3就清0&＃xff0c;如果大于3就报警 #!/usr/bin/python # -*- coding: UTF-8 -*- import redis import smtplib from email.mime.text import MIMEText from email.header import Header  r &＃61;StrictRedis(host&＃61;&＃39;172.17.0.9&＃39;, port&＃61;6306, db&＃61;6, password&＃61;&＃39;rds6306_paswd&＃39;) tengine&＃61;[    &＃39;err_304&＃39;, ]  sender &＃61;&＃39;upstream_error&＃64;xxx.com&＃39; receivers &＃61;[&＃39;xxxxxxx&＃64;qq.com&＃39;]  fori intengine:   print i   print "&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;&＃61;"    fork,v inr.hgetall(i).items():        ifint(v) > 3:           print k,v              print "error"            # 三个参数&＃xff1a;第一个为文本内容&＃xff0c;第二个 plain 设置文本格式&＃xff0c;第三个 utf-8 设置编码           mail_msg &＃61;"错误Upstream:"&＃43;" "&＃43;k &＃43;"次数:"&＃43;" "&＃43;v           message &＃61;MIMEText(mail_msg, &＃39;plain&＃39;, &＃39;utf-8&＃39;)           message[&＃39;From&＃39;] &＃61;Header(sender)           message[&＃39;To&＃39;] &＃61;Header("测试", &＃39;utf-8&＃39;)            subject &＃61;&＃39;Log_error_mail&＃39;           message[&＃39;Subject&＃39;] &＃61;Header(subject, &＃39;utf-8&＃39;)            try:               smtpObj &＃61;smtplib.SMTP(&＃39;localhost&＃39;)               smtpObj.sendmail(sender, receivers, message.as_string())               print "邮件发送成功"           except smtplib.SMTPException:               print "Error: 无法发送邮件"           r.hset(i,k,0)           print "-----------------------------------------"        else:           print k,v           print "ok"           print "-----------------------------------------"

8、效果展示

关于运维学习、分享、交流&＃xff0c;笔者开通了微信公众号【运维猫】&＃xff0c;感兴趣的朋友可以关注下&＃xff0c;欢迎加入&＃xff0c;建立属于我们自己的小圈子&＃xff0c;一起学运维知识。