ELK&＃43;Filebeat&＃43;Kafka&＃43;ZooKeeper 构建海量日志分析平台

参考&＃xff1a;http://www.tuicool.com/articles/R77fieA

我在做ELK日志平台开始之初选择为ELK&＃43;Redis直接构建&＃xff0c;在采集nginx日志时一切正常&＃xff0c;当我采集我司业务报文日志类后&＃xff0c;logstash会报大量的redis connect timeout。换成redis cluster后也是同样的情况后&＃xff0c;就考虑对消息中间件进行替换重新选型&＃xff0c;经过各种刷文档&＃xff0c;决定选用kafka来替换redis。根据网上找的一篇参考文档中的架构图如下&＃xff1a;

注&＃xff1a;由于环境有限&＃xff0c;在对该架构图中的elasticsearch集群与logstash转发层进行了合并在一台服务器上。

架构解读 : &＃xff08;整个架构从左到右&＃xff0c;总共分为5层&＃xff09;&＃xff08;本文将第三层以下的进行了合并&＃xff0c;无elasticsearch集群&＃xff09;

第一层、数据采集层

最左边的是业务服务器集群&＃xff0c;上面安装了filebeat做日志采集&＃xff0c;同时把采集的日志分别发送给两个logstash服务。

第二层、数据处理层&＃xff0c;数据缓存层

logstash服务把接受到的日志经过格式处理&＃xff0c;转存到本地的kafka broker&＃43;zookeeper 集群中。

第三层、数据转发层

这个单独的Logstash节点会实时去kafka broker集群拉数据&＃xff0c;转发至ES DataNode。

第四层、数据持久化存储

ES DataNode 会把收到的数据&＃xff0c;写磁盘&＃xff0c;建索引库。

第五层、数据检索&＃xff0c;数据展示

ES Master &＃43; Kibana 主要 协调 ES集群&＃xff0c;处理数据检索请求&＃xff0c;数据展示。

一、环境准备

操作系统环境:&＃xff08;测试环境统一为centos7;正式线上环境&＃xff1a;采集层、处理缓存层为centos6.5,转发层、持久层、检索展示层为centos7&＃xff09;&＃xff08;本文以实验环境进行撰写&＃xff09;

服务器角色分配&＃xff1a;

软件包版本:

jdk-8u112-linux-x64

filebeat-5.2.0-linux-x86_64

logstash-5.2.0

kafka_2.11-0.10.1.1

kibana-5.2.0-linux-x86_64

elasticsearch-5.2.0

zookeeper-3.4.9

二、部署安装

&＃xff08;一&＃xff09;、部署logstash&＃43;elasticsearch&＃43;kibana&＃xff08;持久、检索、展示层&＃xff09;

1、jdk解压部署

[webapp&＃64;localhost ~]$ tar -xzf jdk-8u112-linux-x64.tar.gz -C /data/webapp/

2、配置jdk环境变量

[webapp&＃64;localhost ~]$ cat .bash_profile

# .bash_profile

# Get the aliases and functions

if [ -f ~/.bashrc ]; then

. ~/.bashrc

fi

# User specific environment and startup programs

export JAVA_HOME&＃61;/data/webapp/jdk1.8.0_112

PATH&＃61;$JAVA_HOME/bin:$PATH:$HOME/.local/bin:$HOME/bin

export PATH

3、系统调优

[webapp&＃64;localhost ~]$ vim /etc/sysctl.conf

fs.file-max&＃61;65536

vm.max_map_count &＃61; 262144

[webapp&＃64;localhost ~]$ vim /etc/security/limits.conf

* soft nofile 65535

* hard nofile 131072

* soft nproc 2048

* hard nproc 4096

4、解压部署logstash&＃43;elasticsearch&＃43;kibana

[webapp&＃64;localhost ~]$ unzip -d /data/webapp/ elasticsearch-5.2.0.zip

[webapp&＃64;localhost ~]$ tar -xzf logstash-5.2.0.tar.gz -C /data/webapp/

[webapp&＃64;localhost ~]$ tar -xzf kibana-5.2.0-linux-x86_64.tar.gz -C /data/webapp/

4.1、配置logstash的配置文件

[webapp&＃64;localhost ~]$ cd /data/webapp/logstash-5.2.0/config/

[webapp&＃64;localhost config]$ vim logstash_to_es.conf

input {

    kafka {

        bootstrap_servers &＃61;> "192.168.11.12:9092,192.168.11.13:9092"

        topics &＃61;> ["ecplogs"]

        }

}

output {

    elasticsearch {

        hosts &＃61;> ["192.168.11.14:9200"]

        index &＃61;> "ecp-log-%{&＃43;YYYY.MM.dd}"

        flush_size &＃61;> 20000

        idle_flush_time &＃61;> 10

        template_overwrite &＃61;> true

        }

}

注&＃xff1a;["ecplogs"]此字段是kafka的消息主题&＃xff0c;后边在部署kafka后需要创建

4.2、配置logstash的启动脚本

[webapp&＃64;localhost config]$ cd ../bin/

[webapp&＃64;localhost bin]$ vim start-logstash.sh

#!/bin/bash

export JAVA_HOME&＃61;/data/webapp/jdk1.8.0_112

export JRE_HOME&＃61;/data/webapp/jdk1.8.0_112/jre

export CLASSPATH&＃61;$JAVA_HOME/lib:$JRE_HOME/lib:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar

export PATH&＃61;$JAVA_HOME/bin:$PATH

/data/webapp/logstash-5.2.0/bin/logstash　-f /data/webapp/logstash-5.2.0/config/logstash_to_es.conf > /dev/null &

4.3、配置elasticsearch的配置文件

[webapp&＃64;localhost ~]$ cd /data/webapp/elasticsearch-5.2.0/config/

[webapp&＃64;localhost config]$ vim elasticsearch.yml

node.name:elk1

path.data:/data/webapp/elk_data

path.logs:/data/webapp/elk_data

network.host: 192.168.11.14

http.port: 9200

4.4、配置JVM&＃xff08;正式环境不需要&＃xff0c;测试环境内存较小需要更改&＃xff0c;将2g改为512M&＃xff09;

[webapp&＃64;localhost config]$ vim jvm.options

-Xms512m

-Xmx512m

4.5、配置Kibana的配置文件

[webapp&＃64;localhost ~]$ cd /data/webapp/kibana-5.2.0-linux-x86_64/config/

[webapp&＃64;localhost config]$ vim kibana.yml

server.port: 5601

server.host: "192.168.11.14"

elasticsearch.url: "http://192.168.11.14:9200"

&＃xff08;二&＃xff09;、部署Zookeeper&＃43;kafka&＃43;logstash&＃xff08;双机集群缓存处理层&＃xff0c;正式环境建议三台&＃xff09;

1、部署zookeeper集群

[webapp&＃64;localhost ~]$ tar -xzf zookeeper-3.4.9.tar.gz -C /data/webapp/

[webapp&＃64;localhost ~]$ cd /data/webapp/zookeeper-3.4.9/conf/

[webapp&＃64;localhost conf]$ cp zoo_sample.cfg zoo.cfg

[webapp&＃64;localhost conf]$ vim zoo.cfg

dataDir&＃61;/data/webapp/zookeeper-3.4.9/zookeeper

server.1&＃61;192.168.11.12:12888:13888

server.2&＃61;192.168.11.13:12888:13888

[webapp&＃64;localhost conf]$ echo 1 > /data/webapp/zookeeper-3.4.9/zookeeper/myid

注&＃xff1a;在另外一台配置文件相同&＃xff0c;只需要将myid重置为2

[webapp&＃64;localhost conf]$ echo 2 > /data/webapp/zookeeper-3.4.9/zookeeper/myid

2、启动zookeeper服务&＃xff08;在两台服务器中都启动&＃xff09;

[webapp&＃64;localhost zookeeper-3.4.9]$ bin/zkServer.sh start

2.1、查看两台zookeeper集群状态

[webapp&＃64;localhost zookeeper-3.4.9]$ bin/zkServer.sh status

ZooKeeper JMX enabled by default

Using config: /data/webapp/zookeeper-3.4.9/bin/../conf/zoo.cfg

Mode: follower

[webapp&＃64;localhost zookeeper-3.4.9]$ bin/zkServer.sh status

ZooKeeper JMX enabled by default

Using config: /data/webapp/zookeeper-3.4.9/bin/../conf/zoo.cfg

Mode: leader

3、配置kafka集群

[webapp&＃64;localhost ~]$ tar -xzf kafka_2.11-0.10.1.1.tgz -C /data/webapp/

[webapp&＃64;localhost ~]$ cd /data/webapp/kafka_2.11-0.10.1.1/config/

[webapp&＃64;localhost config]$ vim server.properties

broker.id&＃61;1

port &＃61; 9092

host.name &＃61; 192.168.11.12

log.dirs&＃61;/data/webapp/kafka-logs

log.retention.hours&＃61;1

zookeeper.connect&＃61;192.168.11.12:2181,192.168.11.13:2181

default.replication.factor&＃61;2

注&＃xff1a;两台集群配置只需要将broker.id、host.name进行修改&＃xff0c;其它一致。

[webapp&＃64;localhost config]$ vim server.properties

broker.id&＃61;2

host.name &＃61; 192.168.11.13

4、启动kafka集群&＃xff08;在两台服务器中都启动&＃xff09;

[webapp&＃64;localhost kafka_2.11-0.10.1.1]$　bin/kafka-server-start.sh -daemon config/server.properties

4.1、创建消息主题

[webapp&＃64;localhost kafka_2.11-0.10.1.1]$　bin/kafka-topics.sh --create --zookeeper 192.168.11.11:2181 --replication-factor 1 --partitions 2 --topic ecplogs

4.2、测试消息生产与消费

在主机192.168.11.13上进行消息消费

[webapp&＃64;localhost kafka_2.11-0.10.1.1]$　/data/webapp/kafka_2.11-0.10.1.1/bin/kafka-console-consumer.sh --zookeeper 192.168.11.11:2181 --topic ecplogs --from-beginning

在主机192.168.11.12上进行消息生产&＃xff1a;

[webapp&＃64;localhost kafka_2.11-0.10.1.1]$　bin/kafka-console-producer.sh --broker-list 192.168.11.11:9092 --topic ecplogs

在此终端中输入数据&＃xff0c;会在192.168.11.13终端上进行显示出来。那么kafka功能正常。

5、配置logstash

5.1配置logstash的配置文件

[webapp&＃64;localhost ~]$ tar -xzf logstash-5.2.0.tar.gz -C /data/webapp/

[webapp&＃64;localhost ~]$ cd /data/webapp/logstash-5.2.0/config/

[webapp&＃64;localhost config]$ vim logstash_in_filebeat.conf

input {

    beats {

        port &＃61;> 5044

        }

}

output {

    kafka {

        bootstrap_servers &＃61;> "192.168.11.12:9092,192.168.11.13:9092"

        topic_id &＃61;> "ecplogs"

        }

}

5.2配置Logstash启动脚本&＃xff08;如4.2&＃xff09;

&＃xff08;三&＃xff09;、部署filebeat&＃xff08;日志采集&＃xff09;

1、解压部署

[webapp&＃64;localhost ~]$ tar -xzf filebeat-5.2.0-linux-x86_64.tar.gz -C /data/webapp/

2、配置filebeat配置文件

[webapp&＃64;localhost ~]$ cd /data/webapp/filebeat-5.2.0-linux-x86_64/

[webapp&＃64;localhost filebeat-5.2.0-linux-x86_64]$ vim filebeat.yml

filebeat.prospectors:

- input_type: log

  paths:

- /data/logs/ecplog.log

  multiline.pattern: ^请

  multiline.negate: true

  multiline.match: after

output.logstash:

  hosts: ["192.168.11.13:5044"]

注解&＃xff1a;该配置文件格式参照yml型&＃xff0c;multiline.x配置项为多行合并规则&＃xff0c;如无&＃xff0c;可以不用配置

3、启动filebeat

[webapp&＃64;localhost filebeat-5.2.0-linux-x86_64]$ nohup ./filebeat -c filebeat.yml > /dev/null &

&＃xff08;四&＃xff09;各环节服务器启动与数据追踪

1、启动192.168.11.12/13服务器上的logstash

[webapp&＃64;localhost ~]$ /data/webapp/logstash-5.2.0/bin/start-logstash.sh

2、在192.168.11.12/13终端上进行日志消费测试

[webapp&＃64;localhost kafka_2.11-0.10.1.1]$　/data/webapp/kafka_2.11-0.10.1.1/bin/kafka-console-consumer.sh --zookeeper 192.168.11.11:2181 --topic ecplogs --from-beginning

注&＃xff1a;如果配置正常&＃xff0c;该两终端中会都会源源不断的输出/data/logs/ecplog.log的日志数据。

3、启动192.168.11.14服务器上的logstash&＃43;es&＃43;kibana

4、测试es数据索引

[webapp&＃64;localhost ~]$ curl "http://192.168.11.14:9200/ecplogs-2017.02.09"

注&＃xff1a;如果配置正常&＃xff0c;curl出来的是有数据的&＃xff0c;而非404类

5、通过web展示&＃xff0c;访问http://192.168.11.14:5601

6、Kibanad页面配置&＃xff08;略&＃xff09;