热门标签 | HotTags
当前位置:  开发笔记 > 编程语言 > 正文

Logstash+ElasticSearch+Kibana4日志分析系统安装详解

ELK日志分析系统环境:centos6.5准备好ELK三个安装包,官网下1、安装jdk网上有的教程叫下载oracle的jdk,其实没必要,系统自带的openjdk就行了,不过需要先

ELK日志分析系统

 

环境:centos6.5

准备好ELK三个安装包,官网下

技术分享

 

1、安装jdk

网上有的教程叫下载oraclejdk,其实没必要,系统自带的openjdk就行了,不过需要先

看下版本,1.7是不行的,要1.8以上

技术分享

 

升级到1.8

先删除1.7版本

# yum remove -y java-1.7.0-openjdk

 

然后安装1.8版本,看到下面信息即可

技术分享

 

2、安装elasticsearch

下载安装包(tarhttps://www.elastic.co/downloads/elasticsearch

 

直接解压到/usr/local下面

tar -xzvf elasticsearch-1.5.2.tar.gz -C /usr/local

 

加载模块

execstack -c /usr/local/elasticsearch-1.5.2/lib/sigar/libsigar-x86-linux.so

 

启动

/usr/local/elasticsearch-1.5.2/bin/elasticsearch -d

 

 

 

 

 

 

 

 

 

 

检查启动状态

[root@nginx ~]# curl 127.0.0.1:9200

 

技术分享 

 

说明启动成功

 

如果你看到报错信息如下:

 

[2015-05-13 16:18:01,985][WARN ][bootstrap                ] jvm uses the client vm, make sure to run `java` with the server vm for best performance by adding `-server` to the command line

[2015-05-13 16:18:01,992][ERROR][bootstrap                ] Exception

java.lang.RuntimeException: Java version: 1.7.0_45 suffers from critical bug https://bugs.openjdk.java.net/browse/JDK-8024830 which can cause data corruption.

Please upgrade the JVM, see http://www.elastic.co/guide/en/elasticsearch/reference/current/_installation.html for current recommendations.

If you absolutely cannot upgrade, please add -XX:-UseSuperWord to the JVM_OPTS environment variable.

Upgrading is preferred, this workaround will result in degraded performance.

 

那我只能说,扇脸,用力,叫你不听我的,叫你不听我的!!!

解决办法:

Yum install -y java-1.8.0-openjdk

3、安装redis,下载2.8版本的

下载redishttp://redis.io/  

如果下载2.8以上版本,依赖解决起来会麻烦很多

 

Wget https://github.com/antirez/redis/archive/2.8.20.tar.gz

 

安装依赖tcl(别问我这个tcl跟卖家电的TCL有什么关系,我母鸡啊)

 

# yum install -y tcl

 

如果你想作死不装TCL的话,那你就会看到不一样的效果,看下图~~~

技术分享 

 

编译安装

make

make test

   make install

cp redis.conf /etc/

配置redis

# vim /usr/local/redis/etc/redis.conf 

daemonize yes#设置后台运行

启动redis

# redis-server /redis.conf 

技术分享 

说明启动成功

 

 

 

 

 

 

 

 

 

4、安装logstash

直接解压过去就行了

[root@nginx elk]# tar -xzvf logstash-1.4.2.tar.gz -C /usr/local/

 

创建日志推送配置文件

[root@nginx elk]# mkdir /usr/local/logstash-1.4.2/etc

 

[root@nginx elk]# vim /usr/local/logstash-1.4.2/etc/logstash_agent.conf

 

input {

        file {

                type => "nginx_access log"#这里定义的是日志文件名

                path => ["/usr/local/nginx/logs/host.access.log"]#这里定义的是日志文件路径

        }

}

output {

        redis {

                host => "localhost"#这里定义redis主机地址,这里是本机

                data_type => "list"

                key => "logstash:redis"

        }

}

 

创建indexer配置文件

[root@nginx elk]# vim /usr/local/logstash-1.4.2/etc/logstash_indexer.conf

 

input {

        redis {

                host => "localhost"

                data_type => "list"

                key => "logstash:redis"

                type => "redis-input"

        }

}

filter {

        grok {

                type => "nginx_access"

                match => [

                        "message", "%{IPORHOST:http_host} %{IPORHOST:client_ip} \[%{HTTPDATE:timestamp}\] \"(?:%{WORD:http_verb} %{NOTSPACE:http_request}(?: HTTP/%{NUMBER:http_version})?|%{DATA:raw_http_request})\" %{NUMBER:http_status_code} (?:%{NUMBER:bytes_read}|-) %{QS:referrer} %{QS:agent} %{NUMBER:time_duration:float} %{NUMBER:time_backend_response:float}",

                        "message", "%{IPORHOST:http_host} %{IPORHOST:client_ip} \[%{HTTPDATE:timestamp}\] \"(?:%{WORD:http_verb} %{NOTSPACE:http_request}(?: HTTP/%{NUMBER:http_version})?|%{DATA:raw_http_request})\" %{NUMBER:http_status_code} (?:%{NUMBER:bytes_read}|-) %{QS:referrer} %{QS:agent} %{NUMBER:time_duration:float}"

                ]

        }

}

output {

        elasticsearch {

                embedded => false

                protocol => "http"

                host => "localhost"

                port => "9200"

        }

}

启动logsyash

 

nohup /usr/local/logstash-1.4.2/bin/logstash -f /usr/local/logstash-1.4.2/etc/logstash_agent.conf &

 

nohup /usr/local/logstash-1.4.2/bin/logstash -f /usr/local/logstash-1.4.2/etc/logstash_indexer.conf &

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

5、安装kibana

同样不需要安装,解压就能用

[root@nginx elk]# tar -xzf kibana-4.0.2-linux-x86.tar.gz -C /usr/local/

 

启动

 

[root@nginx elk]# nohup /usr/local/kibana-4.0.2-linux-x86/bin/kibana &

 

 

然后打开浏览器输入IP加端口5601即可访问

技术分享 

 

进来之后他要你创建一个默认索引,可是怎么办没有create啊,下面会灰色的,是不是我做错了,好紧张,好害怕~~~~~~~~

 

好吧,其实都不是,这个如果你装完kibana你那个日志文件要是一直没有新的日志产生呢这里就一直是灰的,这个时候你只需要去访问一下你的网站,然后就行了

(当时我碰到这个问题的时候,因为用的虚拟机做的,卡了几个小时啊坑爹啊)

 

 

 

 

然后你就可以看到下面的情况了,选择timestamp,点击create创建,完成
技术分享

 

搭建成功

技术分享 

 

 

6、客户机配置

 

上面我们是获取本机的日志而已,其他客户机怎么配置呢?

客户机只需要安装logstash

解压

[root@nginx elk]# tar -xzvf logstash-1.4.2.tar.gz -C /usr/local/

 

创建日志推送配置文件

[root@nginx elk]# mkdir /usr/local/logstash-1.4.2/etc

 

[root@nginx elk]# vim /usr/local/logstash-1.4.2/etc/logstash_agent.conf

 

input {

        file {

                type => "nginx_access log"#这里定义的是日志文件名

                path => ["/usr/local/nginx/logs/host.access.log"]#这里定义的是日志文件路径

        }

}

output {

        redis {

                host => "10.1.1.231"#这里定义redis主机地址

                data_type => "list"

                key => "logstash:redis"

        }

}

 

启动logsyash

 

nohup /usr/local/logstash-1.4.2/bin/logstash -f /usr/local/logstash-1.4.2/etc/logstash_agent.conf &

 

完成!!!!


本文出自 “飞一般的爱情故事” 博客,请务必保留此出处http://niubdada.blog.51cto.com/3511133/1657324

Logstash+ElasticSearch+Kibana4日志分析系统安装详解


推荐阅读
  • 本文介绍了使用Java实现大数乘法的分治算法,包括输入数据的处理、普通大数乘法的结果和Karatsuba大数乘法的结果。通过改变long类型可以适应不同范围的大数乘法计算。 ... [详细]
  • 本文讨论了如何优化解决hdu 1003 java题目的动态规划方法,通过分析加法规则和最大和的性质,提出了一种优化的思路。具体方法是,当从1加到n为负时,即sum(1,n)sum(n,s),可以继续加法计算。同时,还考虑了两种特殊情况:都是负数的情况和有0的情况。最后,通过使用Scanner类来获取输入数据。 ... [详细]
  • 本文介绍了OC学习笔记中的@property和@synthesize,包括属性的定义和合成的使用方法。通过示例代码详细讲解了@property和@synthesize的作用和用法。 ... [详细]
  • Mac OS 升级到11.2.2 Eclipse打不开了,报错Failed to create the Java Virtual Machine
    本文介绍了在Mac OS升级到11.2.2版本后,使用Eclipse打开时出现报错Failed to create the Java Virtual Machine的问题,并提供了解决方法。 ... [详细]
  • 在说Hibernate映射前,我们先来了解下对象关系映射ORM。ORM的实现思想就是将关系数据库中表的数据映射成对象,以对象的形式展现。这样开发人员就可以把对数据库的操作转化为对 ... [详细]
  • 1,关于死锁的理解死锁,我们可以简单的理解为是两个线程同时使用同一资源,两个线程又得不到相应的资源而造成永无相互等待的情况。 2,模拟死锁背景介绍:我们创建一个朋友 ... [详细]
  • 本文介绍了在Mac上搭建php环境后无法使用localhost连接mysql的问题,并通过将localhost替换为127.0.0.1或本机IP解决了该问题。文章解释了localhost和127.0.0.1的区别,指出了使用socket方式连接导致连接失败的原因。此外,还提供了相关链接供读者深入了解。 ... [详细]
  • Java验证码——kaptcha的使用配置及样式
    本文介绍了如何使用kaptcha库来实现Java验证码的配置和样式设置,包括pom.xml的依赖配置和web.xml中servlet的配置。 ... [详细]
  • 高质量SQL书写的30条建议
    本文提供了30条关于优化SQL的建议,包括避免使用select *,使用具体字段,以及使用limit 1等。这些建议是基于实际开发经验总结出来的,旨在帮助读者优化SQL查询。 ... [详细]
  • 猜字母游戏
    猜字母游戏猜字母游戏——设计数据结构猜字母游戏——设计程序结构猜字母游戏——实现字母生成方法猜字母游戏——实现字母检测方法猜字母游戏——实现主方法1猜字母游戏——设计数据结构1.1 ... [详细]
  • 本文介绍了lua语言中闭包的特性及其在模式匹配、日期处理、编译和模块化等方面的应用。lua中的闭包是严格遵循词法定界的第一类值,函数可以作为变量自由传递,也可以作为参数传递给其他函数。这些特性使得lua语言具有极大的灵活性,为程序开发带来了便利。 ... [详细]
  • 本文介绍了在开发Android新闻App时,搭建本地服务器的步骤。通过使用XAMPP软件,可以一键式搭建起开发环境,包括Apache、MySQL、PHP、PERL。在本地服务器上新建数据库和表,并设置相应的属性。最后,给出了创建new表的SQL语句。这个教程适合初学者参考。 ... [详细]
  • HDU 2372 El Dorado(DP)的最长上升子序列长度求解方法
    本文介绍了解决HDU 2372 El Dorado问题的一种动态规划方法,通过循环k的方式求解最长上升子序列的长度。具体实现过程包括初始化dp数组、读取数列、计算最长上升子序列长度等步骤。 ... [详细]
  • 本文讨论了Alink回归预测的不完善问题,指出目前主要针对Python做案例,对其他语言支持不足。同时介绍了pom.xml文件的基本结构和使用方法,以及Maven的相关知识。最后,对Alink回归预测的未来发展提出了期待。 ... [详细]
  • 本文介绍了一种解析GRE报文长度的方法,通过分析GRE报文头中的标志位来计算报文长度。具体实现步骤包括获取GRE报文头指针、提取标志位、计算报文长度等。该方法可以帮助用户准确地获取GRE报文的长度信息。 ... [详细]
author-avatar
xh7212176
这个家伙很懒,什么也没留下!
PHP1.CN | 中国最专业的PHP中文社区 | DevBox开发工具箱 | json解析格式化 |PHP资讯 | PHP教程 | 数据库技术 | 服务器技术 | 前端开发技术 | PHP框架 | 开发工具 | 在线工具
Copyright © 1998 - 2020 PHP1.CN. All Rights Reserved | 京公网安备 11010802041100号 | 京ICP备19059560号-4 | PHP1.CN 第一PHP社区 版权所有