SpringBoot搭建ELK，这才是正确看日志的方式

Java456

在看大型网站的中间件技术&＃xff0c;对于Elasticsearch有点兴趣&＃xff0c;所以将配置流程记录了一下。

“

ELK实际上是三个工具&＃xff0c;Elastricsearch &＃43; LogStash &＃43; Kibana&＃xff0c;通过ELK&＃xff0c;用来收集日志还有进行日志分析&＃xff0c;最后通过可视化UI进行展示。一开始业务量比较小的时候&＃xff0c;通过简单的SLF4J&＃43;Logger在服务器打印日志&＃xff0c;通过grep进行简单查询&＃xff0c;但是随着业务量增加&＃xff0c;数据量也会不断增加&＃xff0c;所以使用ELK可以进行大数量的日志收集和分析

”

在环境配置中&＃xff0c;主要介绍Mac和linux配置&＃xff0c;windows系统大致相同&＃xff0c;当然&＃xff0c;前提是大家都安装了JDK1.8及以上版本~

[root&＃64;VM_234_23_centos ~]# java -version
java version "1.8.0_161"
Java(TM) SE Runtime Environment (build 1.8.0_161-b12)
Java HotSpot(TM) 64-Bit Server VM (build 25.161-b12, mixed mode)


“

注意

高版本的ELK同样需要高版本的JDK支持&＃xff0c;本文配置的ELK版本是6.0&＃43;&＃xff0c;所以需要的JDK版本不小于1.8

”

“

Elasticsearch 是一个分布式的 RESTful 风格的搜索和数据分析引擎&＃xff0c;能够解决不断涌现出的各种用例。作为 Elastic Stack 的核心&＃xff0c;它集中存储您的数据&＃xff0c;帮助您发现意料之中以及意料之外的情况。

”

Mac安装和运行

安装&＃xff1a;brew install elasticsearch
运行&＃xff1a;elasticsearch


linux: 从Elasticsearch官方地址下载&＃xff08;也可以下载完&＃xff0c;通过ftp之类的工具传上去&＃xff09;&＃xff0c;gz文件的话通过tar进行解压缩&＃xff0c;然后进入bin目录下运行软件

[root&＃64;VM_234_23_centos app]# curl -L -O https://artifacts.elastic.co/downloads/elasticsearch/elasticsearch-6.2.4.tar.gz
[root&＃64;VM_234_23_centos app]# tar -zxvf elasticsearch-6.2.4.tar.gz
[root&＃64;VM_234_23_centos app]# cd elasticsearch-6.2.4
[root&＃64;VM_234_23_centos elasticsearch-6.2.4]# ./bin/elasticsearch


“

注意

在Linux机器上&＃xff0c;运行elasticsearch需要一个新的用户组&＃xff0c;文章最后有Elastic在linux安装的踩坑记录

”

“

Logstash 是开源的服务器端数据处理管道&＃xff0c;能够同时从多个来源采集数据&＃xff0c;转换数据&＃xff0c;然后将数据发送到您最喜欢的 “存储库” 中。&＃xff08;我们的存储库当然是 Elasticsearch。&＃xff09;-官方卖萌

”

1. 软件安装

Mac安装&＃xff1a;

brew install logstash


linux安装&＃xff1a;

[root&＃64;VM_234_23_centos app]# curl -L -O https://artifacts.elastic.co/downloads/logstash/logstash-6.3.2.tar.gz% Total    % Received % Xferd  Average Speed   Time    Time     Time  CurrentDload  Upload   Total   Spent    Left  Speed
100  137M  100  137M    0     0  5849k      0  0:00:24  0:00:24 --:--:-- 6597k
[root&＃64;VM_234_23_centos app]# tar -zxvf logstash-6.3.2.tar.gz


2. 修改配置文件

vim /etc/logstash.conf


conf文件&＃xff0c;指定要使用的插件&＃xff0c;和配置对应的elasticsearch的hosts

input { stdin { } }
output {elasticsearch { hosts &＃61;> ["localhost:9200"] }stdout { codec &＃61;> rubydebug }
}


3. 运行

bin/logstash -f logstash.conf


4. 访问http://localhost:9600/

{"host": "&＃61;-&＃61;","version": "6.2.4","http_address": "127.0.0.1:9600","id": "5b47e81f-bdf8-48fc-9537-400107a13bd2","name": "&＃61;-&＃61;","build_date": "2018-04-12T22:29:17Z","build_sha": "a425a422e03087ac34ad6949f7c95ec6d27faf14","build_snapshot": false
}


在elasticsearch日志中&＃xff0c;也能看到logstash正常加入的日志

[2018-08-16T14:08:36,436][INFO ][o.e.c.m.MetaDataIndexTemplateService] [f2s1SD8] adding template [logstash] for index patterns [logstash-*]


看到这种返回值&＃xff0c;表示已经成功安装和启动

“

踩坑

在运行的那一步&＃xff0c;有可能遇到内存分配错误

Java HotSpot(TM) 64-Bit Server VM warning: INFO: os::commit_memory(0x00000000c5330000, 986513408, 0) failed; error&＃61;’Cannot allocate memory’ (errno&＃61;12)

这个错误很明显就是内存不足&＃xff0c;由于个人购买的是腾讯云1G内存的服务器&＃xff08;如果是好&＃xff0c;请随意购买更高的配置&＃61;-&＃61;&＃xff09;&＃xff0c;已经运行了elasticsearch&＃xff0c;导致logstash分配不到足够的内存&＃xff0c;所以最后要修改一下jvm配置。

”

[root&＃64;VM_234_23_centos logstash-6.3.2]# cd config/
[root&＃64;VM_234_23_centos config]# ll
total 28
-rw-r--r-- 1 root root 1846 Jul 20 14:19 jvm.options
-rw-r--r-- 1 root root 4466 Jul 20 14:19 log4j2.properties
-rw-r--r-- 1 root root 8097 Jul 20 14:19 logstash.yml
-rw-r--r-- 1 root root 3244 Jul 20 14:19 pipelines.yml
-rw-r--r-- 1 root root 1696 Jul 20 14:19 startup.options
[root&＃64;VM_234_23_centos config]# vim jvm.options


将-Xms1g -Xmx1g修改为

-Xms256m  
-Xmx256m


然后就能正常启动了~~

1. 软件安装

“

Kibana 让您能够可视化 Elasticsearch 中的数据并操作 Elastic Stack&＃xff0c;因此您可以在这里解开任何疑问&＃xff1a;例如&＃xff0c;为何会在凌晨 2:00 被传呼&＃xff0c;雨水会对季度数据造成怎样的影响。&＃xff08;而且展示的图标十分酷炫&＃xff09;

”

Mac安装

brew install kibana


linux安装&＃xff0c;官方下载地址

[root&＃64;VM_234_23_centos app]# curl -L -O https://artifacts.elastic.co/downloads/kibana/kibana-6.3.2-linux-x86_64.tar.gz% Total    % Received % Xferd  Average Speed   Time    Time     Time  CurrentDload  Upload   Total   Spent    Left  Speed0  195M    0  271k    0     0  19235      0  2:57:54  0:00:14  2:57:40 26393


在这一步&＃xff0c;有可能下载速度奇慢&＃xff0c;所以我本地下载好之后&＃xff0c;通过rz命令传输到服务器

[root&＃64;VM_234_23_centos app]# rz
rz waiting to receive.
Starting zmodem transfer.  Press Ctrl&＃43;C to cancel.
Transferring kibana-6.3.2-linux-x86_64.tar.gz...100%  200519 KB     751 KB/sec    00:04:27       0 Errors  [root&＃64;VM_234_23_centos app]# tar -zxvf kibana-6.3.2-linux-x86_64.tar.gz


2. 修改配置

“

修改 config/kibana.yml 配置文件&＃xff0c;设置 elasticsearch.url 指向 Elasticsearch 实例。

如果跟我一样使用默认的配置&＃xff0c;可以不需要修改该文件

”

3. 启动

[root&＃64;VM_234_23_centos kibana]# ./bin/kibana


4. 访问 http://localhost:5601/app/kibana#/home?_g&＃61;()

界面显示了这么多功能&＃xff0c;下面通过整合SLF4J&＃43;LogBack

1. 修改logstash.conf后&＃xff0c;重新启动logstash

input { # stdin { }tcp { # host:port就是上面appender中的 destination&＃xff0c;# 这里其实把logstash作为服务&＃xff0c;开启9250端口接收logback发出的消息 host &＃61;> "127.0.0.1" port &＃61;> 9250 mode &＃61;> "server" tags &＃61;> ["tags"] codec &＃61;> json_lines }
}
output {elasticsearch { hosts &＃61;> ["localhost:9200"] }stdout { codec &＃61;> rubydebug }
}


2. 在Java应用中引用依赖

net.logstash.logbacklogstash-logback-encoder5.2



3. 在Logback.xml中配置日志输出


localhost:9250{"appname":"ye_test"}
  



由于我在第一步骤中&＃xff0c;没有指定对应的index&＃xff0c;所以在服务启动的时候&＃xff0c;日志采集器Logstash帮我自动创建了logstash-timestamp的index。

4. 在kibana中添加index索引

5. 在左边discover中查看索引信息

6. 添加可视化图表Visualize

还有更多功能还在探索中&＃xff0c;首先环境大起来才会用动力继续去学习~

“

uncaught exception in thread [main] org.elasticsearch.bootstrap.StartupException: java.lang.RuntimeException: can not run elasticsearch as root

”

原因&＃xff1a;不能使用Root权限登录

解决方案&＃xff1a;切换用户

[root&＃64;VM_234_23_centos ~]# groupadd es
[root&＃64;VM_234_23_centos ~]# useradd es -g es -p es
[root&＃64;VM_234_23_centos ~]# chown es:es /home/app/elasticsearch/
# 切换用户&＃xff0c;记得su - &＃xff0c;这样才能获得环境变量
[root&＃64;VM_234_23_centos ~]# sudo su - es


“

Exception in thread “main” java.nio.file.AccessDeniedException:

”

错误原因&＃xff1a;使用非 root用户启动ES&＃xff0c;而该用户的文件权限不足而被拒绝执行。

解决方法&＃xff1a;chown -R 用户名:用户名 文件&＃xff08;目录&＃xff09;名

例如&＃xff1a;chown -R abc:abc searchengine 再启动ES就正常了

[2018-07-13T10:19:44,775][INFO ][o.e.p.PluginsService     ] [f2s1SD8] loaded module [aggs-matrix-stats]
[2018-07-13T10:19:44,779][INFO ][o.e.p.PluginsService     ] [f2s1SD8] loaded module [analysis-common]
[2018-07-13T10:19:44,780][INFO ][o.e.p.PluginsService     ] [f2s1SD8] loaded module [ingest-common]
[2018-07-13T10:19:44,780][INFO ][o.e.p.PluginsService     ] [f2s1SD8] loaded module [lang-expression]
[2018-07-13T10:19:44,780][INFO ][o.e.p.PluginsService     ] [f2s1SD8] loaded module [lang-mustache]
[2018-07-13T10:19:44,780][INFO ][o.e.p.PluginsService     ] [f2s1SD8] loaded module [lang-painless]
[2018-07-13T10:19:44,780][INFO ][o.e.p.PluginsService     ] [f2s1SD8] loaded module [mapper-extras]
[2018-07-13T10:19:44,780][INFO ][o.e.p.PluginsService     ] [f2s1SD8] loaded module [parent-join]
[2018-07-13T10:19:44,780][INFO ][o.e.p.PluginsService     ] [f2s1SD8] loaded module [percolator]
[2018-07-13T10:19:44,780][INFO ][o.e.p.PluginsService     ] [f2s1SD8] loaded module [rank-eval]
[2018-07-13T10:19:44,781][INFO ][o.e.p.PluginsService     ] [f2s1SD8] loaded module [reindex]
[2018-07-13T10:19:44,781][INFO ][o.e.p.PluginsService     ] [f2s1SD8] loaded module [repository-url]
[2018-07-13T10:19:44,781][INFO ][o.e.p.PluginsService     ] [f2s1SD8] loaded module [transport-netty4]
[2018-07-13T10:19:44,781][INFO ][o.e.p.PluginsService     ] [f2s1SD8] loaded module [tribe]
[2018-07-13T10:19:44,781][INFO ][o.e.p.PluginsService     ] [f2s1SD8] loaded module [x-pack-core]
[2018-07-13T10:19:44,781][INFO ][o.e.p.PluginsService     ] [f2s1SD8] loaded module [x-pack-deprecation]
[2018-07-13T10:19:44,781][INFO ][o.e.p.PluginsService     ] [f2s1SD8] loaded module [x-pack-graph]
[2018-07-13T10:19:44,781][INFO ][o.e.p.PluginsService     ] [f2s1SD8] loaded module [x-pack-logstash]
[2018-07-13T10:19:44,782][INFO ][o.e.p.PluginsService     ] [f2s1SD8] loaded module [x-pack-ml]
[2018-07-13T10:19:44,782][INFO ][o.e.p.PluginsService     ] [f2s1SD8] loaded module [x-pack-monitoring]
[2018-07-13T10:19:44,782][INFO ][o.e.p.PluginsService     ] [f2s1SD8] loaded module [x-pack-rollup]
[2018-07-13T10:19:44,782][INFO ][o.e.p.PluginsService     ] [f2s1SD8] loaded module [x-pack-security]
[2018-07-13T10:19:44,782][INFO ][o.e.p.PluginsService     ] [f2s1SD8] loaded module [x-pack-sql]
[2018-07-13T10:19:44,782][INFO ][o.e.p.PluginsService     ] [f2s1SD8] loaded module [x-pack-upgrade]
[2018-07-13T10:19:44,782][INFO ][o.e.p.PluginsService     ] [f2s1SD8] loaded module [x-pack-watcher]
[2018-07-13T10:19:44,783][INFO ][o.e.p.PluginsService     ] [f2s1SD8] no plugins loaded
Killed


修改config目录下的jvm.options&＃xff0c;将堆的大小设置小一点

# Xms represents the initial size of total heap space
# Xmx represents the maximum size of total heap space-Xms512m
-Xmx512m


“

max virtual memory areas vm.max_map_count [65530] is too low, increase to at least [262144]

”

[2018-07-13T14:02:06,749][DEBUG][o.e.a.ActionModule       ] Using REST wrapper from plugin org.elasticsearch.xpack.security.Security
[2018-07-13T14:02:07,249][INFO ][o.e.d.DiscoveryModule    ] [f2s1SD8] using discovery type [zen]
[2018-07-13T14:02:09,173][INFO ][o.e.n.Node               ] [f2s1SD8] initialized
[2018-07-13T14:02:09,174][INFO ][o.e.n.Node               ] [f2s1SD8] starting ...
[2018-07-13T14:02:09,539][INFO ][o.e.t.TransportService   ] [f2s1SD8] publish_address {10.105.234.23:9300}, bound_addresses {0.0.0.0:9300}
[2018-07-13T14:02:09,575][INFO ][o.e.b.BootstrapChecks    ] [f2s1SD8] bound or publishing to a non-loopback address, enforcing bootstrap checks
ERROR: [1] bootstrap checks failed
[1]: max virtual memory areas vm.max_map_count [65530] is too low, increase to at least [262144]
[2018-07-13T14:02:09,621][INFO ][o.e.n.Node               ] [f2s1SD8] stopping ...
[2018-07-13T14:02:09,726][INFO ][o.e.n.Node               ] [f2s1SD8] stopped
[2018-07-13T14:02:09,726][INFO ][o.e.n.Node               ] [f2s1SD8] closing ...
[2018-07-13T14:02:09,744][INFO ][o.e.n.Node               ] [f2s1SD8] closed


需要修改虚拟内存的大小&＃xff08;在root权限下&＃xff09;

[root&＃64;VM_234_23_centos elasticsearch]# vim /etc/sysctl.conf
# 插入下列代码后保存退出
vm.max_map_count&＃61;655360
[root&＃64;VM_234_23_centos elasticsearch]# sysctl -p
# 最后重启elastricsearch