热门标签 | HotTags
当前位置:  开发笔记 > 编程语言 > 正文

ELK6.0环境搭建及配置

ELK环境搭建及配置ElasticSearch在5.x后的安装和插件的官方执行更好了,head插件官方默认集成在kibana的devtools里,支持rpm包方式安装,x-pack安装后支持权限

ELK环境搭建及配置

ElasticSearch在5.x后的安装和插件的官方执行更好了,head插件官方默认集成在kibana的dev tools里,支持rpm包方式安装,x-pack安装后支持权限及各种报表功能。

一、安装ES

1. 安装JAVA SDK

类似阿里云和aws一般默认的操作系统都自带了java环境,检查java安装环境使用java -version查看。

目前安装的ELK版本是5.6.4版本,需要java8以上(java有两个版本,sdk版本和外部版本,sdk版本是1.8.x)就满足要求了。

# yum install java-1.8.0-openjdk
2. 安装elasticsearch

下载地址: https://www.elastic.co/downloads/elasticsearch

下载对应的版本,下载后解压到想安装的文件夹中,因为es是绿色版本所以解压后就可以使用

./bin/elasticsearch其实是一个shell脚本,最终还是启动在java的虚拟机环境中,并加入了一定参数。

# rpm -ivh elasticsearch-5.6.4.rpm
# chkconfig --add elasticsearch
# chkconfig elasticsearch on 
# vim etc/elasticsearch/elasticsearch.yml
# /etc/init.d/elasticsearch.rpmnew start

可执行文件目录:/usr/share/elasticsearch/

配置文件目录: /etc/elasticsearch/

日志文件目录:/var/log/elasticsearch/

data文件目录:/var/lib/elasticsearch/

pid文件路径:/var/run/elasticsearch/

日志文件:/var/log/elasticsearch/

3. 启动elasticsearch

守护进程 ./bin/elasticsearch -d

前台运行 ./bin/elasticsearch

配合elasticsearch-servicewrapper 插件将脚本服务化更易管理 (2.x加不再支持,弃用)

运行日志在../log/下,每一个索引一个文件,每日一个文件,包括运行的慢日志和服务日志。

4. 测试elasticsearch

curl -XGET http://xxx:9200/?pretty

5. 集群配置

https://www.ibm.com/support/knowledgecenter/zh/SSFPJS_8.5.6/com.ibm.wbpm.main.doc/topics/rfps_esearch_configoptions.html

discovery.zen.ping.unicast.hosts : ["17.16.0.1:9300", "172.16.2.1:9300"]

默认通信的TCP端口是9300,也可以自定义修改,如果集群连接失败可查看是否启动成功,并在elasticsearch/kibana的日志中查看具体原因并排查,配置定义在加入的新服务器里,使用_cat/nodes?v可查看节点信息。

6. 常用api

_cat/health?v 查看集群监控情况

_cat/nodes?v 集群节点情况

_cat/indices 索引情况

二、安装Kibana

下载页面:https://www.elastic.co/cn/downloads/kibana

安装rpm包,我的电脑是x64的所以下载64位的安装包,rpm包安装完毕后会自动在/etc/init.d/下生成执行脚本,提供给service/chkconfig,更方便我们使用

# wget https://artifacts.elastic.co/downloads/kibana/kibana-5.6.4-x86_64.rpm
# rpm -ivh kibana-5.6.4-x86_64.rpm
# vim /etc/kibana/kibana.yml

三、安装Beats

Beats与Logstash的主要区别是Beats是轻量级的数据采集器,Beats包含Filebeat(普通文件采集)、

Metricbeat(系统和服务指标收集)、Packetbeat(网络相关数据采集)、Winlogbeat(windows日志)、

Heartbeat(运行时间监控、ping检测)、Auditbeat 、Topbeat等。

1. 安装Heartbeat客户端

安装Heartbeat并将数据写入到ES中,并结合Kibana平台进行数据展示报表和检索功能

下载地址:https://www.elastic.co/downloads/beats/heartbeat

项目介绍:https://www.elastic.co/cn/products/beats/heartbeat

启动 /etc/init.d/heartbeat start

四、安装x-pack插件

官方下载地址:https://www.elastic.co/downloads/x-pack

官方文档地址:https://www.elastic.co/guide/en/x-pack/current/xpack-introduction.html

https://www.elastic.co/gu ide/en/x-pack/6.0/setting-up-authentication.html#set-built-in-user-passwords

1. elasticsearch安装x-pack插件
  • 如果是集群架构,则每一台新机器都需要安装插件
  • kibana安装了x-pack,elasticsearch也必须要安装
# /usr/share/elasticsea     rch/bin/elasticsearch-plugin install x-pack
# /usr/share/kibana/bin/kibana-plugin install x-pack
2. 编辑配置文件
# vim /etc/elasticsearch/x-pack/
3. 用户管理
# /usr/share/elasticsearch/bin/x-pack/users useradd test -p 123456 -r superuser

Installation overview on Elasticsearch

如果设置的密码不能登录,则可以创建内置用户,登录成功后再修改密码。

官方说明:https://www.elastic.co/guide/en/x-pack/current/security-getting-started.html

/usr/share/elasticsearch/bin/x-pack/users useradd test -p 123456 -r superuser
vim /etc/kibana/kibana.yml

x-pack有很多内置角色,具体可以看官方说明superuser是最高权限,详见:

https://www.elastic.co/guide/en/x-pack/current/built-in-roles.html

Kibana支持在elasticsearch、kibana、logstath都安装,但是各个支持的功能点不一样,设置也不太一样,

比如es的x-pack就不支持Graph,具体参考以下链接:

https://www.elastic.co/guide/en/elasticsearch/reference/6.0/settings-xpack.html

常见问题及注意
  1. Elasticsearch is still initializing the Monitoring indices

解决:删除相关索引

http://www.4wei.cn/archives/1002492

  1. transport.tcp.port 自定义discovery集群发行端口

  2. 如果安装了x-pack,则集群每台机器都需要安装

  3. 如果shell执行则需要注意目录的每个文件的所属者都要是执行用户的,否则java会抛出AccessDenied错误


推荐阅读
  • 如何将TS文件转换为M3U8直播流:HLS与M3U8格式详解
    在视频传输领域,MP4虽然常见,但在直播场景中直接使用MP4格式存在诸多问题。例如,MP4文件的头部信息(如ftyp、moov)较大,导致初始加载时间较长,影响用户体验。相比之下,HLS(HTTP Live Streaming)协议及其M3U8格式更具优势。HLS通过将视频切分成多个小片段,并生成一个M3U8播放列表文件,实现低延迟和高稳定性。本文详细介绍了如何将TS文件转换为M3U8直播流,包括技术原理和具体操作步骤,帮助读者更好地理解和应用这一技术。 ... [详细]
  • HTTP(HyperTextTransferProtocol)是超文本传输协议的缩写,它用于传送www方式的数据。HTTP协议采用了请求响应模型。客服端向服务器发送一 ... [详细]
  • 阿里云 Aliplayer高级功能介绍(八):安全播放
    如何保障视频内容的安全,不被盗链、非法下载和传播,阿里云视频点播已经有一套完善的机 ... [详细]
  • centos 7.0 lnmp成功安装过程(很乱)
    下载nginx[rootlocalhostsrc]#wgethttp:nginx.orgdownloadnginx-1.7.9.tar.gz--2015-01-2412:55:2 ... [详细]
  • 解决Parallels Desktop错误15265的方法
    本文详细介绍了在使用Parallels Desktop时遇到错误15265的多种解决方案,包括检查网络连接、关闭代理服务器和修改主机文件等步骤。 ... [详细]
  • DVWA学习笔记系列:深入理解CSRF攻击机制
    DVWA学习笔记系列:深入理解CSRF攻击机制 ... [详细]
  • 基于Net Core 3.0与Web API的前后端分离开发:Vue.js在前端的应用
    本文介绍了如何使用Net Core 3.0和Web API进行前后端分离开发,并重点探讨了Vue.js在前端的应用。后端采用MySQL数据库和EF Core框架进行数据操作,开发环境为Windows 10和Visual Studio 2019,MySQL服务器版本为8.0.16。文章详细描述了API项目的创建过程、启动步骤以及必要的插件安装,为开发者提供了一套完整的开发指南。 ... [详细]
  • 本文介绍了如何利用Struts1框架构建一个简易的四则运算计算器。通过采用DispatchAction来处理不同类型的计算请求,并使用动态Form来优化开发流程,确保代码的简洁性和可维护性。同时,系统提供了用户友好的错误提示,以增强用户体验。 ... [详细]
  • 在优化Nginx与PHP的高效配置过程中,许多教程提供的配置方法存在诸多问题或不良实践。本文将深入探讨这些常见错误,并详细介绍如何正确配置Nginx和PHP,以实现更高的性能和稳定性。我们将从Nginx配置文件的基本指令入手,逐步解析每个关键参数的最优设置,帮助读者理解其背后的原理和实际应用效果。 ... [详细]
  • 利用爬虫技术抓取数据,结合Fiddler与Postman在Chrome中的应用优化提交流程
    本文探讨了如何利用爬虫技术抓取目标网站的数据,并结合Fiddler和Postman工具在Chrome浏览器中的应用,优化数据提交流程。通过详细的抓包分析和模拟提交,有效提升了数据抓取的效率和准确性。此外,文章还介绍了如何使用这些工具进行调试和优化,为开发者提供了实用的操作指南。 ... [详细]
  • 使用HTML和JavaScript实现视频截图功能
    本文介绍了如何利用HTML和JavaScript实现从远程MP4、本地摄像头及本地上传的MP4文件中截取视频帧,并展示了具体的实现步骤和示例代码。 ... [详细]
  • 本文介绍了多种开源数据库及其核心数据结构和算法,包括MySQL的B+树、MVCC和WAL,MongoDB的tokuDB和cola,boltDB的追加仅树和mmap,levelDB的LSM树,以及内存缓存中的一致性哈希。 ... [详细]
  • 在JavaWeb开发中,文件上传是一个常见的需求。无论是通过表单还是其他方式上传文件,都必须使用POST请求。前端部分通常采用HTML表单来实现文件选择和提交功能。后端则利用Apache Commons FileUpload库来处理上传的文件,该库提供了强大的文件解析和存储能力,能够高效地处理各种文件类型。此外,为了提高系统的安全性和稳定性,还需要对上传文件的大小、格式等进行严格的校验和限制。 ... [详细]
  • 为了在Hadoop 2.7.2中实现对Snappy压缩和解压功能的原生支持,本文详细介绍了如何重新编译Hadoop源代码,并优化其Native编译过程。通过这一优化,可以显著提升数据处理的效率和性能。此外,还探讨了编译过程中可能遇到的问题及其解决方案,为用户提供了一套完整的操作指南。 ... [详细]
  • 在PHP中实现腾讯云接口签名,以完成人脸核身功能的对接与签名配置时,需要注意将文档中的POST请求改为GET请求。具体步骤包括:使用你的`secretKey`生成签名字符串`$srcStr`,格式为`GET faceid.tencentcloudapi.com?`,确保参数正确拼接,避免因请求方法错误导致的签名问题。此外,还需关注API的其他参数要求,确保请求的完整性和安全性。 ... [详细]
author-avatar
8prye孙瑞D
这个家伙很懒,什么也没留下!
PHP1.CN | 中国最专业的PHP中文社区 | DevBox开发工具箱 | json解析格式化 |PHP资讯 | PHP教程 | 数据库技术 | 服务器技术 | 前端开发技术 | PHP框架 | 开发工具 | 在线工具
Copyright © 1998 - 2020 PHP1.CN. All Rights Reserved | 京公网安备 11010802041100号 | 京ICP备19059560号-4 | PHP1.CN 第一PHP社区 版权所有