热门标签 | HotTags
当前位置:  开发笔记 > 编程语言 > 正文

Zookeeper总结与面试题汇总

Zookeeper总结与面试题汇总,Go语言社区,Golang程序员人脉社

1.zookeeper的用处

从工作机制上来说,Zk = 文件系统 + 通知机制
想个哨兵一样,它负责存储和管理大家都关心的数据,然后接收观察者的注册,一旦这些数据的状态发生变化,Zk 就通知已经在Zookeeper 已经注册的观察者做出相应的反应。


2.zookeeper的数据结构(树)? 讲一下基于它实现的分布式锁?基于它实现的Master选举?基于它的集群管理?zookeeper的注册(watch)机制和轮询机制的使用场景?

1. Zk 的数据结构是树,同样数据结构的还有 linux 文件系统和 hdfs 文件系统。
2. 基于 Zookeeper 实现分布式锁

基于 zookeeper 实现分布式锁的方案,由于zookeeper 有以下特点:


  • 1.维护了一个有层次的数据节点,类似文件系统(因为Zookeeper本身是树结构)。
  • 2.有以下数据节点:临时节点、永久节点、临时有序节点(分布式锁是基于该类型节点)、持久有序节点。
  • 3.Zookeeper 可以和 client 通过心跳的机制保持长连接,如果客户端连接zookeeper 创建了一个临时节点,那么这个客户端与断开连接后会自动删除(心跳机制创建的节点都是临时节点)。
  • 4.zookeeper 的节点上可以注册用户事件(监听事件),如果节点数据删除或者更新都可以触发自定义的监听事件。
  • 5.zookeeper 保持数据的全局一致性,也叫统一视图,各服务对于状态信息获取满足一致性。
    在每一个节点下面创建节点时,可以选择创建类型时有序(ephemeral_sequential persisitent_sequential),那么在新节点的后面就会加上一个次序编号,这个次序编号,是上一个生成的次序编号加 1.

在这里插入图片描述
问题来了:讲一下如何用 zookeeper 实现分布式锁?

三个步骤:加锁 -》 获取锁-》 释放锁


3. 展开讲下 ZK 的 leader 选举机制

(1) 主要基于半数机制:集群中半数以上的机器存活,就认为集群可用,所以 Zk 适合装在奇数台机器上,Zk选举最少需要三台机器,最少需要两台运行良好的机器,这样三台哪怕挂掉一台机器,也能选出leader。

(2)哪些情况下需要进行选举?并描述选举过程
<1> 服务器初始化启动时,需要选取 leader
<2> 服务器运行期间无法和leader 保持连接
对于情况一:这里以一个简单的例子说明整个选举流程,假设五台服务器组成 Zk 集群,他们的 id 为 1 ~ 5 ,它们都是最新启动的,没有什么历史数据,假设这些服务器依次启动:
开始:

a. 服务器 1 启动,发起一次选举,投自己一票,此时服务器 1 票数 为1,不够半数 3 以上,选举无法完成,服务器 1 保持 为Looking (它的票可以在接下来的轮次中可以投给别人)

b. 服务器 2 启动,再发起一次选举, 服务器 1 投自己, 服务器 2 投自己,二者交换投票选票信息,此时服务器 1 发现 服务器 2 的 id 比自己大,所以改投给服务器 2 ,此时 服务器1为 0 票,服务器 2 为 2 票,但是不大于半数,所以,leader 没被选出来, 服务器 1 , 2 保持为 Looking 状态

c. 服务器 3 启动,发起一轮投票,此时 服务器 1 ,2 都改投服务器 3 ,服务器 3 为 3票,超过 半数,所以 服务器3 成为leader ,服务器 1,2 的状态更改为 Folowing, 服务器 3 更改为 Leading .

d.服务器 4 启动,发起投票,此时 1 2 3 已经不在时 Looking 状态,不会更改投票信息,交换投票信息后,服务器少数服从多数,改投 3 ,并更改状态为 Following

e. 服务器 5 启动,和 4 一样,少数服从多数。
leader 的选举保证了集群全局数据一致性。
(3)基于它的集群管理?zookeeper的注册(watch)机制和轮询机制的使用场景?
描述一下 Zk 的 注册(watch)机制:基于 Zk 上创建的节点,可以对这些节点绑定监听事件,比如监听节点的数据变更、节点删除、子节点状态变更等事件,通过这个事件机制,可以基于Zookeeper 实现分布式锁、集群管理如 集群节点的动态上下线检测、统一命名服务、统一配置管理、转负载均衡。

这里以服务器的动态上下线为例:

在这里插入图片描述


  1. zk 的监听原理(画图解释)
    在这里插入图片描述
    <1>首先得有一个 main() 线程.
    <2>创建一个Zookeeper 客户端,这个客户端对象就会创建两个线程,一个负责网络通信(connect),一个负责监听(listener).
    <3>通过 connect 将注册的监听事件发送给 Zookeeper.
    <4> 在 Zookeeper 的监听器列表中将注册的监听事件添加到列表中。
    <5>Zookeeper 监听到了有数据或者路径发生变化,就会将这个消息发送给listener.
    <6> listener 线程内部就会调用 process() 方法。
    扩展:常见的监听有两种,一种是数据的变化,一种是节点增减的变化。

8. ZK 的部署方式有哪几种?集群中的角色有哪些?集群中最少需要几台机器

<1> 部署方式有两种:单机模式,集群模式
<2>角色: follower 和 leader
<3>最少需要三台机器,至少两台正常工作


10. Zk 的常用命令

ls、ls2、create、delete、get、set


11. 目录结构

在这里插入图片描述
主要有 bin 目录:存放可执行文件、conf:存放配置文件、contrib:存放扩展包、lib:存放 jar 包,src:存放源码


12.数据存储在什么地方

数据存储可分为:1.内存存储 2.磁盘存储
Zk 的数据模型是树结构,在内存数据库中,存储了整棵树的内容,包括 所有的节点路径、节点数据、ACL(权限信息)、Zookeeper 会定时把这个数据存储在从磁盘上。


13.Zookeeper的同步过程,写操作流程,读操作流程


  • 数据同步过程:

    1. 数据同步是发生在整个集群 leader 选举之后的进行的,此时leader 是集群中数据最完整最新的节点。

    1. 由于所有的 znode 节点变更都要经过leader,leader 会为所有的follower 和 observer 创建 learnhandler 线程用于接收数据同步的请求。

    1. 当follower 和 observer 接收到 leader 发送的消息后,比较 zxid 的大小,如果zxid 小于 leader 的zxid ,则把节点最大的 zxid 发送给 leader, leader 会将大于该 zxid 的所有数据都同步到 follower ,完成同步后,通知该 follower 进入 update状态,follower 接收到 update 的信息后,就可接收 client 的请求了。
  • 写数据流程
    在这里插入图片描述


推荐阅读
  • 深入解析Hadoop的核心组件与工作原理
    本文详细介绍了Hadoop的三大核心组件:分布式文件系统HDFS、资源管理器YARN和分布式计算框架MapReduce。通过分析这些组件的工作机制,帮助读者更好地理解Hadoop的架构及其在大数据处理中的应用。 ... [详细]
  • 本文详细分析了Hive在启动过程中遇到的权限拒绝错误,并提供了多种解决方案,包括调整文件权限、用户组设置以及环境变量配置等。 ... [详细]
  • MapReduce原理是怎么剖析的
    这期内容当中小编将会给大家带来有关MapReduce原理是怎么剖析的,文章内容丰富且以专业的角度为大家分析和叙述,阅读完这篇文章希望大家可以有所收获。1 ... [详细]
  • Alluxio 1.5.0 版本发布:增强功能与优化
    Alluxio 1.5.0 开源版本引入了多项新特性和改进,旨在提升数据访问速度和系统互操作性。 ... [详细]
  • 本文深入探讨了Linux系统中网卡绑定(bonding)的七种工作模式。网卡绑定技术通过将多个物理网卡组合成一个逻辑网卡,实现网络冗余、带宽聚合和负载均衡,在生产环境中广泛应用。文章详细介绍了每种模式的特点、适用场景及配置方法。 ... [详细]
  • Hadoop入门与核心组件详解
    本文详细介绍了Hadoop的基础知识及其核心组件,包括HDFS、MapReduce和YARN。通过本文,读者可以全面了解Hadoop的生态系统及应用场景。 ... [详细]
  • 优化局域网SSH连接延迟问题的解决方案
    本文介绍了解决局域网内SSH连接到服务器时出现长时间等待问题的方法。通过调整配置和优化网络设置,可以显著缩短SSH连接的时间。 ... [详细]
  • 20100423:Fixes:更新批处理,以兼容WIN7。第一次系统地玩QT,于是诞生了此预备式:【QT版本4.6.0&#x ... [详细]
  • Hadoop发行版本选择指南:技术解析与应用实践
    本文详细介绍了Hadoop的不同发行版本及其特点,帮助读者根据实际需求选择最合适的Hadoop版本。内容涵盖Apache Hadoop、Cloudera CDH等主流版本的特性及应用场景。 ... [详细]
  • 深入解析:主流开源分布式文件系统综述
    本文详细探讨了几款主流的开源分布式文件系统,包括HDFS、MooseFS、Lustre、GlusterFS和CephFS,重点分析了它们的元数据管理和数据一致性机制,旨在为读者提供深入的技术见解。 ... [详细]
  • HBase运维工具全解析
    本文深入探讨了HBase常用的运维工具,详细介绍了每种工具的功能、使用场景及操作示例。对于HBase的开发人员和运维工程师来说,这些工具是日常管理和故障排查的重要手段。 ... [详细]
  • 本文详细介绍了 Java 中的 org.apache.hadoop.registry.client.impl.zk.ZKPathDumper 类,提供了丰富的代码示例和使用指南。通过这些示例,读者可以更好地理解如何在实际项目中利用 ZKPathDumper 类进行注册表树的转储操作。 ... [详细]
  • 本文详细介绍了如何通过RPM包在Linux系统(如CentOS)上安装MySQL 5.6。涵盖了检查现有安装、下载和安装RPM包、配置MySQL以及设置远程访问和开机自启动等步骤。 ... [详细]
  • 基于Node.js、Express、MongoDB和Socket.io的实时聊天应用开发
    本文详细介绍了使用Node.js、Express、MongoDB和Socket.io构建的实时聊天应用程序。涵盖项目结构、技术栈选择及关键依赖项的配置。 ... [详细]
  • 本文探讨了Hive作业中Map任务数量的确定方式,主要涉及HiveInputFormat和CombineHiveInputFormat两种InputFormat的分片计算逻辑。通过调整相关参数,可以有效控制Map任务的数量,进而优化Hive作业的性能。 ... [详细]
author-avatar
黄俊毅伶云政星
这个家伙很懒,什么也没留下!
PHP1.CN | 中国最专业的PHP中文社区 | DevBox开发工具箱 | json解析格式化 |PHP资讯 | PHP教程 | 数据库技术 | 服务器技术 | 前端开发技术 | PHP框架 | 开发工具 | 在线工具
Copyright © 1998 - 2020 PHP1.CN. All Rights Reserved | 京公网安备 11010802041100号 | 京ICP备19059560号-4 | PHP1.CN 第一PHP社区 版权所有