【zookeeper】zookeeper的ZAB协议

一、前言

二、ZAB概要

2.1 ZAB定义 &＃43; ZAB作用 &＃43; Zxid

ZAB定义&＃xff1a;ZAB 英文全称为 Zookeeper Atomic Broadcast&＃xff0c;译为 Zookeeper 原子广播协议&＃xff1b;
ZAB作用&＃xff1a;当ZooKeeper leader节点宕机时&＃xff0c;用于崩溃恢复的原子广播协议&＃xff0c;它保证了zookeeper集群的 数据一致性 和 命令全局有序性。

注意两个关键字&＃xff1a;数据一致性 和 命令全局有序性&＃xff0c;下面介绍&＃xff0c;当leader节点宕机的时候&＃xff0c;是怎样保证数据一致性和 命令全全局有序性的。

ZXID(64bit) &＃61; epoch(32bit) &＃43; counter(32bit)
Zxid定义&＃xff1a;Zxid是一个long型&＃xff08;64位&＃xff09;整数&＃xff0c;分为两部分&＃xff1a;纪元&＃xff08;epoch&＃xff09;部分和计数器&＃xff08;counter&＃xff09;部分&＃xff0c;是一个全局有序的数字。
epoch定义&＃xff1a;epoch表示当前集群所属的哪个leader&＃xff0c;leader的选举就类似一个朝代的更替&＃xff0c;你前朝的剑不能斩本朝的官&＃xff0c;用epoch代表当前命令的有效性。
counter定义&＃xff1a;counter是一个递增的数字。

2.2 Zookeeper集群中的三个角色&＃xff08;重点&＃xff1a;leader follower observer&＃xff09;

2.2.1 三个角色&＃xff1a;leader follower observer

Leader&＃xff1a;同一时间集群总只允许有一个Leader&＃xff0c;提供对客户端的读写功能&＃xff0c;负责将数据同步至各个节点&＃xff1b;
Follower&＃xff1a;提供对客户端读功能&＃xff0c;写请求则转发给Leader处理&＃xff0c;当Leader崩溃失联之后参与Leader选举&＃xff1b;
Observer&＃xff1a;与Follower不同的是但不参与Leader选举。

2.2.2 三个角色&＃xff1a;选举阶段 &＃43; 广播阶段

zookeeper集群三个角色注意(选举阶段)
关于leader&＃xff0c;有且只有一个&＃xff0c;没有(启动没有/有了宕机)就选举&＃xff0c;有了不需要了。
关于follower&＃xff0c;在两种情况的选举下&＃xff0c;拥有 投票权(可以贡献一票) 和 被选举权(可能被选举为leader)。
关于observer&＃xff0c;在两种情况的选举下&＃xff0c;无 投票权(无法贡献一票) 和 被选举权 &＃xff08;不可能被选举为leader&＃xff09;。
所有说&＃xff0c;当leader不存在的时候(启动/宕机)&＃xff0c;是所有的follower来投票&＃xff0c;是从follower中选举出一个超过半数follower同意的follower&＃xff0c;来成为leader。所以&＃xff0c;整个选举过程&＃xff0c;和observer 没半毛钱关闭。

zookeeper集群三个角色注意(广播阶段)
关于leader&＃xff0c;有且只有一个&＃xff0c;用来处理写请求&＃xff0c;是zookeeper集群中唯一一个处理请求的节点。
关于follower&＃xff0c;在读写操作下&＃xff0c;读操作自己处理&＃xff08;不过问leader节点&＃xff09;&＃xff0c;写请求发给leader&＃xff0c;写请求第二阶段所有follower投票过半即可
关于observer&＃xff0c;在读写操作下&＃xff0c;读操作自己处理&＃xff08;不过问leader节点&＃xff09;&＃xff0c;写请求发给leader&＃xff0c;写请求第二阶段投票没observer什么事。

所以说&＃xff0c;由于observer没有 投票权 和 被选举权&＃xff0c;选举时的过半数通过和写操作时的过半数ACK 都和它没关系&＃xff0c;都是follower和leader的事。

比喻&＃xff1a;leader是项目经理&＃xff08;技术攻关写请求&＃xff09;、follower是正式员工&＃xff08;平时干活读请求&＃xff0c;投票和被选举&＃xff09;、observer是外包员工&＃xff08;平时干活读请求&＃xff0c;无投票、无被选举&＃xff09;

2.2.2 observer存在的意义 &＃43; leader存在的意义 &＃43; follower存在的意义

问题&＃xff1a;observer存在的意义&＃xff08;选举过程中&＃xff0c;和observer没半毛钱关系&＃xff0c;为什么需要observer&＃xff09;?
标准答案&＃xff1a;增加observer节点&＃xff0c;在不影响吞吐量的情况下&＃xff0c;增加伸缩性&＃xff1b;
增加follower阶段&＃xff0c;在影响吞吐量的情况下&＃xff0c;增加伸缩性。
解释&＃xff1a;Zookeeper 需保证高可用和强一致性&＃xff0c;为了支持更多的客户端&＃xff0c;需要增加更多 Server&＃xff1b;
Server包括两种&＃xff0c;follower和observer(其实&＃xff0c;leader也是Server,但是只有一个)
follower 增多&＃xff0c;投票阶段延迟增大&＃xff0c;影响性能(影响吞吐量)&＃xff1b;引入一种不参与投票的follower&＃xff0c;就是observer&＃xff0c;因为不参与投票(投票是一种延迟大的内部消耗)&＃xff0c;所以完全用来处理用户连接&＃xff1b; Observers 接受客户端的连接&＃xff0c;并将写请求转发给 leader 节点&＃xff1b; 加入更多 Observer 节点&＃xff0c;提高伸缩性&＃xff0c;同时不影响吞吐率。

问题&＃xff1a;leader存在的意义&＃xff08;为什么需要一个leader&＃xff0c;为什么需要投票选举一个leader&＃xff0c;投票是一个延迟大的内部消耗&＃xff0c;为什么不去掉&＃xff09;
标准答案&＃xff1a;
1、集群server的数据一致性&＃xff1a;zookeeper是一个集群&＃xff0c;集群是由多个server组成的&＃xff0c;多个server要保证数据一致性&＃xff0c;这是集群的要求&＃xff0c;无法改变。
2、主从结构&＃xff1a;然后&＃xff0c;要保证多个server的数据一致性&＃xff0c;就要灵活处理好 读写请求&＃xff0c;就要做 主从结构&＃xff0c;主从结构处理的两种方式
&＃xff08;1&＃xff09;主写从读&＃xff0c;类似mysql集群读写分离&＃xff0c;主库处理写请求(insert|update|delete)&＃xff0c;从库读(select)&＃xff0c;然后按时间间隔使用binlog日志将主库中的数据同步到从库&＃xff0c;保证读到的数据是刚刚写入的&＃xff08;从库加入时&＃xff0c;第一次根据binlog全量复制主库&＃xff0c;以后根据binlog增量复制主库数据变化即可&＃xff09;&＃xff1b;优点&＃xff1a;这一种方式&＃xff0c;主库和从库&＃xff0c;每个数据库都运用起来的&＃xff0c;最大化集群吞吐量。
&＃xff08;2&＃xff09;主读写&＃xff0c;从仅同步&＃xff0c;类似kafka中的&＃xff0c;kafka本身就是基于分布式架构的&＃xff08;不用像mysql额外做分布式&＃xff09;&＃xff0c;partition分区&＃xff0c;部署在三个以上的broker中&＃xff0c;生产消息和消费消息都在主partition&＃xff0c;从partition仅仅同步&＃xff0c;当主partition宕机后&＃xff0c;才开始操作。
zookeeper使用的时类似mysql集群的&＃xff0c;
对于写操作&＃xff1a;所有的写操作必须要通过 Leader 完成再由 Leader 将写操作广播给其它服务器&＃xff0c;只要有超过半数节点&＃xff08;不包括 observer 节点&＃xff09;写入成功&＃xff0c;该写请求就会被提交&＃xff08;类 2PC 协议&＃xff09;。
对于读操作&＃xff1a;follower和observer 都可以直接处理并返回客户端的读请求&＃xff0c;但是都会将 写请求转发给 Leader 处理。

问题&＃xff1a;follower存在的意义&＃xff08;为什么需要一个follower&＃xff09;
标准答案&＃xff1a;zookeeper 是分布式架构&＃xff0c;follower是最基本的节点&＃xff0c;具有 投票权 和 被选举权&＃xff0c;唯一的leader节点从follower节点产生&＃xff08;observer没有被选举权&＃xff0c;不可能变为leader&＃xff09;
至于observer&＃xff0c;是没有 投票权 和 被选举权的 follower&＃xff0c;增加observer节点&＃xff0c;在不影响吞吐量的情况下&＃xff0c;增加伸缩性。

2.3 Zookeeper四种状态 &＃43; ZAB四种状态

2.3.1 Zookeeper集群的服务状态&＃xff1a;四种

LOOKING&＃xff1a;当节点认为群集中没有Leader&＃xff0c;服务器会进入LOOKING状态&＃xff0c;目的是为了查找或者选举Leader&＃xff1b;
FOLLOWING&＃xff1a;follower角色&＃xff1b;
LEADING&＃xff1a;leader角色&＃xff1b;
OBSERVING&＃xff1a;observer角色&＃xff1b;
可以知道Zookeeper是通过自身的状态来区分自己所属的角色&＃xff0c;来执行自己应该的任务。

金手指&＃xff1a;从 “zookeeper分为选主阶段和广播阶段” 看 zookeeper 的四个状态和 ZAB 的四个状态
对于zookeeper的四个状态
looking仅在选主阶段出现
following是zookeeper在广播阶段的follower节点的状态&＃xff0c;
leading是zookeeper在广播阶段的leader节点的状态&＃xff0c;
observing是zookeeper在广播阶段的observer节点的状态。
对于ZAB的四个状态&＃xff0c;实际上选主阶段的四种过程
ELECTION: 集群进入选举状态&＃xff0c;此过程会选出一个节点作为leader角色&＃xff1b;
DISCOVERY&＃xff1a;连接上leader&＃xff0c;响应leader心跳&＃xff0c;并且检测leader的角色是否更改&＃xff0c;通过此步骤之后选举出的leader才能执行真正职务&＃xff1b;
SYNCHRONIZATION&＃xff1a;整个集群都确认leader之后&＃xff0c;将会把leader的数据同步到各个节点&＃xff0c;保证整个集群的数据一致性&＃xff1b;
BROADCAST&＃xff1a;过渡到广播状态&＃xff0c;集群开始对外提供服务。

2.3.2 ZAB状态&＃xff1a;四种

Zookeeper给ZAB定义了四种状态&＃xff0c;与Zookeeper的四种状态对应&＃xff0c;下面有图解

ZAB状态作用&＃xff1a;反应Zookeeper从选举到对外提供服务的过程中的四个步骤。

ZAB状态定义(枚举定义)&＃xff1a;ELECTION、DISCOVERY、SYNCHRONIZATION、BROADCAST

public enum ZabState {ELECTION,DISCOVERY,SYNCHRONIZATION,BROADCAST
}


ELECTION: 集群进入选举状态&＃xff0c;此过程会选出一个节点作为leader角色&＃xff1b;
DISCOVERY&＃xff1a;连接上leader&＃xff0c;响应leader心跳&＃xff0c;并且检测leader的角色是否更改&＃xff0c;通过此步骤之后选举出的leader才能执行真正职务&＃xff1b;
SYNCHRONIZATION&＃xff1a;整个集群都确认leader之后&＃xff0c;将会把leader的数据同步到各个节点&＃xff0c;保证整个集群的数据一致性&＃xff1b;
BROADCAST&＃xff1a;过渡到广播状态&＃xff0c;集群开始对外提供服务。

三、Zookeeper选举过程&＃xff08;基于ZAB协议&＃xff09;

zookeeper集群中&＃xff0c;leader选举基于ZAB协议
zookeeper集群中&＃xff0c;只能有一个leader节点&＃xff0c;这个leader节点的选举(zookeeper启动时选举leader、leader宕机后选举leader)是基于zab协议来完成的。

zookeeper集群中&＃xff0c;leader选举三个问题&＃xff0c;
第一&＃xff0c;when何时&＃xff1a;leader选举什么时候进行&＃xff1f;zookeeper启动的时候从follower中选举leader &＃43; 原有leader宕机后从follower中选举leader.
第二&＃xff0c;how理论上&＃xff0c;选举规则&＃xff1f;
第三&＃xff0c;how实践上&＃xff0c;选择流程&＃xff1f;

3.1 when何时&＃xff0c;leader选举的两个时机

选举发生的时机Leader发生选举有两个时机&＃xff1a;

1、zookeeper服务启动的时候当整个集群都没有leader节点会进入选举状态&＃xff0c;如果leader已经存在就会告诉该节点leader的信息&＃xff0c;自己连接上leader&＃xff0c;整个集群不用进入选举状态。

2、zookeeper服务运行中&＃xff0c;可能会出现各种情况&＃xff0c;服务宕机、断电、网络延迟很高的时候leader都不能再对外提供服务了&＃xff0c;所有当其他几点通过心跳检测到leader失联之后&＃xff0c;集群也会进入选举状态。

3.2 how理论上&＃xff0c;leader选举的三种选举规则

接上面&＃xff0c;达到两种选举时机之一&＃xff0c;开始选举。

zab协议是按照几个比较规则来进行投票的筛选&＃xff0c;如果你的票比我更好&＃xff0c;就修改自身的投票信息&＃xff0c;改投你当leader。

下面代码是zookeeper投票比较规则&＃xff1a;

/** We return true if one of the following three cases hold:* 1- New epoch is higher* 2- New epoch is the same as current epoch, but new zxid is higher* 3- New epoch is the same as current epoch, new zxid is the same* as current zxid, but server id is higher.*/return ((newEpoch > curEpoch)|| ((newEpoch &＃61;&＃61; curEpoch)&& ((newZxid > curZxid)|| ((newZxid &＃61;&＃61; curZxid)&& (newId > curId)))));


对应上面代码的解释&＃xff08;两个节点之间使用比较的方法来选举&＃xff0c;三种比较规则&＃xff09;&＃xff1a;
1、比较 epoche纪元(zxid高32bit)&＃xff0c;如果其他节点的纪元比自己的大&＃xff0c;选举 epoch大的节点&＃xff08;理由&＃xff1a;epoch 表示年代&＃xff0c;epoch越大表示数据越新&＃xff09;代码&＃xff1a;(newEpoch > curEpoch)&＃xff1b;
2、比较 zxid&＃xff0c; 如果纪元相同&＃xff0c;就比较两个节点的zxid的大小&＃xff0c;选举 zxid大的节点&＃xff08;理由&＃xff1a;zxid 表示节点所提交事务最大的id&＃xff0c;zxid越大代表该节点的数据越完整&＃xff09;代码&＃xff1a;(newEpoch &＃61;&＃61; curEpoch) && (newZxid > curZxid)&＃xff1b;
3、比较 serviceId&＃xff0c;如果 epoch和zxid都相等&＃xff0c;就比较服务的serverId&＃xff0c;选举 serviceId大的节点&＃xff08;理由&＃xff1a; serviceId 表示机器性能&＃xff0c;他是在配置zookeeper集群时确定的&＃xff0c;所以我们配置zookeeper集群的时候可以把服务性能更高的集群的serverId设置大些&＃xff0c;让性能好的机器担任leader角色&＃xff09;代码 &＃xff1a;(newEpoch &＃61;&＃61; curEpoch) && ((newZxid &＃61;&＃61; curZxid) && (newId > curId))。

3.3 how实践上&＃xff0c;leader选举的选举流程&＃xff1a;四个步骤

对于上图的解释&＃xff08;leader选举的&＃xff09;&＃xff1a;
步骤1&＃xff08;每个节点第一个先选自己&＃xff09;&＃xff1a;所有节点第一票先选举自己当leader&＃xff0c;将投票信息广播出去&＃xff1b;
步骤2&＃xff08;每个节点接受其他 n-1 个节点&＃xff09;&＃xff1a;从队列中接受投票信息&＃xff1b;
步骤3&＃xff08;根据三个比较规则&＃xff0c;确定自己选举的leader&＃xff0c;然后第二次广播出去&＃xff09;&＃xff1a;按照三条规则判断是否需要更改投票信息&＃xff0c;将更改后的投票信息再次广播出去&＃xff1b;
步骤4&＃xff1a;&＃xff08;是否一个节点过半数&＃xff0c;是了就行了&＃xff0c;不是跳到步骤2&＃xff0c;继续接收 n-1 节点&＃xff09;判断是否有超过一半的投票选举同一个节点&＃xff0c;如果是选举结束根据投票结果设置自己的服务状态&＃xff0c;选举结束&＃xff0c;否则继续进入投票流程。

问题&＃xff1a;为什么zookeeper选举过程设计为一半通过&＃xff1f;为什么不是 1/3 投票 或者 2/3 投票&＃xff1f;
第一&＃xff0c;为什么不是1/3而是1/2&＃xff1f;标准答案&＃xff1a;为了确保leader的唯一性&＃xff0c;一个follower节点获得了1/2票数&＃xff0c;就不可能再有一个follower节点或者 1/2 票数&＃xff0c;就唯一确定了这个follower为leader&＃xff1b;如果设置为1/3&＃xff0c;选出两个follower达到 1/3 票数&＃xff0c;但是leader只有一个&＃xff0c;选谁&＃xff0c;还是要继续比较票数吗&＃xff1f;太麻烦&＃xff0c;还不如设置为 1/2 &＃xff0c;一步到位&＃xff1b;同理&＃xff0c;设置 1/4&＃xff0c;选出 三个 follower大于 1/4&＃xff0c;尴尬…
第二&＃xff0c;为什么不是2/3而是1/2&＃xff1f;标准答案&＃xff1a;节约选举成本&＃xff0c;投票是一种延迟大的内部消耗&＃xff0c;影响吞吐量&＃xff0c;这就是为什么要引入 无投票权、无被选举权的 observer的原因&＃xff0c;1/2已经能够确定唯一的leader,变为2/3 3/4 只会加大选举的循环次数&＃xff0c;影响性能。
问题&＃xff1a;为什么zookeeper写操作设计为一半ACK&＃xff1f;为什么不是 1/3 ACK 或者 2/3 ACK &＃xff1f;
标准答案&＃xff1a;没有什么太大理由&＃xff0c;zookeeper就是这么设计&＃xff0c;所以说zookeeper是非强一致性的&＃xff0c;二阶段提交&＃xff0c;第二阶段follower ACK数量过半就行&＃xff08;Ack确定和observer无关&＃xff0c;无论是哪个节点 leader/follower/observer 收到写操作&＃xff0c;都是发送给leader&＃xff0c;follower过半ACK&＃xff0c;leader就提交&＃xff09;。

关于zookeeper中的投票过半数&＃xff08;包含两层意思&＃xff09;&＃xff1a;
第一&＃xff0c;选举过程中&＃xff0c;一半的节点选举了&＃xff0c;就好了
第二&＃xff0c;广播过程中&＃xff0c;两阶段提交&＃xff0c;eader收到一半的follower发过来的ACK&＃xff0c;就提交了&＃xff08;所以&＃xff0c;zookeeper不是强一致性的&＃xff09;

问题&＃xff1a;为什么说zookeeper的两阶段提交不是强一致性的&＃xff1f;
回答&＃xff1a;之前的mysql和oracle基于XA实现的分布式事务&＃xff0c;底层两阶段提交是要所有的都ACK&＃xff0c;三阶段提交也是要所有的都ACK&＃xff0c;这才是强一致性的。

四、Zookeeper的广播过程(读写操作)

zookeeper集群对外提供服务&＃xff08;即读写操作&＃xff09;如何保证各个节点数据的一致性。

4.1 ZAB协议有序性

有序性定义&＃xff1f; &＃43; ZAB保证有序性实现&＃xff1f;
有序性定义&＃xff1f;
标准答案&＃xff1a;zab在广播状态中保证以下特征
第一&＃xff0c;可靠传递: 如果消息m由一台服务器传递&＃xff0c;那么它最终将由所有服务器传递。
第二&＃xff0c;全局有序: 如果一个消息a在消息b之前被一台服务器交付&＃xff0c;那么所有服务器都交付了a和b&＃xff0c;并且a先于b。
第三&＃xff0c;因果有序: 如果消息a在因果上先于消息b并且二者都被交付&＃xff0c;那么a必须排在b之前。
ZAB保证有序性实现&＃xff1f;
标准答案&＃xff1a;zab协议的有序性保证是通过几个方面来体现的&＃xff0c;
第一&＃xff0c;服务之前用TCP协议进行通讯&＃xff0c;保证在网络传输中的有序性&＃xff1b;
第二&＃xff0c;节点之前都维护了一个FIFO的队列&＃xff0c;保证全局有序性&＃xff1b;
第三&＃xff0c;通过全局递增的zxid保证因果有序性。

为什么需要zab需要保证有序性&＃xff1f;
标准答案&＃xff1a;zookeeper的存储结构是类型目录结构&＃xff0c;不保证有序性无法定位&＃xff0c;会报错。
有序性是zab协议必须要保证的一个很重要的属性&＃xff0c;因为zookeeper是以类似目录结构的数据结构存储数据的&＃xff0c;必须要求命名的有序性。比如一个命名a创建路径为/test&＃xff0c;然后命名b创建路径为/test/123&＃xff0c;如果不能保证有序性b命名在a之前&＃xff0c;b命令会因为父节点不存在而创建失败。

4.2 基础知识&＃xff1a;两阶段提交(为zookeeper阶段准备)

基础知识&＃xff1a;两阶段提交&＃xff08;定义 &＃43; 流程 &＃43; 优缺点&＃xff09;
两阶段提交定义&＃xff1a;在分布式系统中&＃xff0c;每一个机器节点虽然能够明确的知道自己在进行事物操作过程的结果是失败或成功&＃xff0c;但却无法直接获取其他分布式节点的操作结果&＃xff0c;所以&＃xff0c;事物操作需要跨越多个分布式节点的时候&＃xff0c;需要引入一个协调者统一调度所有节点的执行逻辑。
两阶段提交详细&＃xff1a;
阶段一&＃xff1a;提交事物请求
1.1 leader事物询问
协调者向所有的参与者发送事物内容&＃xff0c;询问是否可以执行事物操作&＃xff0c;并开始等待各参与者的响应。
1.2 follower/observer执行事物
各参与者节点执行事物操作&＃xff0c;并将Undo和Redo信息记入事物日志中
1.3 各参与者follower/observer向协调者leader反馈事物询问的响应
如果参与者成功执行了事物操作&＃xff0c;那么就反馈给协调者Yes响应&＃xff0c;表示事物可以执行&＃xff1b;如果参与者没有成功执行事物&＃xff0c;那么就反馈给协调者No响应&＃xff0c;表示事物不可以执行。
阶段二&＃xff1a;执行事物请求
在阶段二中协调者会根据参与者的反馈情况来决定最终是否可以进行事物操作&＃xff0c;其中有两种可能 Commit/Cancel。假如协调者从所有的参与者获得的反馈都是Yes响应&＃xff0c;那么就会执行事物响应&＃xff08;zookeeper是过半就好&＃xff09;。
2.1 Leader发送提交请求
协调者向所有参与者节点发出Commit请求
2.2 follower/observer事物提交
参与者接收到Commit请求后&＃xff0c;会正式执行事物提交操作&＃xff0c;并在完成提交之后释放在整个事物执行期间占有的事物资源。
2.3 follower/observer反馈事物提交结果
参与者在完成事物提交之后&＃xff0c;向协调者发送Ack消息。
2.4 leader完成事物
协调者接收到所有参与者反馈的Ack消息后&＃xff0c;完成事物。
二阶段提交优缺点
优点&＃xff1a;原理简单&＃xff0c;实现方便
缺点&＃xff1a;同步阻塞&＃xff0c;单点问题&＃xff0c;脑裂&＃xff0c;数据丢失&＃xff08;四个问题&＃xff0c;在分布式事务中讲到过&＃xff09;。

4.3 一个写请求的两阶段提交流程

解释上图&＃xff08;zookeeper写请求的两阶段提交&＃xff09;&＃xff1a;
当收到客户端的写请求的时候会经历以下几个步骤&＃xff1a;
步骤1&＃xff08;阶段一&＃xff0c;Leader发出&＃xff09;&＃xff1a;Leader收到客户端的写请求&＃xff0c;生成一个事务&＃xff08;Proposal&＃xff09;&＃xff0c;其中包含了zxid&＃xff1b;
步骤2&＃xff08;阶段一&＃xff0c;Leader发出&＃xff09;&＃xff1a;Leader开始广播该事务&＃xff0c;需要注意的是所有节点的通讯都是由一个FIFO的队列维护的&＃xff1b;
步骤3&＃xff08;阶段一&＃xff0c;Leader发出&＃xff09;&＃xff1a;Follower接受到事务之后&＃xff0c;将事务写入本地磁盘&＃xff0c;写入成功之后返回Leader一个ACK&＃xff1b;
步骤4&＃xff08;阶段二&＃xff0c;Leader接收&＃xff09;&＃xff1a;Leader收到过半的ACK之后&＃xff0c;开始提交本事务&＃xff0c;并广播事务提交Commit信息
步骤5&＃xff08;阶段二&＃xff0c;Leader接收&＃xff09;&＃xff1a;从节点开始提交本事务。

所以&＃xff0c;zookeeper通过二阶段提交来保证集群中数据的一致性&＃xff0c;因为只需要收到过半的ACK就可以提交事务&＃xff0c;所以zookeeper的数据并不是强一致性。

五、四个状态流转&＃xff08;zookeeper四种服务状态 &＃43; ZAB四种步骤状态&＃xff09;

前面介绍了zookeeper服务状态有四种&＃xff0c;ZAB状态也有四种。这里就简单介绍一个他们之间的状态流转&＃xff0c;更能加深对zab协议在zookeeper工作流程中的作用。

对于上图的解释&＃xff1a;
步骤1&＃xff1a;服务在启动或者和leader失联之后服务状态转为LOOKING&＃xff1b;
步骤2&＃xff1a;如果leader不存在选举leader&＃xff0c;如果存在直接连接leader&＃xff0c;此时zab协议状态为ELECTION&＃xff1b;
步骤3&＃xff1a;如果有超过半数的投票选择同一台server&＃xff0c;则leader选举结束&＃xff0c;被选举为leader的server服务状态为LEADING&＃xff0c;其他server服务状态为FOLLOWING/OBSERVING&＃xff1b;
步骤4&＃xff1a;所有server连接上leader&＃xff0c;此时zab协议状态为DISCOVERY&＃xff1b;
步骤5&＃xff1a;leader同步数据给learner&＃xff0c;使各个从节点数据和leader保持一致&＃xff0c;此时zab协议状态为SYNCHRONIZATION&＃xff1b;
步骤6&＃xff1a;同步超过一半的server之后&＃xff0c;集群对外提供服务&＃xff0c;此时zab状态为BROADCAST。

所以&＃xff0c;zookeeper服务的工作流程类似一个状态机的转换&＃xff0c;而zab协议就是驱动服务状态流转的关键。

六、面试金手指

6.1 起手式&＃xff0c;ZAB &＃43; Zookeeper 基础

6.1.1 ZAB定义 &＃43; ZAB作用 &＃43; Zxid

ZAB定义&＃xff1a;ZAB 英文全称为 Zookeeper Atomic Broadcast&＃xff0c;译为 Zookeeper 原子广播协议&＃xff1b;
ZAB作用&＃xff1a;当ZooKeeper leader节点宕机时&＃xff0c;用于崩溃恢复的原子广播协议&＃xff0c;它保证了zookeeper集群的 数据一致性 和 命令全局有序性。

ZXID(64bit) &＃61; epoch(32bit) &＃43; counter(32bit)
Zxid定义&＃xff1a;Zxid是一个long型&＃xff08;64位&＃xff09;整数&＃xff0c;分为两部分&＃xff1a;纪元&＃xff08;epoch&＃xff09;部分和计数器&＃xff08;counter&＃xff09;部分&＃xff0c;是一个全局有序的数字。
epoch定义&＃xff1a;epoch表示当前集群所属的哪个leader&＃xff0c;leader的选举就类似一个朝代的更替&＃xff0c;你前朝的剑不能斩本朝的官&＃xff0c;用epoch代表当前命令的有效性。
counter定义&＃xff1a;counter是一个递增的数字。

6.1.2 Zookeeper集群中的三个角色&＃xff08;重点&＃xff1a;leader follower observer&＃xff09;

6.1.2.1 三个角色&＃xff1a;leader follower observer

Leader&＃xff1a;同一时间集群总只允许有一个Leader&＃xff0c;提供对客户端的读写功能&＃xff0c;负责将数据同步至各个节点&＃xff1b;
Follower&＃xff1a;提供对客户端读功能&＃xff0c;写请求则转发给Leader处理&＃xff0c;当Leader崩溃失联之后参与Leader选举&＃xff1b;
Observer&＃xff1a;与Follower不同的是但不参与Leader选举。

6.1.2.2 三个角色&＃xff1a;选举阶段 &＃43; 广播阶段

zookeeper集群三个角色注意(选举阶段)
关于leader&＃xff0c;有且只有一个&＃xff0c;没有(启动没有/有了宕机)就选举&＃xff0c;有了不需要了。
关于follower&＃xff0c;在两种情况的选举下&＃xff0c;拥有 投票权(可以贡献一票) 和 被选举权(可能被选举为leader)。
关于observer&＃xff0c;在两种情况的选举下&＃xff0c;无 投票权(无法贡献一票) 和 被选举权 &＃xff08;不可能被选举为leader&＃xff09;。
所有说&＃xff0c;当leader不存在的时候(启动/宕机)&＃xff0c;是所有的follower来投票&＃xff0c;是从follower中选举出一个超过半数follower同意的follower&＃xff0c;来成为leader。所以&＃xff0c;整个选举过程&＃xff0c;和observer 没半毛钱关闭。

zookeeper集群三个角色注意(广播阶段)
关于leader&＃xff0c;有且只有一个&＃xff0c;用来处理写请求&＃xff0c;是zookeeper集群中唯一一个处理请求的节点。
关于follower&＃xff0c;在读写操作下&＃xff0c;读操作自己处理&＃xff08;不过问leader节点&＃xff09;&＃xff0c;写请求发给leader&＃xff0c;写请求第二阶段所有follower投票过半即可
关于observer&＃xff0c;在读写操作下&＃xff0c;读操作自己处理&＃xff08;不过问leader节点&＃xff09;&＃xff0c;写请求发给leader&＃xff0c;写请求第二阶段投票没observer什么事。

所以说&＃xff0c;由于observer没有 投票权 和 被选举权&＃xff0c;选举时的过半数通过和写操作时的过半数ACK 都和它没关系&＃xff0c;都是follower和leader的事。

比喻&＃xff1a;leader是项目经理&＃xff08;技术攻关写请求&＃xff09;、follower是正式员工&＃xff08;平时干活读请求&＃xff0c;投票和被选举&＃xff09;、observer是外包员工&＃xff08;平时干活读请求&＃xff0c;无投票、无被选举&＃xff09;

6.1.2.3 observer存在的意义 &＃43; leader存在的意义 &＃43; follower存在的意义

问题&＃xff1a;observer存在的意义&＃xff08;选举过程中&＃xff0c;和observer没半毛钱关系&＃xff0c;为什么需要observer&＃xff09;?
标准答案&＃xff1a;增加observer节点&＃xff0c;在不影响吞吐量的情况下&＃xff0c;增加伸缩性&＃xff1b;
增加follower阶段&＃xff0c;在影响吞吐量的情况下&＃xff0c;增加伸缩性。
解释&＃xff1a;Zookeeper 需保证高可用和强一致性&＃xff0c;为了支持更多的客户端&＃xff0c;需要增加更多 Server&＃xff1b;
Server包括两种&＃xff0c;follower和observer(其实&＃xff0c;leader也是Server,但是只有一个)
follower 增多&＃xff0c;投票阶段延迟增大&＃xff0c;影响性能(影响吞吐量)&＃xff1b;引入一种不参与投票的follower&＃xff0c;就是observer&＃xff0c;因为不参与投票(投票是一种延迟大的内部消耗)&＃xff0c;所以完全用来处理用户连接&＃xff1b; Observers 接受客户端的连接&＃xff0c;并将写请求转发给 leader 节点&＃xff1b; 加入更多 Observer 节点&＃xff0c;提高伸缩性&＃xff0c;同时不影响吞吐率。

问题&＃xff1a;leader存在的意义&＃xff08;为什么需要一个leader&＃xff0c;为什么需要投票选举一个leader&＃xff0c;投票是一个延迟大的内部消耗&＃xff0c;为什么不去掉&＃xff09;
标准答案&＃xff1a;
1、集群server的数据一致性&＃xff1a;zookeeper是一个集群&＃xff0c;集群是由多个server组成的&＃xff0c;多个server要保证数据一致性&＃xff0c;这是集群的要求&＃xff0c;无法改变。
2、主从结构&＃xff1a;然后&＃xff0c;要保证多个server的数据一致性&＃xff0c;就要灵活处理好 读写请求&＃xff0c;就要做 主从结构&＃xff0c;主从结构处理的两种方式
&＃xff08;1&＃xff09;主写从读&＃xff0c;类似mysql集群读写分离&＃xff0c;主库处理写请求(insert|update|delete)&＃xff0c;从库读(select)&＃xff0c;然后按时间间隔使用binlog日志将主库中的数据同步到从库&＃xff0c;保证读到的数据是刚刚写入的&＃xff08;从库加入时&＃xff0c;第一次根据binlog全量复制主库&＃xff0c;以后根据binlog增量复制主库数据变化即可&＃xff09;&＃xff1b;优点&＃xff1a;这一种方式&＃xff0c;主库和从库&＃xff0c;每个数据库都运用起来的&＃xff0c;最大化集群吞吐量。
&＃xff08;2&＃xff09;主读写&＃xff0c;从仅同步&＃xff0c;类似kafka中的&＃xff0c;kafka本身就是基于分布式架构的&＃xff08;不用像mysql额外做分布式&＃xff09;&＃xff0c;partition分区&＃xff0c;部署在三个以上的broker中&＃xff0c;生产消息和消费消息都在主partition&＃xff0c;从partition仅仅同步&＃xff0c;当主partition宕机后&＃xff0c;才开始操作。
zookeeper使用的时类似mysql集群的&＃xff0c;
对于写操作&＃xff1a;所有的写操作必须要通过 Leader 完成再由 Leader 将写操作广播给其它服务器&＃xff0c;只要有超过半数节点&＃xff08;不包括 observer 节点&＃xff09;写入成功&＃xff0c;该写请求就会被提交&＃xff08;类 2PC 协议&＃xff09;。
对于读操作&＃xff1a;follower和observer 都可以直接处理并返回客户端的读请求&＃xff0c;但是都会将 写请求转发给 Leader 处理。

问题&＃xff1a;follower存在的意义&＃xff08;为什么需要一个follower&＃xff09;
标准答案&＃xff1a;zookeeper 是分布式架构&＃xff0c;follower是最基本的节点&＃xff0c;具有 投票权 和 被选举权&＃xff0c;唯一的leader节点从follower节点产生&＃xff08;observer没有被选举权&＃xff0c;不可能变为leader&＃xff09;
至于observer&＃xff0c;是没有 投票权 和 被选举权的 follower&＃xff0c;增加observer节点&＃xff0c;在不影响吞吐量的情况下&＃xff0c;增加伸缩性。

6.2 Zookeeper的选举过程

zookeeper集群中&＃xff0c;leader选举基于ZAB协议
zookeeper集群中&＃xff0c;只能有一个leader节点&＃xff0c;这个leader节点的选举(zookeeper启动时选举leader、leader宕机后选举leader)是基于zab协议来完成的。

zookeeper集群中&＃xff0c;leader选举三个问题&＃xff0c;
第一&＃xff0c;when何时&＃xff1a;leader选举什么时候进行?
zookeeper启动的时候从follower中选举leader &＃43; 原有leader宕机后从follower中选举leader.
第二&＃xff0c;how理论上&＃xff0c;选举规则&＃xff1f;
1、比较 epoche纪元(zxid高32bit)&＃xff0c;如果其他节点的纪元比自己的大&＃xff0c;选举 epoch大的节点&＃xff08;理由&＃xff1a;epoch 表示年代&＃xff0c;epoch越大表示数据越新&＃xff09;代码&＃xff1a;(newEpoch > curEpoch)&＃xff1b;
2、比较 zxid&＃xff0c; 如果纪元相同&＃xff0c;就比较两个节点的zxid的大小&＃xff0c;选举 zxid大的节点&＃xff08;理由&＃xff1a;zxid 表示节点所提交事务最大的id&＃xff0c;zxid越大代表该节点的数据越完整&＃xff09;代码&＃xff1a;(newEpoch &＃61;&＃61; curEpoch) && (newZxid > curZxid)&＃xff1b;
3、比较 serviceId&＃xff0c;如果 epoch和zxid都相等&＃xff0c;就比较服务的serverId&＃xff0c;选举 serviceId大的节点&＃xff08;理由&＃xff1a; serviceId 表示机器性能&＃xff0c;他是在配置zookeeper集群时确定的&＃xff0c;所以我们配置zookeeper集群的时候可以把服务性能更高的集群的serverId设置大些&＃xff0c;让性能好的机器担任leader角色&＃xff09;代码 &＃xff1a;(newEpoch &＃61;&＃61; curEpoch) && ((newZxid &＃61;&＃61; curZxid) && (newId > curId))。
第三&＃xff0c;how实践上&＃xff0c;选举leader流程&＃xff1f;
步骤1&＃xff08;每个节点第一个先选自己&＃xff09;&＃xff1a;所有节点第一票先选举自己当leader&＃xff0c;将投票信息广播出去&＃xff1b;
步骤2&＃xff08;每个节点接受其他 n-1 个节点&＃xff09;&＃xff1a;从队列中接受投票信息&＃xff1b;
步骤3&＃xff08;根据三个比较规则&＃xff0c;确定自己选举的leader&＃xff0c;然后第二次广播出去&＃xff09;&＃xff1a;按照三条规则判断是否需要更改投票信息&＃xff0c;将更改后的投票信息再次广播出去&＃xff1b;
步骤4&＃xff1a;&＃xff08;是否一个节点过半数&＃xff0c;是了就行了&＃xff0c;不是跳到步骤2&＃xff0c;继续接收 n-1 节点&＃xff09;判断是否有超过一半的投票选举同一个节点&＃xff0c;如果是选举结束根据投票结果设置自己的服务状态&＃xff0c;选举结束&＃xff0c;否则继续进入投票流程。

问题&＃xff1a;为什么zookeeper选举过程设计为一半通过&＃xff1f;为什么不是 1/3 投票 或者 2/3 投票&＃xff1f;
第一&＃xff0c;为什么不是1/3而是1/2&＃xff1f;标准答案&＃xff1a;为了确保leader的唯一性&＃xff0c;一个follower节点获得了1/2票数&＃xff0c;就不可能再有一个follower节点或者 1/2 票数&＃xff0c;就唯一确定了这个follower为leader&＃xff1b;如果设置为1/3&＃xff0c;选出两个follower达到 1/3 票数&＃xff0c;但是leader只有一个&＃xff0c;选谁&＃xff0c;还是要继续比较票数吗&＃xff1f;太麻烦&＃xff0c;还不如设置为 1/2 &＃xff0c;一步到位&＃xff1b;同理&＃xff0c;设置 1/4&＃xff0c;选出 三个 follower大于 1/4&＃xff0c;尴尬…
第二&＃xff0c;为什么不是2/3而是1/2&＃xff1f;标准答案&＃xff1a;节约选举成本&＃xff0c;投票是一种延迟大的内部消耗&＃xff0c;影响吞吐量&＃xff0c;这就是为什么要引入 无投票权、无被选举权的 observer的原因&＃xff0c;1/2已经能够确定唯一的leader,变为2/3 3/4 只会加大选举的循环次数&＃xff0c;影响性能。
问题&＃xff1a;为什么zookeeper写操作设计为一半ACK&＃xff1f;为什么不是 1/3 ACK 或者 2/3 ACK &＃xff1f;
标准答案&＃xff1a;没有什么太大理由&＃xff0c;zookeeper就是这么设计&＃xff0c;所以说zookeeper是非强一致性的&＃xff0c;二阶段提交&＃xff0c;第二阶段follower ACK数量过半就行&＃xff08;Ack确定和observer无关&＃xff0c;无论是哪个节点 leader/follower/observer 收到写操作&＃xff0c;都是发送给leader&＃xff0c;follower过半ACK&＃xff0c;leader就提交&＃xff09;。

关于zookeeper中的投票过半数&＃xff08;包含两层意思&＃xff09;&＃xff1a;
第一&＃xff0c;选举过程中&＃xff0c;一半的节点选举了&＃xff0c;就好了
第二&＃xff0c;广播过程中&＃xff0c;两阶段提交&＃xff0c;eader收到一半的follower发过来的ACK&＃xff0c;就提交了&＃xff08;所以&＃xff0c;zookeeper不是强一致性的&＃xff09;

问题&＃xff1a;为什么说zookeeper的两阶段提交不是强一致性的&＃xff1f;
回答&＃xff1a;之前的mysql和oracle基于XA实现的分布式事务&＃xff0c;底层两阶段提交是要所有的都ACK&＃xff0c;三阶段提交也是要所有的都ACK&＃xff0c;这才是强一致性的。

6.3 Zookeeper的广播过程

6.3.1 ZAB协议有序性

有序性定义&＃xff1f; &＃43; ZAB保证有序性实现&＃xff1f;
有序性定义&＃xff1f;
标准答案&＃xff1a;zab在广播状态中保证以下特征
第一&＃xff0c;可靠传递: 如果消息m由一台服务器传递&＃xff0c;那么它最终将由所有服务器传递。
第二&＃xff0c;全局有序: 如果一个消息a在消息b之前被一台服务器交付&＃xff0c;那么所有服务器都交付了a和b&＃xff0c;并且a先于b。
第三&＃xff0c;因果有序: 如果消息a在因果上先于消息b并且二者都被交付&＃xff0c;那么a必须排在b之前。
ZAB保证有序性实现&＃xff1f;
标准答案&＃xff1a;zab协议的有序性保证是通过几个方面来体现的&＃xff0c;
第一&＃xff0c;服务之前用TCP协议进行通讯&＃xff0c;保证在网络传输中的有序性&＃xff1b;
第二&＃xff0c;节点之前都维护了一个FIFO的队列&＃xff0c;保证全局有序性&＃xff1b;
第三&＃xff0c;通过全局递增的zxid保证因果有序性。

为什么需要zab需要保证有序性&＃xff1f;
标准答案&＃xff1a;zookeeper的存储结构是类型目录结构&＃xff0c;不保证有序性无法定位&＃xff0c;会报错。
有序性是zab协议必须要保证的一个很重要的属性&＃xff0c;因为zookeeper是以类似目录结构的数据结构存储数据的&＃xff0c;必须要求命名的有序性。比如一个命名a创建路径为/test&＃xff0c;然后命名b创建路径为/test/123&＃xff0c;如果不能保证有序性b命名在a之前&＃xff0c;b命令会因为父节点不存在而创建失败。

6.3.2 基础知识&＃xff1a;两阶段提交(为zookeeper阶段准备)

基础知识&＃xff1a;两阶段提交&＃xff08;定义 &＃43; 流程 &＃43; 优缺点&＃xff09;
两阶段提交定义&＃xff1a;在分布式系统中&＃xff0c;每一个机器节点虽然能够明确的知道自己在进行事物操作过程的结果是失败或成功&＃xff0c;但却无法直接获取其他分布式节点的操作结果&＃xff0c;所以&＃xff0c;事物操作需要跨越多个分布式节点的时候&＃xff0c;需要引入一个协调者统一调度所有节点的执行逻辑。
两阶段提交详细&＃xff1a;
阶段一&＃xff1a;提交事物请求
1.1 leader事物询问
协调者向所有的参与者发送事物内容&＃xff0c;询问是否可以执行事物操作&＃xff0c;并开始等待各参与者的响应。
1.2 follower/observer执行事物
各参与者节点执行事物操作&＃xff0c;并将Undo和Redo信息记入事物日志中
1.3 各参与者follower/observer向协调者leader反馈事物询问的响应
如果参与者成功执行了事物操作&＃xff0c;那么就反馈给协调者Yes响应&＃xff0c;表示事物可以执行&＃xff1b;如果参与者没有成功执行事物&＃xff0c;那么就反馈给协调者No响应&＃xff0c;表示事物不可以执行。
阶段二&＃xff1a;执行事物请求
在阶段二中协调者会根据参与者的反馈情况来决定最终是否可以进行事物操作&＃xff0c;其中有两种可能 Commit/Cancel。假如协调者从所有的参与者获得的反馈都是Yes响应&＃xff0c;那么就会执行事物响应&＃xff08;zookeeper是过半就好&＃xff09;。
2.1 Leader发送提交请求
协调者向所有参与者节点发出Commit请求
2.2 follower/observer事物提交
参与者接收到Commit请求后&＃xff0c;会正式执行事物提交操作&＃xff0c;并在完成提交之后释放在整个事物执行期间占有的事物资源。
2.3 follower/observer反馈事物提交结果
参与者在完成事物提交之后&＃xff0c;向协调者发送Ack消息。
2.4 leader完成事物
协调者接收到所有参与者反馈的Ack消息后&＃xff0c;完成事物。
二阶段提交优缺点
优点&＃xff1a;原理简单&＃xff0c;实现方便
缺点&＃xff1a;同步阻塞&＃xff0c;单点问题&＃xff0c;脑裂&＃xff0c;数据丢失&＃xff08;四个问题&＃xff0c;在分布式事务中讲到过&＃xff09;。

6.3.3 一个写请求的两阶段提交流程

zookeeper写请求的两阶段提交(当收到客户端的写请求的时候会经历以下几个步骤)&＃xff1a;
步骤1&＃xff08;阶段一&＃xff0c;Leader发出&＃xff09;&＃xff1a;Leader收到客户端的写请求&＃xff0c;生成一个事务&＃xff08;Proposal&＃xff09;&＃xff0c;其中包含了zxid&＃xff1b;
步骤2&＃xff08;阶段一&＃xff0c;Leader发出&＃xff09;&＃xff1a;Leader开始广播该事务&＃xff0c;需要注意的是所有节点的通讯都是由一个FIFO的队列维护的&＃xff1b;
步骤3&＃xff08;阶段一&＃xff0c;Leader发出&＃xff09;&＃xff1a;Follower接受到事务之后&＃xff0c;将事务写入本地磁盘&＃xff0c;写入成功之后返回Leader一个ACK&＃xff1b;
步骤4&＃xff08;阶段二&＃xff0c;Leader接收&＃xff09;&＃xff1a;Leader收到过半的ACK之后&＃xff0c;开始提交本事务&＃xff0c;并广播事务提交Commit信息
步骤5&＃xff08;阶段二&＃xff0c;Leader接收&＃xff09;&＃xff1a;从节点开始提交本事务。

所以&＃xff0c;zookeeper通过二阶段提交来保证集群中数据的一致性&＃xff0c;因为只需要收到过半的ACK就可以提交事务&＃xff0c;所以zookeeper的数据并不是强一致性。

6.4 Zookeepr四状态 &＃43; ZAB四状态

金手指&＃xff1a;从 “zookeeper分为选主阶段和广播阶段” 看 zookeeper 的四个状态和 ZAB 的四个状态
对于zookeeper的四个状态
looking仅在选主阶段出现
following是zookeeper在广播阶段的follower节点的状态&＃xff0c;
leading是zookeeper在广播阶段的leader节点的状态&＃xff0c;
observing是zookeeper在广播阶段的observer节点的状态。
对于ZAB的四个状态&＃xff0c;实际上选主阶段的四种过程
ELECTION: 集群进入选举状态&＃xff0c;此过程会选出一个节点作为leader角色&＃xff1b;
DISCOVERY&＃xff1a;连接上leader&＃xff0c;响应leader心跳&＃xff0c;并且检测leader的角色是否更改&＃xff0c;通过此步骤之后选举出的leader才能执行真正职务&＃xff1b;
SYNCHRONIZATION&＃xff1a;整个集群都确认leader之后&＃xff0c;将会把leader的数据同步到各个节点&＃xff0c;保证整个集群的数据一致性&＃xff1b;
BROADCAST&＃xff1a;过渡到广播状态&＃xff0c;集群开始对外提供服务。

七、小结

zookeeper的ZAB协议&＃xff0c;完成了。

天天打码&＃xff0c;天天进步&＃xff01;&＃xff01;&＃xff01;