带你重新认识ZooKeeper！java数组合并去重

主要内容

本文是从大型互联网系统的应用角度探讨分布式缓存的。本文站在原理、框架、架构、案例等多个视角对分布式缓存进行了探讨。

互联网系统随着容量需求的陡增&＃xff0c;许多看似简单的存储类场景都面临着巨大的容量问题和稳定性风险&＃xff0c;而其中大部分问题都可以通过对缓存的合理使用来规避。读者从本文中将会获得应对这些问题的思路&＃xff0c;也会对分布式缓存有一个体系化的认识。

本文内容共分为三个部分&＃xff0c;16章的内容&＃xff0c;全文按照从理论到实现&＃xff0c;再到实践的思路撰写。

首先介绍分布式缓存的背景知识&＃xff0c;对“分布式”和“缓存”这两个关键词进行了全面阐述&＃xff0c;从而为后续章节的叙述打下基础;

接着介绍业界主流的缓存&＃xff0c;关注其原理与实现&＃xff0c;囊括了Ehcache、Memcached、Redis、 Tair、 EVCache、Aerospike等六个缓存或类缓存系统;

最后讨论缓存在互联网系统中的实践&＃xff0c;从广告、社交、新闻、电商、营销等五类典型的互联网应用入手&＃xff0c;分析它们面临的性能稳定性问题以及如何利用分布式缓存解决这些问题。

第1章&＃xff0c;缓存为王

在商业的世界中&＃xff0c;常说的一句话是“现金为王”。在互联网、移动互联网乃至整个软件技术世界中&＃xff0c;与之相近的一个说法就是“缓存为王”。什么是缓存呢?

第2章&＃xff0c;分布式系统理论

分布式理论体系宏大精深&＃xff0c;可以通过一大厚本专著来专门阐述&＃xff0c;本文难以尽述之&＃xff0c;本章拟从分布式系统概论、分布式系统概念、分布式系统理论&＃xff0c;比如Paxos、分布式系统设计策略、心跳检测、分布式系统设计实践、全局ID生成等几个方面略勾画之。本章可作为后续章节阅读的基础&＃xff0c;比如Master-Slave节点切换需要心跳检测、Redis 多节点选主也有相应的理论体系( Paxos或者Raft协议等)支撑&＃xff0c;一致性哈希、路由表甚至负载均衡也是常见的分布式服务调用策略。

第3章&＃xff0c;动手写缓存

目前市面上已经有很多开源的缓存框架&＃xff0c;比如Redis、Memcached、 Ehcache 等&＃xff0c;那为什么还要自己动手写缓存?本章将带领大家从0到1写一个简单的缓存框架&＃xff0c;目的是让大家对缓存的类型、缓存的标准、缓存的实现及原理有一个系统的了解&＃xff0c;做到知其然&＃xff0c;知其所以然。

第4章&＃xff0c;Ehcache与Guava Cache

Ehcache是一个用Java实现的使用简单、高速、线程安全的缓存管理类库&＃xff0c;其提供了用内存、磁盘文件存储&＃xff0c;以及分布式存储等多种灵活的管理方案。同时Ehcache作为开放源代码项目&＃xff0c;采用限制比较宽松的ApacheLicenseV2.0作为授权方式&＃xff0c;被广泛地用于Hibernate、Spring、Cocoon 等其他开源系统。Ehcache 从Hibernate 发展而来&＃xff0c;逐渐涵盖了全部功能,是目前发展势头很好的-一个项目。Ehcache具有快速、简单、低消耗、依赖性小、扩展性强、支持对象或序列化缓存、支持缓存或元素的失效、提供LRU/LFU/FIFO缓存策略、支持内存缓存及磁盘缓存、采用分布式缓存机制等特点。

为了方便大家了解最新版本的Ehcache, 4.2.1 、4.2.2、 4.2.3 节中采用最新的Ehcache 3.0的特性进行介绍&＃xff0c;4.2.4 节采用Ehcache 2.10.2版本与Spring 相结合来做案例介绍&＃xff0c;包括后面的源码分析也将采用这个版本。

GuavaCache和Ehcache一样也是本地缓存&＃xff0c;但在细分领域也有不同的应用场景&＃xff0c;4.5节中将做详细介绍。

第5章&＃xff0c;从Memcached开始了解集中式缓存

许多Web应用程序都将数据保存到RDB中&＃xff0c;但随着数据量的增大&＃xff0c;RDB的负担加重,数据库响应恶化&＃xff0c;性能严重下降。Memcached是高性能的分布式内存缓存服务器&＃xff0c;一般用来缓存访问的热点数据,减轻数据库的负担。

第6章&＃xff0c;Memcached周边技术

对于Memcached等常用的缓存组件&＃xff0c;本身大多是以单机方式运行的&＃xff0c;服务能力受到单个主机处理器、内存等资源的限制。在大型的互联网应用中&＃xff0c;往往需要更大的数据访问量以及缓存更多的数据&＃xff0c;这些需求都大大超出了单机缓存系统所能提供的能力范围。

解决高流量访问的方案有很多&＃xff0c;直接的方式是提高单机缓存的性能和资源利用率&＃xff0c;例如Twemcache,更多的是将多个缓存实例以集群的方式提供服务&＃xff0c;利用资源优势提供更好的性能和更大的存储容量&＃xff0c;以满足应用对缓存能力的需求。

如果说缓存是以空间换时间的艺术&＃xff0c;那么&＃xff0c;缓存的集群服务就是该艺术在另一种维度上的呈现&＃xff0c;同时&＃xff0c;还提供了高可用性。在设计缓存的集群方案时&＃xff0c;一般考虑以下几点:

• 可扩展性:集群可以方便通过扩充机器来提供更高的缓存能力。
• 高可用性:集群能够对应用提供可靠的服务&＃xff0c;实现缓存服务的高可用性。
• 可维护性:集群能够方便监控和运维。

本章主要介绍基于Memcached的周边技术&＃xff0c;重点对Memcached的定制版Twemcache,对开源的缓存集群方案Twemproxy,以及Mcrouter等进行解析&＃xff0c;以便充分地利用分布式缓存服务。

第7章&＃xff0c;Redis探秘

Redis ( REmote DIctionary Server)是一个key-value存储系统&＃xff0c;由Salvatore Sanfilippo开发&＃xff0c;使用ANSIC语言编写&＃xff0c;遵守BSD协议。

Redis运行于独立的进程&＃xff0c;通过网络协议和应用交互&＃xff0c;将数据保存在内存中&＃xff0c;并提供多种手段持久化内存数据。Redis具备跨服务器的水平拆分、复制的分布式特性。Redis不同于Memcached将value视作黑盒&＃xff0c;Redis 的value本身具有结构化的特点&＃xff0c;对于value提供了丰富的操作。基于内存存储的特点使得Redis 与传统的关系型数据库相比&＃xff0c;拥有极高的吞吐量和响应性能。

第8章&＃xff0c;分布式Redis

Redis作为数据存储系统&＃xff0c;无论数据存储在内存中还是持久化到本地&＃xff0c;作为单实例节点&＃xff0c;在实际应用中总会面临如下挑战:

• 数据量伸缩:单实例Redis存储的key-value对的数量受限于单机的内存和磁盘容量。长期运行的生产环境中&＃xff0c;随着数据不断地加入&＃xff0c;存储容量会达到瓶颈。虽然Redis提供了key的过期机制&＃xff0c;在作为缓存使用时通过海汰过期的数据可以达到控制容量的目的。但当Redis作为NoSQL数据库时&＃xff0c;业务数据长期有效使得淘汰机制不再适用。
• 访问量伸缩:单实例Redis单线程地运行&＃xff0c;吞吐量受限于单次请求处理的平均时耗。当业务数据集面临超过单实例处理能力的高吞吐量需求时&＃xff0c;如何提升处理能力成为难点。
• 单点故障。Redis持久化机制一定程度上缓解了宕机/重启带来的业务数据丢失问题&＃xff0c;但当单实例所在的物理节点发生不可恢复故障时&＃xff0c;如何保证业务数据不丢以及如何在故障期间迅速地恢复对应业务数据的可用性也成为单点结构的挑战。

上述问题对于数据存储系统而言是通用的&＃xff0c;基于分布式的解决方案如下:

• 水平拆分:分布式环境下&＃xff0c;节点分为不同的分组&＃xff0c;每个分组处理业务数据的一个子集&＃xff0c;分组之间的数据无交集。数据无交集的特性使得水平拆分解决了数据量瓶颈,随着分组的增加&＃xff0c;单个分组承载的数据子集更小&＃xff0c;即通过增加分组来伸缩数据量。同时水平拆分也也解决了访问量瓶颈&＃xff0c;业务数据全集的请求被分摊到了不同分组随着分组数的增加&＃xff0c;数据全集的总吞吐量也增加&＃xff0c;访问量的伸缩性得以实现。
• 主备复制:同一份业务数据存在多个副本&＃xff0c;对数据的每次访问根据一定规则分发到某一个或多个副本上执行。通过W&＃43;R>N的读写配置可以做到读取数据内容的实时性。随着N的增加&＃xff0c;当读写访问量差不多时&＃xff0c;业务的吞吐量相比单实例会提升到過近2倍。但实际中&＃xff0c;读的访问量常常远高于写的量&＃xff0c;W&＃61;N, R&＃61;1,吞度量会随着读写比例的增加而提升。
• 故障转移:当业务数据所在的节点故障时&＃xff0c;这部分业务数据转移到其他节点上进行&＃xff0c;使得故障节点在恢复期间&＃xff0c;对应的业务数据仍然可用。显然&＃xff0c;为了支撑故障转移&＃xff0c;业务数据需要保持多个副本&＃xff0c;位于不同的节点上。

本章的编写目的就是&＃xff0c;帮助读者了解如何通过Redis实现上述解决方案&＃xff0c;本章包含的主要知识如下:

• sharding: 水平拆分的支持。
• replication: 作为读写分离和故障转移的基础。
• fail-deteet: 和replication配合&＃xff0c;支撑故障转移。
• cluster(all-in-one): 完整的分布式解决方案。

第9章&＃xff0c;Tair探秘

Tair ( TaoBao Pair的意思&＃xff0c;Pair 即Key-Value数据对)是淘宝开发的一个优秀的分布式高可用的key/value 存储引擊。采用服务端自动负载均衡的方式&＃xff0c;使客户端逻辑简单。

Tair分为持久化和非持久化两种使用方式。非持久化的Tair可以看成是一个分布式缓存。

持久化的Tair将数据存放于磁盘中。在最新版本的Tair项目中实现了以下4种存储引擎。

• 非持久化: mdb
• 持久化: fdb、kdb和ldb

这4种存储引擎分别基于四种开源的key/value数据库: Memcached、 Firebird、 KyotoCabinet和LevelDB。其中Firebird 是关系型存储数据库&＃xff0c;Memcached. Kyoto Cabinet和LevelDB是NoSQL数据库。

第10章&＃xff0c;EVCache探秘

云服务不仅为软件系统的开发和部署带来了更多的敏捷性&＃xff0c;而且提供了更多创新的可能性。当分布式缓存技术遇到云服务会是怎样的情形呢? EVCache 就是这样的一种技术。

EVCache是一个开源、快速的分布式缓存&＃xff0c;是基于Memcached的内存存储和Spymem-cached客户端实现的解决方案&＃xff0c;主要用在亚马逊弹性计算云服务( AWS EC2 )的基础设施上&＃xff0c;为云计算做了优化&＃xff0c;能够顺畅而高效地提供数据层服务。

第11章&＃xff0c;Aerospike原理及广告业务应用

Aerospike是一个分布式的&＃xff0c;可扩展的键-值存储的NoSQL数据库。支持灵活的数据模式&＃xff0c;并且支持满足ACID特性的事务。其主要的优势是采用混合存储架构&＃xff0c;数据索引信息存储在RAM (随机存取存储器)中&＃xff0c;而数据本身可以存储在SSD (固态硬盘)或HDD(机械硬盘)上。并且针对采用多核处理器和多处理器机器的现代硬件进行了优化&＃xff0c;通过直接硬盘访问(绕过文件系统)&＃xff0c;可以带来难以置信的性能。主要应用于百G,数T等大规模并且并发在数万以上&＃xff0c;对读写性能要求较高的场景&＃xff0c;目前主要集中应用在互联网广告行业&＃xff0c;如:

MediaV, InMobi, eXelate, BuleKai, 时趣互动等。

Aerospike Server能够根据需求安装到多个数据中心多个集群的多个节点上。方便扩展&＃xff0c;只需要将节点添加到集群即可&＃xff0c;Aerospike群集将自动在所有可用的服务器之间重新平衡数据负载&＃xff0c;无须分片&＃xff0c;无须人工干预。降低运维成本&＃xff0c;具有业界最低的TCO (总体拥有成本)。

本章将会介绍Aerospike 的架构原理&＃xff0c;集群部署&＃xff0c;基本用法以及在广告行业中的具体应用;本章基于Aerospike的3.8.4版本(主要针对具体的部署操作部分&＃xff0c;而对于原理&＃xff0c;架构的描述则不局限于此)。接”下来开始介绍Aerospike整体的架构实现和原理。

第12章&＃xff0c;社交场景架构进化:从数据库到缓存

本章以一个典型的社交类应用为例&＃xff0c;基于一个简化的领域模型和业务场景&＃xff0c;叙述该应用在面临不断增加的业务吞吐量时&＃xff0c;传统的基于数据库的方案将面临的性能风险&＃xff0c;随后阐述如何利用缓存技术对这些典型的性能问题进行解决。

本章分为5个小节&＃xff0c;首先引入示例应用的领域模型和业务场景&＃xff0c;随后分别针对其relation.post,timeline三个模型的相关场景分别叙述基于数据库的解决方案和问题&＃xff0c;以及在此之上引入的缓存方案。最后一小节讨论对这个示例应用在机房本身面临瓶颈时&＃xff0c;如何应用缓存辅助其多机房部署。

第13章&＃xff0c;缓存在社交网络Feed系统中的架构实践

在社交网络发展如火如荼的今天&＃xff0c;人们越来越倾向于用新媒介来展现自我和沟通交互。

以新浪微博为例&＃xff0c;作为移动社交时代的重量级社交分享平台&＃xff0c;2017年初日活跃用户1.6亿&＃xff0c;月活跃用户近3.3亿&＃xff0c;每天新增数亿条数据&＃xff0c;总数据量达千亿级&＃xff0c;核心单个业务的后端数据访问QPS高达百万级。

在社交网络系统运行过程中&＃xff0c;面对庞大用户群的海量访问&＃xff0c;良好架构且不断改进的缓存体系具有非常重要的支撑作用。本章将以新浪微博Feed系统架构的发展历程作为背景&＃xff0c;基于一个典型的社交网络Feed系统架构&＃xff0c;介绍Feed系统的缓存模型、缓存体系架构&＃xff0c;以及缓存体系如何伴随业务规模来扩展及演进。

第14章&＃xff0c;典型电商应用与缓存

分布式系统的CAP理论首先把分布式系统中的三个特性进行了如下归纳:

• 一致性©:在分布式系统中的所有数据备份&＃xff0c;在同- -时刻是否是同样的值(等同于所有节点访问同一份最新的数据副本)。
• 可用性(A):在集群中–部分节点故障后&＃xff0c;集群整体是否还能响应客户端的读写请求(对数据更新具备高可用性)。
• 分区容忍性§: 以实际效果而言&＃xff0c;分区相当于对通信的时限要求。系统如果不能在时限内达成数据一致性&＃xff0c; 就意味着发生了分区的情况&＃xff0c;必须就当前操作在C和A之间做出选择。

电商领域是典型的要在CAP做出权衡的业务领域。从参与者来区分有用户、商户、平台运营人员;从基础领域模型来看有商品、订单、库存、库房、营销、物流、干系人等。

用户的诉求是什么?买到好东西(正品&＃xff0c;价格最好还便宜),支付方便&＃xff0c;安全快捷。

商户的诉求是什么?业务模式上解决快速回款;技术上解决对账清晰&＃xff0c;数据准确。

平台的诉求是什么?越来越多的用户&＃xff0c;越来越多的品类&＃xff0c;越来越好的商家。

基于以上三方的诉求&＃xff0c;那么电商平台会面临及时响应性的用户需求(我购买成功&＃xff0c;还是失败);数据准确性需求(我的钱有没有多扣);平台海量请求的诉求(营销活动、秒杀、大促等);高可用的诉求(每-秒都是钱&＃xff0c;每一笔成交背后都是收入&＃xff0c;如果平台不可用&＃xff0c;对应可以直接换算成资金损失)。

第15章&＃xff0c;同程凤凰缓存系统基于Redis的设计与实践

本章和大家分享一下同程凤凰缓存系统在基于Redis方面的设计与实践。在本章中除了会列举我们工作过程中遇到各种问题和误区外&＃xff0c;还会给出我们相应的解决办法&＃xff0c;希望能够抛砖引玉为大家带来一定的启示。

第16章&＃xff0c;新的旅程

在介绍了分布式理论体系、自己动手写缓存、若干开源缓存框架等内容之后&＃xff0c;如同一段美好的旅程&＃xff0c;本书也需要-个总结性的停顿。谈及缓存我们会情不自禁地想起淘汰算法、过期处理等&＃xff0c;但开发设计中如何更好地引入缓存技术&＃xff0c;完整的缓存知识体系又是怎样的,笔者尝试梳理一下&＃xff0c;算是为本文做一个收尾。

其中关于缓存究竞涉及哪些知识点&＃xff0c;可以通过图16-1了解其骨架&＃xff0c;包括分布式概念、缓存分类、缓存各种知识点Tips等,我们在本章后两节也会做进一步的阐述。

2021年Java中高级面试必备知识点总结

在这个部分总结了2019年到目前为止Java常见面试问题&＃xff0c;取其面试核心编写成这份文档笔记&＃xff0c;从中分析面试官的心理&＃xff0c;摸清面试官的“套路”&＃xff0c;可以说搞定90%以上的Java中高级面试没一点难度。

本节总结的内容涵盖了&＃xff1a;消息队列、Redis缓存、分库分表、读写分离、设计高并发系统、分布式系统、高可用系统、SpringCloud微服务架构等一系列互联网主流高级技术的知识点。

目录&＃xff1a;

&＃xff08;上述只是一个整体目录大纲&＃xff0c;每个点里面都有如下所示的详细内容&＃xff0c;从面试问题——分析面试官心理——剖析面试题——完美解答的一个过程&＃xff09;

部分内容&＃xff1a;

对于每一个做技术的来说&＃xff0c;学习是不能停止的&＃xff0c;小编把2019年到目前为止Java的核心知识提炼出来了&＃xff0c;无论你现在是处于什么阶段&＃xff0c;如你所见&＃xff0c;这份文档的内容无论是对于你找面试工作还是提升技术广度深度都是完美的。

不想被后浪淘汰的话&＃xff0c;赶紧搞起来吧&＃xff0c;高清完整版一共是888页&＃xff0c;需要的话可以点赞&＃43;关注后&＃xff0c;点击这里免费获取&＃xff01;

752)]

对于每一个做技术的来说&＃xff0c;学习是不能停止的&＃xff0c;小编把2019年到目前为止Java的核心知识提炼出来了&＃xff0c;无论你现在是处于什么阶段&＃xff0c;如你所见&＃xff0c;这份文档的内容无论是对于你找面试工作还是提升技术广度深度都是完美的。

不想被后浪淘汰的话&＃xff0c;赶紧搞起来吧&＃xff0c;高清完整版一共是888页&＃xff0c;需要的话可以点赞&＃43;关注后&＃xff0c;点击这里免费获取&＃xff01;