阿里一面：关于【缓存穿透、缓存击穿、缓存雪崩、热点数据失效】问题的解决方案...

1 前言

在我们的平常的项目中多多少少都会使用到缓存&＃xff0c;因为一些数据我们没有必要每次查询的时候都查询到数据库。特别是高QPS的系统&＃xff0c;每次都去查询数据库&＃xff0c;对于你的数据库来说将是灾难。今天我们不牵涉多级缓存的知识&＃xff0c;就把系统使用到的缓存方案&＃xff0c;不管是一级还是多级的都统统成为缓存&＃xff0c;主要是为了讲述使用缓存的时候可能会遇到的一些问题以及一些解决办法。我们缓存时&＃xff0c;我们的业务系统大概的调用流程如下图片&＃xff1a;


当我们查询一条数据时&＃xff0c;先去查询缓存&＃xff0c;如果缓存有就直接返回&＃xff0c;如果没有就去查询数据库&＃xff0c;然后返回。这种情况下就可能会出现一些现象。


2 缓存穿透

2.1 什么是缓存

正常情况下&＃xff0c;我们去查询数据都是存在的。

那么请求去查询一条压根儿数据库中根本就不存在的数据&＃xff0c;也就是缓存和数据库都查询不到这条数据&＃xff0c;但是请求每次都会打到数据库上面去。

这种查询不存在数据的现象我们称为缓存穿透。

2.2 穿透带来的问题

试想一下&＃xff0c;如果有黑客会对你的系统进行攻击&＃xff0c;拿一个不存在的id 去查询数据&＃xff0c;会产生大量的请求到数据库去查询。可能会导致你的数据库由于压力过大而宕掉。

2.3 解决办法

2.3.1 缓存空值

之所以会发生穿透&＃xff0c;就是因为缓存中没有存储这些空数据的key。从而导致每次查询都到数据库去了。

那么我们就可以为这些key对应的值设置为null 丢到缓存里面去。后面再出现查询这个key 的请求的时候&＃xff0c;直接返回null。

这样&＃xff0c;就不用再数据库中去走一圈了&＃xff0c;但是别忘了设置过期时间。

2.3.2 BloomFilter

BloomFilter 类似于一个hbase set 用来判断某个元素 (key) 是否存在于某个集合中。

这种方式在大数据场景应用比较多&＃xff0c;比如 Hbase 中使用它去判断数据是否在磁盘上。还有在爬虫场景判断url 是否已经被爬去过。

这种方案可以加在第一种方案中&＃xff0c;在缓存之前在加一层 BloomFilter&＃xff0c;在查询的时候先去 BloomFilter 去查询 key 是否存在&＃xff0c;如果不存在就直接返回&＃xff0c;存在再走查缓存 -> 查 DB.

流程如下&＃xff1a;

2.4 如何选择

针对于一些恶意攻击&＃xff0c;攻击带过来的大量 key 是不存在的&＃xff0c;那么我们采用第一种方案就会缓存大量不存在 key 的数据。

此时我们采用第一种方案就不合适了&＃xff0c;我们完全可以先对使用第二种方案进行过滤掉这些 key 。

针对这种 key 异常多、请求重复率比较低的数据&＃xff0c;我们就没有必要进行缓存&＃xff0c;使用第二种方案直接过滤掉。

而对于空数据的 key 有限的&＃xff0c;重复率比较高的&＃xff0c;我们则可以采用第一种方式进行缓存。

3 缓存击穿

3.1 什么是击穿

缓存击穿是我们可能遇到的第二个使用缓存方案可能遇到的问题。

在平常高并发的系统中&＃xff0c;大量的请求同时查询一个 key 时&＃xff0c;此时这个 key 正好失效了&＃xff0c;就会导致大量的请求都打到数据上面去。这种现象我们称为缓存击穿。

3.2 会带来什么问题

会造成某一时刻数据库请求量过大&＃xff0c;压力剧增。

3.3 如何解决

上面的现象是多个线程同时去查询数据库的这条数据&＃xff0c;那么我们可以在第一个查询数据的请求上使用一个 互斥锁来锁住它。

其他的线程走到这一步拿不到锁就等着&＃xff0c;等第一个线程查询到了数据&＃xff0c;然后做缓存。后面的线程进来发现已经有缓存了&＃xff0c;就直接走缓存。

4 缓存雪崩

4.1 什么是缓存雪崩

缓存雪崩的情况是说&＃xff0c;当某一时刻发生大规模的缓存失效的情况&＃xff0c;比如你的缓存服务宕机了&＃xff0c;会有大量的请求进来直接打到 DB 上面。结果就是 DB 撑不住&＃xff0c;挂掉。

4.2 解决办法

4.2.1 事前&＃xff1a;

• 使用集群缓存&＃xff0c;保证缓存服务的高可用

这种方案就是在发生雪崩前对缓存集群实现高可用&＃xff0c;如果是使用 Redis, 可以使用主从 &＃43; 哨兵&＃xff0c;Redis Cluster 来避免 Redis 全盘崩溃的情况。

4.2.2 事中&＃xff1a;

• ehcache本地缓存 &＃43; Hystrix限流&降级&＃xff0c;避免MySQL被打死

使用 echcache 本地缓存的目的也是考虑在 Redis Cluster 完全不可用的时候&＃xff0c;ehcache 本地缓存还能够支撑一阵。

使用 Hystrix 进行限流 & 降级&＃xff0c;比如一秒来了5000个请求&＃xff0c;我们可以设置假设只能有一秒 2000个请求能通过这个组件&＃xff0c;那么其他剩余的 3000 请求就会走限流逻辑。

然后去调用我们自己开发的降级组件&＃xff08;降级&＃xff09;&＃xff0c;比如设置的一些默认值呀之类的。以此来保护最后的 MySQL 不会被大量的请求给打死。

4.2.3 事后&＃xff1a;

• 开启Redis持久化机制&＃xff0c;尽快恢复缓存集群

一旦重启&＃xff0c;就能从磁盘上自动加载数据恢复内存中的数据。

防止雪崩方案如下图所示&＃xff1a;

5 解决热点数据集中失效问题

我们在设置缓存的时候&＃xff0c;一般会给缓存设置一个失效时间&＃xff0c;过了这个时间&＃xff0c;缓存就失效了。

对于一些热点的数据来说&＃xff0c;当缓存失效以后会存在大量的请求过来&＃xff0c;然后打到数据库去&＃xff0c;从而可能导致数据库崩溃的情况。

5.1 解决办法

5.1.1 设置不同的失效时间

为了避免这些热点的数据集中失效&＃xff0c;那么我们在设置缓存过期时间的时候&＃xff0c;我们让他们失效的时间错开。

比如在一个基础的时间上加上或者减去一个范围内的随机值。

5.1.2 互斥锁

结合上面的击穿的情况&＃xff0c;在第一个请求去查询数据库的时候对他加一个互斥锁&＃xff0c;其余的查询请求都会被阻塞住&＃xff0c;直到锁被释放&＃xff0c;从而保护数据库。

但是也是由于它会阻塞其他的线程&＃xff0c;此时系统吞吐量会下降。需要结合实际的业务去考虑是否要这么做。