高并发系统设计的2个要点，一定要看！

原文连接:https://mp.weixin.qq.com/s/KRGm26sjlMX8EXUzmN6XEA

在系统设计时&＃xff0c;如果能预先看到一些问题&＃xff0c;并在设计层面提前解决&＃xff0c;就会给后期的开发带来很大的便捷。

一、Session共享问题

单系统中的Session对象可以直接保存在内存中&＃xff0c;但在分布式或集群环境下&＃xff0c;多个不同的节点就要采取措施来共享Session对象&＃xff0c;具体可以使用以下几种方式。

1.Session Replication

Session Replication 是指在客户端第一次发出请求后&＃xff0c;处理该请求的服务端就会创建一个与之对应的Session对象&＃xff0c;用于保存客户端的状态信息&＃xff0c;之后为了让其他服务端也能保存一份此Session对象&＃xff0c;就需要将此Session对象在各个服务端节点之间进行同步&＃xff0c;如图1所示。

图1 Session Replication

2.Session Sticky

Session Sticky是通过Nginx等负载均衡工具对各个用户进行标记&＃xff08;例如对COOKIE标记&＃xff09;&＃xff0c;使每个用户在经过负载均衡工具后都请求固定的服务节点&＃xff0c;如图2所示。

图2 Session Sticky

3.独立Session服务器

可以将系统中所有的Session对象都存放到一个独立的Session服务中&＃xff0c;之后各个应用服务再分别从这个Session服务中获取需要的Session对象&＃xff0c;如图3所示。在大规模分布式系统中&＃xff0c;就推荐使用这种独立Session服务方式。并且这种方式在存储Session对象时&＃xff0c;既可以用数据库&＃xff0c;也可以使用各种分布式或集群存储系统。

图3 独立Session服务器

 二、缓存穿透与缓存雪崩问题

缓存可以在一定程度上缓解高并发造成的性能问题&＃xff0c;但在一些特定场景下缓存自身也会带来一些问题&＃xff0c;比较典型的就是缓存穿透与缓存雪崩问题。

1.缓存穿透

缓存穿透是指大量查询一些数据库中不存在的数据&＃xff0c;从而影响数据库的性能。例如Redis等KV存储结构的中间件可以作为MySQL等数据库的缓存组件&＃xff0c;但如果某些数据没有被Redis缓存却被大量的查询&＃xff0c;就会对MySQL带来巨大压力&＃xff0c;如图4所示。

图4 缓存穿透

理解了缓存穿透的原因后&＃xff0c;解决思路就已经明确了&＃xff0c;举例如下。

1&＃xff09;拦截非法的查询请求&＃xff0c;仅将合理的请求发送给MySQL。

如&＃xff0c;可以使用验证码、IP限制等手段限制恶意攻击&＃xff0c;并用敏感词过滤器等拦截不合理的非法查询。

2&＃xff09;缓存空对象。

如&＃xff0c;假设在iphone9上市后&＃xff0c;可能会导致大量用户搜索iphone9&＃xff0c;但此时Redis和MySQL中还没有iphone9这个词。将数据库中不存在的iphone9也缓存在Redis中&＃xff0c;如Key&＃61;iphone9,value&＃61;””。之后当用户再次搜索iphone9时&＃xff0c;就可以直接从Redis中拿到结果&＃xff0c;从而避免对MySQL的访问&＃xff0c;如图5所示。

图5缓存空对象

提示&＃xff1a;为了减少Redis对大量空对象的缓存&＃xff0c;可以适当减少空对象的过期时间。

 3&＃xff09;建立数据标识仓库。

将MySQL中的所有数据的name值都映射成hash值&＃xff0c;例如可以将“商品表”中的商品名“iphone8”映射成MD5计算出来的hash值&＃xff0c;然后再将全部name的hash值放入Redis中&＃xff0c;从而构建出一个“数据库中所有可查数据的hash仓库”。

之后&＃xff0c;每次在查询MySQL之前都会先查询这个hash仓库&＃xff0c;如果要查询数据的hash值存在于仓库中&＃xff0c;再进入MySQL做真实的查询&＃xff0c;如果不存在则直接返回。需要注意的是&＃xff0c;由于不同数据的hash值在概率上时可能相同的&＃xff0c;因此可能会漏掉对个别数据的拦截&＃xff0c;如图6中的“B”。

图6 不同数据的Hash值相同而造成的问题

2.缓存雪崩

除了缓存穿透以外&＃xff0c;在使用缓存时还需要考虑缓存雪崩的情况。缓存雪崩是指由于某种原因造成Redis突然失效&＃xff0c;从而造成MySQL瞬间压力骤增&＃xff0c;进而严重影响MySQL性能甚至造成MySQL服务宕机。 

可参考使用以下解决方案&＃xff1a;

1&＃xff09;搭建Redis集群&＃xff0c;保证高可用&＃xff1b;

2&＃xff09;避免大量缓存对象的key集中失效&＃xff0c;尽力让过期时间分配均匀一些&＃xff0c;例如&＃xff0c;可以给各个缓存的过期时间乘一个随机数&＃xff1b;

3&＃xff09;通过队列、锁机制等控制并发访问MySQL的线程数。

推荐阅读&＃xff1a;

• Java外卖点餐初级系统&＃xff08;附源码&＃xff09;

• 开源的Java后端通用型项目&＃xff0c;值得收藏&＃xff01;

• 这样设计订单系统&＃xff0c;同事直呼 "666"&＃xff01;

• 新同事不讲武德&＃xff0c;这SQL语句写得忒野了&＃xff01;

• 一款开源的Java在线考试系统项目&＃xff08;附源码&＃xff09;

• 重磅&＃xff0c;Kubernetes 决定弃用 Docker&＃xff01;
  

最近面试BAT&＃xff0c;整理一份面试资料《Java面试BAT通关手册》&＃xff0c;覆盖了Java核心技术、JVM、Java并发、SSM、微服务、数据库、数据结构等等。获取方式&＃xff1a;点“在看”&＃xff0c;关注公众号并回复 666 领取&＃xff0c;更多内容陆续奉上。
明天见(&＃xff61;&＃xff65;ω&＃xff65;&＃xff61;)&＃xff89;♡