进程内缓存，究竟怎么玩？

除了常见的redis/memcache等进程外缓存服务&＃xff0c;缓存还有一种常见的玩法&＃xff0c;进程内缓存。

什么是进程内缓存&＃xff1f;

答&＃xff1a;将一些数据缓存在站点&＃xff0c;或者服务的进程内&＃xff0c;这就是进程内缓存。

进程内缓存的实现载体&＃xff0c;最简单的&＃xff0c;可以是一个带锁的Map。又或者&＃xff0c;可以使用第三方库&＃xff0c;例如leveldb。

进程内缓存能存储啥&＃xff1f;

答&＃xff1a;redis/memcache等进程外缓存服务能存什么&＃xff0c;进程内缓存就能存什么。

如上图&＃xff0c;可以存储json数据&＃xff0c;可以存储html页面&＃xff0c;可以存储对象。

进程内缓存有什么好处&＃xff1f;

答&＃xff1a;与没有缓存相比&＃xff0c;进程内缓存的好处是&＃xff0c;数据读取不再需要访问后端&＃xff0c;例如数据库。

如上图&＃xff0c;整个访问流程要经过1,2,3,4四个步骤。

如果引入进程内缓存&＃xff0c;

如上图&＃xff0c;整个访问流程只要经过1,2两个步骤。

与进程外缓存相比&＃xff08;例如redis/memcache&＃xff09;&＃xff0c;进程内缓存省去了网络开销&＃xff0c;所以一来节省了内网带宽&＃xff0c;二来响应时延会更低。

进程内缓存有什么缺点&＃xff1f;

答&＃xff1a;统一缓存服务虽然多一次网络交互&＃xff0c;但仍是统一存储。

如上图&＃xff0c;站点和服务中的多个节点访问统一的缓存服务&＃xff0c;数据统一存储&＃xff0c;容易保证数据的一致性。

而进程内缓存&＃xff0c;如上图&＃xff0c;如果数据缓存在站点和服务的多个节点内&＃xff0c;数据存了多份&＃xff0c;一致性比较难保障。

如何保证进程内缓存的数据一致性&＃xff1f;

答&＃xff1a;保障进程内缓存一致性&＃xff0c;有几种方案。

第一种方案&＃xff0c;可以通过单节点通知其他节点。如上图&＃xff1a;写请求发生在server1&＃xff0c;在修改完自己内存数据与数据库中的数据之后&＃xff0c;可以主动通知其他server节点&＃xff0c;也修改内存的数据。

这种方案的缺点是&＃xff1a;同一功能的一个集群的多个节点&＃xff0c;相互耦合在一起&＃xff0c;特别是节点较多时&＃xff0c;网状连接关系极其复杂。

第二种方案&＃xff0c;可以通过MQ通知其他节点。如上图&＃xff0c;写请求发生在server1&＃xff0c;在修改完自己内存数据与数据库中的数据之后&＃xff0c;给MQ发布数据变化通知&＃xff0c;其他server节点订阅MQ消息&＃xff0c;也修改内存数据。

这种方案虽然解除了节点之间的耦合&＃xff0c;但引入了MQ&＃xff0c;使得系统更加复杂。

前两种方案&＃xff0c;节点数量越多&＃xff0c;数据冗余份数越多&＃xff0c;数据同时更新的原子性越难保证&＃xff0c;一致性也就越难保证。

第三种方案&＃xff0c;为了避免耦合&＃xff0c;降低复杂性&＃xff0c;干脆放弃了“实时一致性”&＃xff0c;每个节点启动一个timer&＃xff0c;定时从后端拉取最新的数据&＃xff0c;更新内存缓存。在有节点更新后端数据&＃xff0c;而其他节点通过timer更新数据之间&＃xff0c;会读到脏数据。

为什么不能频繁使用进程内缓存&＃xff1f;

答&＃xff1a;分层架构设计&＃xff0c;有一条准则&＃xff1a;站点层、服务层要做到无数据无状态&＃xff0c;这样才能任意的加节点水平扩展&＃xff0c;数据和状态尽量存储到后端的数据存储服务&＃xff0c;例如数据库服务或者缓存服务。

可以看到&＃xff0c;站点与服务的进程内缓存&＃xff0c;实际上违背了分层架构设计的无状态准则&＃xff0c;故一般不推荐使用。

什么时候可以使用进程内缓存&＃xff1f;

答&＃xff1a;以下情况&＃xff0c;可以考虑使用进程内缓存。

情况一&＃xff0c;只读数据&＃xff0c;可以考虑在进程启动时加载到内存。

画外音&＃xff1a;此时也可以把数据加载到redis / memcache&＃xff0c;进程外缓存服务也能解决这类问题。

情况二&＃xff0c;极其高并发的&＃xff0c;如果透传后端压力极大的场景&＃xff0c;可以考虑使用进程内缓存。

例如&＃xff0c;秒杀业务&＃xff0c;并发量极高&＃xff0c;需要站点层挡住流量&＃xff0c;可以使用内存缓存。

情况三&＃xff0c;一定程度上允许数据不一致业务。

例如&＃xff0c;有一些计数场景&＃xff0c;运营场景&＃xff0c;页面对数据一致性要求较低&＃xff0c;可以考虑使用进程内页面缓存。

末了&＃xff0c;再次强调&＃xff0c;进程内缓存的适用场景并不如redis/memcache广泛&＃xff0c;不要为了炫技而使用。

更多的时候&＃xff0c;还是老老实实使用redis/mc吧。

画外音&＃xff1a;额&＃xff0c;介绍技术&＃xff0c;不希望把大家带偏了。

相关推荐&＃xff1a;

挖坑篇&＃xff1a;《缓存架构&＃xff0c;到底设计些什么&＃xff1f;》

填坑篇一&＃xff1a;《从源码分析&＃xff0c;究竟选型redis还是memcache》

填坑篇二&＃xff1a;《“选redis还是memcache”&＃xff0c;面试官究竟想考察啥&＃xff1f;》

任何脱离业务的架构设计都是耍流氓&＃xff0c;希望大家有收获&＃xff0c;求转。