谈谈服务雪崩、降级与熔断

点击上方“方志朋”&＃xff0c;选择“置顶公众号”

技术文章第一时间送达&＃xff01;

引言

首先&＃xff0c;之所以谈这个话题呢&＃xff0c;是发现现在很多人对微服务的设计缺乏认识&＃xff0c;所以写一篇扫盲文。当然&＃xff0c;考虑到目前大多微服务的文章都是口水文&＃xff0c;烟哥争取将实现方式讲透&＃xff0c;点清楚&＃xff0c;让大家有所收获&＃xff01;
OK&＃xff0c;我要先说明一下&＃xff0c;我有很长一段时间将服务降级和服务熔断混在一起&＃xff0c;认为是一回事&＃xff01;
为什么我会有这样的误解呢&＃xff1f;
针对下面的情形&＃xff0c;如图所示

当Service A调用Service B&＃xff0c;失败多次达到一定阀值&＃xff0c;Service A不会再去调Service B&＃xff0c;而会去执行本地的降级方法&＃xff01;
对于这么一套机制:在Spring cloud中结合Hystrix,将其称为熔断降级!

所以我当时就以为是一回事了&＃xff0c;毕竟熔断和降级是一起发生的&＃xff0c;而且这二者的概念太相近了&＃xff01;后面接触了多了&＃xff0c;发现自己理解的还是太狭隘了&＃xff0c;因此本文中带着点我自己的见解&＃xff0c;大家如果有不同意见&＃xff0c;请轻喷&＃xff01;毕竟还有很多人认为两者是一致的&＃xff01;

正文

服务雪崩

OK&＃xff0c;我们从服务雪崩开始讲起&＃xff01;假设存在如下调用链

而此时&＃xff0c;Service A的流量波动很大&＃xff0c;流量经常会突然性增加&＃xff01;那么在这种情况下&＃xff0c;就算Service A能扛得住请求&＃xff0c;Service B和Service C未必能扛得住这突发的请求。
此时&＃xff0c;如果Service C因为抗不住请求&＃xff0c;变得不可用。那么Service B的请求也会阻塞&＃xff0c;慢慢耗尽Service B的线程资源&＃xff0c;Service B就会变得不可用。紧接着&＃xff0c;Service A也会不可用&＃xff0c;这一过程如下图所示

如上图所示&＃xff0c;一个服务失败&＃xff0c;导致整条链路的服务都失败的情形&＃xff0c;我们称之为服务雪崩。

ps&＃xff1a;谁发明的这个词&＃xff0c;真是面试装13必备&＃xff01;

那么&＃xff0c;服务熔断和服务降级就可以视为解决服务雪崩的手段之一。

服务熔断

那么&＃xff0c;什么是服务熔断呢&＃xff1f;
服务熔断&＃xff1a;当下游的服务因为某种原因突然变得不可用或响应过慢&＃xff0c;上游服务为了保证自己整体服务的可用性&＃xff0c;不再继续调用目标服务&＃xff0c;直接返回&＃xff0c;快速释放资源。如果目标服务情况好转则恢复调用。
需要说明的是熔断其实是一个框架级的处理&＃xff0c;那么这套熔断机制的设计&＃xff0c;基本上业内用的是断路器模式&＃xff0c;如Martin Fowler提供的状态转换图如下所示

• 最开始处于closed状态&＃xff0c;一旦检测到错误到达一定阈值&＃xff0c;便转为open状态&＃xff1b;

• 这时候会有个reset timeout&＃xff0c;到了这个时间了&＃xff0c;会转移到half open状态&＃xff1b;

• 尝试放行一部分请求到后端&＃xff0c;一旦检测成功便回归到closed状态&＃xff0c;即恢复服务&＃xff1b;

业内目前流行的熔断器很多&＃xff0c;例如阿里出的Sentinel,以及最多人使用的Hystrix
在Hystrix中&＃xff0c;对应配置如下

//滑动窗口的大小&＃xff0c;默认为20
circuitBreaker.requestVolumeThreshold 
//过多长时间&＃xff0c;熔断器再次检测是否开启&＃xff0c;默认为5000&＃xff0c;即5s钟
circuitBreaker.sleepWindowInMilliseconds 
//错误率&＃xff0c;默认50%
circuitBreaker.errorThresholdPercentage


每当20个请求中&＃xff0c;有50%失败时&＃xff0c;熔断器就会打开&＃xff0c;此时再调用此服务&＃xff0c;将会直接返回失败&＃xff0c;不再调远程服务。直到5s钟之后&＃xff0c;重新检测该触发条件&＃xff0c;判断是否把熔断器关闭&＃xff0c;或者继续打开。

这些属于框架层级的实现&＃xff0c;我们只要实现对应接口就好&＃xff01;

服务降级

那么&＃xff0c;什么是服务降级呢&＃xff1f;
这里有两种场景:

• 当下游的服务因为某种原因响应过慢&＃xff0c;下游服务主动停掉一些不太重要的业务&＃xff0c;释放出服务器资源&＃xff0c;增加响应速度&＃xff01;

• 当下游的服务因为某种原因不可用&＃xff0c;上游主动调用本地的一些降级逻辑&＃xff0c;避免卡顿&＃xff0c;迅速返回给用户&＃xff01;

其实乍看之下&＃xff0c;很多人还是不懂熔断和降级的区别!

其实应该要这么理解:

• 服务降级有很多种降级方式&＃xff01;如开关降级、限流降级、熔断降级!

• 服务熔断属于降级方式的一种&＃xff01;

可能有的人不服&＃xff0c;觉得熔断是熔断、降级是降级&＃xff0c;分明是两回事啊&＃xff01;其实不然&＃xff0c;因为从实现上来说&＃xff0c;熔断和降级必定是一起出现。因为当发生下游服务不可用的情况&＃xff0c;这个时候为了对最终用户负责&＃xff0c;就需要进入上游的降级逻辑了。因此&＃xff0c;将熔断降级视为降级方式的一种&＃xff0c;也是可以说的通的&＃xff01;

我撇开框架&＃xff0c;以最简单的代码来说明&＃xff01;上游代码如下

try{//调用下游的helloWorld服务xxRpc.helloWorld();
}catch(Exception e){//因为熔断&＃xff0c;所以调不通doSomething();
}


注意看&＃xff0c;下游的helloWorld服务因为熔断而调不通。此时上游服务就会进入catch里头的代码块&＃xff0c;那么catch里头执行的逻辑&＃xff0c;你就可以理解为降级逻辑!
什么&＃xff0c;你跟我说你不捕捉异常&＃xff0c;直接丢页面&＃xff1f;
OK&＃xff0c;那我甘拜下风&＃xff0c;当我理解错误!

服务降级大多是属于一种业务级别的处理。当然&＃xff0c;我这里要讲的是另一种降级方式&＃xff0c;也就是开关降级!这也是我们生产上常用的另一种降级方式&＃xff01;

做法很简单&＃xff0c;做个开关&＃xff0c;然后将开关放配置中心&＃xff01;在配置中心更改开关&＃xff0c;决定哪些服务进行降级。至于配置变动后&＃xff0c;应用怎么监控到配置发生了变动&＃xff0c;这就不是本文该讨论的范围。
那么&＃xff0c;在应用程序中部下开关的这个过程&＃xff0c;业内也有一个名词&＃xff0c;称为埋点&＃xff01;

那接下来最关键的一个问题&＃xff0c;哪些业务需要埋点&＃xff1f;
一般有以下方法
(1)简化执行流程
自己梳理出核心业务流程和非核心业务流程。然后在非核心业务流程上加上开关&＃xff0c;一旦发现系统扛不住&＃xff0c;关掉开关&＃xff0c;结束这些次要流程。

(2)关闭次要功能
一个微服务下肯定有很多功能&＃xff0c;那自己区分出主要功能和次要功能。然后次要功能加上开关&＃xff0c;需要降级的时候&＃xff0c;把次要功能关了吧&＃xff01;

(3)降低一致性
假设&＃xff0c;你在业务上发现执行流程没法简化了&＃xff0c;愁啊&＃xff01;也没啥次要功能可以关了&＃xff0c;桑心啊&＃xff01;那只能降低一致性了&＃xff0c;即将核心业务流程的同步改异步&＃xff0c;将强一致性改最终一致性&＃xff01;

可是这些都是手动降级&＃xff0c;有办法自动降级么&＃xff1f;
这里我摸着良心说&＃xff0c;我们在生产上没弄自动降级&＃xff01;因为一般需要降级的场景&＃xff0c;都是可以预见的&＃xff0c;例如某某活动。假设&＃xff0c;平时真的有突发事件&＃xff0c;流量异常&＃xff0c;也有监控系统发邮件通知&＃xff0c;提醒我们去降级&＃xff01;
当然&＃xff0c;这并不代表自动降级不能做&＃xff0c;因此以下内容可以认为我在胡说八道&＃xff0c;因为我在生产上没实践过&＃xff0c;只是头脑大概想了下&＃xff0c;如果让我来做自动降级我会怎么实现&＃xff1a;

• (1)自己设一个阈值&＃xff0c;例如几秒内失败多少次&＃xff0c;就启动降级

• (2)自己做接口监控(有兴趣的可以了解一下Rxjava)&＃xff0c;达到阈值就走推送逻辑。怎么推呢&＃xff1f;比如你配置是放在Git上&＃xff0c;就用Jgit去改配置中心的配置。如果配置放数据库&＃xff0c;就用Jdbc去改。

• (3)改完配置中心的配置后&＃xff0c;应用就可以自动检测到配置的变化&＃xff0c;进行降级&＃xff01;(这句不了解的&＃xff0c;了解一下配置中心的热刷新功能)

热门内容&＃xff1a;

• 从零开始搭建创业公司后台技术栈
  

• 基于SpringBoot开发一个Restful服务&＃xff0c;实现增删改查功能
  

• 开发者说&＃xff1a;基于 Nacos 的网关灰度路由和服务权重灰度
  

• 如何在微服务架构中实现安全性&＃xff1f;
  

• Spring Cloud Alibba教程&＃xff1a;Sentinel的使用
  

感谢搓一下“在看”