点击上方“方志朋”&＃xff0c;选择“置顶公众号”
技术文章第一时间送达&＃xff01;
引言
首先&＃xff0c;之所以谈这个话题呢&＃xff0c;是发现现在很多人对微服务的设计缺乏认识&＃xff0c;所以写一篇扫盲文。当然&＃xff0c;考虑到目前大多微服务的文章都是口水文&＃xff0c;烟哥争取将实现方式讲透&＃xff0c;点清楚&＃xff0c;让大家有所收获&＃xff01;
OK&＃xff0c;我要先说明一下&＃xff0c;我有很长一段时间将服务降级和服务熔断混在一起&＃xff0c;认为是一回事&＃xff01;
为什么我会有这样的误解呢&＃xff1f;
针对下面的情形&＃xff0c;如图所示
当
Service A调用
Service B&＃xff0c;失败多次达到一定阀值&＃xff0c;
Service A不会再去调
Service B&＃xff0c;而会去执行本地的降级方法&＃xff01;
对于这么一套机制:在Spring cloud中结合Hystrix,将其称为熔断降级!
所以我当时就以为是一回事了&＃xff0c;毕竟熔断和降级是一起发生的&＃xff0c;而且这二者的概念太相近了&＃xff01;后面接触了多了&＃xff0c;发现自己理解的还是太狭隘了&＃xff0c;因此本文中带着点我自己的见解&＃xff0c;大家如果有不同意见&＃xff0c;请轻喷&＃xff01;毕竟还有很多人认为两者是一致的&＃xff01;
正文
服务雪崩
OK&＃xff0c;我们从服务雪崩开始讲起&＃xff01;假设存在如下调用链
而此时&＃xff0c;
Service A的流量波动很大&＃xff0c;流量经常会突然性增加&＃xff01;那么在这种情况下&＃xff0c;就算
Service A能扛得住请求&＃xff0c;
Service B和
Service C未必能扛得住这突发的请求。
此时&＃xff0c;如果
Service C因为抗不住请求&＃xff0c;变得不可用。那么
Service B的请求也会阻塞&＃xff0c;慢慢耗尽
Service B的线程资源&＃xff0c;
Service B就会变得不可用。紧接着&＃xff0c;
Service A也会不可用&＃xff0c;这一过程如下图所示
如上图所示&＃xff0c;一个服务失败&＃xff0c;导致整条链路的服务都失败的情形&＃xff0c;我们称之为服务雪崩。
ps&＃xff1a;谁发明的这个词&＃xff0c;真是面试装13必备&＃xff01;
那么&＃xff0c;服务熔断和服务降级就可以视为解决服务雪崩的手段之一。
服务熔断
那么&＃xff0c;什么是服务熔断呢&＃xff1f;
服务熔断&＃xff1a;当下游的服务因为某种原因突然变得不可用或响应过慢&＃xff0c;上游服务为了保证自己整体服务的可用性&＃xff0c;不再继续调用目标服务&＃xff0c;直接返回&＃xff0c;快速释放资源。如果目标服务情况好转则恢复调用。
需要说明的是熔断其实是一个框架级的处理&＃xff0c;那么这套熔断机制的设计&＃xff0c;基本上业内用的是断路器模式&＃xff0c;如Martin Fowler提供的状态转换图如下所示
最开始处于closed状态&＃xff0c;一旦检测到错误到达一定阈值&＃xff0c;便转为open状态&＃xff1b;
这时候会有个reset timeout&＃xff0c;到了这个时间了&＃xff0c;会转移到half open状态&＃xff1b;
尝试放行一部分请求到后端&＃xff0c;一旦检测成功便回归到closed状态&＃xff0c;即恢复服务&＃xff1b;
业内目前流行的熔断器很多&＃xff0c;例如阿里出的Sentinel,以及最多人使用的Hystrix
在Hystrix中&＃xff0c;对应配置如下
//滑动窗口的大小&＃xff0c;默认为20
circuitBreaker.requestVolumeThreshold
//过多长时间&＃xff0c;熔断器再次检测是否开启&＃xff0c;默认为5000&＃xff0c;即5s钟
circuitBreaker.sleepWindowInMilliseconds
//错误率&＃xff0c;默认50%
circuitBreaker.errorThresholdPercentage
每当20个请求中&＃xff0c;有50%失败时&＃xff0c;熔断器就会打开&＃xff0c;此时再调用此服务&＃xff0c;将会直接返回失败&＃xff0c;不再调远程服务。直到5s钟之后&＃xff0c;重新检测该触发条件&＃xff0c;判断是否把熔断器关闭&＃xff0c;或者继续打开。
这些属于框架层级的实现&＃xff0c;我们只要实现对应接口就好&＃xff01;
服务降级
那么&＃xff0c;什么是服务降级呢&＃xff1f;
这里有两种场景:
其实乍看之下&＃xff0c;很多人还是不懂熔断和降级的区别!
其实应该要这么理解:
可能有的人不服&＃xff0c;觉得熔断是熔断、降级是降级&＃xff0c;分明是两回事啊&＃xff01;其实不然&＃xff0c;因为从实现上来说&＃xff0c;熔断和降级必定是一起出现。因为当发生下游服务不可用的情况&＃xff0c;这个时候为了对最终用户负责&＃xff0c;就需要进入上游的降级逻辑了。因此&＃xff0c;将熔断降级视为降级方式的一种&＃xff0c;也是可以说的通的&＃xff01;
我撇开框架&＃xff0c;以最简单的代码来说明&＃xff01;上游代码如下
try{//调用下游的helloWorld服务xxRpc.helloWorld();
}catch(Exception e){//因为熔断&＃xff0c;所以调不通doSomething();
}
注意看&＃xff0c;下游的helloWorld服务因为熔断而调不通。此时上游服务就会进入catch里头的代码块&＃xff0c;那么catch里头执行的逻辑&＃xff0c;你就可以理解为降级逻辑!
什么&＃xff0c;你跟我说你不捕捉异常&＃xff0c;直接丢页面&＃xff1f;
OK&＃xff0c;那我甘拜下风&＃xff0c;当我理解错误!
服务降级大多是属于一种业务级别的处理。当然&＃xff0c;我这里要讲的是另一种降级方式&＃xff0c;也就是开关降级!这也是我们生产上常用的另一种降级方式&＃xff01;
做法很简单&＃xff0c;做个开关&＃xff0c;然后将开关放配置中心&＃xff01;在配置中心更改开关&＃xff0c;决定哪些服务进行降级。至于配置变动后&＃xff0c;应用怎么监控到配置发生了变动&＃xff0c;这就不是本文该讨论的范围。
那么&＃xff0c;在应用程序中部下开关的这个过程&＃xff0c;业内也有一个名词&＃xff0c;称为埋点&＃xff01;
那接下来最关键的一个问题&＃xff0c;哪些业务需要埋点&＃xff1f;
一般有以下方法
(1)简化执行流程
自己梳理出核心业务流程和非核心业务流程。然后在非核心业务流程上加上开关&＃xff0c;一旦发现系统扛不住&＃xff0c;关掉开关&＃xff0c;结束这些次要流程。
(2)关闭次要功能
一个微服务下肯定有很多功能&＃xff0c;那自己区分出主要功能和次要功能。然后次要功能加上开关&＃xff0c;需要降级的时候&＃xff0c;把次要功能关了吧&＃xff01;
(3)降低一致性
假设&＃xff0c;你在业务上发现执行流程没法简化了&＃xff0c;愁啊&＃xff01;也没啥次要功能可以关了&＃xff0c;桑心啊&＃xff01;那只能降低一致性了&＃xff0c;即将核心业务流程的同步改异步&＃xff0c;将强一致性改最终一致性&＃xff01;
可是这些都是手动降级&＃xff0c;有办法自动降级么&＃xff1f;
这里我摸着良心说&＃xff0c;我们在生产上没弄自动降级&＃xff01;因为一般需要降级的场景&＃xff0c;都是可以预见的&＃xff0c;例如某某活动。假设&＃xff0c;平时真的有突发事件&＃xff0c;流量异常&＃xff0c;也有监控系统发邮件通知&＃xff0c;提醒我们去降级&＃xff01;
当然&＃xff0c;这并不代表自动降级不能做&＃xff0c;因此以下内容可以认为我在胡说八道&＃xff0c;因为我在生产上没实践过&＃xff0c;只是头脑大概想了下&＃xff0c;如果让我来做自动降级我会怎么实现&＃xff1a;
(1)自己设一个阈值&＃xff0c;例如几秒内失败多少次&＃xff0c;就启动降级
(2)自己做接口监控(有兴趣的可以了解一下Rxjava)&＃xff0c;达到阈值就走推送逻辑。怎么推呢&＃xff1f;比如你配置是放在Git上&＃xff0c;就用Jgit去改配置中心的配置。如果配置放数据库&＃xff0c;就用Jdbc去改。
(3)改完配置中心的配置后&＃xff0c;应用就可以自动检测到配置的变化&＃xff0c;进行降级&＃xff01;(这句不了解的&＃xff0c;了解一下配置中心的热刷新功能)
热门内容&＃xff1a;
从零开始搭建创业公司后台技术栈
基于SpringBoot开发一个Restful服务&＃xff0c;实现增删改查功能
开发者说&＃xff1a;基于 Nacos 的网关灰度路由和服务权重灰度
如何在微服务架构中实现安全性&＃xff1f;
Spring Cloud Alibba教程&＃xff1a;Sentinel的使用
感谢搓一下“在看”
京公网安备 11010802041100号