负载均衡基础概念与技术解析

一、什么是负载均衡&＃xff1f;

早期的互联网应用&＃xff0c;由于用户流量比较小&＃xff0c;业务逻辑也比较简单&＃xff0c;往往一个单服务器就能满足负载需求。随着现在互联网的流量越来越大&＃xff0c;稍微好一点的系统&＃xff0c;访问量就非常大了&＃xff0c;并且系统功能也越来越复杂&＃xff0c;那么单台服务器就算将性能优化得再好&＃xff0c;也不能支撑这么大用户量的访问压力了&＃xff0c;这个时候就需要使用多台机器&＃xff0c;设计高性能的集群来应对。

那么&＃xff0c;多台服务器是如何去均衡流量、如何组成高性能的集群的呢&＃xff1f;

此时就需要请出 「负载均衡器」 入场了。

负载均衡&＃xff08;Load Balancer&＃xff09;是指把用户访问的流量&＃xff0c;通过「负载均衡器」&＃xff0c;根据某种转发的策略&＃xff0c;均匀的分发到后端多台服务器上&＃xff0c;后端的服务器可以独立的响应和处理请求&＃xff0c;从而实现分散负载的效果。负载均衡技术提高了系统的服务能力&＃xff0c;增强了应用的可用性。

&＃xff08;图片来源网络&＃xff09;

二、负载均衡方案有几种&＃xff1f;

目前市面上最常见的负载均衡技术方案主要有三种&＃xff1a;

• 基于DNS负载均衡

• 基于硬件负载均衡

• 基于软件负载均衡

三种方案各有优劣&＃xff0c;DNS负载均衡可以实现在地域上的流量均衡&＃xff0c;硬件负载均衡主要用于大型服务器集群中的负载需求&＃xff0c;而软件负载均衡大多是基于机器层面的流量均衡。在实际场景中&＃xff0c;这三种是可以组合在一起使用。下面来详细讲讲&＃xff1a;

1. 基于DNS负载均衡

&＃xff08;网络图片&＃xff09;

基于DNS来做负载均衡其实是一种最简单的实现方案&＃xff0c;通过在DNS服务器上做一个简单配置即可。
其原理就是当用户访问域名的时候&＃xff0c;会先向DNS服务器去解析域名对应的IP地址&＃xff0c;这个时候我们可以让DNS服务器根据不同地理位置的用户返回不同的IP。比如南方的用户就返回我们在广州业务服务器的IP&＃xff0c;北方的用户来访问的话&＃xff0c;我就返回北京业务服务器所在的IP。

在这个模式下&＃xff0c;用户就相当于实现了按照「就近原则」将请求分流了&＃xff0c;既减轻了单个集群的负载压力&＃xff0c;也提升了用户的访问速度。

使用DNS做负载均衡的方案&＃xff0c;天然的优势就是配置简单&＃xff0c;实现成本非常低&＃xff0c;无需额外的开发和维护工作。
但是也有一个明显的缺点是&＃xff1a;当配置修改后&＃xff0c;生效不及时。这个是由于DNS的特性导致的&＃xff0c;DNS一般会有多级缓存&＃xff0c;所以当我们修改了DNS配置之后&＃xff0c;由于缓存的原因&＃xff0c;会导致IP变更不及时&＃xff0c;从而影响负载均衡的效果。

另外&＃xff0c;使用DNS做负载均衡的话&＃xff0c;大多是基于地域或者干脆直接做IP轮询&＃xff0c;没有更高级的路由策略&＃xff0c;所以这也是DNS方案的局限所在。

2. 基于硬件负载均衡

&＃xff08;网络图片&＃xff09;

硬件的负载均衡那就比较牛逼了&＃xff0c;比如大名鼎鼎的 F5 Network Big-IP&＃xff0c;也就是我们常说的 F5&＃xff0c;它是一个网络设备&＃xff0c;你可以简单的理解成类似于网络交换机的东西&＃xff0c;完全通过硬件来抗压力&＃xff0c;性能是非常的好&＃xff0c;每秒能处理的请求数达到百万级&＃xff0c;即 几百万/秒 的负载&＃xff0c;当然价格也就非常非常贵了&＃xff0c;十几万到上百万人民币都有。

因为这类设备一般用在大型互联网公司的流量入口最前端&＃xff0c;以及政府、国企等不缺钱企业会去使用。一般的中小公司是不舍得用的。

采用 F5 这类硬件做负载均衡的话&＃xff0c;主要就是省心省事&＃xff0c;买一台就搞定&＃xff0c;性能强大&＃xff0c;一般的业务不在话下。而且在负载均衡的算法方面还支持很多灵活的策略&＃xff0c;同时还具有一些防火墙等安全功能。但是缺点也很明显&＃xff0c;一个字&＃xff1a;贵。

　　3.基于软件负载均衡&＃xff08;ngnix,lvs&＃43;keepAlived,HAProxy&＃xff09;

&＃xff08;网络图片&＃xff09;

软件负载均衡是指使用软件的方式来分发和均衡流量。软件负载均衡&＃xff0c;分为7层协议 和 4层协议。
网络协议有七层&＃xff0c;基于第四层传输层来做流量分发的方案称为4层负载均衡&＃xff0c;例如LVS&＃xff0c;而基于第七层应用层来做流量分发的称为7层负载均衡&＃xff0c;例如 Nginx。这两种在性能和灵活性上是有些区别的。

基于4层的负载均衡性能要高一些&＃xff0c;一般能达到 几十万/秒 的处理量&＃xff0c;而基于7层的负载均衡处理量一般只在 几万/秒 。

基于软件的负载均衡的特点也很明显&＃xff0c;便宜。在正常的服务器上部署即可&＃xff0c;无需额外采购&＃xff0c;就是投入一点技术去优化优化即可&＃xff0c;因此这种方式是互联网公司中用得最多的一种方式。

三、常用的均衡算法有哪些&＃xff1f;

上面讲完了常见的负载均衡技术方案&＃xff0c;那么接下来咱们看一下&＃xff0c;在实际方案应用中&＃xff0c;一般可以使用哪些均衡算法&＃xff1f;

• 轮询策略

• 负载度策略

• 响应策略

• 哈希策略

下面来分别介绍一下这几种均衡算法/策略的特点&＃xff1a;

1. 轮询策略

轮询策略其实很好理解&＃xff0c;就是当用户请求来了之后&＃xff0c;「负载均衡器」将请求轮流的转发到后端不同的业务服务器上。这个策略在DNS方案中用的比较多&＃xff0c;无需关注后端服务的状态&＃xff0c;只药有请求&＃xff0c;就往后端轮流转发&＃xff0c;非常的简单、实用。

在实际应用中&＃xff0c;轮询也会有多种方式&＃xff0c;有按顺序轮询的、有随机轮询的、还有按照权重来轮询的。前两种比较好理解&＃xff0c;第三种按照权重来轮询&＃xff0c;是指给每台后端服务设定一个权重值&＃xff0c;比如性能高的服务器权重高一些&＃xff0c;性能低的服务器给的权重低一些&＃xff0c;这样设置的话&＃xff0c;分配流量的时候&＃xff0c;给权重高的更多流量&＃xff0c;可以充分的发挥出后端机器的性能。

2. 负载度策略

负载度策略是指当「负载均衡器」往后端转发流量的时候&＃xff0c;会先去评估后端每台服务器的负载压力情况&＃xff0c;对于压力比较大的后端服务器转发的请求就少一些&＃xff0c;对于压力比较小的后端服务器可以多转发一些请求给它。

这种方式就充分的结合了后端服务器的运行状态&＃xff0c;来动态的分配流量了&＃xff0c;比轮询的方式更为科学一些。

但是这种方式也带来了一些弊端&＃xff0c;因为需要动态的评估后端服务器的负载压力&＃xff0c;那这个「负载均衡器」除了转发请求以外&＃xff0c;还要做很多额外的工作&＃xff0c;比如采集 连接数、请求数、CPU负载指标、IO负载指标等等&＃xff0c;通过对这些指标进行计算和对比&＃xff0c;判断出哪一台后端服务器的负载压力较大。

因此这种方式带来了效果优势的同时&＃xff0c;也增加了「负载均衡器」的实现难度和维护成本。

3. 响应策略

响应策略是指&＃xff0c;当用户请求过来的时候&＃xff0c;「负载均衡器」会优先将请求转发给当前时刻响应最快的后端服务器。
也就是说&＃xff0c;不管后端服务器负载高不高&＃xff0c;也不管配置如何&＃xff0c;只要觉得这个服务器在当前时刻能最快的响应用户的请求&＃xff0c;那么就优先把请求转发给它&＃xff0c;这样的话&＃xff0c;对于用户而言&＃xff0c;体验也最好。

那「负载均衡器」是怎么知道哪一台后端服务在当前时刻响应能力最佳呢&＃xff1f;
这就需要「负载均衡器」不停的去统计每一台后端服务器对请求的处理速度了&＃xff0c;比如一分钟统计一次&＃xff0c;生成一个后端服务器处理速度的排行榜。然后「负载均衡器」根据这个排行榜去转发服务。

那么这里的问题就是统计的成本了&＃xff0c;不停的做这些统计运算本身也会消耗一些性能&＃xff0c;同时也会增加「负载均衡器」的实现难度和维护成本。

4. 哈希策略

Hash策略也比较好理解&＃xff0c;就是将请求中的某个信息进行hash计算&＃xff0c;然后根据后端服务器台数取模&＃xff0c;得到一个值&＃xff0c;算出相同值的请求就被转发到同一台后端服务器中。

常见的用法是对用户的IP或者ID进行这个策略&＃xff0c;然后「负载均衡器」就能保证同一个IP来源或者同一个用户永远会被送到同一个后端服务器上了&＃xff0c;一般用于处理缓存、会话等功能的时候特别好用。