haproxy的调度算法

haproxy的调度算法

简介

HAProxy通过固定参数balance指明对后端服务器的调度算法&＃xff0c;该参数可以配置在listen或backend选项中。

HAProxy的调度算法分为静态和动态调度算法&＃xff0c;但是有些算法可以根据参数在静态和动态算法中相互转换。

https://cbonte.github.io/haproxy-dconv/2.0/configuration.html#4 #官方文档

1&＃xff09;静态调度算法&＃xff1a;

• 静态算法&＃xff1a;按照事先定义好的规则轮询公平调度&＃xff0c;不关心后端服务器的当前负载、链接数和响应速度等&＃xff0c;且无法实时修改权重&＃xff0c;只能靠重启HAProxy生效。

2&＃xff09;动态调度算法&＃xff1a;

• 基于后端服务器 状态进行调度适当调整&＃xff0c;比如优先调度至当前负载较低的服务器&＃xff0c;且权重可以在haproxy运行时动态调整无需重启。

静态算法☞static-rr

• static-rr&＃xff1a;基于权重的轮询调度&＃xff0c;不支持权重的运行时调整及后端服务器慢启动&＃xff0c;其后端主机数量没有限制。
• 配置&＃xff1a;balance static-rr

静态算法☞first

• first&＃xff1a;根据服务器在列表中的位置&＃xff0c;自上而下进行调度&＃xff0c;但是其只会当第一台服务器的连接数达到上限&＃xff0c;新请求才会分配给下一台服务&＃xff0c;因此会忽略服务器的权重设置。
• 配置&＃xff1a;balance first

动态算法☞roundrobin

• roundrobin&＃xff1a;基于权重的轮询动态调度算法&＃xff0c;支持权重的运行时调整&＃xff0c;不完全等于lvs中的rr轮训模式&＃xff0c;HAProxy中的roundrobin支持慢启动(新加的服务器会逐渐增加转发数)&＃xff0c;其每个后端backend中最多支持4095个realserver&＃xff0c;roundrobin为默认调度算法&＃xff0c;且支持对real server权重动态调整。
• 配置&＃xff1a;balance roundrobin

动态算法☞leastconn

• leastconn加权的最少连接的动态&＃xff0c;支持权重的运行时调整和慢启动&＃xff0c;即当前后端服务器连接最少的优先调度(新客户端连接)&＃xff0c;leastconn比较适合长连接的场景使用&＃xff0c;比如MySQL等场景。
• balance leastconn

其他算法☞source

• 源地址hash&＃xff0c;基于用户源地址hash并将请求转发到后端服务器&＃xff0c;默认为静态即取模方式&＃xff0c;但是可以通过hash-type支持的选项更改&＃xff0c;后续同一个源地址请求将被转发至同一个后端web服务器&＃xff0c;比较适用于session保持/缓存业务等场景。
• 源地址有两种转发客户端请求到后端服务器的服务器选取计算方式&＃xff0c;分别是取模法和一致性hash
• 配置&＃xff1a;
  balance source (默认是取模法)
  hash-type consistent hash类型&＃xff1a;一致性hash

取模法&＃xff1a;

   map-based&＃xff1a;取模法&＃xff0c;基于服务器总权重的hash数组取模&＃xff0c;该hash是静态的即不支持在线调整权重&＃xff0c;不支持慢启动&＃xff0c;其对后端服务器调度均衡&＃xff0c;缺点是当服务器的总权重发生变化时&＃xff0c;即有服务器上线或下线&＃xff0c;都会因权重发生变化而导致调度结果整体改变。

   所谓取模运算&＃xff0c;就是计算两个数相除之后的余数&＃xff0c;10%7&＃61;3, 7%4&＃61;3&＃xff0c;(2^32-1)%(1&＃43;1&＃43;2)。

2&＃xff09;取模法示意图&＃xff1a;

一致性hash&＃xff1a;

   一致性哈希&＃xff0c;该hash是动态的&＃xff0c;支持在线调整权重&＃xff0c;支持慢启动&＃xff0c;优点在于当服务器的总权重发生变化时&＃xff0c;对调度结果影响是局部的&＃xff0c;不会引起大的变动&＃xff0c;hash&＃xff08;o&＃xff09;mod n。

   hash对象&＃xff1a;

   一致性hash示意图&＃xff1a;

• 后端服务器在线与离线的调度方式
  

其他算法☞uri

• 基于对用户请求的uri做hash并将请求转发到后端指定服务器&＃xff0c;也可以通过map-based和consistent定义使用取模法还是一致性hash。
• 配置&＃xff1a;
  balance uri
  hash-type consistent &＃xff08;uri 一致性hash&＃xff09;

其他算法☞url_param

• url_param对用户请求的url中的 params 部分中的参数name作hash计算&＃xff0c;并由服务器总权重相除以后派发至某挑出的服务器&＃xff1b;通常用于追踪用户&＃xff0c;以确保来自同一个用户的请求始终发往同一个real server
• 配置&＃xff1a;balance url_param name,age #支持对单个及多个url_param值hash&＃xff08;注&＃xff1a;一般取一个url_param 值hash&＃xff0c;或者一般不使用&＃xff09;

其他算法☞hdr

• 针对用户每个http头部(header)请求中的指定信息做hash&＃xff0c;此处由 name 指定的http首部将会被取出并做hash计算&＃xff0c;然后由服务器总权重相除以后派发至某挑出的服务器&＃xff0c;假如无有效的值&＃xff0c;则会使用默认的轮询调度。
• 配置&＃xff1a;
  balance hdr(User-Agent)
  hash-type consistent

其他算法☞rdp-COOKIE

• rdp-COOKIE对远程桌面的负载&＃xff0c;使用COOKIE保持会话
• 配置&＃xff1a;balance rdp-COOKIE

基于iptables实现&＃xff1a;

• 注意&＃xff1a;有去有回&＃xff0c;iptables命令有两条

net.ipv4.ip_forward &＃61; 1# iptables -t nat -A PREROUTING -d 192.168.7.101 -p tcp --dport 3389 -j DNAT --todestination 172.18.139.20:3389
# iptables -t nat -A POSTROUTING -s 192.168.0.0/21 -j SNAT --to-source 192.168.7.101


其他算法☞random

• 在1.9版本开始增加一个叫做random的负载平衡算法&＃xff0c;其基于一个随机数作为一致性hash的key&＃xff0c;随机负载平衡对于大型服务器场或经常添加或删除服务器非常有用&＃xff0c;因为它可以避免在这种情况下由roundrobin或leastconn导致的锤击效应。
• 配置&＃xff1a;balance random

算法总结

first #使用较少static-rr #做了session共享的web集群
roundrobin
randomleastconn #数据库
source #基于客户端公网IP的会话保持Uri--------------->http #缓存服务器&＃xff0c;CDN服务商
url_param--------->http hdr #基于客户端请求报文头部做下一步处理rdp-COOKIE #很少使用


• rdp-COOKIE 用于当未做session共享时&＃xff0c;实现会话保持时使用rdp-COOKIE比源地址hash更好。但是一般情况下都会做session共享~~