nginx通过upstream实现负载均衡

随着业务和用户不断增加，单台服务器无法满足业务需求，产生服务器集群的场景。为了能充分利用服务器集群，最理想的方式就是整个集群的利用率都很平均且稳定在理想值范围内。

负载均衡（Load Balance）就是为了满足能够均衡的利用整个服务器集群从而产生的一种算法，常见的实现策略有：随机、轮询、哈希、一致性哈希和加权。

nginx目前比较常用的模块有：

1. 轮询

定义：依次把客户端请求分配到不同的服务器中

配置示例：

upstream zhangQ { 
      server ip1:port1; 
      server ip2:port2;
}

server {
    listen       80;
    server_name  localhost;

    #charset koi8-r;
    #access_log  /var/log/nginx/host.access.log  main;

    location / {
        proxy_pass http://zhangQ;
    }
}

2. 最少连接

定义：把客户端请求分配到连接数最少的服务器中

如果每台服务器处理业务的时间都一样，那么此策略与轮询差不多。

如果每台服务器处理业务的时间不一样，那么采用轮询算法会导致业务逻辑处理较慢的服务器压力越来越大负载较高，这样的业务场景，把客户端请求分配到连接数较少的服务器能达到更好的负载效果。

配置示例：

upstream zhangQ { 
      least_conn; #实际就是比轮询多这一行
      server ip1:port1; 
      server ip2:port2;
}

server {
    listen       80;
    server_name  localhost;

    #charset koi8-r;
    #access_log  /var/log/nginx/host.access.log  main;

    location / {
        proxy_pass http://zhangQ;
    }
}

3. ip_hash

定义：把访问的客户端的ip利用hash算法计算为一个数值，同一个数值会落到相同的服务器。

涉及到负载均衡基本上都会设计到session的保持，但使用ip_hash就不需要关注这个问题。

配置示例：

upstream zhangQ { 
      ip_hash; #实际就是比轮询多这一行
      server ip1:port1; 
      server ip2:port2;
}

server {
    listen       80;
    server_name  localhost;

    #charset koi8-r;
    #access_log  /var/log/nginx/host.access.log  main;

    location / {
        proxy_pass http://zhangQ;
    }
}

4. weight

定义：权重实际就是加权轮询，根据加权值会优先分配到权重高的服务器

服务器基本都是配置不一，高配置服务器通常都会比低配置服务器赋予较高的权重值。

配置示例：

upstream zhangQ { 
      server ip1:port1 weight=3; #加上weight
      server ip2:port2 weight=1;
}

server {
    listen       80;
    server_name  localhost;

    #charset koi8-r;
    #access_log  /var/log/nginx/host.access.log  main;

    location / {
        proxy_pass http://zhangQ;
    }
}

如果按照如上配置，就是每4次客户端请求，会有3次落在ip1上，1次落在ip2上。

附上upstream中常用的几个属性配置：

名称	定义	示例
fail_timeout	可以理解为熔断时间，经过这个配置的时间如果服务器没响应则失败	fail_timeout=2s
max_fails	最大失败数，默认值是1，当超过最大次数时，返回proxy_next_upstream模块定义的错误.	max_fails=2
down	有此标记的服务器不参与负载
backup	当所有非backup服务器忙或者down的时候会请求这台服务器