服务器做web应用(Http/Nginx)Linux内核参数优化
Linux系统下&＃xff0c;TCP连接断开后&＃xff0c;会以TIME_WAIT状态保留一定的时间&＃xff0c;然后才会释放端口。当并发请求过多的时候&＃xff0c;
就会产生大量的TIME_WAIT状态的连接&＃xff0c;无法及时断开的话&＃xff0c;会占用大量的端口资源和服务器资源。这个时候我们可以优化TCP的内核参数&＃xff0c;
来及时将TIME_WAIT状态的端口清理掉。
本文介绍的方法只对拥有大量TIME_WAIT状态的连接导致系统资源消耗有效&＃xff0c;如果不是这种情况下&＃xff0c;效果可能不明显。
可以使用netstat命令去查TIME_WAIT状态的连接状态&＃xff0c;输入下面的组合命令&＃xff0c;查看当前TCP连接的状态和对应的连接数量&＃xff1a;
#netstat -n | awk &＃39;/^tcp/ {&＃43;&＃43;S[$NF]} END { for( a in S ) print a, S[a]}&＃39;
这个命令会输出类似下面的结果&＃xff1a;
LAST_ACK 16
SYN_RECV 348
ESTABLISHED 70
FIN_WAIT1 229
FIN_WAIT2 30
CLOSING 33
TIME_WAIT 18098
我们只用关心TIME_WAIT的个数&＃xff0c;在这里可以看到&＃xff0c;有18000多个TIME_WAIT&＃xff0c;这样就占用了18000多个端口。要知道端口的数量只有65535个&＃xff0c;
占用一个少一个&＃xff0c;会严重的影响到后继的新连接。这种情况下&＃xff0c;我们就有必要调整下Linux的TCP内核参数&＃xff0c;让系统更快的释放TIME_WAIT连接。
内核参数的优化&＃xff1a;
#表示系统同时保持TIME_WAIT的最大数量&＃xff0c;如果超过这个数字&＃xff0c;TIME_WAIT将立刻被清除并打印警告信息。
默认为180000&＃xff0c;改为6000。对于Apache、Nginx等服务器&＃xff0c;上几行的参数可以很好地减少TIME_WAIT套接字数量&＃xff0c;
但是对于 Squid&＃xff0c;效果却不大。此项参数可以控制TIME_WAIT的最大数量&＃xff0c;避免Squid服务器被大量的TIME_WAIT拖死。
net.ipv4.tcp_max_tw_buckets &＃61; 6000
#表示用于向外连接的随机端口范围。缺省情况下很小&＃xff1a;32768到61000&＃xff0c;改为10000到65000
(注意&＃xff1a;这里不要将最低值设的太低&＃xff0c;否则可能会占用掉正常的端口&＃xff01;)
net.ipv4.ip_local_port_range &＃61; 10000 65536
#表示开启TCP连接中TIME-WAIT sockets的快速回收&＃xff0c;默认为0&＃xff0c;表示关闭&＃xff1b;
net.ipv4.tcp_tw_recycle &＃61; 1
#开启重用。允许将TIME-WAIT sockets重新用于新的TCP连接&＃xff0c;默认为0&＃xff0c;表示关闭&＃xff1b;
net.ipv4.tcp_tw_reuse &＃61; 1
#开启SYN COOKIEs&＃xff0c;当出现SYN等待队列溢出时&＃xff0c;启用COOKIEs来处理,可防范少量SYN***&＃xff0c;默认为0&＃xff0c;表示关闭&＃xff1b;
net.ipv4.tcp_synCOOKIEs &＃61; 1
#表示当keepalive起用的时候&＃xff0c;TCP发送keepalive消息的频度。缺省是2小时7200&＃xff0c;改为20分钟。单位是秒
net.ipv4.tcp_keepalive_time &＃61; 1200
#web应用中listen函数的backlog默认会给我们内核参数的net.core.somaxconn限制到128&＃xff0c;
而Nginx内核参数定义的NGX_LISTEN_BACKLOG默认为511&＃xff0c;所以有必要调整这个值
net.core.somaxconn &＃61; 32768
#每个网络接口接收数据包的速率比内核处理这些包的速率快时&＃xff0c;允许送到队列的数据包的最大数目
net.core.netdev_max_backlog &＃61; 32768
#系统中最多有多少个TCP套接字不被关联到任何一个用户文件句柄上。如果超过这个数字&＃xff0c;孤儿连接将即刻被复位并打印出警告信息。
这个限制仅仅是为了防止简单的DoS***&＃xff0c;不能过分依靠它或者人为地减小这个值&＃xff0c;更应该增加这个值(如果增加了内存之后)
net.ipv4.tcp_max_orphans &＃61; 3276800
#记录的那些尚未收到客户端确认信息的连接请求的最大值。
#表示SYN队列的长度&＃xff0c;默认为1024&＃xff0c;加大队列长度为8192&＃xff0c;可以容纳更多等待连接的网络连接数
对于那些依然还未获得客户端确认的连接请求﹐需要保存在队列中最大数目。对于超过 128Mb 内存的系统﹐默认值是 1024 ﹐
低于 128Mb 的则为 128。如果服务器经常出现过载﹐可以尝试增加这个数字。警告﹗假如您将此值设为大于 1024﹐
最好修改 include/net/tcp.h 里面的 TCP_SYNQ_HSIZE ﹐以保持 TCP_SYNQ_HSIZE*16(SYN Flood***利用TCP协议散布握手的缺陷&＃xff0c;
伪造虚假源IP地址发送大量TCP-SYN半打开连接到目标系统&＃xff0c;最终导致目标系统Socket队列资源耗尽而无法接受新的连接。
为了应付这种***&＃xff0c;现代Unix系统中普遍采用多连接队列处理的方式来缓冲(而不是解决)这种***&＃xff0c;
是用一个基本队列处理正常的完全连接应用(Connect()和Accept() )&＃xff0c;是用另一个队列单独存放半打开连接。
这种双队列处理方式和其他一些系统内核措施(例如Syn-COOKIEs/Caches)联合应用时&＃xff0c;能够比较有效的缓解小规模的SYN Flood***(事实证明)
net.ipv4.tcp_max_syn_backlog &＃61; 8192
#时间戳可以避免序列号的卷绕。一个1Gbps的链路肯定会遇到以前用过的序列号。
时间戳能够让内核接受这种“异常”的数据包。这里需要将其关掉。
Timestamps 用在其它一些东西中﹐可以防范那些伪造的 sequence 号码。一条1G的宽带线路或许会重遇到带
out-of-line数值的旧sequence 号码(假如它是由于上次产生的)。Timestamp 会让它知道这是个 &＃39;旧封包&＃39;。
(该文件表示是否启用以一种比超时重发更精确的方法(RFC 1323)来启用对 RTT 的计算&＃xff1b;为了实现更好的性能应该启用这个选项。) 缺省值为1
net.ipv4.tcp_timestamps &＃61; 0
#为了打开对端的连接&＃xff0c;内核需要发送一个SYN并附带一个回应前面一个SYN的ACK。
也就是所谓三次握手中的第二次握手。这个设置决定了内核放弃连接之前发送SYN&＃43;ACK包的数量。
net.ipv4.tcp_synack_retries &＃61; 2
#在内核放弃建立连接之前发送SYN包的数量
net.ipv4.tcp_syn_retries &＃61; 2
#在内核放弃建立连接之前发送SYN包的数量。
net.ipv4.tcp_syn_retries &＃61; 1
#net.ipv4.tcp_tw_len &＃61; 1
#如果套接字由本端要求关闭&＃xff0c;这个参数决定了它保持在FIN-WAIT-2状态的时间。
对端可能出错并永远不关闭连接&＃xff0c;甚至意外当机。缺省值是60秒。2.2 内核的通常值是180秒&＃xff0c;
你可以按这个设置&＃xff0c;但要记住的是&＃xff0c;即使你的机器是一个轻载的WEB服务器&＃xff0c;
也有因为大量的死套接字而内存溢出的风险&＃xff0c;FIN- WAIT-2的危险性比FIN-WAIT-1要小&＃xff0c;因为它最多只能吃掉1.5K内存&＃xff0c;但是它们的生存期长些。
net.ipv4.tcp_fin_timeout &＃61; 30
# TCP读buffer,可参考的优化值: 32768 436600 873200 min, default, max
net.ipv4.tcp_rmem &＃61; 32768 436600 873200
min&＃xff1a;为TCP socket预留用于接收缓冲的内存数量&＃xff0c;
即使在内存出现紧张情况下tcp socket都至少会有这么多数量的内存用于接收缓冲&＃xff0c;默认值为8K。
default&＃xff1a;为TCP socket预留用于接收缓冲的内存数量&＃xff0c;默认情况下该值影响其它协议使用的 net.core.wmem_default 值。
该值决定了在tcp_adv_win_scale、tcp_app_win和tcp_app_win&＃61;0默认值情况下&＃xff0c;TCP窗口大小为65535。默认值为87380
max&＃xff1a;用于TCP socket接收缓冲的内存最大值。该值不会影响 net.core.wmem_max&＃xff0c;"静态"选择参数 SO_SNDBUF则不受该值影响。
默认值为 128K。默认值为87380*2 bytes。
(可以看出&＃xff0c;.max的设置最好是default的两倍,对于NAT来说主要该增加它,我的网络里为 51200 131072 204800)
# TCP写buffer,可参考的优化值: 8192 436600 873200 min, default, max
net.ipv4.tcp_wmem &＃61; 8192 436600 873200
min&＃xff1a;为TCP socket预留用于发送缓冲的内存最小值。每个tcp socket都可以在建议以后都可以使用它。默认值为4096(4K)
default&＃xff1a;为TCP socket预留用于发送缓冲的内存数量&＃xff0c;默认情况下该值会影响其它协议使用的net.core.wmem_default 值&＃xff0c;
一般要低于net.core.wmem_default的值。默认值为16384(16K)。
max: 用于TCP socket发送缓冲的内存最大值。该值不会影响net.core.wmem_max&＃xff0c;"静态"选择参数SO_SNDBUF则不受该值影响。
默认值为131072(128K)。(对于服务器而言&＃xff0c;增加这个参数的值对于发送数据很有帮助,在我的网络环境中,修改为了51200 131072 204800)
net.ipv4.tcp_mem &＃61; 94500000 91500000 92700000 low, pressure, high
# 同样有3个值,意思是:
net.ipv4.tcp_mem[0]:低于此值&＃xff0c;TCP没有内存压力。
net.ipv4.tcp_mem[1]:在此值下&＃xff0c;进入内存压力阶段。
net.ipv4.tcp_mem[2]:高于此值&＃xff0c;TCP拒绝分配socket。
上述内存单位是页&＃xff0c;而不是字节。可参考的优化值是:786432 1048576 1572864
low&＃xff1a;当TCP使用了低于该值的内存页面数时&＃xff0c;TCP不会考虑释放内存。
(理想情况下&＃xff0c;这个值应与指定给 tcp_wmem 的第 2 个值相匹配 - 这第 2 个值表明&＃xff0c;最大页面大小乘以最大并发请求数除以页大小 (131072 * 300 / 4096)。 )
pressure&＃xff1a;当TCP使用了超过该值的内存页面数量时&＃xff0c;TCP试图稳定其内存使用&＃xff0c;进入pressure模式&＃xff0c;
当内存消耗低于low值时则退出pressure状态。(理想情况下这个值应该是 TCP 可以使用的总缓冲区大小的最大值 (204800 * 300 / 4096)。 )
high&＃xff1a;允许所有tcp sockets用于排队缓冲数据报的页面量。
(如果超过这个值&＃xff0c;TCP 连接将被拒绝&＃xff0c;这就是为什么不要令其过于保守 (512000 * 300 / 4096) 的原因了。
在这种情况下&＃xff0c;提供的价值很大&＃xff0c;它能处理很多连接&＃xff0c;是所预期的 2.5 倍&＃xff1b;或者使现有连接能够传输 2.5 倍的数据。
我的网络里为192000 300000 732000)
一般情况下这些值是在系统启动时根据系统内存数量计算得到的。
net.core.wmem_default &＃61; 8388608
net.core.rmem_default &＃61; 8388608
net.core.rmem_max &＃61; 16777216 #最大socket读buffer,可参考的优化值:873200
net.core.wmem_max &＃61; 16777216 #最大socket写buffer,可参考的优化值:873200
总结一下&＃xff1a;
这几个参数&＃xff0c;建议只在流量非常大的服务器上开启&＃xff0c;会有显著的效果。一般的流量小的服务器上&＃xff0c;没有必要去设置这几个参数。
net.ipv4.tcp_keepalive_time &＃61; 1200
net.ipv4.ip_local_port_range &＃61; 10000 65000
net.ipv4.tcp_max_syn_backlog &＃61; 8192
net.ipv4.tcp_max_tw_buckets &＃61; 5000
京公网安备 11010802041100号