PipeComet测试

看这篇小分享前请务必先看看这个&＃xff1a;http://blog.csdn.net/cenwenchu79/archive/2011/05/27/6450427.aspx

PipeComet这个支持长连接&＃xff0c;异步请求事件处理框架做了测试也快有5天了&＃xff0c;这里做一个简单的总结&＃xff0c;但这个文档中的数字不能作为最终容量的定论&＃xff0c;后续还会在优化后有进一步的测试。同时这个文档更倾向于分享过程中的遇到的一些问题&＃xff0c;可以避免走一样的弯路。

测试环境&＃xff1a;

1台部署了Jetty Web容器作为PipeComet服务端。

2台windows测试机部署了两个LoadRunner&＃xff0c;作为压力测试客户端。&＃xff08;一个用于建立大量长连接&＃xff0c;一个用于产生http请求模拟外部事件激发数据片段下发&＃xff09;

服务端配置如下&＃xff1a;

Xen虚拟机&＃xff0c;5核&＃xff08;2.40 GHz&＃xff09;&＃xff0c;8G内存。

Jetty 7.1.6版本&＃xff0c;jdk 1.6.0_25

JVM配置&＃xff1a;-Xms7g -Xmx7g -XX:PermSize&＃61;96m -XX:MaxPermSize&＃61;256m -Xmn3g

Jetty配置&＃xff1a;

400//最小和最大线程池设置的都有一点大&＃xff0c;后面大致说一下

800

3600000 //无数据传输的连接保持多久&＃xff0c;单位毫秒

4

false

……

测试场景描述&＃xff1a;

1&＃xff0e;启动服务端&＃xff0c;并建立有Condition模式的管道配置。

2&＃xff0e;压力测试机A通过LoadRunner并发启动N个vuser&＃xff0c;与服务端建立N个长连接会话&＃xff0c;服务端建立N个事件挂起当前多个请求&＃xff0c;等待外部消息激发下行数据片段或者关闭会话。

3&＃xff0e;压力测试机B通过LoadRunner并发启动P个vuser&＃xff0c;随机的发起激发某一个长连接会话下行数据片段的请求&＃xff0c;服务端接收请求后&＃xff0c;主动向下推送数据片段。

这里有两个参数N和P&＃xff0c;N就代表单机支持多少长连接&＃xff0c;P代表并发创建多少个事件去激发下行数据。

事先环境准备&＃xff1a;

Linux&＃xff1a;&＃xff08;这块做过高并发测试的一般都还是会比较注意&＃xff09;

调整一下/etc/sysctl.conf的一些系统参数&＃xff1a;&＃xff08;具体不解释了&＃xff0c;看上面的英文注释&＃xff09;

#add by fangweng

fs.file-max &＃61; 65535

#Allow for more PIDs

kernel.pid_max &＃61; 65536

#Increase system IP port limits

net.ipv4.ip_local_port_range &＃61; 2000 65000

# TCP and memory optimization

# increase TCP max buffer size setable using setsockopt()

net.ipv4.tcp_rmem &＃61; 4096 87380 8388608

net.ipv4.tcp_wmem &＃61; 4096 87380 8388608

# increase Linux auto tuning TCP buffer limits

net.core.rmem_max &＃61; 8388608

net.core.wmem_max &＃61; 8388608

net.core.netdev_max_backlog &＃61; 5000

修改后&＃xff1a;

sysctl -p /etc/sysctl.conf // 作用:重新载入/etc/sysctl.conf文件

Window调整&＃xff08;这个一定要注意&＃xff09;

放火墙和杀毒软件关掉&＃xff01;&＃xff01;&＃xff01;

注册表中修改

HKEY_LOCAL_MACHINE/SYSTEM/CurrentControlSet/Services/TCPIP/Parameters

修改里面&＃xff1a;

TcpTimedWaitDelay 为1&＃xff08;原来30&＃xff09;

MaxUserPort 65534

LoadRunner参数调整&＃xff1a;

LoadRunner在为长连测试的时候&＃xff0c;需要修改Run-time Settings&＃xff0c;红色部分尽量大一些

测试&＃xff1a;

1&＃xff0e; 并发2000个连接保持会话。

2&＃xff0e; 并发100个VUser模拟向100个长连接发起事件驱动消息。

观察得到的结果&＃xff1a;

1&＃xff0e; 建立起2000个连接过程中load保持在0.1到0.3左右&＃xff0c;完全建立好后也就0.1多。&＃xff08;表明建立连接后现在的事件驱动处理方式没有空转损耗&＃xff09;

2&＃xff0e; 并发100个Vuser开始循环压测的时候&＃xff0c;会有少数几个连接主动掉线。&＃xff08;为了看是服务端主动断连还是客户端发起&＃xff0c;执行了tcpdump&＃xff0c;从抓包的结果可以看到客户端主动的发起了Fin消息&＃xff0c;当前只能认为在大量数据包下行的情况下&＃xff0c;系统还是有保护的将下发数据频率过高的连接断开了&＃xff0c;当防火墙或者杀毒软件打开的时候&＃xff0c;更是容易屏蔽&＃xff0c;这点为将来长连在客户端的问题处理也积累经验&＃xff09;

3&＃xff0e; 并发100个Vuser测试时&＃xff0c;Load有明显上升&＃xff0c;在1-2.6之间&＃xff0c;同时通过vmstat可以看到上下文切换数量递增了两个数量级。Sar方式统计也可以很明显的看到在数据大量输入输出时&＃xff0c;整个框架的系统消耗不小。

于是&＃xff0c;开始判断哪里出了问题。

Load变高作为java程序员如何判断哪里出了问题呢&＃xff0c;以下是我的经验排查方式&＃xff1a;

1&＃xff0e; GC是否比较频繁。&＃xff08;直接看gc log或者jstat gcutil&＃xff09;

2&＃xff0e; IO消耗是否比较大。&＃xff08;cpu占用率到不高&＃xff0c;vmstat&＃xff09;

3&＃xff0e; 是否有代码空转。&＃xff08;cpu占用率很高&＃xff0c;往往就几个线程长期持有cpu&＃xff09;

4&＃xff0e; 是否有大量的线程Blocked。&＃xff08;dump线程出来看看&＃xff09;

在刚才的测试基础上做了一个简单的对比&＃xff0c;如果把一百个并发请求分散到500个事件随机触发上&＃xff0c;整理的load要低于100个事件随机模拟&＃xff0c;也就是说数据越集中到某几个连接的事件上&＃xff0c;消耗越大。

本地jprofiler测试了一下&＃xff0c;看到大量的blocked线程是在处理消息输出的时候。原来当时为了简单处理并发&＃xff0c;在response上面就增加了一个写锁&＃xff0c;保证每次输出时候能够支持并发&＃xff0c;但write这个动作被放在锁里是否适合&＃xff1f;其实就是把一个时间消耗较长的动作去做了同步&＃xff0c;最终其实使得在并发比较高&＃xff0c;压力比较大时&＃xff0c;竞争和阻塞厉害&＃xff0c;导致系统消耗增大。因此还是按照传统的tcp sendbuffer模式&＃xff0c;挂接内容支持多线程并发&＃xff0c;输出数据为单线程循环发送&＃xff0c;再简单测试了一下&＃xff0c;Load明显下去了&＃xff0c;基本就在1左右。

你可以尝试着去看vmstat&＃xff0c;里面的procs中的r其实表示统计瞬时需要执行的任务队列长度&＃xff0c;你会发现有时候通过top看到的load很低&＃xff0c;但是r还是会有些上下波动&＃xff0c;但如果任务执行的快&＃xff0c;其实对于load影响不大。

继续测试&＃xff1a;

这个数据并不能反映容量&＃xff0c;但是可以说明的是&＃xff0c;长连接数量对于系统在高并发事件处理影响不是很大&＃xff0c;建立长连接和管理长连接所属的事件并不消耗系统资源&＃xff08;cpu&＃xff0c;内存都观察过&＃xff09;

这篇分享中没有介绍测试中对于并发处理在异步事件驱动中的修改&＃xff0c;具体的后续可以比较一下上次公布出来的代码和新代码的区别&＃xff0c;简单来说&＃xff1a;

1&＃xff0e; 原本可以状态不脱离于线程&＃xff0c;使得状态不比担心多线程并发控制&＃xff0c;现在需要关注状态和资源的并发控制&＃xff08;例如request的lazy解析&＃xff0c;response的输出&＃xff0c;ThreadLocal的数据传递和复制&＃xff09;。

2&＃xff0e; 客户端可以主动断开服务端&＃xff0c;服务端网络失败也可以断开客户端&＃xff0c;因此在任何一个对于悬挂起的异步web请求处理时都需要做好检查和资源回收处理&＃xff0c;防止资源泄露。

3&＃xff0e; 系统的事件驱动模型状态变更及对象内容变化要提供接口来保证用户操作时可以支持多线程并发处理。

后续还会使用java写的客户端去测试接收和发送频率是否匹配&＃xff0c;同时必要的情况下也尝试测试慢连接&＃xff08;外部服务器连接&＃xff09;支持的情况。

待续…