服务器API压力测试ab工具

最近对服务器的某些api进行性能测试&＃xff0c;我们关注的主要指标就是系统吞吐量。 第三节看看就好,很久前写的。

一个系统的吞度量&＃xff08;承压能力&＃xff09;与request对CPU的消耗、外部接口、IO等等紧密关联。
单个reqeust 对CPU消耗越高&＃xff0c;外部系统接口、IO影响速度越慢&＃xff0c;系统吞吐能力越低&＃xff0c;反之越高。

系统吞吐量几个重要参数&＃xff1a;TPS、并发数、响应时间

• TPS&＃xff1a;每秒钟处理的事务数量
• 并发量&＃xff1a; 系统同时处理请求数(事务数)
• 响应时间&＃xff1a; 一般取平均响应时间

TPS&＃61; 并发量/平均响应时间

这里因为说的事务如果是单一接口请求&＃xff0c;我们也可以认为TPS即为QPS。

下面举例说明&＃xff1a;
比如3000个用户(并发量)同时访问待测试接口&＃xff0c;在用户端统计&＃xff0c;3000个用户平均得到响应的时间为1188.538ms。所以TPS&＃61;3000/1.188538s&＃61; 2524.11 q/s。
我们就可以这样描述本次测试&＃xff0c;在3000个并发量的情况下&＃xff0c;TPS为2524.11&＃xff0c;平均响应事件为1188.538ms

Tps&＃xff1a;在实际测试中表现为&＃xff1a;

一个系统吞吐量通常由TPS、并发数两个因素决定&＃xff0c;每套系统这两个值都有一个相对极限值&＃xff0c;在应用场景访问压力下&＃xff0c;只要某一项达 到系统最高值&＃xff0c;系统的吞吐量就上不去了&＃xff0c;如果压力继续增大&＃xff0c;系统的吞吐量反而会下降&＃xff0c;原因是系统超负荷工作&＃xff0c;上下文切换、内存等等其它消耗导致系统性能下降。
实际表现为tps即先上升后下降&＃xff0c;我们需要找到性能拐点。并得到限制瓶颈。

参考文献&＃xff08;详细输出说明&＃xff09;&＃xff1a;
https://www.cnblogs.com/gumuzi/p/5617232.html

2.1 客户端测试工具

我们采用apacheBench 工具进行测试。

ubuntu安装ab&＃xff1a;

sudo apt-get install apache2-utils


linux默认登录端口只能打开1024个文件&＃xff0c;因为在linux一切皆文件&＃xff0c;所以ab并发数受到整个打开文件数的限制&＃xff0c;需要使用ulimit -n 10000(打开文件数)进行修改后才能支持较大的并发。本人测试修改到15000。

2.1.1 GET方法

ab -n 100 -c 100 https://www.baidu.com/index.html
-n:请求 总数
-c:并发用户数.
-url&＃xff1a;待测api。
当测试发起请求数量较少&＃xff0c;完成较快&＃xff0c;无中间过程显示。在请求数量很多时会分行显示当前完成数量。

2.1.2 POST方法

ab -n 10 -c 1 -T &＃39;application/x-www-form-urlencoded&＃39; -H "Authorization:Bearer 2393d8db9b9d7f4b9d1570cc8776bca69b421b62" -p ./post http://172.28.28.17:3017/oauth2/token


-H:可以设置响应header
-T: Post http header类型 默认为text/plain
-P:Post body内容&＃xff0c; ab要求写在文件中&＃xff0c;-p后跟文件目录&＃xff0c;文件内容如name&＃61;hello&password&＃61;1234

2.1.3 测试结果解读

来份ab的测试输出&＃xff1a;

ab -n 10 -c 2 上图结果为总请求10 并发为2的结果

我们主要关注的输出信息为&＃xff1a;

• Concurrency Level: 10 //并发级别&＃xff0c;也就是并发数&＃xff0c;请求中&＃xff0d;c参数指定的数量
• Time taken for tests: 1.093 seconds //本次测试总共花费的时间
• Complete requests: 100 //本次测试总共发起的请求数量
• Failed requests: 0 //失败的请求数量。因网络原因或服务器性能原因&＃xff0c;发起的请求并不一定全部成功&＃xff0c;通过该数值和Complete requests相除可以计算请求的失败率&＃xff0c;作为测试结果的重要参考。
• Total transferred: 103314 bytes //总共传输的数据量&＃xff0c;指的是ab从被测服务器接收到的总数据量&＃xff0c;包括index.html的文本内容和请求头信息。
• Requests per second: 91.50 [#/sec] (mean) //平均(mean)每秒完成的请求数&＃xff1a;QPS&＃xff0c;这是一个平均值&＃xff0c;等于Complete requests/Time taken for tests&＃61;100/1.093&＃61;91.50
• Time per request: 109.287 [ms] (mean) //从用户角度看&＃xff0c;完成一个请求所需要的时间&＃xff08;因用户数量不止一个&＃xff0c;服务器完成10个请求&＃xff0c;平均每个用户才接收到一个完整的返回&＃xff0c;所以该值是下一项数值的10倍。&＃xff09;
• Time per request: 10.929 [ms] (mean, across all concurrent requests)// 服务器完成一个请求的时间。
• Transfer rate: 92.32 [Kbytes/sec] received 　//网络传输速度。对于大文件的请求测试&＃xff0c;这个值很容易成为系统瓶颈所在。要确定该值是不是瓶颈&＃xff0c;需要了解客户端和被测服务器之间的网络情况&＃xff0c;包括网络带宽和网卡速度等信息。

其中我们最为关注的为Requests per second: 即tps。我们将它最为服务器性能最为重要的指标。

2.2服务器端检测方法

可以通过 iftop命令和nethogs -d 对服务器网络情况进行检测。
可以通过iptables命令监控服务器端口流量。
可以通过 top | grep “node” 对内存和cpu进行判断。
对云上测试 可以使用云主机后台&＃xff0c;但后台参数是分钟级后的平均值。
感觉好像这样测优点蠢

使用apacheBench 可以使用编写shell脚本进行多次测试。可以将待测api 放入api数组并修改循环数量&＃xff0c;实现一次测试多个api并生成关键参数xls文件。现在看来还是原来太天真才会有这种想法。

3.1 shell脚本

使用说明&＃xff1a;a 是请求总数 &＃xff0c;b是并发用户数一一对应,即a[0]对应b[0],传入参数第一个是待测api服务器地址&＃xff0c;第二个是api所需参数。api设置在api数组中。添加多个api 或同意api多组测试请修改循环计数。

echo "you maybe use this sh like:"$0" serverIP userParam"
a&＃61;(1000 2000 4000 6000 7000)#待测请求总数
b&＃61;(50 100 200 300 400)#并发用户数
runTime&＃61;$(date &＃43;%Y%m%d%H%M%S)if [ -z "$1"]
thenserverip&＃61;"http://127.0.0.1"
elseserverip&＃61;$1
fiif [ -z "$2"]
thenparam&＃61;"deviceid&＃61;XXX&bindingplatform&＃61;XXX&bindingid&＃61;XXX"
elseparam&＃61;$2
fifilename&＃61;${runTime}"-test.log"
touch filename#api&＃61;(&＃39;XXX&＃39;${param} &＃39;XXX&＃39;${param} &＃39;/users/account&＃39;)
api&＃61;(&＃39;XXX&＃39;${param})
echo "********webserver test info*************"
echo "testTime :"$(date)
echo "LogName :"${filename}
echo "serverIP :"${serverip}
echo "userparam:"${param}
echo "********webserver test info*************"
#echo ${filename}for j in {0..0}#待测api个数 即api数组数
doecho "API test:"${serverip}${api[j]}for i in {0..4}#待测api测试次数 5次也就是对应a b数组有个五个值doab -r -k -n ${a[i]} -c ${b[i]} -C ${param} ${serverip}${api[j]} | grep -e"Document Path:" -e "Complete requests:" -e "Concurrency Level:" -e"Failed requests:" -e"Time taken for tests:" -e "Requests per second:" -e "Time per request" -e"Total transferred: " >> ${filename}done
done
sed -i &＃39;s/^.\{24\}//g&＃39; ${filename}# 按照时间生成txt文件 并按上面的参数进行提取。
export LD_LIBRARY_PATH&＃61;
./change ${filename} ${runTime}"report.xls"#chang 函数功能是将txt中关键数据变成xls文件。
rm ${filename}


3.2 C&＃43;&＃43;提取程序&＃xff1a;使用了libxl.h

#include
#include
#include
#include "libxl.h"
using namespace std;
using namespace libxl;
int main(int agrc, char *argc[])
{//cout <<"helloworld" <setKey(......);//如果购买了该库&＃xff0c;则设置相应的key&＃xff0c;若没有购买&＃xff0c;则不用这行if (book)//是否创建实例成功{Sheet* sheet &＃61; book->addSheet("Sheet1");//添加一个工作表for(i&＃61;0;i<30;i&＃43;&＃43;){for(j&＃61;0;j<10;j&＃43;&＃43;){sheet->setCol(i, j, 20);//设置列宽&＃xff0c;格式等}}i&＃61;0;j&＃61;1;if (sheet){sheet->writeStr(j, 0, "API");sheet->writeStr(j, 1, "Concurrency Level");sheet->writeStr(j, 2, "Time taken for tests");sheet->writeStr(j, 3, "Complete requests");sheet->writeStr(j, 4, "Failed requests");sheet->writeStr(j, 5, "Total transferred");sheet->writeStr(j, 6, "Requests per second");sheet->writeStr(j, 7, "Time per reques(user)");sheet->writeStr(j, 8, "Time per reques(server)");j&＃43;&＃43;;while (getline(ifile, temp)){if (temp[0] &＃61;&＃61; &＃39;/&＃39;){f <writeStr(j, i, temp.c_str());}else if (temp.find(&＃39;[&＃39;) !&＃61; string::npos){f <writeStr(j, i, temp.substr(0, temp.find(&＃39;[&＃39;) - 1).c_str());}else if (temp.find(&＃39;b&＃39;) !&＃61; string::npos){f <writeStr(j, i, temp.substr(0, temp.find(&＃39;b&＃39;) - 1).c_str());}else if (temp.find(&＃39;s&＃39;) !&＃61; string::npos){sheet->writeStr(j, i, temp.substr(0, temp.find(&＃39;s&＃39;) - 1).c_str());f <writeStr(j, i, temp.c_str());f <save(argc[2]))//保存到example.xls{//.....}else{std::cout <errorMessage() <release();}return 0;
}


3.3测试结果xls截图&＃xff1a;

在用云主机时要注意一下云主机带宽的问题&＃xff0c;小水管很可能成为瓶颈。
ab软件中Total transferred 与端口流量有差距。端口流量大于Total transferred&＃xff0c;猜测是有封包的因素。所以不能把Total transferred作为服务器消耗的流量来处理&＃xff0c;用于计算云上某些按流量消耗的服务。

git&＃xff1a;https://github.com/CollapsarLi/server_apachebench_shell.git