热门标签 | HotTags
当前位置:  开发笔记 > 编程语言 > 正文

thrift协议的服务进压力测试

背景:Facebook开发的远程服务调用框架ApacheThrift,它采用接口描述语言定义并创建服务,支持可扩展的跨语言服务开发,所包含的代码生成引擎可以在多种语言中创建高效的、无缝的服务,其

背景:Facebook 开发的远程服务调用框架 Apache Thrift,它采用接口描述语言定义并创建服务,支持可扩展的跨语言服务开发,所包含的代码生成引擎可以在多种语言中创建高效的、无缝的服务,其传输数据采用二进制格式,相对 XML 和 JSON 体积更小,对于高并发、大数据量和多语言的环境更有优势。

负责的搜索服务使用thrift,之前是对其http的上游服务进行压测,从而压到该thrift服务;后续想调研一种方式能够直接对thrift服务进行压测。

thrift框架的C++小程序见:http://www.cnblogs.com/zhaoxd07/p/5387215.html

调研方向:

一 Jmeter

具体逻辑与使用Jmeter进行java请求的压测方式相似:http://www.cnblogs.com/zhaoxd07/p/4895224.html

区别在于setUp中对于协议的选择,会对结果有较大影响

TProtocol protocol = new TCompactProtocol(transport);
client
= new Service.Client(protocol);

原则为:与被测代码使用协议一致即可

二 bender

https://github.com/pinterest/bender

为Pinterest公司开发的,可以对http和thrift协议做压测,使用go语言实现的。我试了一下挺好用的,就是go语言用不太习惯

主要难点在于main.go文件的实现,与Jmeter需要注意点一致:协议的使用

具体操作步骤如下:

1  Go环境初始化

1)  下载安装     

# 下载安装go
cd
/usr/local/ 自己选择安装目录和工作目录
wget https:
//storage.googleapis.com/golang/go1.8.3.linux-amd64.tar.gz
tar -xzvf go1.8.3.linux-amd64.tar.gz

2) 配置环境变量   

# 环境变量配置
vim
/etc/profile 增加如下行:
#go variable
export GOROOT
=/usr/local/go
export PATH
=$PATH:/usr/local/go/bin
export GOPATH
=/data/bender/
export GOBIN
=/data/bender/bin
完成后保存 并使其生效 source /etc/profile

3) 确认变量配置是否生效

#echo $GOROOT
/usr/local/go

2  下载安装需要的插件

cd $GOPATH
go get git.apache.org/thrift.git/lib/go/thriftgo get github.com/pinterest/bender

3 准备server和client

准备server和client

因为我这是个实际项目,server已经由开发同学实现并启动,所以此时只需要准备server即可。如下

Server

 

cd $GOPATH/workspace/myProject/                # 进入我的工作目录
rz my_interface.thrift # 上传我的接口文件
thrift
-gen go my_interface.thrift # 将thrift文件转成go语言

 

4 准备压测脚本bender

编写压测文件 在myProject目录下 新建 myBender文件夹,vim main.sh如下:

package main

// import 若提示有错,就看下目录下文件是否可用
import (
"github.com/pinterest/bender"
bthrift
"github.com/pinterest/bender/thrift"
"git.apache.org/thrift.git/lib/go/thrift"
....
"github.com/pinterest/bender/hist"
)

// 准备压测数据,我用的服务的日志,解析后作为请求发送,相当于回放
func SyntheticRequests(n int) chan interface{} {
f, err :
= os.Open("./advanced_search.info")
paramList :
= make([]*as.QueryParam, 0)
if err != nil {
panic(err)
}
defer f.Close()

rd :
= bufio.NewReader(f)
for {
line, err :
= rd.ReadString('\n')

if err != nil || io.EOF == err {
break
}
else {
json_transport :
= thrift.NewTMemoryBufferLen(len([]rune(line)))
json_transport.WriteString(line)
json_protocol :
= thrift.NewTJSONProtocol(json_transport)
param :
= as.NewQueryParam()
param.Read(json_protocol)
paramList
= append(paramList, param)
}
}
max :
= len(paramList)
c :
= make(chan interface{}, 100)
go func() {
for i := 0; i {
rand.Seed(int64(time.Now().Nanosecond()))
c <- paramList[rand.Intn(max)]
}
close(c)
}()
return c
}

//重要:需要跟服务端所用协议一致
func ASExecutor(request interface{}, transport thrift.TTransport) (interface{}, error) {
pFac :
= thrift.NewTCompactProtocolFactory()
client :
= as.NewRecommendSrvClientFactory(transport, pFac)
return client.GetCampaigns(request.(*as.QueryParam))
}

// 主要是用bender的接口,完成压测
func main() {
intervals :
= bender.ExponentialIntervalGenerator(150) // 150 -- qps
requests := SyntheticRequests(150*60*1) //总请求数
//buffer字节数, clientExec, 超时时间, hosts--写server所在的ip和端口,如非同一机器,保证端口可访问
exec := bthrift.NewThriftRequestExec(thrift.NewTBufferedTransportFactory(125), ASExecutor, 100 * time.Second, "127.0.0.1:9099")
recorder :
= make(chan interface{}, 128)
bender.LoadTestThroughput(intervals, requests, exec, recorder)
l :
= log.New(os.Stdout, "", log.LstdFlags)
h :
= hist.NewHistogram(60000, 1000000)
bender.Record(recorder, bender.NewLoggingRecorder(l), bender.NewHistogramRecorder(h))
fmt.Println(h)
}

5 运行及结果

1  编译

cd $GOPATH
go install workspace
/asthrift/asbender // main.go在目录asbender下

编译后的可执行文件在目录bin下,貌似新文件不能直接覆盖旧文件,因此我会先手动删除旧文件

2 执行

如下结果是因为所请求的server未启动(因该服务现阶段不属于我维护,该结果仅做参考示例)

[root@ip bin]#./asbender
Percentiles:
Min:
0
Median:
1
90th:
1
99th:
1
99.9th: 1
99.99th: 4
Max:
10
Stats:
Average:
0.923222
Total requests:
9000
Elapsed Time (sec):
59.5483
Average QPS:
151.14
Errors:
9000
Percent errors:
100.00

6 问题与解决

 使用直接下载的bender运行时,会打印出请求的详细资料,导致压测的qps不能完成预期,可手动注释掉bender相关代码,并重新编译。

vim src/github.com/pinterest/bender/recorders.go,注释掉第44行。

 

 41 // NewLoggingRecorder creates a new log.Logger-based recorder.
42 func NewLoggingRecorder(l *log.Logger) Recorder {
43 return func(msg interface{}) {
44 // logMessage(l, msg)
45 }
46 }

 

删除目录下的pkg/linux_amd64/github.com/pinterest/bender.a文件,并重新编译:

go install github.com/pinterest/bender

 


推荐阅读
  • 作为140字符的开创者,Twitter看似简单却异常复杂。其简洁之处在于仅用140个字符就能实现信息的高效传播,甚至在多次全球性事件中超越传统媒体的速度。然而,为了支持2亿用户的高效使用,其背后的技术架构和系统设计则极为复杂,涉及高并发处理、数据存储和实时传输等多个技术挑战。 ... [详细]
  • 本文探讨了在AspNetForums平台中实施基于角色的权限控制系统的方法,旨在为不同级别的用户提供合适的访问权限,确保系统的安全性和可用性。 ... [详细]
  • 详解MyBatis二级缓存的启用与配置
    本文深入探讨了MyBatis二级缓存的启用方法及其配置细节,通过具体的代码实例进行说明,有助于开发者更好地理解和应用这一特性,提升应用程序的性能。 ... [详细]
  • SpringBoot底层注解用法及原理
    2.1、组件添加1、Configuration基本使用Full模式与Lite模式示例最佳实战配置类组件之间无依赖关系用Lite模式加速容器启动过程,减少判断配置类组 ... [详细]
  • 本文探讨了在SharePoint环境中使用BDC(Business Data Catalog)时遇到的问题及其解决策略,包括XML文件导入SSP后的不可见性问题以及与远程SQL Server 2005连接的难题。 ... [详细]
  • 将XML数据迁移至Oracle Autonomous Data Warehouse (ADW)
    随着Oracle ADW的推出,数据迁移至ADW成为业界关注的焦点。特别是XML和JSON这类结构化数据的迁移需求日益增长。本文将通过一个实际案例,探讨如何高效地将XML数据迁移至ADW。 ... [详细]
  • 如何高效学习鸿蒙操作系统:开发者指南
    本文探讨了开发者如何更有效地学习鸿蒙操作系统,提供了来自行业专家的建议,包括系统化学习方法、职业规划建议以及具体的开发技巧。 ... [详细]
  • 一、使用Microsoft.Office.Interop.Excel.DLL需要安装Office代码如下:2publicstaticboolExportExcel(S ... [详细]
  • ArcBlock 发布 ABT 节点 1.0.31 版本更新
    2020年11月9日,ArcBlock 区块链基础平台发布了 ABT 节点开发平台的1.0.31版本更新,此次更新带来了多项功能增强与性能优化。 ... [详细]
  • 本文探讨了如何在PHP与MySQL环境中实现高效的分页查询,包括基本的分页实现、性能优化技巧以及高级的分页策略。 ... [详细]
  • 实践指南:使用Express、Create React App与MongoDB搭建React开发环境
    本文详细介绍了如何利用Express、Create React App和MongoDB构建一个高效的React应用开发环境,旨在为开发者提供一套完整的解决方案,包括环境搭建、数据模拟及前后端交互。 ... [详细]
  • SDWebImage第三方库学习
    1、基本使用方法异步下载并缓存-(void)sd_setImageWithURL:(nullableNSURL*)urlNS_REFINED_FOR_SWIFT;使用占位图片& ... [详细]
  • Facebook开发先进AI系统,深入解析个人生活视角
    Facebook正大力投资于增强现实技术,与Ray-Ban合作开发AR眼镜。目前,这些设备主要用于图像的记录和分享,但公司展望未来,认为这些装置将具备更广泛的功能。一个由研究人员组成的团队正在开发先进的AI系统,旨在深入解析用户的个人生活视角,从而提供更加个性化的体验和服务。 ... [详细]
  • Presto:高效即席查询引擎的深度解析与应用
    本文深入解析了Presto这一高效的即席查询引擎,详细探讨了其架构设计及其优缺点。Presto通过内存到内存的数据处理方式,显著提升了查询性能,相比传统的MapReduce查询,不仅减少了数据传输的延迟,还提高了查询的准确性和效率。然而,Presto在大规模数据处理和容错机制方面仍存在一定的局限性。本文还介绍了Presto在实际应用中的多种场景,展示了其在大数据分析领域的强大潜力。 ... [详细]
  • TypeScript 实战分享:Google 工程师深度解析 TypeScript 开发经验与心得
    TypeScript 实战分享:Google 工程师深度解析 TypeScript 开发经验与心得 ... [详细]
author-avatar
怕疼不怕死
这个家伙很懒,什么也没留下!
PHP1.CN | 中国最专业的PHP中文社区 | DevBox开发工具箱 | json解析格式化 |PHP资讯 | PHP教程 | 数据库技术 | 服务器技术 | 前端开发技术 | PHP框架 | 开发工具 | 在线工具
Copyright © 1998 - 2020 PHP1.CN. All Rights Reserved | 京公网安备 11010802041100号 | 京ICP备19059560号-4 | PHP1.CN 第一PHP社区 版权所有