闲鱼如何保障交易链路质量

背景

闲鱼作为一款垂直交易社区APP&＃xff0c;拥有复杂多样的业务场景&＃xff1a;涉及c2c、回收寄卖、租房租赁、见面交易、验货担保等&＃xff0c;复杂多变的交易模式。比如验货流程&＃xff1a;

• 涉及39个状态机节点
• 横跨10&＃43;应用系统
• 涉及6个业务部门的合作
• 涉及接口几十个

需要保证每个接口、每个场景切实可行&＃xff0c;稍微有一点点问题&＃xff0c;就会涉及到人民币的味道&＃xff0c;实际工作中&＃xff0c;我们遇到各种各样的问题&＃xff0c;比较棘手的问题如下&＃xff1a;

问题

业务先赢的快速迭代模式下&＃xff0c;全靠人工主力进行测试验证&＃xff0c;测完新功能&＃xff0c;还得回归老功能&＃xff0c;一个小需求也须要好几个人日&＃xff0c;版本PTM也要回归好几遍&＃xff0c;ROI并不乐观&＃xff0c;以下2个问题比较突出&＃xff1a;

1. 交易业务强依赖中台&＃xff0c;沟通成本高&＃xff0c;跨团队协作难&＃xff0c;迭代效率低&＃xff0c;测试环境下如何自洽&＃xff1f;
2. 复杂多样交易模式下&＃xff0c;如何支撑需求稳步迭代上线以及日常回归验证&＃xff1f;

测试策略-自动化

闲鱼质量基建正在快马加鞭进行中&＃xff0c;针对闲鱼多样的交易模式&＃xff0c;全靠人力是不可行的&＃xff0c;累不说&＃xff0c;改动、风险漏评估也时有发生。对此&＃xff0c;我们根据接口->链路的策略&＃xff0c;探索对比了几个不同的方案&＃xff0c;在保证每个接口OK的基础上&＃xff0c;保障全链路。

接口层

对于每一个大型应用程序来说&＃xff0c;接口数量会不断增加&＃xff0c;代码变更频率越来越大、系统不定期重构&＃xff0c;这个接口的质量怎么来保障&＃xff1f;传统编写脚本来进行的方式&＃xff0c;投入的人力、时间成本过大&＃xff0c;在实际的测试过程中我们探索了一些接口测试的新想法。目前业界公认的有效方式是基于引流回放的自动化测试&＃xff0c;实现方案业内众说纷纭各有其词&＃xff0c;但万变不离其中&＃xff0c;引用下面这段总结&＃xff0c;简单明了

一种是黑盒测试思路&＃xff0c;它在线上接口请求时采集线上流量&＃xff08;主要是请求参数和结果&＃xff09;&＃xff0c;然后使用和线上环境相同的环境&＃xff08;数据库共用等&＃xff09;下用采集到的流量重新触发请求&＃xff0c;然后断言被请求的返回值是不是和录制时的一致。这种方法比较适合对Get类型的接口进行测试&＃xff0c;而对于写操作的请求容易造成数据污染&＃xff0c;再加上所采集流量的数据状态&＃xff08;数据时效性&＃xff09;、环境依赖性&＃xff08;各种中间件、接口内部请求的RPC调用&＃xff09;等因素&＃xff0c;所以这种测试方式具有一些局限性&＃xff0c;不能满足实际测试场景中复杂的需求。

另一种思路相对白盒&＃xff0c;主要是通过智能化的Mock手段&＃xff0c;流量采集时采集代码运行过程中所依赖的外部中间件或者RPC调用的返回结果&＃xff0c;当流量回放时&＃xff0c;能够Mock本机程序对外的依赖中有可能产生变化的内容&＃xff0c;使测试更关注本地接口的代码逻辑。

阿里集团内部&＃xff0c;基于流量回放的思想&＃xff0c;主要实现了2种不同的流量录制回放方案&＃xff0c;一种是基于doom的天启/暴雪&＃xff0c;一种是基于JVM-Sandbox的凤凰&＃xff0c;两种实现都借力于JVM AOP。

• 天启/暴雪
• 天启/暴雪&＃xff0c;其底层采用的是doom进行流量录制&＃xff0c;其原理如下
  
  doom原理图
  主要流程是&＃xff1a;

1. 通过Java agent挂在JVM中的client以ASM的AOP方式采集主调用&＃xff08;采集或回放时的入口方法&＃xff09;的入参、返回值、子调用&＃xff08;应用执行过程中的一次方法调用&＃xff0c;采集机器会采集该方法的入参和返回值用于回放时执行到该方法进行mock&＃xff09;的入参和返回值&＃xff0c;然后将采集到的数据上传至server &＃xff08;离线模式&＃xff09;&＃xff1b;
2. 回放时&＃xff0c;client收到接口回放请求后&＃xff0c;会执行该接口的本地逻辑&＃xff0c;对于子调用则用采集的入参和结果进行mock&＃xff1b;
3. 将采集的流量和回放的结果数据进行对比。

doom方式&＃xff0c;业务应用系统需要引入Jar包&＃xff0c;修改启动类&＃xff0c;修改JVM挂载agent&＃xff0c;有部分的业务侵入性。

- 凤凰凤凰&＃xff0c;也是采用JVM AOP实现的流量录制方案&＃xff0c;理念和doom差不多&＃xff0c;凤凰整体架构底层基于JVM-Sandbox&＃xff08;阿里开源的一款 JVM 平台非侵入式运行期 AOP 解决方案&＃xff0c;通过字节码增强实现方法级别的AOP功能&＃xff09;输出模块原子能力。录制时&＃xff0c;记录了发生调用的方法&＃xff0c;入参、返回值和调用发生的顺序&＃xff0c;以链式数据结构存储&＃xff0c;回放时进行接口逻辑执行和子调用mock。
![凤凰录制回放.png](https://gw.alicdn.com/imgextra/i2/O1CN01m49rqS1rsh7EMIakW_!!6000000005687-2-tps-442-331.png)
凤凰录制回放
凤凰无需代码侵入修改&＃xff0c;不需要修改应用启动参数&＃xff0c;相对来说&＃xff0c;对业务代码影响小&＃xff0c;但是有应用结构要求。考虑成本和风险&＃xff0c;以及我们的应用结构&＃xff0c;闲鱼采用基于Sandbox的凤凰流量录制回放进行保障&＃xff0c;变更上线流程卡点。
研发过程中&＃xff0c;也会遇到各种各样的流量回放问题&＃xff0c;比如用例过期&＃xff0c;需要人工清楚重新录制。我们现在是采用定时任务自动清除重新录制的方式解决。
下面是我们的一个场景例子&＃xff1a;
![image.png](https://gw.alicdn.com/imgextra/i3/O1CN01bR7Yqe1qfaA29uZCx_!!6000000005523-2-tps-1318-418.png)
​


链路层

在基于流量录制、回放比对的接口测试过程中&＃xff0c;我们发现这种机制对于单应用的质量保障比较实用&＃xff0c;但是对于跨应用的链路验证、核心写操作、外调用&＃xff0c;以及系统重构类、方案改造等大需求就有些不足&＃xff0c;链路级的解决解决方案接踵而至。

• Thub &＃43; 微服务

测试环境下&＃xff0c;对于全链路上下游的强依赖&＃xff0c;措施之一是开发测试服务化能力&＃xff0c;建立自洽能力&＃xff0c;测试环境下解藕对于外界诸如交易中台、菜鸟裹裹的依赖&＃xff0c;测试环境能进行全链路闭环。
落地首要任务是梳理业务全链路节点&＃xff1a;

- 主干链路上的每一个MTOP接口&＃xff0c;以及接口的上下游依赖- 内部应用、中台应用、外部商家的依赖- 数据流以及TDDL梳理

业务梳理完整&＃xff0c;进行测试服务化接口开发。下面是我们截取的一部分链路case&＃xff1a;

同时&＃xff0c;诸如测试环境由于依赖方测试环境不稳定block测试的情况&＃xff0c;我们提供测试服务化接口进行封装&＃xff0c;暴露成下单、验货等服务化能力内置于闲鱼质量平台&＃xff0c;用于开发、测试在研发过程中使用。

• 天算平台

天算平台&＃xff0c;利用影子库&＃xff0c;全链路压测的模式&＃xff0c;线上业务数据和测试数据隔离&＃xff0c;测试库copy线上库一部分数据。主要实现的方式是将线上的场景进行固化仿真&＃xff0c;全链路执行&＃xff0c;并且在执行的过程中进行所有数据变更的比对&＃xff0c;用户可以选择任何代码版本的基线和变更版本进行对比。
大致流程

天算能力基本能满足闲鱼的交易链路&＃xff0c;闲鱼建立了主链路相关影子库&＃xff0c;影子链路正在调试中&＃xff0c;用于交易服务端的全链路巡检。 同时&＃xff0c;影子链路有诸如业务变更导致影子数据过期的问题&＃xff0c;这个方案则主要是用于业务比较稳定的业务&＃xff0c;新业务或者不断迭代更新的业务并未all in这个方案。

总结

综上&＃xff0c;目前闲鱼交易&＃xff0c;接口层用基于jvm-sandbox的流量录制方案, 日常巡检利用影子链路&＃xff0c;研发过程自测、链路自动化用业务编排服务化能力。

展望

在基建完善的基础上&＃xff0c;我们将继续探索flutter以及服务端的全端智能化方向的测试解决方案&＃xff0c;希望让更多技术小二从重复劳动中释放出来&＃xff0c;从治、防、控&＃xff0c;三层质量网&＃xff0c;保障闲鱼交易&＃xff0c;让用户在闲鱼放心的卖卖卖、买买买。期待和大家一起交流业内的不同测试方案&＃xff01;同时感谢doom、sandbox、凤凰、天启、暴雪、全链路压测、Thub等团队提供的能力支持&＃xff01;

原文链接

本文为阿里云原创内容&＃xff0c;未经允许不得转载。