热门标签 | HotTags
当前位置:  开发笔记 > 编程语言 > 正文

闲鱼如何保障交易链路质量

背景闲鱼作为一款垂直交易社区APP,拥有复杂多样的业务场景:涉及c2c、回收寄卖、租房租赁、见面交易、验货担保等,复杂多变的交易模式。比

背景

闲鱼作为一款垂直交易社区APP,拥有复杂多样的业务场景:涉及c2c、回收寄卖、租房租赁、见面交易、验货担保等,复杂多变的交易模式。比如验货流程:

  • 涉及39个状态机节点
  • 横跨10+应用系统
  • 涉及6个业务部门的合作
  • 涉及接口几十个

需要保证每个接口、每个场景切实可行,稍微有一点点问题,就会涉及到人民币的味道,实际工作中,我们遇到各种各样的问题,比较棘手的问题如下:

问题

业务先赢的快速迭代模式下,全靠人工主力进行测试验证,测完新功能,还得回归老功能,一个小需求也须要好几个人日,版本PTM也要回归好几遍,ROI并不乐观,以下2个问题比较突出:

  1. 交易业务强依赖中台,沟通成本高,跨团队协作难,迭代效率低,测试环境下如何自洽?
  2. 复杂多样交易模式下,如何支撑需求稳步迭代上线以及日常回归验证?

测试策略-自动化

闲鱼质量基建正在快马加鞭进行中,针对闲鱼多样的交易模式,全靠人力是不可行的,累不说,改动、风险漏评估也时有发生。对此,我们根据接口->链路的策略,探索对比了几个不同的方案,在保证每个接口OK的基础上,保障全链路。

接口层

对于每一个大型应用程序来说,接口数量会不断增加,代码变更频率越来越大、系统不定期重构,这个接口的质量怎么来保障?传统编写脚本来进行的方式,投入的人力、时间成本过大,在实际的测试过程中我们探索了一些接口测试的新想法。目前业界公认的有效方式是基于引流回放的自动化测试,实现方案业内众说纷纭各有其词,但万变不离其中,引用下面这段总结,简单明了

一种是黑盒测试思路,它在线上接口请求时采集线上流量(主要是请求参数和结果),然后使用和线上环境相同的环境(数据库共用等)下用采集到的流量重新触发请求,然后断言被请求的返回值是不是和录制时的一致。这种方法比较适合对Get类型的接口进行测试,而对于写操作的请求容易造成数据污染,再加上所采集流量的数据状态(数据时效性)、环境依赖性(各种中间件、接口内部请求的RPC调用)等因素,所以这种测试方式具有一些局限性,不能满足实际测试场景中复杂的需求。

另一种思路相对白盒,主要是通过智能化的Mock手段,流量采集时采集代码运行过程中所依赖的外部中间件或者RPC调用的返回结果,当流量回放时,能够Mock本机程序对外的依赖中有可能产生变化的内容,使测试更关注本地接口的代码逻辑。

阿里集团内部,基于流量回放的思想,主要实现了2种不同的流量录制回放方案,一种是基于doom的天启/暴雪,一种是基于JVM-Sandbox的凤凰,两种实现都借力于JVM AOP。

  • 天启/暴雪
  • 天启/暴雪,其底层采用的是doom进行流量录制,其原理如下

    doom原理图
    主要流程是:

  1. 通过Java agent挂在JVM中的client以ASM的AOP方式采集主调用(采集或回放时的入口方法)的入参、返回值、子调用(应用执行过程中的一次方法调用,采集机器会采集该方法的入参和返回值用于回放时执行到该方法进行mock)的入参和返回值,然后将采集到的数据上传至server (离线模式);
  2. 回放时,client收到接口回放请求后,会执行该接口的本地逻辑,对于子调用则用采集的入参和结果进行mock;
  3. 将采集的流量和回放的结果数据进行对比。

doom方式,业务应用系统需要引入Jar包,修改启动类,修改JVM挂载agent,有部分的业务侵入性。

- 凤凰凤凰,也是采用JVM AOP实现的流量录制方案,理念和doom差不多,凤凰整体架构底层基于JVM-Sandbox(阿里开源的一款 JVM 平台非侵入式运行期 AOP 解决方案,通过字节码增强实现方法级别的AOP功能)输出模块原子能力。录制时,记录了发生调用的方法,入参、返回值和调用发生的顺序,以链式数据结构存储,回放时进行接口逻辑执行和子调用mock。
![凤凰录制回放.png](https://gw.alicdn.com/imgextra/i2/O1CN01m49rqS1rsh7EMIakW_!!6000000005687-2-tps-442-331.png)
凤凰录制回放
凤凰无需代码侵入修改,不需要修改应用启动参数,相对来说,对业务代码影响小,但是有应用结构要求。考虑成本和风险,以及我们的应用结构,闲鱼采用基于Sandbox的凤凰流量录制回放进行保障,变更上线流程卡点。
研发过程中,也会遇到各种各样的流量回放问题,比如用例过期,需要人工清楚重新录制。我们现在是采用定时任务自动清除重新录制的方式解决。
下面是我们的一个场景例子:
![image.png](https://gw.alicdn.com/imgextra/i3/O1CN01bR7Yqe1qfaA29uZCx_!!6000000005523-2-tps-1318-418.png)


链路层

在基于流量录制、回放比对的接口测试过程中,我们发现这种机制对于单应用的质量保障比较实用,但是对于跨应用的链路验证、核心写操作、外调用,以及系统重构类、方案改造等大需求就有些不足,链路级的解决解决方案接踵而至。

  • Thub + 微服务

测试环境下,对于全链路上下游的强依赖,措施之一是开发测试服务化能力,建立自洽能力,测试环境下解藕对于外界诸如交易中台、菜鸟裹裹的依赖,测试环境能进行全链路闭环。
落地首要任务是梳理业务全链路节点:

- 主干链路上的每一个MTOP接口,以及接口的上下游依赖- 内部应用、中台应用、外部商家的依赖- 数据流以及TDDL梳理

业务梳理完整,进行测试服务化接口开发。下面是我们截取的一部分链路case:

同时,诸如测试环境由于依赖方测试环境不稳定block测试的情况,我们提供测试服务化接口进行封装,暴露成下单、验货等服务化能力内置于闲鱼质量平台,用于开发、测试在研发过程中使用。

  • 天算平台

天算平台,利用影子库,全链路压测的模式,线上业务数据和测试数据隔离,测试库copy线上库一部分数据。主要实现的方式是将线上的场景进行固化仿真,全链路执行,并且在执行的过程中进行所有数据变更的比对,用户可以选择任何代码版本的基线和变更版本进行对比。
大致流程

天算能力基本能满足闲鱼的交易链路,闲鱼建立了主链路相关影子库,影子链路正在调试中,用于交易服务端的全链路巡检。 同时,影子链路有诸如业务变更导致影子数据过期的问题,这个方案则主要是用于业务比较稳定的业务,新业务或者不断迭代更新的业务并未all in这个方案。

总结

综上,目前闲鱼交易,接口层用基于jvm-sandbox的流量录制方案, 日常巡检利用影子链路,研发过程自测、链路自动化用业务编排服务化能力。

doomjvm-sandboxThub+微服务影子链路
Release是(github已开源)
代码侵入
应用要求
稳定性一般一般一般一般
全链路测试

展望

在基建完善的基础上,我们将继续探索flutter以及服务端的全端智能化方向的测试解决方案,希望让更多技术小二从重复劳动中释放出来,从治、防、控,三层质量网,保障闲鱼交易,让用户在闲鱼放心的卖卖卖、买买买。期待和大家一起交流业内的不同测试方案!同时感谢doom、sandbox、凤凰、天启、暴雪、全链路压测、Thub等团队提供的能力支持!

原文链接

本文为阿里云原创内容,未经允许不得转载。


推荐阅读
  • 在JavaWeb项目架构中,NFS(网络文件系统)的实现与优化是关键环节。NFS允许不同主机系统通过局域网共享文件和目录,提高资源利用率和数据访问效率。本文详细探讨了NFS在JavaWeb项目中的应用,包括配置、性能优化及常见问题的解决方案,旨在为开发者提供实用的技术参考。 ... [详细]
  • 本文详细介绍了Java代码分层的基本概念和常见分层模式,特别是MVC模式。同时探讨了不同项目需求下的分层策略,帮助读者更好地理解和应用Java分层思想。 ... [详细]
  • 本文介绍了如何通过命令行有效地终止所有 Node.js 进程实例,以解决因端口冲突或其他服务冲突导致的问题。 ... [详细]
  • 在尝试通过自定义端口部署Spring Cloud Eureka时遇到了连接失败的问题。本文详细描述了问题的现象,并提供了有效的解决方案,以帮助遇到类似情况的开发者。 ... [详细]
  • 本文介绍了实时流协议(RTSP)的基本概念、组成部分及其与RTCP的交互过程,详细解析了客户端请求格式、服务器响应格式、常用方法分类及协议流程,并提供了SDP格式的深入解析。 ... [详细]
  • 在 Ubuntu 22.04 LTS 上部署 Jira 敏捷项目管理工具
    Jira 敏捷项目管理工具专为软件开发团队设计,旨在以高效、有序的方式管理项目、问题和任务。该工具提供了灵活且可定制的工作流程,能够根据项目需求进行调整。本文将详细介绍如何在 Ubuntu 22.04 LTS 上安装和配置 Jira。 ... [详细]
  • 深入解析Dubbo:使用与源码分析
    本文详细介绍了Dubbo的使用方法和源码分析,涵盖其架构设计、核心特性和调用流程。 ... [详细]
  • http:blog.csdn.netzeo112140articledetails7675195使用TCPdump工具,抓TCP数据包。将数据包上传到PC,通过Wireshark查 ... [详细]
  • 阿里面试题解析:分库分表后的无限扩容瓶颈与解决方案
    本文探讨了在分布式系统中,分库分表后的无限扩容问题及其解决方案。通过分析不同阶段的服务架构演变,提出了单元化作为解决数据库连接数过多的有效方法。 ... [详细]
  • 本文通过基准测试(Benchmark)对.NET Core环境下Thrift和HTTP客户端的微服务通信性能进行对比分析。基准测试是一种评估系统或组件性能的方法,通过运行一系列标准化的测试来衡量其表现。 ... [详细]
  • 本文详细介绍了在 CentOS 7 系统中配置 fstab 文件以实现开机自动挂载 NFS 共享目录的方法,并解决了常见的配置失败问题。 ... [详细]
  • Hyperledger Fabric 1.4 节点 SDK 快速入门指南
    本文将详细介绍如何利用 Hyperledger Fabric 1.4 的 Node.js SDK 开发应用程序。通过最新版本的 Fabric Node.js SDK,开发者可以更高效地构建和部署基于区块链的应用,实现数据的安全共享和交易处理。文章将涵盖环境配置、SDK 安装、示例代码以及常见问题的解决方法,帮助读者快速上手并掌握核心功能。 ... [详细]
  • 本文探讨了如何通过Service Locator模式来简化和优化在B/S架构中的服务命名访问,特别是对于需要频繁访问的服务,如JNDI和XMLNS。该模式通过缓存机制减少了重复查找的成本,并提供了对多种服务的统一访问接口。 ... [详细]
  • 本文介绍了如何利用X_CORBA实现远程对象调用,并通过多个示例程序展示了其功能与应用,包括基础的Hello World示例、文件传输工具以及一个完整的聊天系统。 ... [详细]
  • 高效的JavaScript异步资源加载解决方案
    本文探讨了如何通过异步加载技术处理网页中大型第三方插件的加载问题,避免将大文件打包进主JS文件中导致的加载时间过长,介绍了实现异步加载的具体方法及其优化。 ... [详细]
author-avatar
手机用户2502937805
这个家伙很懒,什么也没留下!
PHP1.CN | 中国最专业的PHP中文社区 | DevBox开发工具箱 | json解析格式化 |PHP资讯 | PHP教程 | 数据库技术 | 服务器技术 | 前端开发技术 | PHP框架 | 开发工具 | 在线工具
Copyright © 1998 - 2020 PHP1.CN. All Rights Reserved | 京公网安备 11010802041100号 | 京ICP备19059560号-4 | PHP1.CN 第一PHP社区 版权所有