异构交易场景交互流程及一致性保证

问题如下&＃xff1a;

A 系统联机同步调用 B 系统&＃xff08;A 和 B 不是同一公司系统&＃xff0c;不能用分布式事务&＃xff09;&＃xff0c;如何保证系统间数据准实时一致性&＃xff08;聊聊设计思路即可&＃xff09;&＃xff1f;

提醒&＃xff1a;需要考虑调用超时、并发、幂等、反交易先到等。

各种异常场景怎么处理要考虑更完善些&＃xff0c;如事务隔离、并发、反交易先到调用方和服务方约定&＃xff08;前端客户不可能一直等着&＃xff09;

这种聊思路的问题&＃xff0c;往往问的都很大&＃xff0c;或者说比较唬人&＃xff0c;实际上遇到这种问题&＃xff0c;我们要做的就是抽象。抽象出场景&＃xff0c;抽象出问题的核心要点。我们能够提炼出要点&＃xff1a;

1. 非同一公司系统&＃xff08;跨网络&＃xff0c;异构&＃xff09;&＃xff1b;
2. 反交易先到&＃xff08;我们基本能确定提问者大概想知道的思路与交易有关&＃xff09;&＃xff1b;
3. 服务方预定&＃xff1b;
4. 前端客户不可能一直等待&＃xff08;交易流程往往是长事务流程&＃xff0c;不能简单依靠单个接口调用&＃xff0c;基本上是异步流程&＃xff09;。

有了这些前提&＃xff0c;我们就可以基本抽象出讨论的背景和模型。

因为前提是 A、B 系统分属不同的公司&＃xff0c;也就是说 A B 系统是通过公网进行交互的两套异构系统&＃xff0c;极有可能实现的技术栈也各不相同&＃xff0c;因此互相之间只能通过暴露在外的接口进行交互&＃xff0c;我们就认为是通过 http 接口进行的交互。

由于是 A 系统调用 B 系统&＃xff0c;因此我们可以抽象为点对点的消息通信场景&＃xff0c;其中 A 为主动拉取方&＃xff0c;B 为被拉取方。

问题提到说&＃xff0c;我们说不能用分布式事务&＃xff0c;其实是在说不能使用强一致 / 类 2PC 的事务实现&＃xff0c;如 2PC、3PC、SEATA 等&＃xff0c;但是可以利用诸如最大努力通知的柔性方式进行数据的同步。

有了方案&＃xff0c;我们接着抽象出 交易单 这个模型&＃xff0c;并为其指定状态机&＃xff1a;

1. 交易单创建时&＃xff0c;状态为 初始化&＃xff0c;
2. A 系统向 B 系统发送交易单时改为&＃xff0c; 处理中
3. 如果 B 系统同步响应收单失败&＃xff0c;则 A 系统修改状态为 失败
4. 同步 B 系统同步响应收单成功&＃xff0c;则 A 系统修改状态为 已提单
5. 当 B 系统处理交易完成&＃xff0c;通知 A 系统交易完成&＃xff0c;则 A 系统修改交易单状态为 成功&＃xff0c;&＃xff08;此处的成功为真实成功&＃xff0c;因为已经发生了资金扣除 / 积分等标的物的消耗&＃xff09;
6. 当 B 系统处理交易失败&＃xff0c;则通知 A 系统交易失败&＃xff0c;则 A 系统修改交易单状态为 失败 &＃xff08;此时的失败假定为 B 系统在扣钱之前就失败&＃xff09;

我们讨论一下提单请求发生超时应当如何处理。

A 系统的出口网关向 B 系统的入口网关发起提单请求&＃xff0c;这是一个同步通信&＃xff0c;对于同步请求的失败&＃xff08;如&＃xff1a;签名失败&＃xff0c;参数异常失败等&＃xff09;&＃xff0c;A 系统可以发起重试&＃xff0c;此时这种请求属于真实的失败&＃xff0c;因为压根没有发起交易行为&＃xff0c;所以原则上数据是一致的&＃xff0c;对于资金而言就是没有发生扣减等行为。

如果 A 系统提交提单请求超时&＃xff0c;此时未能收到 B 系统回复的同步 收单成功 的响应&＃xff0c;则这时候就存在数据不一致的情况。这个场景就是所谓的 掉单&＃xff0c;则 A 系统需要对掉单的数据&＃xff08;状态为处理中&＃xff09;发起掉单查询操作&＃xff0c;思路就是定时发起查询&＃xff0c;获取 B 系统对交易单的处理情况。

一般而言 B 系统都会通知 A 系统发起掉单查询的建议时间&＃xff0c;如发起交易单 10 分钟后即可有处理的确定结果&＃xff0c;那么 A 系统就可以对已提交 10 分钟以上&＃xff0c;状态为 处理中 的交易单发起掉单查询。也就是说&＃xff0c;10 分钟后&＃xff0c;这类中间态的数据&＃xff0c;AB 系统间可以达成一致。

特别的&＃xff0c;如果一次掉单查询没能查到确定的结果&＃xff0c;则可以设置下一次继续查询&＃xff0c;这里推荐采用     时间衰减策略 进行查询&＃xff0c;这是交易场景乃至中间件中常用的一种未知数据定时同步的通用思路。

对于交易场景&＃xff0c;处于对数据实时性的考虑&＃xff0c;我们常常希望下游系统处理完数据之后能够及时通知我们结果。

在这个场景中就是 A 系统需要对接 B 系统的 交易结果实时通知接口&＃xff0c;当交易单被 B 系统处理完成之后&＃xff0c;B 系统会对交易单处理结果发起通知&＃xff0c;及时回调 A 系统处理的结果。此时&＃xff0c;A 系统成为被调用方&＃xff0c;B 系统为调用方&＃xff0c;相比于掉单查询&＃xff0c;结果通知几乎是准实时的&＃xff0c;从 B 系统发起通知到 A 系统接收到通知往往都在百毫秒级别&＃xff08;支付宝支付结果通知能够达到数十毫秒&＃xff09;。

简单总结下&＃xff0c;对于超时的处理&＃xff0c;我们就是通过掉单查询和实时通知方式&＃xff0c;通过主动轮询处理结果与被动接受结果通知的方式&＃xff0c;通过推拉结合的方式共同保证 AB 系统之间的数据达成最终一致。

对于并发提单而言&＃xff0c;其实属于老生常谈类的话题。其本质在于分布式场景下请求的防重放处理思路。

核心就在于请求串行化&＃xff0c;我们往往通过 CAS、加锁等方式进行处理。

具体到具体的实现细节&＃xff0c;CAS 方式有数据库状态标识&＃xff08;状态机&＃xff09;、加锁方式其实就是分布式锁&＃xff0c;简单的说就是通过分布式锁方式进行处理&＃xff0c;通过对一笔交易单加分布式锁&＃xff0c;获取分布式锁成功的请求才能发起请求&＃xff0c;发起请求后写入幂等记录&＃xff0c;完成请求后释放锁&＃xff0c;防止并发提交。

对于幂等而言&＃xff0c;我们通常需要通过幂等校验来进行&＃xff0c;比如&＃xff1a;

高并发场景下&＃xff0c;将幂等标识写入 Redis 缓存&＃xff0c;用于对写请求幂等 或者 请求如果量不大&＃xff0c;则通过数据库唯一约束进行幂等处理&＃xff0c;保证只有一笔交易单落库&＃xff08;如唯一约束 订单号&＃xff09;。

唯一约束是最后一道防线&＃xff0c;用于对写请求幂等 低并发场景下&＃xff0c;通过先查询&＃xff0c;后插入&＃xff08;更新&＃xff09;的方式也可以进行幂等校验&＃xff0c;但是高并发场景下会有重复更新 / 新增的风险&＃xff0c;因此往往需要配合分布式锁共同作用&＃xff0c;将并发请求串行化 单单就幂等来说&＃xff0c;查询天然幂等&＃xff0c;更新则可以通过上面的方式进行幂等保证。

首先明确何为 “反交易”&＃xff0c;反交易&＃xff0c;顾名思义&＃xff0c;反向交易&＃xff0c;我们举个例子就好懂了。

比如说&＃xff0c;扣款的反交易&＃xff0c;就是冲正&＃xff08;比如说&＃xff0c;转账操作&＃xff0c;扣除 A 的钱&＃xff0c;给 B 加钱失败。则 A 扣除的钱需要补回&＃xff0c;这个过程就是冲正。实际的冲正涵盖的范围更广&＃xff0c;我们只需要简单认为是扣款的反向操作&＃xff0c;但是要区别于提现和充值。&＃xff09;

比如说&＃xff0c;A 系统请求对交易单支付 100 元&＃xff0c;B 系统扣款成功后向 A 系统返回支付成功的通知消息&＃xff1b;此时 B 系统后续操作故障&＃xff0c;导致该交易无法继续进行下去&＃xff0c;则 B 系统对 A 系统扣除的 100 元执行了冲正之后&＃xff0c;通知 A 系统交易已冲正退单。

所谓反交易先到&＃xff0c;就是说网络发生拥塞&＃xff0c;导致冲正退单的消息&＃xff0c;先于支付成功的消息先到了。

我们的 A 系统的交易单不是有状态机么&＃xff0c;状态机就是处理反交易先到的利器。

我们要求对于交易的处理是串行的&＃xff0c;如何串行&＃xff0c;其实简单的说&＃xff0c;通过状态机就能很好地实现。

当然要说明的一点是&＃xff0c;对于实际情况&＃xff0c;需要具体业务具体分析&＃xff0c;对于我们当前讨论的场景而言&＃xff0c;我们通过状态机能够解决问题&＃xff0c;具体过程如下&＃xff0c;

我们假定&＃xff0c;A 系统的交易单的状态机只能按照 处理中 -> 支付成功 -> 退单 这个流程进行流转&＃xff0c;当退单先于支付成功到达时&＃xff0c;我们需要在一个事务中同时完成流水的插入&＃xff0c;交易单状态的更新。对于更新操作而言&＃xff0c;我们的 sql 期望如下&＃xff1a;

update order set order_status&＃61;退单 where order_status&＃61;支付成功 and order_id&＃61;xxxxx

由于状态机只允许固定的订单状态迁移&＃xff0c;我们在更新状态的时候带上老状态&＃xff0c;实际上当前的 order_status &＃61; 处理中&＃xff0c;因此 update 失败。最终处理为通知处理失败&＃xff0c;A 系统告知 B 系统对该通知进行重发。那么 B 系统就只能老老实实的重新发起通知&＃xff0c;这也是一个合格的交易系统所必须具备的能力。否则你的系统不支持通知重复发起&＃xff0c;用户体验也太差了。

此时由于状态机的原因&＃xff0c;交易单状态还是处理中&＃xff0c;当被拥塞的支付成功的通知到达&＃xff0c;交易单状态成功更新为 支付成功 此时执行的 update 语句为&＃xff1a;

update order set order_status&＃61;支付成功 where order_status&＃61;处理中 and order_id&＃61;xxxxx

后续重试的 退单通知&＃xff08;所谓的反交易&＃xff09;到达后&＃xff0c;交易单根据状态机便能够成功进行流转&＃xff0c;具体的 update 语句如下&＃xff1a;

update order set order_status&＃61;退单 where order_status&＃61;支付成功 and order_id&＃61;xxxxx

从我们的分析看出&＃xff0c;只要有状态机存在&＃xff0c;无论如何&＃xff0c;交易单的状态只能按照 处理中 -> 支付成功 -> 退单 这个方式流转而不会发生状态的跃迁跳跃。

所以我们说&＃xff0c;状态机&＃xff0c;就是系统间处理反交易先到的利器&＃xff0c;状态机也是交易类系统通用的神兵利器。

还有一点就是前端客户不可能一直等着&＃xff0c;实际上在上述的过程中我们已经解答了这个问题。

我们本次分析问题采用整体的方案是基于最大努力通知的思路&＃xff0c;核心的步骤就是 同步提单&＃xff0c;掉单查询&＃xff0c;结果通知。通过对这几个步骤进行结合&＃xff0c;我们就能够避免前端一直等待&＃xff0c;因为交易属于一个长事务业务&＃xff0c;上游 / 前端只需要提交成功就可以去干别的事情了&＃xff0c;剩下的复杂操作让下游系统慢慢处理&＃xff0c;这其实就是体现了异步的思维。

最后还要提一下&＃xff0c;对于交易系统而言&＃xff0c;数据一致性保证的兜底方案就是对账机制&＃xff0c;关于对账&＃xff0c;我在近期也会单独写一篇文章进行详细讨论&＃xff08;又一个 flag&＃xff09;。

交易系统通常具备 t&＃43;1 的对账&＃xff0c;简单的说就是&＃xff0c;每天生成前一天的对账单&＃xff0c;在我们的这个场景中&＃xff0c;A 系统每天都向 B 系统请求自己前一天的交易对账单&＃xff0c;下载到本地&＃xff0c;通过 A 系统自己的渠道流水号 / 交易单号&＃xff0c;与 B 系统提供的交易单进行逐条的对账&＃xff0c;这个过程往往能够通过定时任务来自动化的执行&＃xff0c;把不一致的交易单对平。从而将两个系统之间的数据达成最终一致&＃xff0c;比如说&＃xff0c;A 系统没收到 B 系统的通知&＃xff0c;掉单查询也没有查到的交易单&＃xff0c;往往最终通过对账都能够获取到数据的最终状态。