酷应用

Saga分布式事务解决方案与实践

百家作者：聊聊架构 2018-06-21 09:07:22

微服务架构下的应用是由一组松耦合的相互协调的服务所组成。这些服务内部通常使用独立的数据库来维护状态，服务与服务之间是通过轻量级的通讯协议进行交互的。如何协调这些服务之间的分布式事务一致性成为微服务架构需要解决的一个重要问题。

本文根据 QCon 姜宁演讲稿整理而成，他结合业界普遍采用的 Saga 技术，以及 ServiceComb Saga 项目，与大家分享 Saga 分布式事务最终一致性解决方案以及相关实践经验。

我先介绍一下我自己，我叫姜宁，来自于华为开源研究中心，现在负责的是 ServiceComb 这个开源项目。ServiceComb 这个项目已经进到 Apache 孵化，应该是去年 11 月份时进到 Apache 孵化的，这个月我们帮刚发了 1.0M1 版，但对于 SAGA 来说我们属于探索的阶段，发布了 0.1.0。

我参与过 Apache 一些项目，我也是 Apache 的 Member，是 Apache CXF, Apache Camel 还有的 PMC。还有一件事情，前一段时间帮阿里同学孵化 RocketMQ，我是以导师的身份参与的，属于见习的 Mentor。这回带着 ServiceComb 这个项目，我感觉我把很多角色都玩了一遍。后面如果大家对开源项目进入 Apache 孵化感兴趣的话也可以来找到。

今天的议题围绕几个方面来展开，一个是微服务事务一致性的问题，然后讲一讲业界的 SAGA 解决方案，我们在 ServiceComb 里也提供了 SAGA 的实现。另外一件事情，我项目这边也在招新，欢迎广大感兴趣的同学一会儿加我微信。我们现在项目其实架子也都搭得不错了，就是等着大家跳到碗里面，一起来解决微服务事务一致性问题。

微服务架构强调的服务能够独立开发，独立演进，独立部署，独立团队。

那微服务相关的数据是采用什么方式进行存储的呢？

传统的单体应用一般采用的是数据库提供的事务一致性，通过数据库提供的提交以及回滚机制来保证相关操作的 ACID，这些操作要么同时成功，要么同时失败。各个服务看到数据库中的数据是一致的，同时数据库的操作也是相互隔离的，最后数据也是在数据库中持久存储的。这样的架构不具备横向扩展能力，服务之间的耦合程度也比较高，会存在单点故障。

在微服务架构中，有一个 database per service 的模式，这个模式就是每一个服务一个数据库。这样可以保证微服务独立开发，独立演进，独立部署，独立团队。

由于一个应用是由一组相互协作的微服务所组成，在分布式环境下由于各个服务访问的数据是相互分离的，服务之间不能靠数据库来保证事务一致性。这就需要在应用层面提供一个协调机制，来保证一组事务执行要么成功，要么失败。

两阶段提交其实比较简单，这边有两个资源提供准备和提交两个接口。

由于隔离性互斥的要求，在事务执行过程中，所有的资源都是被锁定的，这种情况只适合执行时间确定的短事务。但是为了保证分布式事务的一致性，大都是采用串行化的隔离级别来保证事务一致性，这样会降低系统的吞吐。

但因为 2PC 的协议成本比较高，又有全局锁的问题，性能会比较差。因此现在大家基本上不会采用这种强一致解决方案。我们需要做一下酸碱平衡。

这里先简单介绍一下酸碱平衡中的酸 ACID。原子性事务作为整体来执行，要么全部执行，要么都不执行。一致性事务应确保数据从一个一致的状态转变为另一个一致的状态。隔离性多个事务并发执行时，一个事务的执行不应影响其他事务的执行。持久性已提交的事务修改数据会被持久保持。

酸碱平衡中的碱 BASE。基本可用可以保证分布式事务参与方不一定同时在线。柔性状态允许系统状态更新有一定的延时，这个延时对客户来说不一定能察觉。最终一致性通常是通过消息可达的方式保证系统的最终一致性。

前面讲的分布式事务的一些基础理论，数据库以及分布式的两阶段提交都提供了 ACID 的保证。由于隔离性互斥的要求，在事务执行过程中，所有的资源都是被锁定的，这种情况只适合执行时间确定的短事务。后续大家开始通过业务逻辑将互斥锁操作从资源层面上移到业务层面，这并不是完全放弃了 ACID，而是通过放宽一致性要求，借助本地事务来实现最终分布式事务一致性的同时也保证系统的吞吐。

TCC 名字的由来是其中包含了 try, confirm, cancel 三个操作。

与两阶段提交相比，TCC 位于业务服务层，没有单独的准备阶段，Try 操作可以灵活选择业务资源锁的粒度。TCC 是通过最终一致性来解决系统性能问题的这个设计，对我们设计抉择有很大的启发。有些时候 系统的技术问题是可以通过业务建模的方式来解决的。

回顾之前的酸碱平衡的示例，我们得到的启发我们可以通过业务模型的改进提升系统性能。有关领域建模，这里给大家推荐两本书，一个是《领域驱动设计》，还有一个是《实现领域驱动设计》。

微服务设计目标高内聚低耦合，领域驱动设计能帮助构建一致的业务模型和系统实现模型，通过领域驱动设计可以明确微服务的界限上下文。通过在业务层面上把它们之间的强耦合关系拆开之后，带来最大的好处是，它们自身可以借助传统的数据库所提供的功能来实现一致性。只不过是在微服务与微服务之间，它们需要通过前面提到的这种柔性事务方式来做这件事情。

微服务架构是一个在限定界限上下文内的松耦合的服务架构。微服务事务一致性的建议是什么呢？就是内刚外柔。在限定上下文内容范围内可以借助数据库提供事务一致性来做强一致。在限定上下文之间依靠最终一致性方案来解决服务间协同问题。

对于柔性事务来常见的实现方式有 TCC，和 Saga，今天我们主要向大家介绍 Saga 的实现。

Saga 其实是 30 年前的一篇数据库论文里提到的一个概念。在论文中一个 Saga 事务是由多个本地事务所组成，每个本地事务有相应的执行模块和补偿模块，当 saga 事务中的任意一个本地事务出错了，可以通过调用相关的补充方法恢复之前的事务，达到事务的最终一致性。

Saga 概念虽然提出来快 30 年了，随着微服务的普及，分布式 Saga 问题近些年也逐步受到大家的关注。

我们在实现 Saga 模型的时候，主要是参考了 Caitie McCaffrey 在分布式 Saga 论文，以及 Chris Richardson 的研究。大家可以通过下面的链接获取相关的信息。

在分布式系统中由于网络请求可能的延时，在 Caitie 的论文中对被 Saga 调用的服务提出两点要求，我们需要 Saga 调用的服务支持幂等。在服务请求的过程中，可能会出现超时重试的情况，我们需要通过幂等来避免对同一服务多次请求所带来的问题。

前面提到了超时重试的机制，现在我们再来看看重试取消的情况。补偿可交换原则是指 Saga 并行处理的过程中，如果发生了超时重试事件之后，并进行了补偿的操作，那么补偿操作是直接生效的。

为了满足这个要求，需要我们在设计系统的过程中保留所有的事务数据。

由此我们可以知道 Saga 模型只支持 ACD，不提供隔离性的保证。

因为 saga 事务没有准备阶段，事务没有隔离，如果两个 saga 事务同时操作同一资源就会遇到我们操作多线程临界资源的的情况，会产生更新丢失，脏数据读取等问题。

为了解决隔离性带来的问题，我们可以参考一下 TCC 的解决方案，从业务层面入手加入一 Session 以及锁的机制来保证能够串行化操作资源。也可以在业务层面通过预先冻结资金的方式隔离这部分资源，最后在业务操作的过程中可以通过及时读取当前状态的方式获取到最新的更新。

目前业界提供了两类 Saga 的实现方式。一个是集中式协调器的实现方式，一个分布式的实现方式。

集中式的 Saga 实现一般是通过一个 Saga 对象来追踪所有的 Saga 子任务的调用情况，根据调用情况来决定是否需要调用对应的补偿方面，协调器和调用方是在一个进程中的。

这里附上的是 Camel 最近实现的 Saga EIP，通过这个 DSL 可以很方便地实现执行操作和取消操作。

集中式的 Saga 实现方式比较直观并且容易控制，单其最大的问题是业务耦合程度会比较高，这样为我们构建通用的 Saga 解决方案带来了很大难度。

布式的 Saga 一般是采用事件驱动方式让参与的服务方进行相关的交互。相关的业务方只需要订阅相关的领域事件即可。 Chirs 提供了基于事件溯源的实现，同时 axonframework 也提供了相关的实现，详细的内容大家可以参考上面的链接。

分布式 saga 实现的好处：采用事件源的方式降低系统复杂程度，提升系统扩展性，处理模块通过订阅事件的方式降低系统的耦合程度。当然这也的实现也有一些问题： saga 系统会涉及大量的业务事件，这样会对编码和调试会带来一些问题；还有就是相关的业务逻辑处理是基于事件，相关事件处理模块可能会有循环依赖的问题。

前面理论铺垫已经做完了，现在讲一讲我们的实现。 ServiceComb 是去年 5 月份华为开源的微服务框架，它是华为云微服务框架引擎很重要的一个组成部分。大家可以通过下面链接来访问 ServiceComb 官网以及相关的代码库。

目前 ServiceComb 主要有三个项目组成：第一个是 ServiceCenter 做服务发现的，这是 go 语言在 etcd基础实现的服务注册中心，另外是 java 的一个微服务框架，这块是基于 vertx 的基础上实现了全异步操作接口，框架有比较好的性能。 Saga 项目其实就是我们针对前面刚刚提到 Saga 模式的提供的一个实现。

集中式的 Saga 协调器构建过程参考了 Caitie 的论文，实现了一个集中式 Saga 调用协调器。后续我们在开发的过程中，发现如果不提供 DSL 的话，让用户定义 Saga 事件很困难。后来我们受到 Zipkin 的启发，我们实现了一个分布式的 Saga 协调器。

集中式的协调器，包含了 Saga 调用请求接收，分析，以及执行和结果查询这部分的内容。任务代理模块需要预先知道 Saga 事务调用关系图。执行模块根据生成的调用图产生调用任务，调用相关微服务服务接口。如果服务调用执行出错，会调用服务的相关的补偿方法回滚。

下面是我们实现的两个不同的调度模型。

这里 Saga 执行模块通过分析请求的 Json 数据，构建一个调用关系图。这里我们是通过 JSon 来描述 Saga 事务串行调用子事务或者并行调用子事务。关系调用图被 Saga 实现中的任务运行模块分解成为一个一个执行任务，执行任务由任务消费者获取并生成相关的调用（这里同时支持串行和并行调用）。

Saga 任务会根据执行的情况向 Saga log 中记录对应的 Saga 事务的关键事件，同时我们的事件查看器查看到 Saga 事务相关的执行情况。

后续我们采用了 Actor 模型对任务的调度模块进行了重构，在不进行调优的情况下，系统性能提升一倍。

集中式 Saga 的实现的好处是易于监控和协调，但是坏处就是需要依赖工具对 Saga 调用进行相关的描述。那我们有没有一个好的方式自动获取 Saga 事务的定义呢？为了解决这一问题，我们对内部的 Saga 实现进行新的改进。

正如前面提到的，Zipkin 通过在服务调用双方传递上下文的方式可以构建出完整的调用链，这个调用链和我们需要的 Saga 子事务调用信息很类似。因此我们借助 Zipkin 实现了一套 Saga 调用关系追踪的模块。

为了实现这个事务追踪模型，就需要我们在应用端部署相关的监控模块，同时监控模块需要和后台进行协同交互，于是我们设计了 Pack 狼群架构。

狼群架构有两个参与者，一个是 Alpha，一个是 Omega。Alpha 是狼群首领，负责协调事务执行情况，Omega 是狼群成员，负责收集事务，向狼群首领上报情况，并执行相关指令。

Omega 会以切面编程的方式向应用程序注入相关的处理模块。这里有拦截请求的模块，用来帮助我们构建分布式事务调用的上下文。同时在事务处理初始阶段处理事务的相关准备的操作，例如创建 Saga 起始事件，以及相关的子起始事件，根据事务的执行的成功或者失败生产相关的事务终止或者失败事件。

Omega 会与 Alpha 进行链接会把这些事件通知给 Alpha。 Alpha 可以在后台进行分析，根据 Saga 事务执行的情况给 Omega 下达相关的指令进行相关的回滚恢复。

这样设计的好处是 Saga 实现代码与用户的代码分离，用户只需要添加几个 annotation，Saga 实现就能 Saga 事件的执行情况并进行相关的处理。

这是 Omega 和 Alpha 之间的正常业务逻辑的交互图，这里 Omega 通过分析调用上下文决定是否发生 Saga 事务的起始事件到 Alpha，后续 ServiceA 在调用 ServiceB，会将相关的调用上下文传递给 ServiceB。ServiceB 的 Omega 模块会截取这个调用上下文生成相关子事务事件信息。

如果服务调用的过程中抛出异常，Omega 会将终止事件发送到 Alpha 端， Alpha 的后台进程会定时做扫描，扫描过程中会发现有需要恢复的事件。Alpha 会向 Omega 发消息调用相关的恢复操作，来保证整个 Saga 事务的原子性。目前 Omega 也开始提供重试功能，也就是事务调用如果失败了， Omega 会根据设置进行重试尝试。

未来的开发计划，第一个就是 Alpha 这边会提供多租服务架构，这样可以在云上提供 Saga 协调服务；为了保证系统的可达性，我们可能会用消息队列的方式来做传递事件信息。还有就是刚刚给大家提到的 TCC 协调器也是我们下一步的工作重点。如果能在 Omega 端来保证幂等操作的话，可以极大减轻大家的业务编程负担。另外根据 Saga 的执行这个情况，也要做一些可视化的事情，这块其实也是前端，大家如果有做前端技能的话，可以跟我联系一下。

还有 Omega 需要解决多线程共享调用的问题。

我们问题都列在下面的 JIRA 上面，大家可以通过这个链接入门任务。如下：

http://t.cn/RrP8Gew

当前分布式系统是大势所趋，Google、Facebook 等大型系统架构也是以分布式系统架构为基础。过去二十年，整个分布式系统架构演进史是从 C/S→B/S→分布式系统→网格计算→云计算，包括目标、定位、场景，影响深远。未来，如何从全球多域的角度去规划分布式架构呢？

下个月深圳 ArchSummit 架构师峰会邀请了 Pinterest 武永胜、百度王耀、菜鸟网络黄浩、美团宋斌来分享他们的一手分布式系统设计经验，这些内容一定可以助你一臂之力。