暂无图片
暂无图片
暂无图片
暂无图片
暂无图片

ACID、CAP原理、BAS思想、NWR

考拉苑 2016-05-01
387

在现有的实际开发过程中,我们都会面临集中式系统和分布式系统两种,同时也不得不面临从集中式系统过渡到分布式系统的过程中会碰到一系列的问题。那么接下来我们浅谈下分布式系统事务处理和数据一致性的挑战

一、ACID

熟悉数据库的同学应该对事务不会陌生,事务(Transaction)是由一系列对系统中数据进行访问与更新的操作组成的一个程序执行逻辑单元。其实我们更多人对事务的了解更多是狭义的数据库事务。当多个application并发访问数据库时,事务可以在这些application直接提供一个隔离防范,防止彼此之间相互干扰。同时事务也为数据库操作提供了一个从失败中恢复到正常状态的方法,同时提供了数据库即使在异常状态下仍能保持数据一致性的方法。

事务具有:原子性(Atomicity)、一致性(Consistency)、隔离性(Isolation)、持久性(Durability)即为事务ACID特性。

(1)、原子性

   事务的原子性是指的是事务必须是一个原子的操作序列单元。事务中包含的各项操作在一次execute过程中,只允许出现如下的结果

(1)、全部成功执行

(2)、全部不执行

任何一项操作失败都将导致整个事务的失败,同时其他已经被执行的操作都将被撤销并回归原始状态,只有所有的操作全部成功,整个事务才算是成功完成。

(2)、一致性

事务的一致性是指事务的执行不能破坏数据库的完整性和一致性,一个事务在执行之前和执行之后,数据库都处于一致性状态。也就是当数据库只包含事务成功提交的结果时,数据库处于一致性状态。若是数据库出现故障,导致事务尚未成功完成就被中断了,这些未完成的事务对数据库所做的修改有一部分已经完成了物理数据库落地,这时数据库就处于非一致性状态。

(3)、隔离性

事务的隔离性是指在并发环境下,并发的事务是相关隔离的,一个事务是否执行都不会受到其他事务的干扰。也就是说不同的事务并发操作相同数据时,每一个事务都有各自完整的数据空间,即一个事务内部操作及操作的数据对其他并发事务是隔离的,并发执行的各个事务之间不能相互干扰。

现有的数据库事务隔离级别:未授权读取、授权读取、可重复读取和串行化四种级别。

(1)、未授权读取也可以称之为读未提交,在此级别下是允许脏读,其隔离级别最低。比如现在针对数据A,有两个事务T1(修改操作)和T2(读取操作)同时进行事务T1是针对数据a从1开始变更到10之后完成事务提交,此时事务T2能看到数据a在事务T1操作过程中的中间值,那么针对这些中间值的读取就是未授权读取。

(2)、授权读取也称之为读已提交读取,和未授权读取的区别在该级别下只允许获取已经提交成功的数据。就像上面举例的数据A样,若是事务T1和T2同时进行,即使事务T1仍完成上述的操作,但是此时事务T2只能获取最终的结果,事务T1产生的中间过程对完全透明的。

(3)、可重复读,简单说就是在保证事务处理过程中,多次读取同一份数据时,其值都和事务开始时刻一致的,也就是说在该级别下不可重复读和脏读被禁止了。但是会存在幻读数据。就是在同样的事务操作中,在前后两个时间段执行同一份数据,可能出现不一致的结果。

(4)、串行化是最严格的事务级别,要求所有的事务都被串行执行,即事务一个接一个被处理,不能并发。

事务隔离级别越高,就越能保证数据的完整性和一致性,但同时对并发性能的影响也越大。通常,对于绝大多数的应用程序来说,可以优先考虑将数据库系统的隔离级别设置为授权读取,这能够在避免脏读取的同时保证较好的并发性能。尽管这种事务隔离级别会导致不可重复读、虚读和第二类丢失更新等并发问题,但较为科学的做法是在可能出现这类问题的个别场合中,由应用程序主动采用悲观锁或乐观锁来进行事务控制。

隔离级别对比

隔离级别

脏读

可重复读

幻读

未授权读取

存在

不可以

存在

授权读取

不存在

不可以

存在

可重复读取

不存在

可以

存在

串行化

不存在

可以

不存在

(4)、持久性

事务的持久性也被称为永久性,是指一个事务一旦提交,它对数据库中对应数据的状态变更就应该是永久性的。换句话说,一旦某个事务成功结束,那么它对数据库所做的更新就必须被永久保存下来——即使发生系统崩溃或机器宕机等故障,只要数据库能够重新启动,那么一定能够将其恢复到事务成功结束时的状态。

说到这里提一下分布式事务吧,关于分布式事务是指事务的参与者、支持事务的服务器、资源服务器以及事务管理器分别位于分布式系统不同的节点上,通常会涉及对多个数据源或业务系统的操作。(关于此处在后续的文章中我们会单独提供一篇关于事务的详细介绍以及实现

二、CAP

对于本地事务处理或者是集中式事务处理系统,很显然我们可以采用ACID来保证数据的强一致性。但是在分布式系统中关于事务的处理却使得传统单机事务模型不能胜任了。因为在分布式系统中实现一套满足acid强一致性的事务,会导致系统的可用性和强一致性之间出现矛盾;一般来说为了满足系统的强一致性,可能就会牺牲了系统的可用性。但是系统的可用性又是我们不能讨价的系统属性。比如现在电子商务平台一般都是要求7*24运行,然而对于一致性则用户对系统的刚需,那么在可用性和一致性之间永远都不会存在一个完美的方案。为了解决这方面的问题,我们引入了诸如CAP和BASE的经典理论。首先我们从cap开始:

CAP是在2000年开始由Eric Brewer教授提出了著名的CAP猜想注,而2年后该猜想被证明可行性。cap的理论告诉我们,一个分布式系统不可能同时满足一致性(Consistency)、可用性(Availability)、分区容错性(Partition tolerance)三个基本需求,最多只能同时满足其中的两项。

(1)、一致性

     在分布式环境中,一致性是指数据在多个副本之间是否能够保持一致的特性。在一致性的需求下,当一个系统在数据一致的状态下执行更新操作后,应该保证系统的数据仍然处于一致的状态。

       对于一个将数据副本分布在不同分布式节点上的系统来说,如果对第一个节点的数据进行了更新操作并且更新成功后,却没有使得第二个节点上的数据得到相应的更新,于是在对第二个节点的数据进行读取操作时,获取的依然是老数据(或称为脏数据),这就是典型的分布式数据不一致情况。

  在分布式系统中,如果能够做到针对一个数据项的更新操作执行成功后,所有的用户都可以读取到其最新的值,那么这样的系统就被认为具有强一致性(或严格的一致性)。

(2)、可用性

可用性是指系统提供的服务必须一直处于可用的状态,对于用户的每一个操作请求总是能够在有限的时间内返回结果。这里我们重点看下“有限的时间内”和“返回结果”。“有限的时间内”是指,对于用户的一个操作请求,系统必须能够在指定的时间(即响应时间)内返回对应的处理结果,如果超过了这个时间范围,那么系统就被认为是不可用的。另外,“有限的时间内”是一个在系统设计之初就设定好的系统运行指标,通常不同的系统之间会有很大的不同。比如说, 对于一个在线搜索引擎来说,通常在0.5秒内需要给出用户搜索关键词对应的检索结果。 以Google为例,搜索“分布式”这一关键词,Google能够在0.3秒左右的时间,返回大约上千万条检索结果。而对于一个面向HIVE的海量数据查询平台来说,正常的一次数据检索时间可能在20秒到30秒之间,而如果是一个时间跨度较大的数据内容查询,“有限的时间”有时候甚至会长达几分钟。

      从上面的例子中,我们可以看出,用户对于一个系统的请求响应时间的期望值不尽相同。但是,无论系统之间的差异有多大,唯一相同的一点就是对于用户请求,系统必须存在一个合理的响应时间,否则用户便会对系统感到失望。

     “返回结果”是可用性的另一个非常重要的指标,它要求系统在完成对用户请求的处理后,返回一个正常的响应结果。正常的响应结果通常能够明确地反映出对请求的处理结果,即成功或失败,而不是一个让用户感到困惑的返回结果。 让我们再来看看上面提到的在线搜索引擎的例子,如果用户输入指定的搜索关键词后,返回的结果是一个系统错误,通常类似于“OutOfMemoryError”或“System Has Crashed”等提示语,那么我们认为此时系统是不可用的。


   (3)、分区容错性

      分区容错性约束了一个分布式系统需要具有如下特性:分布式系统在遇到任何网络分区故障的时候,仍然需要能够保证对外提供满足一致性和可用性的服务,除非是整个网络环境都发生了故障。

    网络分区是指在分布式系统中,不同的节点分布在不同的子网络(机房或异地网络等)中,由于一些特殊的原因导致这些子网络之间出现网络不连通的状况,但各个子网络的内部网络是正常的,从而导致整个系统的网络环境被切分成了若干个孤立的区域。需要注意的是,组成一个分布式系统的每个节点的加入与退出都可以看作是一个特殊的网络分区。

CAP定理应用

放弃CAP定理

说明

放弃P

如果希望能够避免系统出现分区容错性问题,一种较为简单的做法是将所有的数据(或者仅仅是那些与事务相关的数据)都放在一个分布式节点上。这样的做法虽然无法100%地保证系统不会出错,但至少不会碰到由于网络分区带来的负面影响。但同时需要注意的是,放弃P的同时也就意味着放弃了系统的可扩展性

放弃A

相对于放弃“分区容错性”来说,放弃可用性则正好相反,其做法是一旦系统遇到网络分区或其他故障时,那么受到影响的服务需要等待一定的时间,因此在等待期间系统无法对外提供正常的服务,即不可用

放弃C

这里所说的放弃一致性,并不是完全不需要数据一致性,如果真是这样的话,那么系统的数据都是没有意义的,整个系统也是没有价值的。

事实上,放弃一致性指的是放弃数据的强一致性,而保留数据的最终一致性。这样的系统无法保证数据保持实时的一致性,但是能够承诺的是,数据最终会达到一个一致的状态。这就引入了一个时间窗口的概念,具体多久能够达到数据一致取决于系统的设计,主要包括数据副本在不同节点之间的复制时间长短

总结:从CAP定理中我们可以看出,一个分布式系统不可能同时满足一致性、可用性和分区容错性这三个需求。另一方面,需要明确的一点是,对于一个分布式系统而言,分区容错性可以说是一个最基本的要求。为什么这样说,其实很简单,因为既然是一个分布式系统,那么分布式系统中的组件必然需要被部署到不同的节点,否则也就无所谓分布式系统了,因此必然出现子网络。而对于分布式系统而言,网络问题又是一个必定会出现的异常情况,因此分区容错性也就成为了一个分布式系统必然需要面对和解决的问题。

因此系统架构设计师往往需要把精力花在如何根据业务特点在C(一致性)和A(可用性)之间寻求平衡。

三、BASE理论

    BASE是Basically Available(基本可用)、Soft state(软状态)和Eventually consistent(最终一致性)三个短语的简写,是由来自eBay的架构师Dan Pritchett在其文章BASE: An Acid Alternative注 中第一次明确提出的。BASE是对CAP中一致性和可用性权衡的结果,其来源于对大规模互联网系统分布式实践的总结,是基于CAP定理逐步演化而来的,其核心思想是即使无法做到强一致性(Strong consistency),但每个应用都可以根据自身的业务特点,采用适当的方式来使系统达到最终一致性(Eventual consistency)。

接下来我们着重对BASE中的三要素进行详细讲解。

(1)、基本可用

基本可用是指分布式系统在出现不可预知故障的时候,允许损失部分可用性——但请注意,这绝不等价于系统不可用。以下两个就是“基本可用”的典型例子。

   响应时间上的损失:正常情况下,一个在线搜索引擎需要在0.5秒之内返回给用户相应的查询结果,但由于出现故障(比如系统部分机房发生断电或断网故障),查询结果的响应时间增加到了1~2秒。

        功能上的损失:正常情况下,在一个电子商务网站上进行购物,消费者几乎能够顺利地完成每一笔订单,但是在一些节日大促购物高峰的时候,由于消费者的购物行为激增,为了保护购物系统的稳定性,部分消费者可能会被引导到一个降级页面。

    (2)、弱状态

        弱状态也称为软状态,和硬状态相对,是指允许系统中的数据存在中间状态,并认为该中间状态的存在不会影响系统的整体可用性,即允许系统在不同节点的数据副本之间进行数据同步的过程存在延时。

    (3)、最终一致性

最终一致性强调的是系统中所有的数据副本,在经过一段时间的同步后,最终能够达到一个一致的状态。因此,最终一致性的本质是需要系统保证最终数据能够达到一致,而不需要实时保证系统数据的强一致性。

    其实从某种意义上最终一致性是一种特殊的弱一致性:系统能够保证在没有其他新的更新操作的情况下,数据最终一定能够达到一致的状态,因此所有客户端对系统的数据访问都能够获取到最新的值。同时,在没有发生故障的前提下,数据达到一致状态的时间延迟,取决于网络延迟、系统负载和数据复制方案设计等因素。

在实际工程实践中,最终一致性存在以下五类主要变种。

因果一致性(Causal consistency)

因果一致性是指,如果进程A在更新完某个数据项后通知了进程B,那么进程B之后对该数据项的访问都应该能够获取到进程A更新后的最新值,并且如果进程B要对该数据项进行更新操作的话,务必基于进程A更新后的最新值,即不能发生丢失更新情况。与此同时,与进程A无因果关系的进程C的数据访问则没有这样的限制。

读己之所写(Read your writes)

读己之所写是指,进程A更新一个数据项之后,它自己总是能够访问到更新过的最新值,而不会看到旧值。也就是说,对于单个数据获取者来说,其读取到的数据,一定不会比自己上次写入的值旧。因此,读己之所写也可以看作是一种特殊的因果一致性。

会话一致性(Session consistency)

会话一致性将对系统数据的访问过程框定在了一个会话当中:系统能保证在同一个有效的会话中实现“读己之所写”的一致性,也就是说,执行更能操作之后,客户端能够在同一个会话中始终读取到该数据项的最新值。

单调读一致性(Monotonic read consistency)

单调读一致性是指如果一个进程从系统中读取出一个数据项的某个值后,那么系统对于该进程后续的任何数据访问都不应该返回更旧的值。

单调写一致性(Monotonic write consistency)

单调写一致性是指,一个系统需要能够保证来自同一个进程的写操作被顺序地执行。

以上就是最终一致性的五类常见的变种,在实际系统实践中,可以将其中的若干个变种互相结合起来,以构建一个具有最终一致性特性的分布式系统。事实上,最终一致性并不是只有那些大型分布式系统才涉及的特性,许多现代的关系型数据库都采用了最终一致性模型。在现代关系型数据库中,大多都会采用同步和异步方式来实现主备数据复制技术。在同步方式中,数据的复制过程通常是更新事务的一部分,因此在事务完成后,主备数据库的数据就会达到一致。而在异步方式中,备库的更新往往会存在延时,这取决于事务日志在主备数据库之间传输的时间长短,

如果传输时间过长或者甚至在日志传输过程中出现异常导致无法及时将事务应用到备库上,那么很显然,从备库中读取的数据将是旧的,因此就出现了数据不一致的情况。当然,无论是采用多次重试还是人为数据订正,关系型数据库还是能够保证最终数据达到一致——这就是系统提供最终一致性保证的经典案例。

    总的来说,BASE理论面向的是大型高可用可扩展的分布式系统,和传统事务的ACID特性是相反的,它完全不同于ACID的强一致性模型,而是提出通过牺牲强一致性来获得可用性,并允许数据在一段时间内是不一致的,但最终达到一致状态。但同时,在实际的分布式场景中,不同业务单元和组件对数据一致性的要求是不同的,因此在具体的分布式系统架构设计过程中,ACID特性与BASE理论往往又会结合在一起使用。

四、NWR

NWR是一种在分布式存储系统中用于控制一致性级别的一种策略。让我们先来看看这三个字母的含义: 

N:同一份数据的Replica的份数 

W:是更新一个数据对象的时候需要确保成功更新的份数 

R: 读取一个数据需要读取的Replica的份数 

NWR值的不同组合会产生不同的一致性效果,当W+R>N的时候,整个系统对于客户端来讲能保证强一致性。当W+R<N的时候只能保证最终一致性。 

以常见的N=3、W=2、R=2为例: N=3,表示,任何一个对象都必须有三个副本(Replica),W=2表示,对数据的修改操作(Write)只需要在3个Replica中的2个上面完成就返回,R=2表示,从三个对象中要读取到2个数据对象,才能返回。 在分布式系统中,数据的单点是不允许存在的。即线上正常存在的Replica数量是1的情况是非常危险的,因为一旦这个Replica再次错误,就 可能发生数据的永久性错误。假如我们把N设置成为2,那么,只要有一个存储节点发生损坏,就会有单点的存在。所以N必须大于2。N约高,系统的维护和整体 成本就越高。工业界通常把N设置为3。 

   当W是2、R是2的时候,W+R>N,这种情况对于客户端就是强一致性的。 

   从不等式中可以看到,当W+R>N的时候,整个系统能够保证R>N-W。也就是说,至少每次都能够读到一份最新的数据。因此只需要把最 新的数据返回即可。所以,虽然服务器上的三份Replica有不一致的情况,对于客户端来讲,每次读到的数据都是最新的。所以这种情况对于客户端来讲是强 一致性的。 

   另外的几种情况:<N,W,R>=<1,1,1>和单点运行的数据库是同一个配置。<N,W,R>=< 2,1,1>,则相当于Slave-Master模式。由于1+1不大于2,所以这种情况是可能读到非最新数据的。也就是这种配置是不一致的。 

   W越大,写性能越差。R越大,读性能越差。N越大,数据可靠性就越强。为了保障一致性,平衡读写性能,通常的配置是:W=Q, R=Q ,Q=N/2+1(N=3,R=2,W=2的配置就满足这个公式)。

以上文章整理的时间有些久了,但是总结也不算全面,细节不够详尽。各位如有好的意见或者建议可以进行补充。

考拉苑每天坚持积累一点,今天的努力至少让我们比昨天的自己更进一步。考拉苑欢迎您的加入和建议

                                  
               


文章转载自考拉苑,如果涉嫌侵权,请发送邮件至:contact@modb.pro进行举报,并提供相关证据,一经查实,墨天轮将立刻删除相关内容。

评论