高可用_14高可用的数据

对许多网站而言&＃xff0c;数据是其最宝贵的物质资产&＃xff0c;硬件可以购买&＃xff0c;软件可以重写&＃xff0c;但是多年运营积淀下来的各种数据&＃xff08;用户数据、交易数据、商品数据……&＃xff09;&＃xff0c;代表着历史&＃xff0c; 已经成为过往&＃xff0c;不能再重来&＃xff0c;一旦失去&＃xff0c;对网站的打击可以说是毁灭性的&＃xff0c;因此可以说, 保护网站的数据就是保护企业的命脉。

不同于高可用的应用和服务&＃xff0c;由于数据存储服务器上保存的数据不同&＃xff0c;当某台服务 器宕机的时候&＃xff0c;数据访问请求不能任意切换到集群中其他的机器上。

保证数据存储高可用的手段主要是数据备份和失效转移机制。数据备份是保证数据 有多个副本&＃xff0c;任意副本的失效都不会导致数据的永久丢失&＃xff0c;从而实现数据完全的持久化。 而失效转移机制则保证当一个数据副本不可访问时&＃xff0c;可以快速切换访问数据的其他副本, 保证系统可用O

关于缓存服务的高可用&＃xff0c;在实践中争议很大&＃xff0c;一种观点认为缓存已经成为网站数据 服务的重要组成部分&＃xff0c;事实上承担了业务中绝大多数的数据读取访问服务&＃xff0c;缓存服务失 效可能会导致数据库负载过高而宕机&＃xff0c;进而影响整个网站的可用性&＃xff0c;因此缓存服务需要 实现和数据存储服务同样的高可用。

另一种观点认为&＃xff0c;缓存服务不是数据存储服务&＃xff0c;缓存服务器宕机引起缓存数据丢失
导致服务器负载压力过高应该通过其他手段解决&＃xff0c;而不是提高缓存服务本身的高可用。

笔者持后一种观点&＃xff0c;对于缓存服务器集群中的单机宕机&＃xff0c;如果缓存服务器集群规模 较大&＃xff0c;那么单机宕机引起的缓存数据丢失比例和数据库负载压力变化都较小&＃xff0c;对整个系 统影响也较小。扩大缓存服务器集群规模的一个简单手段就是整个网站共享同一个分布 式缓存集群&＃xff0c;单独的应用和产品不需要部署自己的缓存服务器&＃xff0c;只需要向共享缓存集群 申请缓存资源即可。并且通过逻辑或物理分区的方式将每个应用的缓存部署在多台服务 器上&＃xff0c;任何一台服务器宕机引起的缓存失效都只影响应用缓存数据的一小部分&＃xff0c;不会对 应用性能和数据库负载造成太大影响。

1 CAP 原理

在讨论高可用数据服务架构之前&＃xff0c;必须先讨论的一个话题是&＃xff0c;为了保证数据的高可 用&＃xff0c;网站通常会牺牲另一个也很重要的指标&＃xff1a;数据一致性。
高可用的数据有如下几个层面的含义。

数据持久性

保证数据可持久存储&＃xff0c;在各种情况下都不会岀现数据丢失的问题。为了实现数据的 持久性&＃xff0c;不但在写入数据时需要写入持久性存储&＃xff0c;还需要将数据备份一个或多个副本&＃xff0c; 存放在不同的物理存储设备上&＃xff0c;在某个存储故障或灾害发生时&＃xff0c;数据不会丢失。

数据可访问性

在多份数据副本分别存放在不同存储设备的情况下&＃xff0c;如果一个数据存储设备损坏&＃xff0c; 就需要将数据访问切换到另一个数据存储设备上&＃xff0c;如果这个过程不能很快完成&＃xff08;终端用 户几乎没有感知&＃xff09;&＃xff0c;或者在完成过程中需要停止终端用户访问数据&＃xff0c;那么这段时间数据是 不可访问的。

数据一致性

在数据有多份副本的情况下&＃xff0c;如果网络、服务器或者软件出现故障&＃xff0c;会导致部分副 本写入成功&＃xff0c;部分副本写入失败。这就会造成各个副本之间的数据不一致&＃xff0c;数据内容冲 突。实践中&＃xff0c;导致数据不一致的情形有很多种&＃xff0c;表现形式也多种多样&＃xff0c;比如数据更新返 回操作失败&＃xff0c;事实上数据在存储服务器已经更新成功。

CAP原理认为&＃xff0c;一个提供数据服务的存储系统无法同时满足数据一致性(Consistency )、数据可用性(Availibility )、分区耐受性(Patition Tolerance,系统具有跨网络分区的伸缩性&＃xff09;这三个条件&＃xff0c;如图5.10所示。

在大型网站应用中&＃xff0c;数据规模总是快速扩张的&＃xff0c;因此可伸缩性即分区耐受性必不可少&＃xff0c;规模变大以后&＃xff0c;机器数量也会变得庞大&＃xff0c;这时网络和服务器故障会频繁岀现&＃xff0c;要想 保证应用可用&＃xff0c;就必须保证分布式处理系统的高可用性。所以在大型网站中&＃xff0c;通常会选 择强化分布式存储系统的可用性&＃xff08;A &＃xff09;和伸缩性&＃xff08;P &＃xff09;,而在某种程度上放弃一致性&＃xff08;C &＃xff09;o 一般说来&＃xff0c;数据不一致通常出现在系统高并发写操作或者集群状态不稳&＃xff08;故障恢复、集 群扩容……&＃xff09;的情况下&＃xff0c;应用系统需要对分布式数据处理系统的数据不一致性有所了解 并进行某种意义上的补偿和纠错&＃xff0c;以避免出现应用系统数据不正确。

2012年淘宝“双十一”活动期间&＃xff0c;在活动第一分钟就涌入了 1000万独立用户访问&＃xff0c; 这种极端的高并发场景对数据处理系统造成了巨大压力&＃xff0c;存储系统较弱的数据一致性导 致岀现部分商品超卖现象&＃xff08;交易成功的商品数超过了商品库存数&＃xff09;o

CAP原理对于可伸缩的分布式系统设计具有重要意义&＃xff0c;在系统设计开发过程中&＃xff0c;不恰 当地迎合各种需求&＃xff0c;企图打造一个完美的产品&＃xff0c;可能会使设计进入两难境地&＃xff0c;难以为继。
具体说来&＃xff0c;数据一致性又可分为如下几点。

数据强一致

各个副本的数据在物理存储中总是一致的&＃xff1b;数据更新操作结果和操作响应总是一致 的&＃xff0c;即操作响应通知更新失败&＃xff0c;那么数据一定没有被更新&＃xff0c;而不是处于不确定状态。

数据用户一致

即数据在物理存储中的各个副本的数据可能是不一致的&＃xff0c;但是终端用户访问时&＃xff0c;通
过纠错和校验机制&＃xff0c;可以确定一个一致的且正确的数据返回给用户。

数据最终一致

这是数据一致性中较弱的一种&＃xff0c;即物理存储的数据可能是不一致的&＃xff0c;终端用户访问到的数据可能也是不一致的&＃xff08;同一用户连续访问&＃xff0c;结果不同&＃xff1b;或者不同用户同时访问, 结果不同&＃xff09;&＃xff0c;但系统经过一段时间&＃xff08;通常是一个比较短的时间段&＃xff09;的自我恢复和修正&＃xff0c;数 据最终会达到一致。

因为难以满足数据强一致性&＃xff0c;网站通常会综合成本、技术、业务场景等条件&＃xff0c;结合 应用服务和其他的数据监控与纠错功能&＃xff0c;使存储系统达到用户一致&＃xff0c;保证最终用户访问 数据的正确性。

2 数据备份

数据备份是一种古老而有效的数据保护手段&＃xff0c;早期的数据备份手段主要是数据冷备, 即定期将数据复制到某种存储介质&＃xff08;磁带&＃xff0c;光盘……&＃xff09;上并物理存档保管&＃xff0c;如果系统存 储损坏&＃xff0c;那么就从冷备的存储设备中恢复数据。

冷备的优点是简单和廉价&＃xff0c;成本和技术难度都较低。缺点是不能保证数据最终一致,由于数据是定期复制&＃xff0c;因此备份设备中的数据比系统中的数据陈旧&＃xff0c;如果系统数据丢失, 那么从上个备份点开始后更新的数据就会永久丢失&＃xff0c;不能从备份中恢复。同时也不能保 证数据可用性&＃xff0c;从冷备存储中恢复数据需要较长的时间&＃xff0c;而这段时间无法访问数据&＃xff0c;系 统也不可用。

因此&＃xff0c;数据冷备作为一种传统的数据保护手段&＃xff0c;依然在网站日常运维中使用&＃xff0c;同时 在网站实时在线业务中&＃xff0c;还需要进行数据热备&＃xff0c;以提供更好的数据可用性。

数据热备可分为两种&＃xff1a;异步热备方式和同步热备方式。

异步方式是指多份数据副本的写入操作异步完成&＃xff0c;应用程序收到数据服务系统的写 操作成功响应时&＃xff0c;只写成功了一份&＃xff0c;存储系统将会异步地写其他副本&＃xff08;这个过程有可能 会失败&＃xff09;。如图5.11所示。

在异步写入方式下&＃xff0c;存储服务器分为主存储服务器&＃xff08;Master &＃xff09;和从存储服务器&＃xff08;Slave &＃xff09;, 应用程序正常情况下只连接主存储服务器&＃xff0c;数据写入时&＃xff0c;由主存储服务器的写操作代理 模块将数据写入本机存储系统后立即返回写操作成功响应&＃xff0c;然后通过异步线程将写操作 数据同步到从存储服务器。

同步方式是指多份数据副本的写入操作同步完成&＃xff0c;即应用程序收到数据服务系统的
写成功响应时&＃xff0c;多份数据都已经写操作成功。但是当应用程序收到数据写操作失败的响 应时&＃xff0c;可能有部分副本或者全部副本都已经写成功了&＃xff08;因为网络或者系统故障&＃xff0c;无法返 回操作成功的响应&＃xff09;&＃xff0c;如图5.12所示。

同步热备具体实现的时候&＃xff0c;为了提高性能&＃xff0c;在应用程序客户端并发向多个存储服务 器同时写入数据&＃xff0c;然后等待所有存储服务器都返回操作成功的响应后&＃xff0c;再通知应用程序 写操作成功。

这种情况下&＃xff0c;存储服务器没有主从之分&＃xff0c;完全对等&＃xff0c;更便于管理和维护。存储服务客户端在写多份数据的时候&＃xff0c;并发操作&＃xff0c;这意味着多份数据的总写操作延迟是响应最慢 的那台存储服务器的响应延退&＃xff0c;而不是多台存储服务器响应延迟之和。其性能和异步热 备方式差不多。

传统的企业级关系数据库系统几乎都提供了数据实时同步备份的机制。而一开始就 为大型网站而设计的各种NoSQL数据库&＃xff08;如HBase &＃xff09;更是将数据备份机制作为产品最主 要的功能点之一。

关系数据库热备机制就是通常所说的Master-Slave同步机制。Master-Slave机制不但 解决了数据备份问题&＃xff0c;还改善了数据库系统的性能&＃xff0c;实践中&＃xff0c;通常使用读写分离的方法
访问Slave和Master数据库&＃xff0c;写操作只访问Master数据库&＃xff0c;读操作只访问Slave数据库。

3 失效转移

若数据服务器集群中任何一台服务器宕机&＃xff0c;那么应用程序针对这台服务器的所有读 写操作都需要重新路由到其他服务器&＃xff0c;保证数据访问不会失败&＃xff0c;这个过程叫作失效转移。
失效转移操作由三部分组成&＃xff1a;失效确认、访问转移、数据恢复。

1. 失效确认

判断服务器宕机是系统进行失效转移的第一步&＃xff0c;系统确认一台服务器是否宕机的手 段有两种&＃xff1a;心跳检测和应用程序访问失败报告&＃xff0c;如图5.13所示。

对于应用程序的访问失败报告&＃xff0c;控制中心还需要再一次发送心跳检测进行确认&＃xff0c;以
免错误判断服务器宕机&＃xff0c;因为一旦进行数据访问的失效转移&＃xff0c;就意味着数据存储多份副 本不一致&＃xff0c;需要进行后续一系列复杂的操作。

2. 访问转移

确认某台数据存储服务器宕机后&＃xff0c;就需要将数据读写访问重新路由到其他服务器上。 对于完全对等存储的服务器&＃xff08;几台存储服务器存储的数据完全一样&＃xff0c;我们称几台服务器 为对等服务器&＃xff0c;比如主从结构的存储服务器&＃xff0c;其存储的数据完全一样&＃xff09;&＃xff0c;当其中一台宕机 后&＃xff0c;应用程序根据配置直接切换到对等服务器上。如果存储是不对等的&＃xff0c;那么就需要重新计算路由&＃xff0c;选择存储服务器。

3. 数据恢复

因为某台服务器宕机&＃xff0c;所以数据存储的副本数目会减少&＃xff0c;必须将副本的数目恢复到 系统设定的值&＃xff0c;否则&＃xff0c;再有服务器宕机时&＃xff0c;就可能出现无法访问转移&＃xff08;所有副本的服务 器都宕机了&＃xff09;&＃xff0c;数据永久丢失的情况。因此系统需要从健康的服务器复制数据&＃xff0c;将数据副 本数目恢复到设定值。具体设计可参考本书第11章。