Mysql中间件研究（Atlas，cobar，TDDL）

mysql-proxy是官方提供的mysql中间件产品可以实现负载平衡&＃xff0c;读写分离&＃xff0c;failover等&＃xff0c;但其不支持大数据量的分库分表且性能较差。下面介绍几款能代替其的mysql开源中间件产品&＃xff0c;Atlas&＃xff0c;cobar&＃xff0c;tddl&＃xff0c;让我们看看它们各自有些什么优点和新特性吧。

Atlas

Atlas是由 Qihoo 360, Web平台部基础架构团队开发维护的一个基于MySQL协议的数据中间层项目。它是在mysql-proxy 0.8.2版本的基础上&＃xff0c;对其进行了优化&＃xff0c;增加了一些新的功能特性。360内部使用Atlas运行的mysql业务&＃xff0c;每天承载的读写请求数达几十亿条。
Altas架构&＃xff1a;
Atlas是一个位于应用程序与MySQL之间&＃xff0c;它实现了MySQL的客户端与服务端协议&＃xff0c;作为服务端与应用程序通讯&＃xff0c;同时作为客户端与MySQL通讯。它对应用程序屏蔽了DB的细节&＃xff0c;同时为了降低MySQL负担&＃xff0c;它还维护了连接池。

以下是一个可以参考的整体架构&＃xff0c;LVS前端做负载均衡&＃xff0c;两个Altas做HA,防止单点故障。

Altas的一些新特性&＃xff1a;
1.主库宕机不影响读
主库宕机&＃xff0c;Atlas自动将宕机的主库摘除&＃xff0c;写操作会失败&＃xff0c;读操作不受影响。从库宕机&＃xff0c;Atlas自动将宕机的从库摘除&＃xff0c;对应用没有影响。在mysql官方的proxy中主库宕机&＃xff0c;从库亦不可用。
2.通过管理接口&＃xff0c;简化管理工作&＃xff0c;DB的上下线对应用完全透明&＃xff0c;同时可以手动上下线。
图1是手动添加一台从库的示例。
图1

3.自己实现读写分离
&＃xff08;1&＃xff09;为了解决读写分离存在写完马上就想读而这时可能存在主从同步延迟的情况&＃xff0c;Altas中可以在SQL语句前增加 /*master*/ 就可以将读请求强制发往主库。
&＃xff08;2&＃xff09;如图2中&＃xff0c;主库可设置多项&＃xff0c;用逗号分隔&＃xff0c;从库可设置多项和权重&＃xff0c;达到负载均衡。
图2

4.自己实现分表&＃xff08;图3&＃xff09;
&＃xff08;1&＃xff09;需带有分表字段。
&＃xff08;2&＃xff09;支持SELECT、INSERT、UPDATE、DELETE、REPLACE语句。
&＃xff08;3&＃xff09;支持多个子表查询结果的合并和排序。
图3 

这里不得不吐槽Atlas的分表功能&＃xff0c;不能实现分布式分表&＃xff0c;所有的子表必须在同一台DB的同一个database里且所有的子表必须事先建好&＃xff0c;Atlas没有自动建表的功能。
5.之前官方主要功能逻辑由使用lua脚本编写&＃xff0c;效率低&＃xff0c;Atlas用C改写&＃xff0c;QPS提高&＃xff0c;latency降低。
6.安全方面的提升
&＃xff08;1&＃xff09;通过配置文件中的pwds参数进行连接Atlas的用户的权限控制。
&＃xff08;2&＃xff09;通过client-ips参数对有权限连接Atlas的ip进行过滤。
&＃xff08;3&＃xff09;日志中记录所有通过Altas处理的SQL语句&＃xff0c;包括客户端IP、实际执行该语句的DB、执行成功与否、执行所耗费的时间 &＃xff0c;如下面例子&＃xff08;图4&＃xff09;。
图4

7.平滑重启
通过配置文件中设置lvs-ips参数实现平滑重启功能&＃xff0c;否则重启Altas的瞬间那些SQL请求都会失败。该参数前面挂接的lvs的物理网卡的ip&＃xff0c;注意不是虚ip。平滑重启的条件是至少有两台配置相同的Atlas且挂在lvs之后。
source&＃xff1a;https://github.com/Qihoo360/Atlas

alibaba.cobar

Cobar是阿里巴巴&＃xff08;B2B&＃xff09;部门开发的一种关系型数据的分布式处理系统&＃xff0c;它可以在分布式的环境下看上去像传统数据库一样为您提供海量数据服务。那么具体说说我们为什么要用它&＃xff0c;或说cobar--能干什么&＃xff1f;以下是我们业务运行中会存在的一些问题&＃xff1a;
1.随着业务的进行数据库的数据量和访问量的剧增&＃xff0c;需要对数据进行水平拆分来降低单库的压力&＃xff0c;而且需要高效且相对透明的来屏蔽掉水平拆分的细节。
2.为提高访问的可用性&＃xff0c;数据源需要备份。
3.数据源可用性的检测和failover。
4.前台的高并发造成后台数据库连接数过多&＃xff0c;降低了性能&＃xff0c;怎么解决。 
针对以上问题就有了cobar施展自己的空间了&＃xff0c;cobar中间件以proxy的形式位于前台应用和实际数据库之间&＃xff0c;对前台的开放的接口是mysql通信协议。将前台SQL语句变更并按照数据分布规则转发到合适的后台数据分库&＃xff0c;再合并返回结果&＃xff0c;模拟单库下的数据库行为。 

Cobar应用举例
应用架构&＃xff1a;

应用介绍&＃xff1a;
1.通过Cobar提供一个名为test的数据库&＃xff0c;其中包含t1,t2两张表。后台有3个MySQL实例(ip:port)为其提供服务&＃xff0c;分别为&＃xff1a;A,B,C。
2.期望t1表的数据放置在实例A中&＃xff0c;t2表的数据水平拆成四份并在实例B和C中各自放两份。t2表的数据要具备HA功能&＃xff0c;即B或者C实例其中一个出现故障&＃xff0c;不影响使用且可提供完整的数据服务。
cabar优点总结&＃xff1a;
1.数据和访问从集中式改变为分布&＃xff1a;
&＃xff08;1&＃xff09;Cobar支持将一张表水平拆分成多份分别放入不同的库来实现表的水平拆分
&＃xff08;2&＃xff09;Cobar也支持将不同的表放入不同的库
&＃xff08;3&＃xff09; 多数情况下&＃xff0c;用户会将以上两种方式混合使用
注意&＃xff01;&＃xff1a;Cobar不支持将一张表&＃xff0c;例如test表拆分成test_1,test_2, test_3.....放在同一个库中&＃xff0c;必须将拆分后的表分别放入不同的库来实现分布式。
2.解决连接数过大的问题。
3.对业务代码侵入性少。
4.提供数据节点的failover,HA&＃xff1a;
(1)Cobar的主备切换有两种触发方式&＃xff0c;一种是用户手动触发&＃xff0c;一种是Cobar的心跳语句检测到异常后自动触发。那么&＃xff0c;当心跳检测到主机异常&＃xff0c;切换到备机&＃xff0c;如果主机恢复了&＃xff0c;需要用户手动切回主机工作&＃xff0c;Cobar不会在主机恢复时自动切换回主机&＃xff0c;除非备机的心跳也返回异常。
(2)Cobar只检查MySQL主备异常&＃xff0c;不关心主备之间的数据同步&＃xff0c;因此用户需要在使用Cobar之前在MySQL主备上配置双向同步。
cobar缺点&＃xff1a;
开源版本中数据库只支持mysql&＃xff0c;并且不支持读写分离。
source&＃xff1a;http://code.alibabatech.com/wiki/display/cobar/Home

TDDL

淘宝根据自己的业务特点开发了TDDL&＃xff08;Taobao Distributed Data Layer 外号:头都大了 ©_Ob&＃xff09;框架&＃xff0c;主要解决了分库分表对应用的透明化以及异构数据库之间的数据复制&＃xff0c;它是一个基于集中式配置的 jdbc datasource实现&＃xff0c;具有主备&＃xff0c;读写分离&＃xff0c;动态数据库配置等功能。
TDDL所处的位置&＃xff08;tddl通用数据访问层&＃xff0c;部署在客户端的jar包&＃xff0c;用于将用户的SQL路由到指定的数据库中&＃xff09;&＃xff1a;

淘宝很早就对数据进行过分库的处理&＃xff0c; 上层系统连接多个数据库&＃xff0c;中间有一个叫做DBRoute的路由来对数据进行统一访问。DBRoute对数据进行多库的操作、数据的整合&＃xff0c;让上层系统像操作一个数据库一样操作多个库。但是随着数据量的增长&＃xff0c;对于库表的分法有了更高的要求&＃xff0c;例如&＃xff0c;你的商品数据到了百亿级别的时候&＃xff0c;任何一个库都无法存放了&＃xff0c;于是分成2个、4个、8个、16个、32个……直到1024个、2048个。好&＃xff0c;分成这么多&＃xff0c;数据能够存放了&＃xff0c;那怎么查询它&＃xff1f;这时候&＃xff0c;数据查询的中间件就要能够承担这个重任了&＃xff0c;它对上层来说&＃xff0c;必须像查询一个数据库一样来查询数据&＃xff0c;还要像查询一个数据库一样快&＃xff08;每条查询在几毫秒内完成&＃xff09;&＃xff0c;TDDL就承担了这样一个工作。在外面有些系统也用DAL&＃xff08;数据访问层&＃xff09; 这个概念来命名这个中间件。
下图展示了一个简单的分库分表数据查询策略&＃xff1a;

主要优点&＃xff1a;
1.数据库主备和动态切换
2.带权重的读写分离
3.单线程读重试
4.集中式数据源信息管理和动态变更
5.剥离的稳定jboss数据源
6.支持mysql和oracle数据库
7.基于jdbc规范&＃xff0c;很容易扩展支持实现jdbc规范的数据源
8.无server,client-jar形式存在&＃xff0c;应用直连数据库
9.读写次数,并发度流程控制&＃xff0c;动态变更
10.可分析的日志打印,日志流控&＃xff0c;动态变更
TDDL必须要依赖diamond配置中心&＃xff08;diamond是淘宝内部使用的一个管理持久配置的系统&＃xff0c;目前淘宝内部绝大多数系统的配置&＃xff0c;由diamond来进行统一管理&＃xff0c;同时diamond也已开源&＃xff09;。
TDDL动态数据源使用示例说明&＃xff1a;http://rdc.taobao.com/team/jm/archives/1645
diamond简介和快速使用&＃xff1a;http://jm.taobao.org/tag/diamond%E4%B8%93%E9%A2%98/
TDDL源码&＃xff1a;https://github.com/alibaba/tb_tddl 
TDDL复杂度相对较高。当前公布的文档较少&＃xff0c;只开源动态数据源&＃xff0c;分表分库部分还未开源&＃xff0c;还需要依赖diamond&＃xff0c;不推荐使用。
终其所有&＃xff0c;我们研究中间件的目的是使数据库实现性能的提高。具体使用哪种还要经过深入的研究&＃xff0c;严谨的测试才可决定。