binlog工具_基于Binlog实时同步数仓，有哪些不为人知的坑？

最近看到一篇文章《基于Canal与Flink实现数据实时增量同步》&＃xff0c;主要讲解的是基于Flink有关于MySQL Binlog数据采集的方案&＃xff0c;看了一下实践方法和具体代码操作&＃xff0c;感觉有一些欠考虑和不足的情况。

笔者之前有过一些类似的采集工具实践的总结&＃xff0c;但是并没有在整体上做出一个系统性的总结&＃xff0c;所以我在想&＃xff0c;是不是可以写一篇个人总结性的文章&＃xff0c;把Binlog采集中的问题以及相应的解决方案也进行总结呢&＃xff1f;

可能很多人对于Binlog的认识还不是很充足&＃xff0c;会粗浅的认为&＃xff1a;“它不就是MySQL产生的&＃xff0c;有固定结构的log嘛&＃xff0c;把数据采集过来&＃xff0c;然后把它做一下数据落地&＃xff0c;它有什么难的呢&＃xff1f;”

的确&＃xff0c;它本质上确实就是个log&＃xff0c;可是实际上&＃xff0c;关于Binlog采集从场景分析&＃xff0c;再到技术选型&＃xff0c;整体内部有很多不为人知的坑&＃xff0c;不要小瞧了它。

笔者写这篇文章&＃xff0c;目的是把实际工作中对于Binlog数据采集的开发流程的原则、注意事项、可能存在的问题点展示出来&＃xff0c;其中也会有笔者自己的一些个人总结数据采集中的原则&＃xff0c;为大家作参考&＃xff0c;都是干货哦。

一、Binlog实时采集总结原则

首先抛开技术框架的讨论&＃xff0c;个人总结Binlog日志的数据采集主要原则&＃xff1a;

• 原则一 &＃xff1a;与业务数据解耦

• 原则二 &＃xff1a;与数据结构解耦

• 原则三 &＃xff1a;数据是可回溯的

分别阐述一下这三个原则的具体含义。

原则一

在数据采集中&＃xff0c;数据落地一般都会使用时间分区进行落地&＃xff0c;那就需要我们确定一下固定的时间戳作为时间分区的基础时间序列。

在这种情况下看来&＃xff0c;业务数据上的时间戳字段&＃xff0c;无论是从实际开发中获取此时间戳的角度&＃xff0c;还是现实表中都会存在这样的时间戳&＃xff0c;都不可能所有表完全满足。

举一下反例&＃xff1a;

表 &＃xff1a;业务时间戳(或事件时间)

table A &＃xff1a;create_time&＃xff0c;update_time

table B &＃xff1a;create_time

table C &＃xff1a;create_at

table D &＃xff1a;无

像这样的情况&＃xff0c;理论上可以通过限制RD和DBA的在设计表时规则化表结构来实现时间戳以及命名的统一化、做限制&＃xff0c;但是是在实际工作中&＃xff0c;这样的情况基本上是做不到的&＃xff0c;相信很多读者也会遇到这样的情况。

可能很多做数据采集的同学会想&＃xff0c;我们能不能要求他们去制定标准呢&＃xff1f;

个人的想法是&＃xff0c;可以&＃xff0c;但是不能把大数据底层数据采集完全依靠这样互相制定的标准。

原因有以下三点&＃xff1a;

• 如果只是依靠两个部门或者多个部门制定的口头的或者书面的标准&＃xff0c;却没有强制性在coding上面做约束&＃xff0c;全部都是人为在约束的话&＃xff0c;后期人员增加&＃xff0c;迟早会出问题。

• 大数据部门与后台部门&＃xff0c;在于数据情况变更的情况&＃xff0c;有时候可能是信息延时的&＃xff0c;也就是说&＃xff0c;有可能在数据落地后发现异常后&＃xff0c;才知道后台部门做出了调整。

• 也是最重要的一点&＃xff0c;大数据部门不能要求在底层数据源去要求数据源去适应大数据的采集&＃xff0c;这样要成的后果很有可能是限制后台部门在开发业务功能上的自由度&＃xff0c;这样的开发流程也是不合理的。

所以如果想要使用唯一固定的时间序列&＃xff0c;就要和业务的数据剥离开&＃xff0c;我们想要的时间戳不受业务数据的变动的影响。

原则二

在业务数据库中&＃xff0c;一定会存在表结构变更的问题&＃xff0c;绝大部分情况为增加列&＃xff0c;但是也会存在列重命名、列删除这类情况&＃xff0c;而其中字段变更的顺序是不可控的。

此原则想描述的是&＃xff0c;导入到数据仓库中的表&＃xff0c;要适应数据库表的各种操作&＃xff0c;保持其可用性与列数据的正确性。

原则三

此数据可回溯&＃xff0c;其中包括两个方面&＃xff1a;

• 数据采集可回溯

• 数据消费落地可回溯

第一个描述的是&＃xff0c;在采集binlog采集端&＃xff0c;可以重新按位置采集binlog。

第二个描述的是&＃xff0c;在消费binlog落地的一端&＃xff0c;可以重复消费把数据重新落地。

此为笔者个人总结&＃xff0c;无论是选择什么样的技术选型进行组合搭建&＃xff0c;这几点原则是需要具备的。

二、实现方案与具体操作

技术架构 &＃xff1a;Debezium &＃43; Confluent &＃43; Kafka &＃43; OSS/S3 &＃43; Hive

基于原则一的解决方案

Debezium提供了New Record State Extraction的配置选项&＃xff0c;相当于提供了一个transform算子&＃xff0c;可以抽取出binlog中的元数据。

对于0.10版本的配置&＃xff0c;可以抽取table,version,connector,name,ts_ms,db,server_id,file,pos,row等binlog元数据信息。

其中ts_ms为binlog日志的产生时间&＃xff0c;此为binlog元数据&＃xff0c;可以应用于所有数据表&＃xff0c;而且可以在完全对数据表内部结构不了解的情况下&＃xff0c;使用此固定时间戳&＃xff0c;完全实现我们的原则一。

关于Debezium&＃xff0c;不同版本之前的配置参数有可能是不同的&＃xff0c;如果读者有需要实践的话需要在官方文档上确认相应版本的配置参数。

对于其他框架&＃xff0c;例如市面上用的较多的Canal&＃xff0c;或者读者有自己需要开发数据采集程序的话&＃xff0c;binlog的元数据建议全部抽取出来&＃xff0c;在此过程以及后续过程中都可能会被用到。

基于原则二的解决方案

对于Hive &＃xff0c;目前主流的数据存储格式为Parquet、ORC、Json、Avro这几种。

抛开数据存储的效率讨论。

对于前两种数据格式&＃xff0c;为列存&＃xff0c;也就是说&＃xff0c;这两种数据格式的数据读取&＃xff0c;会严格依赖于我们数据表中的数据存储的顺序&＃xff0c;这样的数据格式&＃xff0c;是无法满足数据列灵活增加、删除等操作的。

Avro格式为行存&＃xff0c;但是它需要依赖于Schema Register服务&＃xff0c;考虑Hive的数据表读取完全要依赖一个外部服务&＃xff0c;风险过高。

最后确定使用Json格式进行数据存储&＃xff0c;虽然这样的读取和存储效率没有其他格式高&＃xff0c;但是这样可以保证业务数据的任何变更都可以在Hive中读取出来。

Debezium组件采集binlog的数据就是为json格式&＃xff0c;和预期的设计方案是吻合的&＃xff0c;可以解决原则二带来的问题。

对于其他框架&＃xff0c;例如市面上用的较多的Canal&＃xff0c;可以设置为Json数据格式进行传输&＃xff0c;或者读者有自己需要开发数据采集程序的话&＃xff0c;也是相同的道理。

基于原则三的解决方案

在采集binlog采集端&＃xff0c;可以重新按位置采集binlog。

此方案实现方式在Debezium官方网站上也给出了相应的解决方案&＃xff0c;大概描述一下&＃xff0c;需要用到Kafkacat工具。

对于每一个采集的MySQL实例&＃xff0c;创建数据采集任务时&＃xff0c;Confluent都会相应的创建connector(也就是采集程序)的采集的元数据的topic&＃xff0c;里面会存储相应的时间戳、文件位置、以及位置&＃xff0c;可以通过修改此数据&＃xff0c;重置采集binlog日志的位置。

值得注意的是&＃xff0c;此操作的时间节点也是有限制的&＃xff0c;和MySQL的binlog日志保存周期有关&＃xff0c;所以此方式回溯时&＃xff0c;需要确认的是MySQL日志还存在。

对于重复消费把数据重新落地。

此方案因为基于Kafka&＃xff0c;对于Kafka重新制定消费offset消费位点的操作网上有很多方案&＃xff0c;此处不再赘述。

对于读者自己实现的话&＃xff0c;需要确认所选择的MQ支持此特性就好了。

Frequently Asked Questions&＃xff1a;https://debezium.io/documentation/faq/#how_to_change_the_offsets_of_the_source_database

三、不同的业务场景

此部分只描述在笔者技术架构下如何实现以下操作&＃xff0c;读者可以根据自己选择的技术组件探究不同的技术方案。

1、数据库分库分表的情况

基于Debezium的架构&＃xff0c;一个Source端只能对应一个MySQL实例进行采集&＃xff0c;对于同一实例上的分表情况&＃xff0c;可以使用Debezium Topic Routing功能。

在采集过滤binlog时把相应需要采集的表按照正则匹配写入一个指定的topic中。

在分库的情况下&＃xff0c;还需要在sink端增加RegexRouter transform算子进行topic间的合并写入操作。

2、数据增量采集与全量采集

对于采集组件&＃xff0c;目前目前的配置都是以增量为默认&＃xff0c;所以无论是选择Debezium还是Canal的话&＃xff0c;正常配置就好。

但是有些时候会存在需要采集全表的情况&＃xff0c;笔者也给出一下全量的数据采集的方案。

方案一&＃xff1a;

Debezium本身自带了这样的功能&＃xff0c;需要将snapshot.mode参数选型设置为when_needed&＃xff0c;这样可以做表的全量采集操作。

官方文档中&＃xff0c;在此处的参数配置有更加细致的描述。

Snapshots&＃xff1a;https://debezium.io/documentation/reference/0.10/connectors/mysql.html#snapshots

方案二&＃xff1a;

使用sqoop和增量采集同时使用的方式进行。

此方案适用于表数据已存在很多&＃xff0c;而目前binlog数据频率不频繁的情况下&＃xff0c;使用此方案。

值得注意的是有两点&＃xff1a;

• sqoop数据导入落地为Parquet格式&＃xff0c;与增量采集数据合并时&＃xff0c;需要做数据格式整合&＃xff0c;也就是中间需要有临时表&＃xff0c;通过union all的方式把数据merge到全量表中。

• sqoop导入的Parquet格式&＃xff0c;与Debezium处理某些数据类型时会存在不相同的问题&＃xff0c;例如datetime类型&＃xff0c;sqoop会导出string&＃xff0c;Debezium会转化为bigint。

3、离线数据去重条件

数据落地后&＃xff0c;通过json表映射出binlog原始数据&＃xff0c;那么问题也就来了&＃xff0c;我们如何找到最新的一条数据呢&＃xff1f;

也许我们可以简单的认为&＃xff0c;用我们刚刚的抽取的那个ts_ms&＃xff0c;然后做倒排不就好了吗&＃xff1f;

大部分情况下这样做确实是可以的。但是笔者在实际开发中&＃xff0c;发现这样的情况是不能满足所有情况的&＃xff0c;因为在binlog中&＃xff0c;可能真的会存在ts_ms与PK相同&＃xff0c;但是确实不同的两条数据。

那我们怎么去解决时间都相同的两条数据呢&＃xff1f;答案就在上文&＃xff0c;我们刚刚建议的把binlog的元数据都抽取出来。

SELECT *

FROM

(

SELECT *,

row_number() over(partition BY t.id ORDER BY t.&＃96;__ts_ms&＃96; DESC,t.&＃96;__file&＃96; DESC,cast(t.&＃96;__pos&＃96; AS int) DESC) AS order_by

FROM test t

WHERE dt&＃61;&＃39;{pt}&＃39;

AND hour&＃61;&＃39;{now_hour}&＃39;

) t1

WHERE t1.order_by &＃61; 1

解释一下这个sql中row_number的的条件&＃xff1a;

• __ts_ms &＃xff1a;为binlog中的ts_ms&＃xff0c;即事件时间。

• __file &＃xff1a;为binlog此条数据所在file name。

• __pos &＃xff1a;为binlog中此数据所在文件中的位置&＃xff0c;为数据类型。

这样的条件组合取出的数据&＃xff0c;就是最新的一条。

也许有读者会问&＃xff0c;如果这条数据被删除了怎么办&＃xff0c;你这样取出来的数据不就是错的了吗&＃xff1f;

这个Debezium也有相应的操作&＃xff0c;有相应的配置选项让你如何选择处理删除行为的binlog数据。

作为给大家的参考&＃xff0c;笔者选择rewrite的参数配置&＃xff0c;这样在上面的sql最外层只需要判断 “delete &＃61; ’false‘“ 就是正确的数据啦。

Debezium&＃xff1a;https://debezium.io/documentation/reference/0.10/configuration/event-flattening.html

四、架构上的总结

在技术选型以及整体与细节的架构中&＃xff0c;笔者始终坚持一个原则——流程尽量简约而不简单&＃xff0c;数据环节越长&＃xff0c;出问题的环节就可能越多&＃xff0c;对于后期锁定问题与运维难度也会很高。

所以笔者在技术选型也曾考虑过Flink &＃43; Kafka的这种方式&＃xff0c;但是基于当时的现状&＃xff0c;笔者并没有选择这样的技术选型&＃xff0c;笔者也阐述一下原因。

1)笔者的Flink环境没有做开发平台化与运维平台化。

2)场景偏向于数据采集和传输&＃xff0c;而不是计算&＃xff0c;Flink的优势特性并没有使用到很多。

3)如果基于一个MySQL实例开发一个Flink程序&＃xff0c;使用原生的Flink steaming&＃xff0c;做api式的程序开发&＃xff0c;如果因为某些表的数据导致程序挂掉&＃xff0c;这个实例的数据都无法采集了&＃xff0c;这样的影响范围太大。

4)如果基于一个一个表或者通过正则的方式匹配一些表&＃xff0c;做一个Flink程序&＃xff0c;这样虽然是保证了灵活度&＃xff0c;但是90%的代码都是冗余的&＃xff0c;而且会有很多任务&＃xff0c;浪费资源。

5)最后就是开发和维护效率的问题&＃xff0c;如果只是写原生的Flink程序的话&＃xff0c;后续的累加开发&＃xff0c;会把程序变得越来越重&＃xff0c;可能逻辑也会越来越繁琐。

总结起来&＃xff0c;我当时对于Flink的思考&＃xff0c;如果Flink没有做开发和运维监控的平台化的情况下&＃xff0c;可以作为一个临时方案&＃xff0c;但是后期如果一直在这样一个开发流程下缝缝补补&＃xff0c;多人开发下很容易出现问题&＃xff0c;或者就是大家都这样一个程序框架下造轮子&＃xff0c;而且越造越慢。而且后期的主要项目方向并没有把Flink平台化提上日程&＃xff0c;所以也是考虑了一部分未来的情况进行的选择。

因此个人最后确定技术选型的时候&＃xff0c;并没有选用Flink。

五、结束语

本文笔者写得较为理论化&＃xff0c;也是对此场景的一个技术思路方案总结。技术架构上的方案多种多样&＃xff0c;笔者只是选择了其中一种进行实现&＃xff0c;也希望大家有其他的技术方案或者理论进行交流&＃xff0c;烦请指正。

作者丨李楠来源丨数据仓库与Python大数据(ID&＃xff1a;dw_zzxx)dbaplus社群欢迎广大技术人员投稿&＃xff0c;投稿邮箱&＃xff1a;editor&＃64;dbaplus.cn

---

我们正在经历一个数据量高速膨胀的时代&＃xff0c;但这些海量的、分散的异构数据导致了数据资源价值低、应用难度大等问题。如何将海量数据充分挖掘与运用&＃xff0c;来支撑决策、驱动业务发展、进行产品创新&＃xff1f;如何利用大数据平台优化流程、服务、产品&＃xff1f;可以说&＃xff0c;所有的一切都离不开数据治理与数据资产管理。10月30日&＃xff0c;DAMS中国数据智能管理峰会将在上海举办&＃xff0c;专设数据治理及数据资产管理相关议题&＃xff0c;抢先剧透如下&＃xff1a;

• 《企业数字化转型落地指南&＃xff1a;从数据资产管理到数据中台(拟)》新炬网络 董事/副总经理 程永新
• 《面向数据中台的数据治理如何建设与落地(拟)》网易 大数据总经理 余利华
• 《大数据资产管理平台的设计、研发、运营实践》中国联通大数据 基础平台负责人 尹正军
• 《腾讯游戏大数据资产管理实战&＃xff1a;元数据管理与数据治理(拟)》腾讯游戏 大数据管理负责人 刘天斯
• 《字节跳动数据治理实践》今日头条 数据BP/数据治理负责人 任长延

立即扫码享受限时优惠&＃xff0c;一起探讨大数据战略从顶层设计到底层实现的落地过程。