热门标签 | HotTags
当前位置:  开发笔记 > 编程语言 > 正文

binlog2sql,你该知道的数据恢复工具

关于数据恢复之前已分享过2篇,链接如下: MySQL数据备份及还原(一) MySQL数据备份及还原(二)今天分享一下binlog2sql,它

关于数据恢复之前已分享过2篇,链接如下:

 MySQL数据备份及还原(一)

 MySQL数据备份及还原(二)

今天分享一下binlog2sql,它是一款比较常用的数据恢复工具,可以通过它从MySQL binlog解析出你要的SQL,并根据不同选项,可以得到原始SQL、回滚SQL、去除主键的INSERT SQL等。主要用途如下:

  • 数据快速回滚(闪回)

  • 主从切换后新master丢数据的修复

  • 从binlog生成标准SQL,带来的衍生功能

1  系统环境准备

1.1 安装git

该项目分享与git上,可以直接从git上获取,因此可以先安装git

    yum install -y pip

    1.2 安装python

    因binlog2sql依赖于python2.7或python3.4+版本,如果本机python版本较低,则无法使用。安装或升级python的方法可以参考 《python安装及升级》

    1.3 安装pip

    如果系统中没有安装pip,则需要先安装pip,因为后续需要用pip安装python所需的包。安装方法可以参考历史文章中的 《一分钟搞定pip安装》

    1.4 binlog2sql下载及依赖包安装

    binlog2sql可以部署在其他机器上,而不是必须部署在mysql服务端上

      git clone https://github.com/danfengcao/binlog2sql.git && cd binlog2sql
      pip install -r requirements.txt

      2 MySQL环境准备

      2.1 参数设置

      MySQL server必须设置以下参数

        [mysqld]
        server_id = 128
        log_bin = data/mysql/mysql3306/logs/mysql-bin
        max_binlog_size = 512M
        binlog_format = row
        binlog_row_image = full # 默认值,可以不显式设置

        2.2  创建恢复账号

        因binlog2sql是通过模拟从库的方式获取binlog,所以,数据库账号权限至少需设置为从库所需的权限。

          -- 创建用户
          mysql> create user data_rec@'192.168.56.%' identified by 'xxxxxxxx';
          Query OK, 0 rows affected (0.01 sec)

          -- 授权
          mysql> GRANT SELECT, REPLICATION SLAVE, REPLICATION CLIENT ON *.* TO data_rec@'192.168.56.%';
          Query OK, 0 rows affected (0.00 sec)

          权限说明:

          • select:需要读取server端information_schema.COLUMNS表,获取表结构的元信息,拼接成可视化的sql语句

          • super/replication client:两个权限都可以,需要执行'SHOW MASTER STATUS', 获取server端的binlog列表

          • replication slave:通过BINLOG_DUMP协议获取binlog内容的权限

          2.3  创建测试表及数据

            mysql> use testdb;
            Database changed
            mysql> create table t_test1 (id int primary key auto_increment ,c_name varchar(20), c_num int );
            Query OK, 0 rows affected (0.02 sec)

            mysql> insert into t_test1(c_name,c_num) values('aaaa',10),('abcc',15),('bacess',9),('andd',10);
            Query OK, 4 rows affected (0.03 sec)
            Records: 4 Duplicates: 0 Warnings: 0

            mysql> insert into t_test1(c_name,c_num) values('bbbaa',1),('dc',5),('vgcess',29),('hdgd',0);
            Query OK, 4 rows affected (0.01 sec)
            Records: 4 Duplicates: 0 Warnings: 0

             2.4  模拟误删除数据

              mysql> select now();
              +---------------------+
              | now() |
              +---------------------+
              | 2020-09-18 16:29:08 |
              +---------------------+
              1 row in set (0.00 sec)

              mysql> delete from t_test1;
              Query OK, 8 rows affected (0.00 sec)

              mysql> select now();
              +---------------------+
              | now() |
              +---------------------+
              | 2020-09-18 16:29:26 |
              +---------------------+
              1 row in set (0.00 sec)

              3 binlog2sql恢复数据

              3.1  生成恢复SQL

              因知道大概误删除的时间,因此通过解析对应时间的binlog恢复出指定库表的数据,生成的结果是用于恢复的sql

                python binlog2sql.py --flashback -h 192.168.56.128 -udata_rec -p'xxxxxxxx' -d testdb -t t_test1 --start-file='mysql-bin.000003' --start-datetime='2020-09-18 16:29:08' --stop-datetime='2020-09-18 16:30:00' >/tmp/rec.sql

                结果内容如下

                3.2 恢复数据

                  mysql> select * from t_test1;
                  Empty set (0.00 sec)

                  mysql> source tmp/rec.sql;
                  Query OK, 1 row affected (0.00 sec)

                  Query OK, 1 row affected (0.00 sec)

                  Query OK, 1 row affected (0.00 sec)

                  Query OK, 1 row affected (0.00 sec)

                  Query OK, 1 row affected (0.00 sec)

                  Query OK, 1 row affected (0.01 sec)

                  Query OK, 1 row affected (0.00 sec)

                  Query OK, 1 row affected (0.00 sec)

                  mysql> select * from t_test1;
                  +----+--------+-------+
                  | id | c_name | c_num |
                  +----+--------+-------+
                  | 1 | aaaa | 10 |
                  | 2 | abcc | 15 |
                  | 3 | bacess | 9 |
                  | 4 | andd | 10 |
                  | 5 | bbbaa | 1 |
                  | 6 | dc | 5 |
                  | 7 | vgcess | 29 |
                  | 8 | hdgd | 0 |
                  +----+--------+-------+
                  8 rows in set (0.00 sec)

                   数据已恢复。

                   4 使用说明

                  参考原文链接:https://github.com/danfengcao/binlog2sql

                  4.1  解析模式

                  --stop-never 持续解析binlog。可选。默认False,同步至执行命令时最新的binlog位置。一般情况下解析单个binlog即可,但是如果需要回退的表之后有操作,则可能需要持续解析-K, --no-primary-key 对INSERT语句去除主键。可选。默认False。-B, --flashback 生成回滚SQL,可解析大文件,不受内存限制。可选。默认False。与stop-never或no-primary-key不能同时添加。该情况用的较多--back-interval -B模式下,每打印一千行回滚SQL,加一句SLEEP多少秒,如不想加SLEEP,请设为0。可选。默认1.0。

                  4.2 解析范围控制

                  --start-file 起始解析文件,只需文件名,无需全路径 ,必选参数。即指定对应的binlog起始文件名--start-position/--start-pos 起始解析位置。可选。默认为start-file的起始位置。--stop-file/--end-file 终止解析文件。可选。默认为start-file同一个文件。若解析模式为stop-never,此选项失效。--stop-position/--end-pos 终止解析位置。可选。默认为stop-file的最末位置;若解析模式为stop-never,此选项失效。--start-datetime 起始解析时间,格式'%Y-%m-%d %H:%M:%S'。可选。默认不过滤。--stop-datetime 终止解析时间,格式'%Y-%m-%d %H:%M:%S'。可选。默认不过滤。

                  4.3 对象过滤

                  -d, --databases 只解析目标db的sql,多个库用空格隔开,如-d db1 db2。可选。默认为空。-t, --tables 只解析目标table的sql,多张表用空格隔开,如-t tbl1 tbl2。可选。默认为空。--only-dml 只解析dml,忽略ddl。可选。默认False。
                  --sql-type 只解析指定类型,支持INSERT, UPDATE, DELETE。多个类型用空格隔开,如--sql-type INSERT DELETE。可选。默认为增删改都解析。用了此参数但没填任何类型,则三者都不解析。

                   

                  往期精彩回顾

                  1.  MySQL高可用之MHA集群部署

                  2.  mysql8.0新增用户及加密规则修改的那些事

                  3.  比hive快10倍的大数据查询利器-- presto

                  4.  监控利器出鞘:Prometheus+Grafana监控MySQL、Redis数据库

                  5.  PostgreSQL主从复制--物理复制

                  6.  MySQL传统点位复制在线转为GTID模式复制

                  7.  MySQL敏感数据加密及解密

                  8.  MySQL数据备份及还原(一)

                  9.  MySQL数据备份及还原(二)




                  推荐阅读
                  • MySQL 数据库迁移指南:从本地到远程及磁盘间迁移
                    本文详细介绍了如何在不同场景下进行 MySQL 数据库的迁移,包括从一个硬盘迁移到另一个硬盘、从一台计算机迁移到另一台计算机,以及解决迁移过程中可能遇到的问题。 ... [详细]
                  • 本文详细介绍如何使用Python进行配置文件的读写操作,涵盖常见的配置文件格式(如INI、JSON、TOML和YAML),并提供具体的代码示例。 ... [详细]
                  • 本文详细介绍了如何在Linux系统上安装和配置Smokeping,以实现对网络链路质量的实时监控。通过详细的步骤和必要的依赖包安装,确保用户能够顺利完成部署并优化其网络性能监控。 ... [详细]
                  • PHP 5.2.5 安装与配置指南
                    本文详细介绍了 PHP 5.2.5 的安装和配置步骤,帮助开发者解决常见的环境配置问题,特别是上传图片时遇到的错误。通过本教程,您可以顺利搭建并优化 PHP 运行环境。 ... [详细]
                  • DNN Community 和 Professional 版本的主要差异
                    本文详细解析了 DotNetNuke (DNN) 的两种主要版本:Community 和 Professional。通过对比两者的功能和附加组件,帮助用户选择最适合其需求的版本。 ... [详细]
                  • 本文介绍如何在QT框架中使用QWebSocket和QTcpSocket实现SSL加密通信,涵盖单向认证设置。单向认证常见于Web通信场景,其中客户端验证服务端证书,而服务端不验证客户端证书。 ... [详细]
                  • 在现代网络环境中,两台计算机之间的文件传输需求日益增长。传统的FTP和SSH方式虽然有效,但其配置复杂、步骤繁琐,难以满足快速且安全的传输需求。本文将介绍一种基于Go语言开发的新一代文件传输工具——Croc,它不仅简化了操作流程,还提供了强大的加密和跨平台支持。 ... [详细]
                  • MySQL缓存机制深度解析
                    本文详细探讨了MySQL的缓存机制,包括主从复制、读写分离以及缓存同步策略等内容。通过理解这些概念和技术,读者可以更好地优化数据库性能。 ... [详细]
                  • Hadoop入门与核心组件详解
                    本文详细介绍了Hadoop的基础知识及其核心组件,包括HDFS、MapReduce和YARN。通过本文,读者可以全面了解Hadoop的生态系统及应用场景。 ... [详细]
                  • 根据最新发布的《互联网人才趋势报告》,尽管大量IT从业者已转向Python开发,但随着人工智能和大数据领域的迅猛发展,仍存在巨大的人才缺口。本文将详细介绍如何使用Python编写一个简单的爬虫程序,并提供完整的代码示例。 ... [详细]
                  • Windows服务与数据库交互问题解析
                    本文探讨了在Windows 10(64位)环境下开发的Windows服务,旨在定期向本地MS SQL Server (v.11)插入记录。尽管服务已成功安装并运行,但记录并未正确插入。我们将详细分析可能的原因及解决方案。 ... [详细]
                  • 从零开始构建完整手机站:Vue CLI 3 实战指南(第一部分)
                    本系列教程将引导您使用 Vue CLI 3 构建一个功能齐全的移动应用。我们将深入探讨项目中涉及的每一个知识点,并确保这些内容与实际工作中的需求紧密结合。 ... [详细]
                  • openGauss每日一练:第6天 - 模式的创建、修改与删除
                    本篇笔记记录了openGauss数据库中关于模式(Schema)的创建、修改和删除操作。通过这些操作,用户可以更好地管理和控制数据库对象。实验环境为openGauss 2.0.0,并使用由墨天轮提供的线上环境。 ... [详细]
                  • 本文详细介绍了如何在CentOS 7操作系统上安装和配置Grafana,包括必要的依赖项安装、插件管理以及服务启动等步骤。 ... [详细]
                  • 基于KVM的SRIOV直通配置及性能测试
                    SRIOV介绍、VF直通配置,以及包转发率性能测试小慢哥的原创文章,欢迎转载目录?1.SRIOV介绍?2.环境说明?3.开启SRIOV?4.生成VF?5.VF ... [详细]
                  author-avatar
                  公寓朝仓音梦NQey
                  这个家伙很懒,什么也没留下!
                  PHP1.CN | 中国最专业的PHP中文社区 | DevBox开发工具箱 | json解析格式化 |PHP资讯 | PHP教程 | 数据库技术 | 服务器技术 | 前端开发技术 | PHP框架 | 开发工具 | 在线工具
                  Copyright © 1998 - 2020 PHP1.CN. All Rights Reserved | 京公网安备 11010802041100号 | 京ICP备19059560号-4 | PHP1.CN 第一PHP社区 版权所有