关注“程序IT圈”升职加薪不脱发!
作者:zhouyu
cnblogs.com/zhouyu629/p/3734494.html
经历了两天不懈努力,终于恢复了一次误操作删除的生产服务器数据。对本次事故过程和解决办法记录在此,警醒自己,也提示别人莫犯此错。也希望遇到问题的朋友能找到一丝灵感解决问题。
事故背景
安排一个妹子在一台生产服务器上安装Oracle,妹子边研究边安装,感觉装的不对,准备卸载重新安装。从网上找到卸载方法,其中要执行一行命令删除Oracle的安装目录,命令如下:
rm -rf $ORACLE_BASE/*
如果ORACLE_BASE这个变量没有赋值,那命令就变成了
rm -rf /*
==||,妹子使用的可是root账户啊。就这样,把整个盘的文件全部删除了,包括应用Tomcat、MySQL数据库 and so on。。。。
mysql数据库不是在运行吗?linux能删除正在执行的文件?反正是彻底删除了,最后还剩一个tomcat的log文件,估计是文件过大,一时没有删除成功
看着妹子自责的眼神,又是因为这事是我安排她做的,也没有跟她讲清厉害关系,没有任何培训,责任只能一个人背了,况且怎么能让美女背负这个责任呢?
打电话到机房,将盘挂到另一台服务器上,ssh上去查看文件全部被清,这台服务器运行的可是一个客户的生产系统啊,已经运行大半年了,得尽快恢复啊。于是找来脱机备份的数据库,发现备份文件只有1kb,里面只有几行熟悉的mysqldump注释(难道是crontab执行的备份脚本有问题),最接尽的备份也是2013年12月份的了,真是屋漏偏逢连夜雨啊。
想起来一位领导说过的案例:当一个生产系统挂掉以后,发现所有备份都有问题,刻录的光盘也有划痕,磁带机也坏了(一个业界前辈,估计以前还用光盘做备份了),没想到今天真的应验到我的身上了,怎么办??
部门领导知道情况后,已经做了最坏的B计划:领导亲自带队和产品AA周日赶到客户所在的地市,星期一去领导层沟通;BB和CC去客户管理员那边想办法说服客户。。。
救命稻草--ext3grep
赶快到网上去查资料进行误删数据恢复,还真找到一款ext3grep能够恢复通过rm -rf删除的文件,我们磁盘也是ext3格式,且网上有不少的成功案例。于是燃起了一丝希望,赶快对盘umount,防止重新写入补删文件扇区。下载ext3grep,安装(编译安装过程艰辛暂且不表)。
先执行扫描文件名命令:
ext3grep /dev/vgdata/LogVol00 --dump-names
打印出了所有被删除文件及路径,心中狂喜,不用执行B计划了,文件都在呢。
这款软件不能按目录恢复文件,只能执行恢复全部命令:
ext3grep /dev/vgdata/LogVol00 --restore-all
结果当前盘空间不足,没办法只能恢复文件,尝试了几个文件,居然部分成功部分失败
ext3grep /dev/vgdata/LogVol00 --restore-file var/lib/mysql/aqsh/tb_b_attench.MYD
心里不禁一凉,难道是删除磁盘上被写过文件了?恢复机率不大了啊,能恢复几个算几个吧,说不定重要数据文件刚好在能恢复的MYD文件中。于是先将所有文件名重定向到一个文件文件中
ext3grep /dev/vgdata/LogVol00 --dump-names >/usr/allnames.txt
过滤出来所有mysql数据库的文件名存成,mysqltbname.txt
编写脚本恢复文件:
while read LINE
doecho "begin to restore file " $LINEext3grep /dev/vgdata/LogVol00 --restore-file $LINEif [ $? != 0 ]thenecho "restore failed, exit"# exit 1fi
done < ./mysqltbname.txt
执行&#xff0c;大概运行了20分钟&#xff0c;恢复了40多个文件&#xff0c;但不够啊&#xff0c;我们将近100张表&#xff0c;每张表frm,myd,myi三个文件&#xff0c;怎么说也有300多个左右啊&#xff01;&#xff01;
将找回来的文件附到现有数据库上&#xff0c;更要文件权限为777后&#xff0c;重启mysql&#xff0c;也算是找回一部分数据了&#xff0c;但客户重要的考勤签到数据、手机端上报数据&#xff08;据说客户按这些数据做员工绩效的&#xff09;还没找回来啊。
咋 办?中间又试了另一款工具extundelete&#xff0c;跟ext3grep语法基本一致&#xff0c;原理应该也一样了&#xff0c;但是据说能按目录恢复&#xff0c;好吧试一试。
extundelete /dev/vgdata/LogVol00 --restore-directory var/lib/mysql/aqsh
果然不出所料&#xff0c;恢复不出来&#xff01;&#xff01;&#xff01;&#xff01;&#xff01;&#xff01;&#xff01;&#xff01;那些文件已被破坏了。跟领导汇报&#xff0c;执行B计划吧。。。无奈之下下班回家&#xff08;周末了&#xff0c;回去休息一下&#xff0c;想想办法吧&#xff09;
灵机一动&#xff1a;binlog
第二天早晨一早就醒了&#xff08;心里有事啊&#xff09;&#xff0c;背上电脑&#xff0c;去公司&#xff08;这个周末算是报销了&#xff0c;不挨批&#xff0c;通报&#xff0c;罚款&#xff0c;开除就不错了&#xff0c;还过什么周末啊&#xff09;。
依旧运行ext3grep&#xff0c;extundelete&#xff0c;也就那几招啊&#xff0c;把系统架到测试服务器上&#xff0c;看看数据能不能想办法补一补吧。在测试服务器上进行mysqldump&#xff0c;恢复文件&#xff0c;覆盖恢复回来的文件&#xff0c;给文件加权限&#xff0c;重启mysql。
wait,wait&#xff0c;不是有binlog吗?我们服务都要求开启binlog&#xff0c;说不定能通过binlog里恢复数据呢?
于是从dump出来的文件名里找到binlog的文件&#xff0c;一共三个&#xff0c;mysql-binlog0001,mysql-bin.000009,mysql-bin.000010&#xff0c;恢复一下0001
ext3grep /dev/vgdata/LogVol00 --restore-file var/lib/mysql/mysql-bin.000001
居然失败了。。。。。。
再看另两个文件&#xff0c;mysql-bin.000010大概几百MB&#xff0c;应该靠谱一点&#xff0c;执行还原命令&#xff0c;居然成功了&#xff01;&#xff01;&#xff01;&#xff01;&#xff01;&#xff01;&#xff01;&#xff01;&#xff01;&#xff01;&#xff01;&#xff01;&#xff01;
赶快scp到测试服务器。执行binlog还原。
mysqlbinlog /usr/mysql-bin.000010 | mysql -uroot -p
输入密码&#xff0c;卡住了&#xff08;好现象&#xff09;&#xff0c;经过漫长的等待&#xff0c;终于结束了。打开应用&#xff0c;哦&#xff0c;感谢cctv,mtv&#xff0c;数据回来了&#xff01;&#xff01;&#xff01;&#xff01;&#xff01;&#xff01;&#xff01;&#xff01;&#xff01;&#xff01;&#xff01;&#xff01;&#xff01;&#xff01;&#xff01;
后记
经过此次事故&#xff0c;虽然数据很幸运能找回来了&#xff0c;但是过程却是惊心动迫。也为自己的错误所带来的后果&#xff0c;给同事和领导带来的连带责任而后怕。也希望谨记此次事故&#xff0c;以后不再犯同样的错误。事故反思如下&#xff1a;
本次安排MM进行服务器维护时没有提前对她进行说明厉害情况&#xff0c;自己也未重视&#xff0c;管理混乱&#xff0c;流程混乱。一个在线的生产系统&#xff0c;任何一个改动一定要先谋而后动。
自动备份出现问题&#xff0c;没有任何人检查。脱机备份人员每次从服务器上下载1k的文件却从未重视。需要明确大家在工作岗位上的责任。
事故发生后&#xff0c;没有及时发现&#xff0c;造成部分数据写入磁盘&#xff0c;造成不可恢复问题。需要编写应用监控程序&#xff0c;服务一旦有异常&#xff0c;短信告警相关责任人。
不能使用root用户来操作。应该在服务器上开设不同权限级别的用户。
通过本次事故&#xff0c;几位跟这个项目和事故没有任何关系的同事&#xff0c;主动前来帮忙&#xff0c;查资料&#xff0c;帮测试&#xff0c;有一位同事还帮忙到晚上1点多钟进行数据恢复测试。
同时产品经理在想到面向客户的巨大压力的情况下&#xff0c;没有慌乱而责怪开发人员和具体操作人&#xff0c;而让大家能静下心来想解决方案。部门领导也积极主动的帮忙想办法&#xff0c;陪我们加班测试&#xff0c;实时跟踪事情进程。
通过大家的共同努力&#xff0c;终于事情相对圆满结束&#xff0c;接下来&#xff0c;周一上午进行集体反思&#xff0c;总结经验教训&#xff0c;这类事故一定尽量大努力进行避免。
通过本次事故&#xff0c;分享下本文所用到的工具链接&#xff1a;
功能跟 ext3grep 差不多&#xff0c;原理应该也差不多。编译安装依赖包比较多&#xff0c;可以到网上搜索如何安装。
码字不易&#xff0c;如果你觉得读完以后有收获&#xff0c;不妨点个在看让更多的人看到吧~
????关注下面公众号看更多干货更多精彩推荐☞ 腾讯 JDK 正式开源&#xff0c;高性能、太牛逼啦&#xff01;
☞ 小姐姐盗用他人设计作品找工作&#xff0c;入职京东...☞ VSCode 花式玩法&#xff08;摸鱼&#xff09;了解一下☞ IntelliJ IDEA 2020.2.4款神级插件推荐点分享点点赞点在看