开发笔记:inotify和rsync实现数据实时同步

?要利用监控服务（inotify），监控同步数据服务器目录中信息的变化
?发现目录中数据产生变化，就利用rsync服务推送到备份服务器上

?inotify+rsync 方式实现数据同步
?sersync ：金山公司周洋在 inotify 软件基础上进行开发的，功能更加强大

异步的文件系统事件监控机制，利用事件驱动机制，而无须通过诸如cron等的轮询机制来获取事件，linux内核从2.6.13起支持 inotify，通过inotify可以监控文件系统中添加、删除，修改、移动等各种事件

inotify-tools，sersync，lrsyncd

?inotify 对同步数据目录信息的监控
?rsync 完成对数据的同步
?利用脚本进行结合

ll /proc/sys/fs/inotify #列出下面的文件，说明服务器内核支持inotify
-rw-r--r-- 1 root root 0 Dec 7 10:10 max_queued_events
-rw-r--r-- 1 root root 0 Dec 7 10:10 max_user_instances
-rw-r--r-- 1 root root 0 Dec 6 05:54 max_user_watches　

max_queued_events：inotify 事件队列最大长度，如值太小会出现 Event Queue Overflow 错误，默认值：16384
max_user_watches： 可以监视的文件数量（单进程），默认值：8192
max_user_instances： 每个用户创建inotify实例最大值，默认值：128　　

yum install inotify-tools

?inotifywait： 在被监控的文件或目录上等待特定文件系统事件（open close delete等）发生，常用于实时同步的目录监控
?inotifywatch：收集被监控的文件系统使用的统计数据，指文件系统事件发生的次数统计

?-m, --monitor 始终保持事件监听
?-d, --daemon 以守护进程方式执行，和-m相似，配合-o使用
?-r, --recursive 递归监控目录数据信息变化
?-q, --quiet 输出少量事件信息
?--timefmt 指定时间输出格式
?--format 指定的输出格式；即实际监控输出内容
?-e 指定监听指定的事件，如果省略，表示所有事件都进行监听
?--exclude 指定排除文件或目录，使用扩展的正则表达式匹配的模式实现
?--excludei 和exclude相似，不区分大小写
?-o, --outfile 打印事件到文件中，相当于标准正确输出
?-s, --syslogOutput 发送错误到syslog相当于标准错误输出

?%Y 年份信息，包含世纪信息
?%y 年份信息，不包括世纪信息
?%m 显示月份，范围 01-12
?%d 每月的第几天，范围是 01-31
?%H 小时信息，使用 24小时制，范围 00-23
?%M 分钟，范围 00-59

--timefmt "%Y-%m-%d %H:%M"　

?%T 输出时间格式中定义的时间格式信息，通过 --timefmt option 语法格式指定时间信息
?%w 事件出现时，监控文件或目录的名称信息
?%f 事件出现时，将显示监控目录下触发事件的文件或目录信息，否则为空
?%e 显示发生的事件信息，不同的事件默认用逗号分隔
?%Xe显示发生的事件信息，不同的事件指定用X进行分隔

--format "%T %w%f event: %;e"
--format ‘%T %w %f‘

?create 文件或目录创建
?delete 文件或目录被删除
?modify 文件或目录内容被写入
?attrib 文件或目录属性改变
?close_write 文件或目录关闭，在写入模式打开之后关闭的
?close_nowrite 文件或目录关闭，在只读模式打开之后关闭的
?close 文件或目录关闭，不管读或是写模式
?open 文件或目录被打开
?moved_to 文件或目录被移动到监控的目录中
?moved_from 文件或目录从监控的目录中被移动
?move 文件或目录不管移动到或是移出监控目录都触发事件
?access 文件或目录内容被读取
?delete_self 文件或目录被删除，目录本身被删除
?unmount 取消挂载

inotifywait /data

inotifywait -mrq /data

inotifywait -o /root/inotify.log -drq /data --timefmt "%Y-%m-%d %H:%M" --format "%T %w%f event: %e"

inotifywait -mrq /data --timefmt "%F %H:%M" --format "%T %w%f event: %;e" -e create,delete,moved_to,close_write,attrib

[root@centos7~]#yum install inotify-tools -y
[root@centos7~]#inotifywait -mrq /data --timefmt "%F %H:%M" --format "%T %w%f event: %;e" -e create,delete,moved_to,close_write,attrib 监控data目录下的文件

[root@centos7data]#touch f1
[root@centos7data]#chown wang f2

[root@centos7~]#inotifywait -mrq /data --timefmt "%F %H:%M" --format "%T %w%f event: %;e" -e create,delete,moved_to,close_write,attrib 监控data目录下的文件
2019-12-04 22:30 /data/f1 event: ATTRIB
2019-12-04 22:30 /data/f1 event: CLOSE_WRITE;CLOSE
2019-12-04 22:30 /data/f2 event: ATTRIB

[root@centos7data]#vim /etc/rsyncd.conf
uid = root #以root身份运行
gid = root
use chroot = no
max cOnnections= 0 #0是最大并发连接数不限制
ignore errors #忽略细节错误信息
exclude = lost+found/
log file = /var/log/rsyncd.log #存放日志文件
pid file = /var/run/rsyncd.pid #pid文件路径
lock file = /var/run/rsyncd.lock #锁文件路径
reverse lookup = no #不做解析反向解析
hosts allow = 192.168.34.0/24 希望192.168.34.0网段访问

[backup]
path = /backup/ 希望将backup文件夹进行同步
comment = backup 同步的文件夹名称一致
read Only= no 可以写文件
auth users = rsyncuser 指定一个用户账号
secrets file = /etc/rsync.pass 存放口令位置

[root@centos7data]#echo "rsyncuser:centos" > /etc/rsync.pass
[root@centos7data]#cat /etc/rsync.pass
rsyncuser:centos
[root@centos7data]#chmod 600 /etc/rsync.pass 修改权限，避免其他人看见此文件的用户名密码

[root@centos7~]#mkdir /backup

[root@centos7data]#rsync --daemon

[root@centos7~]#watch -n1 ls -l /backup

[root@centos7~]#echo "centos" > /etc/rsync.pass
[root@centos7~]#chmod 600 /etc/rsync.pass 为了安全，将文件权限修改为600

[root@centos7data]#rsync -avz --password-file=/etc/rsync.pass /data/ rsyncuser@192.168.34.100::backup
sending incremental file list
./
f1
xx
sent 156 bytes received 57 bytes 426.00 bytes/sec
total size is 0 speedup is 0.00

[root@centos7~]#ls /backup 此时服务器端的backup目录下已经将客户端data目录下的文件复制过来
f1 xx

#!/bin/bash
SRC=‘/data/‘
DEST=‘rsyncuser@192.168.34.100::backup‘
inotifywait -mrq --timefmt ‘%Y-%m-%d %H:%M‘ --format ‘%T %w %f‘ -e attrib,create,delete,moved_to,close_write ${SRC} |while read DATE TIME DIR FIL
E;do
FILEPATH=${DIR}${FILE}
rsync -az --delete --password-file=/etc/rsync.pass $SRC $DEST && echo "At ${TIME} on ${DATE}, file $FILEPATH was backuped up via rsync" >> /var/l
og/changelist.log 指定跟踪日志文件
done

[root@centos7~]#bash inotify_rsync.sh

[root@centos7~]#watch -n1 ls -l /backup

[root@centos7~]#tail -f /var/log/changelist.log
At 23:50 on 2019-12-04, file /data/f33 was backuped up via rsync
At 23:50 on 2019-12-04, file /data/f33 was backuped up via rsync
At 23:50 on 2019-12-04, file /data/f33 was backuped up via rsync
At 23:51 on 2019-12-04, file /data/f2 was backuped up via rsync
At 23:51 on 2019-12-04, file /data/f2 was backuped up via rsync
At 23:51 on 2019-12-04, file /data/f2 was backuped up via rsync
At 23:51 on 2019-12-04, file /data/f5 was backuped up via rsync
At 23:51 on 2019-12-04, file /data/f5 was backuped up via rsync

[root@centos7~]#cd /data
[root@centos7data]#ls
f1 f2 f3
[root@centos7data]#touch f33
[root@centos7data]#toch f2
bash: toch: command not found...
[root@centos7data]#touch f2
[root@centos7data]#cp /etc/fstab f2
cp: overwrite ‘f2’? y
[root@centos7data]#cp /etc/fstab f5