TFS里的Nameserver(NS)是系统里的单点,目前采用主备的方式来保证其高可用性,当主NS挂掉时,vip会切换到备NS上,从而备NS接管服务。本文主要介绍TFS NS高可用的配置方式(使用heartbeat)。 NS主备原理 主备NS共享一个虚拟vip,NS启动时,检查vip是否拥有v
TFS里的Nameserver(NS)是系统里的单点,目前采用主备的方式来保证其高可用性,当主NS挂掉时,vip会切换到备NS上,从而备NS接管服务。本文主要介绍TFS NS高可用的配置方式(使用heartbeat)。
NS主备原理
主备NS共享一个虚拟vip,NS启动时,检查vip是否拥有vip,如果不再,NS将以slave的身份运行;否则如果NS拥有vip,NS就会认为自己是master。
为了避免出现多master的情况,当NS认为自己是master时,会向对端NS节点发送一个确认消息,获取其身份信息,如果发现对端也是master,此时就出现了多master的情况,通常是主备的配置有问题才会出现,这时NS会主动退出,NS启动失败;如果发现对端是slave,则NS正常启动,此时集群里NS正好一主一备。
NS运行过程中,会有后台线程不断检查是否自己拥有vip,当主发现自己不再拥有vip时,就将自己切换为备继续运行;当备发现自己拥有vip时,就会将自己切换为主,同样的,切换前要先确认对端的身份,避免出现两个master的情况。
硬件说明
两台物理机分别部署主备NS服务、主机名分别为tfs036201.sqa.cm4、tfs036203.sqa.cm4,虚拟ip为10.232.36.240,两个物理机的bond0网卡通过交换机连接,并没有使用直连线连接的方式(线上服务强烈建议使用直连线方式,否则如果公用的网络不稳定,容易出现脑裂的情况)。
软件安装
在两台机器上分别安装heartbeat和pacemaker,前者提供多个节点间通讯的基础设施,后者提供集群资源管理的功能。
[linqing.zyd@tfs036203.sqa.cm4 ~]$ rpm -q heartbeat heartbeat-3.0.3-2.el5 [linqing.zyd@tfs036203.sqa.cm4 ~]$ rpm -q pacemaker pacemaker-1.0.8-6.el5
主备NS的配置
修改两台机器上的ns.conf,主要是ip_addr和ip_addr_list两个配置项
[public] # 这里配置NS的vip ip_addr = 10.232.36.240 # NS监听端口 port =8100 [nameserver] # 主备NS的实际ip地址列表 ip_addr_list = 10.232.36.201|10.232.36.203
Heartbeat的配置
tfs-home/scripts/ha目录里包含一些配置模板和工具,进入该目录
修改ha.cf,各个参数的详细含义参考
debugfile /var/log/ha-debug debug 1 keepalive 2 warntime 5 deadtime 10 initdead 30 auto_failback off autojoin none #bcast eth1 ucast bond0 10.232.36.201 udpport 694 node tfs036201.sqa.cm4 node tfs036203.sqa.cm4 compression bz2 logfile /var/log/ha-log logfacility local0 crm respawn
几个重要的参数说明
keepalive 2 节点间的心跳包为2s warntime 5 5s没有心跳包,就发出警告 deadtime 10 10s没有心跳包,认为节点挂了 udpport 694 发送心跳包使用的udp端口 node tfs036201.sqa.cm4 集群里的节点 node tfs036203.sqa.cm4 autojoin none 不允许节点自动加入,必须使用上述node指令来配置 ucast bond0 10.232.36.201 使用单播的方式来发送心跳包,两台机器分别指定对端的地址 如果是直连线的方式,可以使用bcast的方式来发送心跳包
生成authkeys
配置authkeys主要是为了节点间做认证,ha目录下包含了配置工具deploy,直接执行即可。这个脚本的主要工作是生成authkeys,并将ha.cf、authkeys拷贝到/etc/ha.d目录下。
在一个节点配置好之后,将/etc/ha.d/ha.cf、/etc/ha.d/authkeys拷贝到另一个节点的/etc/ha.d目录,因为这里没有采用直连线,ha.cf里ucast那行配置,要稍作修改,设置为对端的ip地址。
配置NameServer资源
主备NS对HA的要求,除了机器宕机时,vip要切换;还要求NS的服务挂掉时,vip也要能切换到备NS,为了实现这个需求,首先要给heartbeat增加一种NameServer的资源,在主备两台机器上直接执行ha目录下的nsdep工具,其将ha/NameServer文件(提供了start、stop、monitor NS服务的功能)拷贝到/usr/lib/ocf/resource.d/heartbeat/目录下。
最后修改ha目录下的ns.xml,配置一下vip资源信息,以及ns服务的资源。
主要修改如下
ip的属性值设置为10.232.36.240 nic的属性值为bond0:0 basedir配置为/home/admin/tfs (设置为tfs的安装目录) nsip配置为10.232.36.204 (ns vip) nsport配置为8100 (ns port) user设置为admin (用于启动服务的用户)
ns.xml准备好后,在主备NS机器上分别执行
crm_attribute --type crm_config --attr-name symmetric-cluster --attr-value true crm_attribute --type crm_config --attr-name stonith-enabled --attr-value false crm_attribute --type rsc_defaults --name resource-stickiness --update 100 cibadmin --replace --obj_type=resources --xml-file /home/admin/tfs/scripts/ha/ns.xml 上述命令做到主要工作包含 1. 配置所有的节点为对等关系,即所有的节点都能接管服务 2. 禁用stonish 3. 应用ns.xml里的配置
最后启动主备NS服务,并在两台机器上启动heartbeat服务
service heartbeat start 或 /etc/init.d/heartbeat start
此时vip落在其中一台机器上,这台机器以主NS的身份运行,另外一个以备NS的身份运行。
测试主备切换
将主NS上的nameserver进程kill掉后会发现,vip已经切换到原来的备NS,原来的备NS(如果备上NS没有启动,会被heartbeat启动起来)检测到vip落在自己身上,切换为主的身份运行。
原来主NS的机器,查看其资源状态,会发现其failcount已经变为1了,该节点被heartbeat认为不可用了。
[linqing.zyd@tfs036201.sqa.cm4 tfs_new]$ sudo crm resource failcount tfs-name-server show tfs036201.sqa.cm4 scope=status name=fail-count-tfs-name-server value=1
此时如果原来的备NS接管服务后,再次宕机了,服务将不能切回到原来的主,必须先将其failcount清0,才能正确的切回。
sudo crm resource failcount tfs-name-server set tfs036201.sqa.cm4 0
The post TFS Nameserver HA配置 appeared first on Yun Notes.