keepalived 实现双活热备(灾备机自动切换)

        通常说的双机热备是指两台机器都在运行,但并不是两台机器都同时在提供服务。
当提供服务的一台出现故障的时候,另外一台会马上自动接管并且提供服务,而且切换的时间非常短。
        下面来以 keepalived 结合 tomcat 来实现一个 web 服务器的双机热备。
        keepalived 的工作原理是 VRRP(Virtual Router Redundancy Protocol)虚拟路由冗余协议。
在 VRRP 中有两组重要的概念:VRRP 路由器和虚拟路由器,主控路由器和备份路由器。
VRRP 路由器是指运行 VRRP 的路由器,是物理实体,虚拟路由器是指 VRRP 协议创建的,是逻辑概念。一组 VRRP 路由器协同工作,共同构成一台虚拟路由器。 Vrrp 中存在着一种选举机制,用以选出提供服务的路由即主控路由,其他的则成了备份路由。当主控路由失效后,备份路由中会重新选举出一个主控路由,来继续工作,来保障不间断服务。
        我们在本文中的测试环境如下
        两台物理服务器和一个虚拟服务器 (vip):
master:redhat 2.6.18-53.el5  192.168.8.4
backup: redhat 2.6.18-53.el5  192.168.8.6
vip: 192.168.8.100
        测试环境的网络 topology 图如下:

        节点 A 192.168.8.4 (主节点), 节点 B 192.168.8.6(备用节点),虚拟 IP(对外提供服务的 IP 192.168.8.100)
        在这种模式下,虚拟 IP 在某时刻只能属于某一个节点,另一个节点作为备用节点存在。
        当主节点不可用时,备用节点接管虚拟 IP(即虚拟 IP 漂移至节点 B),提供正常服务。
        keepalived 的原理可以这样简单理解:
        keepalived 安装在两台物理服务器上,并相互监控对方是否在正常运行。
        当节点 A 正常的时候: 节点 A 上的 keepalived 会将下面的信息广播出去:
        192.168.8.100 这个 IP 对应的 MAC 地址为节点 A 网卡的 MAC 地址
        图中的其它电脑如客户端和 NodeB 会更新自己的 ARP 表,对应 192.168.8.100 的 MAC 地址 = 节点 A 网卡的 MAC 地址。
        当节点 A 发生故障的时候,节点 B 上的 keepalived 会检测到,并且将下面的信息广播出去:
        192.168.8.100 这个 IP 对应的 MAC 地址为节点 B 网卡的 MAC 地址
        图中的其它电脑如客户端会更新自己的 ARP 表,对应 192.168.8.100 的 MAC 地址 = 节点 B 网卡的 MAC 地址。
1, 在主备机器上安装 keepalived,
步骤如下: 下载 keepalived-1.1.15.tar.gz,然后解压安装
#tar zxvf keepalived-1.1.15.tar.gz
#cd keepalived-1.1.15
#./configure
#make
#make install
2, 配置 keepalived
配置中的 state MASTER 决定了节点为主节点
priority 决定了优先级,比如在有多个备用节点的时候,主节点故障后优先级值大的接管。
主节点的配置如下:

global_defs {  
    router_id NodeA  
}  
vrrp_instance VI_1 {  
    state MASTER    # 设置为主服务器  
    interface eth0  # 监测网络接口  
    virtual_router_id 51  # 主、备必须一样  
    priority 100   #(主、备机取不同的优先级,主机值较大,备份机值较小, 值越大优先级越高)  
    advert_int 1   #VRRP Multicast 广播周期秒数  
    authentication {  
    auth_type PASS  #VRRP 认证方式,主备必须一致  
    auth_pass 1111   #(密码)  
}  
virtual_ipaddress {  
    192.168.8.100/24  #VRRP HA 虚拟地址  
}

备用节点的配置如下:

global_defs {  
    router_id NodeB  
}  
vrrp_instance VI_1 {  
    state BACKUP    # 设置为主服务器  
    interface eth0  # 监测网络接口  
    virtual_router_id 51  # 主、备必须一样  
    priority 90   #(主、备机取不同的优先级,主机值较大,备份机值较小, 值越大优先级越高)  
    advert_int 1   #VRRP Multicast 广播周期秒数  
    authentication {  
    auth_type PASS  #VRRP 认证方式,主备必须一致  
    auth_pass 1111   #(密码)  
}  
virtual_ipaddress {  
    192.168.8.100/24  #VRRP HA 虚拟地址  
}

3, 启动 keepalived:
keepalived -D -f /usr/local/etc/keepalived/keepalived.conf
查看 log 消息:
tail -f /var/log/messages
启动主节点 A 后的日志为: 会广播 ARP 消息

[[email protected] ~]# tail -f /var/log/messages  
Sep 20 01:45:29 srv4 Keepalived_vrrp: Configuration is using : 34546 Bytes  
Sep 20 01:45:29 srv4 Keepalived_vrrp: VRRP sockpool: [ifindex(2), proto(112), fd(8,9)]  
Sep 20 01:45:30 srv4 Keepalived_vrrp: VRRP_Instance(VI_1) Transition to MASTER STATE  
Sep 20 01:45:31 srv4 Keepalived_vrrp: VRRP_Instance(VI_1) Entering MASTER STATE  
Sep 20 01:45:31 srv4 Keepalived_vrrp: VRRP_Instance(VI_1) setting protocol VIPs.  
Sep 20 01:45:31 srv4 Keepalived_vrrp: VRRP_Instance(VI_1) Sending gratuitous ARPs on eth0 for 192.168.8.100  
Sep 20 01:45:31 srv4 Keepalived_vrrp: Netlink reflector reports IP 192.168.8.100 added  
Sep 20 01:45:31 srv4 Keepalived_healthcheckers: Netlink reflector reports IP 192.168.8.100 added  
Sep 20 01:45:31 srv4 avahi-daemon[4029]: Registering new address record for 192.168.8.100 on eth0.  
Sep 20 01:45:36 srv4 Keepalived_vrrp: VRRP_Instance(VI_1) Sending gratuitous ARPs on eth0 for 192.168.8.100

通过 ip a 命令可以看到 192.168.8.100/24 绑定到了 eth0 上

[[email protected] bin]# ip a  
1: lo: <LOOPBACK,UP,LOWER_UP> mtu 16436 qdisc noqueue   
    link/loopback 00:00:00:00:00:00 brd 00:00:00:00:00:00  
    inet 127.0.0.1/8 scope host lo  
    inet6 ::1/128 scope host   
       valid_lft forever preferred_lft forever  
2: eth0: <BROADCAST,MULTICAST,UP,LOWER_UP> mtu 1500 qdisc pfifo_fast qlen 1000  
    link/ether 00:0c:29:50:2d:9d brd ff:ff:ff:ff:ff:ff  
    inet 192.168.8.4/24 brd 192.168.8.255 scope global eth0  
    inet 192.168.8.100/24 scope global secondary eth0  
    inet6 fe80::20c:29ff:fe50:2d9d/64 scope link   
       valid_lft forever preferred_lft forever

启动备用节点 B 后的日志为:

Sep 20 01:47:31 hadoopsrv Keepalived_vrrp: Configuration is using : 34262 Bytes  
Sep 20 01:47:31 hadoopsrv Keepalived_vrrp: VRRP_Instance(VI_1) Entering BACKUP STATE  
Sep 20 01:47:31 hadoopsrv Keepalived_vrrp: VRRP sockpool: [ifindex(2), proto(112), fd(7,8)]  
Sep 20 01:47:31 hadoopsrv Keepalived: Starting VRRP child process, pid=20567


4,在两台机器上安装 tomcat,安装步骤省略
安装完成后在节点 A 的机器上创建一个 html 文件内容如下

this is the test page  
<br>  
from server 192.168.8.4


通过下面的 url 验证能够正常访问
http://192.168.8.4:8080/test/test.html
安装完成后在节点 B 的机器上创建一个 html 文件内容如下

this is the test page  
<br>  
from server 192.168.8.6

通过下面的 url 验证能够正常访问
http://192.168.8.6:8080/test/test.html
在主节点,节点 A 正常的时候通过下面的 url 访问
192.168.8.100:8080/test/test.html
返回的内容应该为主节点上的 html

this is the test page  
<br>  
from server 192.168.8.4

将节点 A 的 keepalived 停止: killall keepalived
通过下面的 url 访问
192.168.8.100:8080/test/test.html
返回的内容应该为备用节点上的内容

this is the test page  
<br>  
from server 192.168.8.6


同时查看节点 B 的日志: 发现节点 B 转为主节点并且会广播 ARP 消息

Sep 20 01:55:44 hadoopsrv Keepalived_vrrp: VRRP_Instance(VI_1) Transition to MASTER STATE  
Sep 20 01:55:45 hadoopsrv Keepalived_vrrp: VRRP_Instance(VI_1) Entering MASTER STATE  
Sep 20 01:55:45 hadoopsrv Keepalived_vrrp: VRRP_Instance(VI_1) setting protocol VIPs.  
Sep 20 01:55:45 hadoopsrv Keepalived_vrrp: VRRP_Instance(VI_1) Sending gratuitous ARPs on eth0 for 192.168.8.100  
Sep 20 01:55:45 hadoopsrv avahi-daemon[3769]: Registering new address record for 192.168.8.100 on eth0.  
Sep 20 01:55:50 hadoopsrv Keepalived_vrrp: VRRP_Instance(VI_1) Sending gratuitous ARPs on eth0 for 192.168.8.100

本文的目的主要是演示 keepalived 实现双机热备的功能和过程。
对于应用本身 (tomcat) 发生错误,以及 "脑裂" 等问题是不能解决的。