现在的位置: 首页 > 综合 > 正文

Haproxy+KeepAlived 负载均衡

2013年10月21日 ⁄ 综合 ⁄ 共 6075字 ⁄ 字号 评论关闭

软件负载均衡一般通过两种方式来实现:基于操作系统的软负载实现和基于第三方应用的软负载实现。LVS就是基于Linux操作系统实现的一种软负载,HAProxy就是开源的并且基于第三应用实现的软负载。还可以使用nginx来实现,不过nginx只工作在7层网络之上。详细请参考抚琴煮酒写的“软件级负载均衡器(LVS/HAProxy/Nginx)的特点简介和对比”这篇文章,简单很详细,很好。

HAProxy相比LVS的使用要简单很多,功能方面也很丰富。当 前,HAProxy支持两种主要的代理模式:"tcp"也即4层(大多用于邮件服务器、内部协议通信服务器等),和7层(HTTP)。在4层模式 下,HAProxy仅在客户端和服务器之间转发双向流量。7层模式下,HAProxy会分析协议,并且能通过允许、拒绝、交换、增加、修改或者删除请求 (request)或者回应(response)里指定内容来控制协议,这种操作要基于特定规则。

我现在用HAProxy主要在于它有以下优点,这里我总结下:

一、免费开源,稳定性也是非常好,这个可通过我做的一些小项目可以看出来,单Haproxy也跑得不错,稳定性可以与LVS相媲美;

二、根据官方文档,HAProxy可以跑满10Gbps-New benchmark of HAProxy at 10 Gbps using Myricom's 10GbE NICs (Myri-10G PCI-Express),这个作为软件级负载均衡,也是比较惊人的;

三、HAProxy可以作为MySQL、邮件或其它的非web的负载均衡,我们常用于它作为MySQL(读)负载均衡;

自带强大的监控服务器状态的页面,实际环境中我们结合Nagios进行邮件或短信报警,这个也是我非常喜欢它的原因之一;

HAProxy支持虚拟主机。

1.实验环境

系统版本:CentOS release 5.9 (Final) x86 32位
HAProxy版本:1.4.8
Keepalived版本:1.2.4
 

MASTER_IP:192.168.207.130  
BACKUP_IP:192.168.207.131 
 
VIP:192.168.207.141  
WEB_1:192.168.207.129 80端口  
WEB_2:192.168.207.130 8080端口
WEB_3:192.168.207.131 8080端口

iptables和selinux都关掉

2.Haproxy安装

cd /usr/local/src
mkdir haproxy
cd haproxy
wget http://haproxy.1wt.eu/download/1.4/src/haproxy-1.4.8.tar.gz
tar xf haproxy-1.4.8.tar.gz
cd haproxy-1.4.8
make TARGET=linux26;make install
#这里你也可以这样写make TARGET=linux26 --prefix=/usr/local/haproxy,给haproxy安装添加个路径

写haproxy的配置文件,主从都一样的,都用这个配置文件

useradd haproxy
vi /etc/haproxy.cfg

内容如下:

global
            log 127.0.0.1   local0       #这个是日志
            maxconn 65535  
            user haproxy
            group haproxy
            daemon                      #以后台进程的方式打开
            nbproc 8                    #haproxy的进程数
            pidfile /tmp/haproxy.pid

defaults
             log     127.0.0.1       local3
             mode   http
             option httplog
             option httpclose
             option dontlognull
             option forwardfor
             option redispatch
             retries 2
             maxconn 65535
             balance roundrobin                         #为了更好的观察出结果,这里就用roundrobin简单轮训,source算法了
             stats   uri     /web-status                #这个是管理的url地址,配好后,只要输入http://ip或者VIP/web-status就可以访问了
             contimeout      5000
             clitimeout      50000
             srvtimeout      50000

listen  web_vip 0.0.0.0:80              #这里也要注意千万不要绑定VIP地址,keepalived主服务器还可以,但是备份服务器是不行的,因为只有keepalived是主的时候,才会在此服务器上设定VIP,所以咯,就用0.0.0.0吧
            mode http
            option httplog
            log global
            option httpchk HEAD /index.html HTTP/1.0        #这里呢,你得在三台web服务器上分别建立个index.html页面,可以添加不同的内容,给待会测试用,内容分别填写129:80,130:8080,131:8080好了,如果没有,haproxy会认为对应的web服务器挂掉了。
            server web1  192.168.207.129:80   weight 5  check inter 2000 rise 2 fall 3
            server web2  192.168.207.130:8080 weight 5  check inter 2000 rise 2 fall 3
            server web3  192.168.207.131:8080 weight 5  check inter 2000 rise 2 fall 3

这个说一下啊,如果不懂haproxy的配置参数呢,可以到http://cbonte.github.io/haproxy-dconv/configuration-1.4.html这里

搜索一下关键词,就有解释了,挺方便的,不过是英文,嗯,你自己看着办吧

这里还说一下啊,HAProxy的算法现在也越来越多了,具体有如下8种:
①roundrobin,表示简单的轮询,这个不多说,这个是负载均衡基本都具备的;
②static-rr,表示根据权重,建议关注;
③leastconn,表示最少连接者先处理,建议关注;
④source,表示根据请求源IP,这个跟Nginx的IP_hash机制类似,我们用其作为解决session问题的一种方法,建议关注;
⑤ri,表示根据请求的URI;
⑥rl_param,表示根据请求的URl参数'balance url_param' requires an URL parameter name;
⑦hdr(name),表示根据HTTP请求头来锁定每一次HTTP请求;
⑧rdp-cookie(name),表示根据据cookie(name)来锁定并哈希每一次TCP请求。

在web服务器都打开的情况下,运行

haproxy -f /etc/haproxy.cfg

这是后已经是个haproxy+3个web的负载均衡模式了

可以再浏览器上输入http://haproxy_ip地址 来感受一下haproxy的运行方式

在url加上/web-status就可以访问管理界面了

3.安装keepalived

wget http://www.keepalived.org/software/keepalived-1.2.4.tar.gz
tar -zxvf keepalived-1.2.4.tar.gz
cd keepalived-1.2.4
./configure --prefix=/usr/local/keepalived
make && make install

cp /usr/local/keepalived/etc/rc.d/init.d/keepalived /etc/init.d/keepalived
cp /usr/local/keepalived/sbin/keepalived /usr/sbin/
cp /usr/local/keepalived/etc/sysconfig/keepalived /etc/sysconfig/
mkdir -p /etc/keepalived/
cp /usr/local/keepalived/etc/keepalived/keepalived.conf /etc/keepalived/keepalived.conf 
chmod +x /etc/init.d/keepalived

写keepalived的配置文件

vi /etc/keepalived/keepalived.conf

内容如下:

# Configuration File for keepalived  

global_defs {
   router_id LVS_DEVEL
}


vrrp_script chk_http_port {
     script "/etc/keepalived/checkHaproxy.sh"
     interval 2
     weight 2
}

vrrp_instance VI_1 {
    state MASTER                #从keepalived这里改成BACKUP
    interface eth0
    virtual_router_id 51
    priority 104                #从keepalived这里改成100吧,只要从比主小就行,数字是从0~255,数字越大权重越大
    advert_int 1
    authentication {
        auth_type PASS
        auth_pass 1111
    }
    track_script {
        chk_http_port
    }
    virtual_ipaddress {
        192.168.207.141
    }
} 

几个注意点:

1. /etc/keepalived/checkHaproxy.sh 一定要加上可执行权限,例如chmod +x /etc/keepalived/checkHaproxy.sh

2. 配置文件写正规些吧,大括号{},要与前面的关键字留有一个空格

写/etc/keepalived/checkHaproxy.sh脚本,如下:

#!/bin/bash
A=`ps -C haproxy --no-header | wc -l`
if [ $A -eq 0 ];then
        /usr/local/sbin/haproxy -f /etc/haproxy.cfg
        echo "Haproxy start"
        sleep 3
        if [ `ps -C haproxy --no-header | wc -l` -eq 0 ];then
                /etc/init.d/keepalived stop
                echo "keepalived stop"
        fi
fi

意思就是先检查haproxy是否启动,如果没有先启动haproxy进程,启动不了则关闭keepalived进程,那边从keepalived,将立马编程主进程,继续工作

这个脚本可以自己写啦,还是挺简单的

4.打开服务,验证

其实就是把3个web服务打开

让后在打开两个主从keepalived服务器,而且keepalived会自动打开haproxy服务的,因为有/etc/keepalived/checkHaproxy.sh吗,哈哈

都打开后,访问http://192.168.207.141就可以轮回访问3个web服务器的内容啦

所以服务打开后,可以在主keepalived上运行

ip addr

将会看到eth0多了个VIP的虚拟地址

为了了解keepalived的作用呢

先把主服务器的keepalived给关掉

/etc/init.d/keepalived stop

查看从keepalived的/var/log/messages日志,可以看到

Apr 18 12:20:23 localhost Keepalived_vrrp: VRRP_Instance(VI_1) Transition to MASTER STATE
Apr 18 12:20:24 localhost Keepalived_vrrp: VRRP_Instance(VI_1) Entering MASTER STATE
Apr 18 12:20:24 localhost Keepalived_vrrp: VRRP_Instance(VI_1) setting protocol VIPs.
Apr 18 12:20:24 localhost Keepalived_vrrp: VRRP_Instance(VI_1) Sending gratuitous ARPs on eth0 for 192.168.207.141
Apr 18 12:20:24 localhost Keepalived_vrrp: Netlink reflector reports IP 192.168.207.141 added
Apr 18 12:20:24 localhost Keepalived_healthcheckers: Netlink reflector reports IP 192.168.207.141 added
Apr 18 12:20:24 localhost avahi-daemon[4208]: Registering new address record for 192.168.207.141 on eth0.

是的吧,访问http://192.168.207.141呢,还是正常访问,

在把主keepalived服务打开,就可以看到

Apr 18 12:20:29 localhost Keepalived_vrrp: VRRP_Instance(VI_1) Sending gratuitous ARPs on eth0 for 192.168.207.141
Apr 18 12:21:07 localhost Keepalived_vrrp: VRRP_Instance(VI_1) Received higher prio advert
Apr 18 12:21:07 localhost Keepalived_vrrp: VRRP_Instance(VI_1) Entering BACKUP STATE
Apr 18 12:21:07 localhost Keepalived_vrrp: VRRP_Instance(VI_1) removing protocol VIPs.
Apr 18 12:21:07 localhost Keepalived_vrrp: Netlink reflector reports IP 192.168.207.141 removed
Apr 18 12:21:07 localhost Keepalived_healthcheckers: Netlink reflector reports IP 192.168.207.141 removed
Apr 18 12:21:07 localhost avahi-daemon[4208]: Withdrawing address record for 192.168.207.141 on eth0.

这里附上haproxy管理页面的图片,以及一个小实验

访问http://192.168.207.141/web-status,可以看到如下画面

可以看到后端的3个web服务器都是好的,

这时候呢,我把web3的web服务给关了,因为我用的是apache,所以直接运行service httpd stop

然后可以看到

明白了,然后访问http://192.168.207.141也不会出现web的index.html页面了

ok,搞定了,实践亲测,祝君成功

抱歉!评论已关闭.