目录
前言
一、LVS群集的应用基础
1.群集的类型
2.负载均衡的分层结构
3.负载均衡的工作模式
二、LVS虚拟服务器
1.LVS的负载调度算法
2.LVS的管理工具–ipvsadm
三、构建 LVS-NAT 负载均衡群集
1.准备案例环境
2.配置负载调度器
3.配置节点服务器
总结
前言
在各种互联网应用中,随着站点对硬件性能、响应速度、服务稳定性、数据可靠性等的要求越来越高,单台服务器将难以承担所有的访问。除了使用价格昂贵的大型机、专用负载分流设备以外,企业还有另外一种选择来解决问题。那就是用多台相对廉价的普通服务器来构建集群服务器,以同一个地址对外提供相同服务。
一、LVS群集的应用基础
根据企业实际环境的不同,集群所提供的功能也各不相同,采用的技术细节也可能各有千秋。然而从整体上来看,需要先了解一些关于集群的共性特征,这样才能在构建和维护的群集的工作中做到心中有数,避免操作的盲目性。
1.群集的类型
无论哪种群集,都至少包括两台节点服务器,而对外表现为一个整体,只提供一个访问入口(域名或IP系统),根据群集所针对的目标差异,可分为以下三种类型:
负载均衡群集:提高应用系统的响应能力、尽可能处理更多的访问请求、减少延迟为目标,获得高并发、高负载(LB)的整体性能。例如,“DNS轮询”“应用层交换”“反向代理”等都可用做负载均衡群集。LB的负载分配依赖于主节点的分流算法,将来自客户机的访问请求分担给多个服务器节点,从而缓解整个系统的负载。
高可用群集:提高应用系统的可靠性、尽可能地减少中断时间为目标,确保服务的连续性,达到高可用(HA)的容错效果。例如,“故障切换”“双机热备”等都是属于高可用群集技术。HA的工作方式包括双工和主从两种模式,双工即所有节点同时在线;主从则只有主节点在线,但当出现故障时从节点能自动切换为主节点。
高性能运算群集:以提高应用系统的CPU运算速度、扩展硬件资源和分析能力为目标,获得相当于大型、超级计算机的高性能运算(HPC)能力。例如,“云计算”“网格计算”也可视为高性能运算的一种。高性能依赖于"分布式运算”、“并行计算”,通过专用硬件和软件将多个服务器的CPU、内存等资源整合在一起,实现只有大型、超级计算机才具备的计算能力。
2.负载均衡的分层结构
在典型的负载均衡群集中,包括三个层次的组件,前端至少有一个负载调度器(Load Balancer,或称为 Director)负责响应并分发来自客户端的访问请求。后端由大量真实服务器(Real Server)构成服务器池(Server Pool),提供实际的应用服务,整个群集的伸缩性通过增加、删除服务器节点来完成,而这些过程对客户机是透明的。为了保持服务的一致性,所有节点统一使用共享存储设备。
第一层,负载调度器:访问整个群集系统的唯一入口,对外使用所有服务器共有的 VIP(Virtual IP,虚拟 IP)地址,也称为群集 IP 地址。通常会配置主、备两台调度器实现热备份,当主调度器失效以后能够平滑替换至备用调度器,确保高可用性。
第二层,服务器池:群集所提供的应用服务(如 HTTP、FTP)、由服务器池承担,其中每个节点具有独立的 RIP 地址(Real IP,真实 IP),只处理调度器分发过来的客户机请求。当某个节点暂时失效时,负载调度器的容错机制会将其隔离,等待错误排除以后再重新纳入服务器池。
第三层,共享存储:为服务器池中的所有节点提供稳定、一致的文件存取服务, 确保整个群集的统一性。共享存储可以使用 NAS 设备,或者提供 NFS(Network File System,网络文件系统) 共享服务的专用服务器。
3.负载均衡的工作模式
关于群集的负载调度技术,可以基于 IP、端口、内容等进行分发,其中基于 IP 的负载调度是效率最高的。基于 IP 的负载均衡中,常见的有地址转换、IP 隧道和直接路由三种工作模式:
地址转换:简称 NAT 模式,类似于防火墙的私有网络结构,负载调度器作为所有服务器节点的网关,即作为客户机的访问入口,也是各节点回应客户机的访问出口。服务器节点使用私有 IP 地址,与负载调度器位于同一个物理网络,安全性要优于其他两种方式。
IP隧道:简称 TUN 模式,采用开放式的网络结构,负载调度器仅作为客户机的访问入口,各节点通过各自的 Internet 连接直接回应客户机,而不再经过负载调度器。服务器节点分散在互联网中的不同位置,具有独立的公网 IP 地址,通过专用 IP 隧道与负载调度器相互通信。
直接路由:简称 DR 模式,采用半开放式的网络结构,与 TUN 模式的结构类似,但各节点并不是分散在各地,而是与调度器位于同一个物理网络。负载调度器与各节点服务器通过本地网络连接,不需要建立专用的 IP 隧道。
| 工作模式 | NAT模式 | TUN模式 | DR模式 |
| 服务器数量 | low 10~20 | high 100 | high 100 |
| 真实网关 | 负载调度器 | 自由路由器 | 自由路由器 |
| IP地址 | 公网+私网 | 公网 | 私网 |
| 优点 | 安全性高 | 安全、速度快 | 性能最好 |
| 缺点 | 效率低、压力大 | 需要隧道支持 | 不能跨越lan(局域网) |
二、LVS虚拟服务器
LVS 实际上相当于基于IP地址的虚拟化应用,为基于 IP 地址和内容请求分发的负载均衡提出了一种高效的解决方法。LVS 现在已成为 Linux 内核的一部分,默认编译为 ip_vs 模块,必要时能够自动调用。在 CentOS 7 系统中,以下操作可以手动加载 ip_vs 模块,并查看当前系统中 ip_vs 模块的版本信息。
1.LVS的负载调度算法
针对不同的网络服务和配置需要,LVS 调度器提供多种不同的负载调度算法,其中最常见的四种算法包括轮询、加权轮询、最少连接和加权最少连接。
轮询:将收到的访问请求按照顺序轮流分配给群集中的各节点(真实服务器)。均等地对待每一台服务器 ,而不管服务器实际的连接数和系统负载。
加权轮询:根据真实服务器的处理能力轮流分配收到的访问请求。调度器可以自动查询各节点的负载情况,并动态调整其权重。这样可以保证处理能力强的服务器承担更多的访问流量。
最少连接:根据真实服务器已建立的连接数进行分配。将收到的访问请求优先分配给连接数最少的节点。如果所有的服务器节点性能相近,采用这种方式可以更好的均衡负载。
加权最小连接:在服务器节点的性能差异较大时,可以为真实服务器自动调整权重。权重较高的节点将承担更大比例的活动连接负载。
2.LVS的管理工具–ipvsadm
ipvsadm 是在负载调度器上使用的 LVS 群集管理工具,通过调用 ip_vs 模块来添加、删除服务器节点,以及查看群集的运行状态。
[root@localhost ~]# yum install -y ipvsadm [root@localhost ~]# ipvsadm -v ipvsadm v1.27 2008/5/15 (compiled with popt and IPVS v1.2.1)
ipvsadm工具选项说明
-A 添加虚拟服务器 -D 删除整个虚拟服务器 -s 指定负载调度算法 (轮询:rr、加权轮询: wrr、最少连接: lc、加权最少连接: wlc ) -a 表示添加真实服务器 (节点服务器) -d 删除某一个节点 -t 指定 VIP地址及 TCP端口 -r 指定 RIP地址及 TCP端口 -m 表示使用 NAT群集模式. -g 表示使用 DR模式 -i 表示使用 TUN模式 -w 设置权重 (权重为 0 时表示暂停节点) -p 60表示保持长连接60秒 -l 列表查看 LVS 虚拟服务器 (默认为查看所有) -n 以数字形式显示地址、端口等信息,常与 “-l” 选项组合使用;ipvsadm -ln
(1) 创建虚拟服务器
若群集的VIP地址为192.168.196.147,针对TCP 80端口提供负载分流服务,使用的调度算法为轮询,则对应的ipvsadm命令操作如下
[root@localhost ~]# ipvsadm -A -t 192.168.196.147:80 -s rr
(2) 添加服务器节点
为虚拟服务器172.168.196.147添加一个节点,IP地址为192.168.196.100,对应的ipvsadm命令操作如下
[root@localhost ~]# ipvsadm -a -t 192.168.196.147:80 -r 192.168.196.100 -m -w 1
(3) 查看群集节点状态
结合选项 -l 可以查看LVS虚拟服务器,可以指定只查看某一个VIP地址(默认为查看所有),结合选项 -n 将以数字形式显示地址、端口等信息。
(4) 删除服务器节点
需要从服务器池中删除某一个节点时,执行删除操作必须指定目标对象,包括节点地址、虚拟IP地址。
[root@localhost ~]# ipvsadm -d -r 192.168.196.100:80 -t 192.168.196.147:80
(5) 保存负载分配策略
使用导出 / 导入工具 ipvsadm-save/ipvsadm-restore 可以保存、恢复LVS策略,操作方法类似于iptables规则的导出、导入。通过系统服务 ipvsadm 也可以保存策略。
三、构建 LVS-NAT 负载均衡群集
1.准备案例环境
在 NAT 模式的群集中,LVS 负载调度器是所有节点访问 Internet 的网关服务器,同时也作为整个群集的 VIP 地址。LVS 调度器具有两块网卡,分别连接内外网。
2.配置负载调度器
[root@localhost ~]# systemctl stop firewalld
[root@localhost ~]# systemctl disable firewalld
[root@localhost ~]# setenforce 0
配置SNAT转发规则
[root@localhost ~]# vim /etc/sysctl.conf ... net.ipv4.ip_forward = 1 [root@localhost ~]# sysctl -p
[root@localhost ~]# systemctl start firewalld.service #启动防火墙 [root@localhost ~]# iptables -t nat -F #清空nat的规则链 [root@localhost ~]# iptables -F #清空规则链 [root@localhost ~]# iptables -t nat -A POSTROUTING -s 192.168.128.0/24 -o ens37 -j SNAT --to-source 192.168.100.128
加载LVS内核模块
[root@localhost ~]# modprobe ip_vs
安装ipvsadm管理工具
[root@localhost ~]# yum -y install ipvsadm [root@localhost ~]# ipvsadm-save > /etc/sysconfig/ipvsadm [root@localhost ~]# systemctl start ipvsadm.service
配置负载分配策略
[root@localhost ~]# ipvsadm -C #清除原有策略 [root@localhost ~]# ipvsadm -A -t 192.168.100.128:80 -s rr [root@localhost ~]# ipvsadm -a -t 192.168.100.128:80 -r 192.168.128.130:80 -m -w 1 [root@localhost ~]# ipvsadm -a -t 192.168.100.128:80 -r 192.168.128.150:80 -m -w 1 [root@localhost ~]# ipvsadm #启动策略 [root@localhost ~]# ipvsadm-save > /etc/sysconfig/ipvsadm #保存策略
3.配置节点服务器
所有的节点服务器均使用形同的配置,包括httpd服务端口、网站文档内容。实际上各节点网站文档可存放在共享存储设备中,从而免去同步的过程。但在案例中调试阶段可以为各节点采用不同网页,以便测试负载均衡效果。
安装httpd,创建测试网页
[root@localhost ~]# yum install -y httpd [root@localhost html]# vim /var/www/html/index.html this is httpd1 web... [root@localhost html]# systemctl start httpd
[root@localhost ~]# yum install -y httpd [root@localhost html]# vim /var/www/html/index.html this is httpd2 web... [root@localhost html]# systemctl start httpd
网页测试效果
总结常见的群集类型包括负载均衡群集、高可用群集和高性能运算群集。
负载均衡群集的工作模式:地址转换(NAT)模式、IP隧道(TUN)模式和直接路由(DR)模式。
LVS负载均衡的常用调度算法:轮询(RR)、加权轮询(WRR)、最少连接(LC)和加权最少连接(WLC)。
ipvsadm工具可用来配置LVS负载调度器和管理群集节点。



