- 写在前面
- 概述
- Ribbon配置
- 配置方式
- 负载均衡策略介绍
- 自定义、设置负载均衡策略
- 重试机制
- 单独使用Ribbon
因为想要记录学习spring cloud时关键组件的关键知识,以作回望,加深印象。文章内容含有摘抄引用其他网络资料。
概述Ribbon 是 Netflix 提供的一个基于 Http 和 TCP 的客户端负载均衡工具,且已集成在 Eureka 依赖中。Ribbon 一般应用在分布式服务的客户端中,也可以单独使用。
Ribbon配置Ribbon是Netflix发布的开源项目,主要功能是提供客户端的软件负载均衡算法,将Netflix的中间层服务连接在一起。Ribbon客户端组件提供一系列完善的配置项如连接超时,重试等。简单的说,就是在配置文件中列出Load
Balancer(简称LB)后面所有的机器,Ribbon会自动的帮助你基于某种规则(如简单轮询,随即连接等)去连接这些机器。我们也很容易使用Ribbon实现自定义的负载均衡算法。目前主流的LB方案可分成两类:一种是集中式LB, 即在服务的消费方和提供方之间使用独立的LB设施(可以是硬件,如F5,
也可以是软件,如nginx),
由该设施负责把访问请求通过某种策略转发至服务的提供方;另一种是进程内LB,将LB逻辑集成到消费方,消费方从服务注册中心获知有哪些地址可用,然后自己再从这些地址中选择出一个合适的服务器。Ribbon就属于后者,它只是一个类库,集成于消费方进程,消费方通过它来获取到服务提供方的地址。
eureka提供默认的负载均衡配置类org.springframework.cloud.netflix.ribbon.RibbonClientConfiguration.class,其中会通过@Bean向spring容器注入相关对象,涵盖负载均衡所有的默认配置。
配置方式主要有两种配置方式。
-
其一是自定义Configaration类
通过自定义配置类并覆盖默认RibbonClientConfiguration配置类中的配置项来实现自定义相关配置。
需要注意的是,自定义的Configuration类如果建在SpringBootApplication同级或同级以下的目录中,将会应用与所有对外服务的请求。@Configuration public class MyRibbonClientConfiguration { }可以在启动类上使用@RibbonClients注解来为当前微服务指定全局默认的配置类,或为特定的其他微服务指定自定义的配置类:
@SpringBootApplication @EnableEurekaClient @EnableFeignClients @RibbonClients( defaultConfiguration = {RibbonClientConfiguration.class},//可以配置多个class,不应又重复配置项 value = { @RibbonClient(name = "target-app1",configuration = {MyRibbonClientConfiguration.class}),//可以配置多个class,不应又重复配置项 @RibbonClient(name = "target-app2",configuration = {MyRibbonClientConfiguration.class}),//可以配置多个class,不应又重复配置项 } ) public class ConsumerApplication { @Bean @LoadBalanced RestTemplate restTemplate() { return new RestTemplate(); } public static void main(String[] args) { new SpringApplicationBuilder(ConsumerApplication.class).web(true).run(args); } } -
yaml中指定配置参数,放在ribbon配置下则为全局默认,放在target-app.ribbon下则为指定服务设置
#全局配置 ribbon: #单位ms,请求连接超时时间 ConnectTimeout: 120000 #单位ms,请求处理的超时时间 ReadTimeout: 600000 #对当前实例的重试次数 MaxAutoRetries: 1 #切换实例的重试次数 MaxAutoRetriesNextServer: 1 #刷新服务列表的时间,仅当从注册中心获取服务列表时有效 ServerListRefreshInterval: 2000 # 是否对所有操作都进行重试,,默认为true,选择false的话,可以只对GET方法实行重试 OkToRetryOnAllOperations: false #预加载配置,默认为懒加载,enabled设置为true则关闭懒加载 eager-load: enabled: true #对指定服务关闭懒加载(服务列表) clients: target-app1,target-app2 #作用未知 #secure-ports: target-app1: ribbon: #负载均衡策略 NFLoadBalancerRuleClassName: com.netflix.loadbalancer.RandomRule #单位ms,请求连接超时时间 ConnectTimeout: 120000 #单位ms,请求处理的超时时间 ReadTimeout: 600000 # 是否对所有操作都进行重试,,默认为true,选择false的话,可以只对GET方法实行重试 OkToRetryOnAllOperations: false #对当前实例的重试次数 MaxAutoRetries: 0 #切换实例的重试次数 MaxAutoRetriesNextServer: 0
首先需要了解ribbon支撑哪些负载均衡策略
| 策略名 | 策略声明 | 策略描述 | 实现说明 |
|---|---|---|---|
| BestAvailableRule | public class BestAvailableRule extends ClientConfigEnabledRoundRobinRule | 选择一个最小的并发请求的server | 逐个考察Server,如果Server被tripped了,则忽略,在选择其中ActiveRequestsCount最小的server |
| AvailabilityFilteringRule | public class AvailabilityFilteringRule extends PredicateBasedRule | 过滤掉那些因为一直连接失败的被标记为circuit tripped的后端server,并过滤掉那些高并发的的后端server(active connections 超过配置的阈值 | 使用一个AvailabilityPredicate来包含过滤server的逻辑,其实就就是检查status里记录的各个server的运行状态 |
| WeightedResponseTimeRule | public class WeightedResponseTimeRule extends RoundRobinRule | 根据相应时间分配一个weight,相应时间越长,weight越小,被选中的可能性越低 | 一 个后台线程定期的从status里面读取评价响应时间,为每个server计算一个weight。Weight的计算也比较简单responsetime 减去每个server自己平均的responsetime是server的权重。当刚开始运行,没有形成statas时,使用roubine策略选择 server |
| RetryRule | public class RetryRule extends AbstractLoadBalancerRule | 对选定的负载均衡策略机上重试机制 | 在一个配置时间段内当选择server不成功,则一直尝试使用subRule的方式选择一个可用的server |
| RoundRobinRule | public class RoundRobinRule extends AbstractLoadBalancerRule | roundRobin方式轮询选择server | 轮询index,选择index对应位置的server |
| RandomRule | public class RandomRule extends AbstractLoadBalancerRule | 随机选择一个server | 在index上随机,选择index对应位置的server |
| ZoneAvoidanceRule | public class ZoneAvoidanceRule extends PredicateBasedRule | 复合判断server所在区域的性能和server的可用性选择server | 使 用ZoneAvoidancePredicate和AvailabilityPredicate来判断是否选择某个server,前一个判断判定一个 zone的运行性能是否可用,剔除不可用的zone(的所有server),AvailabilityPredicate用于过滤掉连接数过多的 Server |
在了解ribbon的常规配置方式和支持的均衡策略之后,我们不难为服务设置负载均衡策略。
按照方式一,可以自定义Configuration类来实现,根本上,这只是向spring容器提供一个Bean以供使用。然后使用 @RibbonClient注解来为某个或某些服务指定该配置,或者将之设置为访问所有服务时默认的策略。
import com.netflix.loadbalancer.RandomRule;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;
@Configuration
public class MyRibbonClientConfiguration {
@Bean
public RandomRule createRule(){
return new RandomRule();
}
}
按照方式二,直接为请求的服务(演示案例为target-app1)设置即可
target-app1:
ribbon:
NFLoadBalancerRuleClassName: com.netflix.loadbalancer.RandomRule
*上面我们使用的是ribbon自带的几个负载均衡策略之一,实际上我们可以自定义负载均衡策略并使用之,这在实际生产中常常用到。
import com.netflix.client.config.IClientConfig;
import com.netflix.loadbalancer.AbstractLoadBalancerRule;
import com.netflix.loadbalancer.ILoadBalancer;
import com.netflix.loadbalancer.Server;
import org.springframework.util.ObjectUtils;
import java.util.List;
public class MyLoadbalanceRule extends AbstractLoadBalancerRule {
@Override
public void initWithNiwsConfig(IClientConfig iClientConfig) {
//可以什么都不做
}
@Override
public Server choose(Object o) {
ILoadBalancer loadBalancer = getLoadBalancer();
if(ObjectUtils.isEmpty(loadBalancer)){
return null;
}
Server server = null;
//激活可用的服务
List upList = loadBalancer.getReachableServers();
//所有的服务
List allList = loadBalancer.getAllServers();
return server;
}
}
重试机制
需要额外引入依赖
org.springframework.retry spring-retry
yaml中开启重试开关
spring:
cloud:
loadbalancer:
retry:
enabled: true # 开启Spring Cloud的重试功能
ribbon: # 是否对所有操作都进行重试,,默认为true,选择false的话,可以只对GET方法实行重试 OkToRetryOnAllOperations: false #对当前实例的重试次数 MaxAutoRetries: 0 #切换实例的重试次数 MaxAutoRetriesNextServer: 0 #对哪些返回的response编码做重试 retryableStatusCodes: 404,502单独使用Ribbon
要想单独使用Ribbon,则须要为目标服务手动指定服务列表
target-app:
ribbon:
listOfServers: localhost1:8010,localhost2:8010



