1. Hystrix 1.1 为什么引入HystrixB站尚硅谷P47~P64
代码Gitee地址
以上次博客的eureka集群作为注册中心来演示。
虽然豪猪哥已经停止更新了,但设计理念非常优秀。
- 服务雪崩
多个微服务之间调用的时候,假设微服务A调用微服务B和微服务C,B和C又调用其它的微服务,这就是所谓的“扇出”。如果扇出的链路上某个微服务的调用响应时间过长或者不可用,对微服务A的调用就会占用越来越多的系统资源,进而引起系统崩溃,所谓的“雪崩效应”。
对于高流量的应用来说,单一的后端依赖可能会导致所有服务器上的所有资源在几秒内饱和。更严重的是,这些引用程序还可能导致服务之间的延迟增加,备份队列,线程和其它系统资源紧张,导致整个系统发生更多的级联故障。这些都表示需要对故障和延迟隔离和管理,以便单个依赖关系的失败,不能取消整个应用程序或系统。
Hystrix是一个用于分布式系统的延迟和容错的开源库,在分布式系统里,许多依赖不可避免的会调用失败,比如超时、异常等,Hystrix能够保证在一个依赖出问题的情况下,不会导致整体服务失败,避免级联故障,以提高分布式系统的弹性。
当微服务的某个服务单元发生故障之后,通过断路器的故障监控,向调用的方法返回一个符合预期的、可处理的备选响应,而不是长时间的等待或抛出调用方法无法处理的异常,这样就保证了服务调用方的线程不会被长时间、不必要的占用,从而避免了故障在分布式系统的蔓延。
- 作用:
- 服务降级;
- 服务熔断;
- 接近实时的监控;
- 服务降级(fallback):当前单元无法处理调用方法,向调用方法返回一个预期且可备选的响应方案。
触发服务降级的情况:- 程序运行异常;
- 超时;
- 服务熔断触发服务降级;
- 线程池/信号量打满。
- 服务熔断(break):达到最大访问量时,直接拒绝访问,通过服务降级的方法返回友好提示。
- 服务限流(flowlimit):对于高并发的操作,使其排队,有序的进行。
这里以之前博客的eureka集群作为注册中心来搭建。
-
新建moudle:cloud-provider-hystrix-payment8001
-
依赖:
org.springframework.cloud spring-cloud-starter-netflix-hystrix org.springframework.cloud spring-cloud-starter-netflix-eureka-client org.example cloud-api-commons 1.0-SNAPSHOT org.springframework.boot spring-boot-starter-web org.springframework.boot spring-boot-starter-actuator org.projectlombok lombok true org.springframework.boot spring-boot-starter-test test -
配置文件:
server: port: 8001 spring: application: name: cloud-provider-hystrix-payment eureka: client: register-with-eureka: true fetch-registry: true service-url: defaultZone: http://eureka7001.com:7001/eureka,http://eureka7002.com:7002/eureka -
主启动类:
@SpringBootApplication @EnableEurekaClient public class PaymentHystrixMain8001 { public static void main(String[] args) { SpringApplication.run(PaymentHystrixMain8001.class,args); } } -
service:模拟了正常情况调用和用时多情况调用。
@Service public class PaymentService { public String paymentInfoOK(Integer id) { return "线程池: " + Thread.currentThread().getName() + " paymentInfoOK,id: " + id; } public String paymentInfoTimeOut(Integer id){ int time = 3; try { TimeUnit.SECONDS.sleep(time); } catch (InterruptedException e) { e.printStackTrace(); } return "线程池: " + Thread.currentThread().getName() + " paymentInfoTimeOut,id: " + id + "耗时"+ time +"秒"; } } -
controller:
@Slf4j @RestController @RequestMapping("/payment") public class PaymentController { @Autowired private PaymentService paymentService; @Value("${server.port}") private String serverPort; @GetMapping("/hystrix/ok/{id}") public String paymentInfoOK(@PathVariable("id") Integer id) { String result = paymentService.paymentInfoOK(id); log.info("result: " + result); return result; } @GetMapping("/hystrix/timeout/{id}") public String paymentInfoTimeOut(@PathVariable("id") Integer id) { String result = paymentService.paymentInfoTimeOut(id); log.info("result: " + result); return result; } }
服务降级一般用在消费端。
-
新建module:cloud-consumer-feign-hystrix-order80
-
依赖:
org.springframework.cloud spring-cloud-starter-netflix-hystrix org.springframework.cloud spring-cloud-starter-openfeign org.springframework.cloud spring-cloud-starter-netflix-eureka-client org.example cloud-api-commons 1.0-SNAPSHOT org.springframework.boot spring-boot-starter-web org.springframework.boot spring-boot-starter-actuator org.springframework.boot spring-boot-devtools org.projectlombok lombok true org.springframework.boot spring-boot-starter-test test -
配置文件:
server: port: 80 eureka: client: register-with-eureka: false # 不注册进eureka服务中心 service-url: defaultZone: http://eureka7001.com:7001/eureka/,http://eureka7002.com:7002/eureka/ -
主启动类
@SpringBootApplication @EnableFeignClients public class OrderHystrixOrder80 { public static void main(String[] args) { SpringApplication.run(OrderHystrixOrder80.class,args); } } -
service
@Service @FeignClient(value = "CLOUD-PROVIDER-HYSTRIX-PAYMENT") public interface PaymentHystrixService { @GetMapping("/payment/hystrix/ok/{id}") String paymentInfoOK(@PathVariable("id") Integer id); @GetMapping("/payment/hystrix/timeout/{id}") String paymentInfoTimeOut(@PathVariable("id") Integer id); } -
controller:
@Slf4j @RestController @RequestMapping("/consumer/payment") public class OrderHystrixController { @Autowired private PaymentHystrixService paymentHystrixService; @GetMapping("/hystrix/ok/{id}") public String paymentInfoOK(@PathVariable("id") Integer id) { return paymentHystrixService.paymentInfoOK(id); } @GetMapping("/hystrix/timeout/{id}") public String paymentInfoTimeOut(@PathVariable("id") Integer id) { return paymentHystrixService.paymentInfoTimeOut(id); } } -
启动测试:可以看到接口调用成功。
以两万个请求去高并发localhost:8001/payment/hystrix/timeout/1接口,显然会直接被耗死。这时访问localhost:8001/payment/hystrix/ok/1也会被拖慢。服务提供端8001自己都无法达到预期。
此时再访问localhost:80/consumer/payment/hystrix/ok/1接口,明显会拖慢80接口的速度,甚至会超时报错。
设置自身的超时时间峰值,并设置兜底方法,超时调用兜底方法作为降级fallback。
-
修改service:
@Service public class PaymentService { public String paymentInfoOK(Integer id) { return "线程池: " + Thread.currentThread().getName() + " paymentInfoOK,id: " + id; } // 指定出问题调用的兜底方法和超时时间 @HystrixCommand(fallbackMethod = "paymentInfoTimeOutHandler", commandProperties = {@HystrixProperty(name = "execution.isolation.thread.timeoutInMilliseconds", value = "3000")}) public String paymentInfoTimeOut(Integer id){ int time = 5; try { TimeUnit.SECONDS.sleep(time); } catch (InterruptedException e) { e.printStackTrace(); } return "线程池: " + Thread.currentThread().getName() + " paymentInfoTimeOut,id: " + id + "耗时"+ time +"秒"; } public String paymentInfoTimeOutHandler(Integer id){ return "线程池: " + Thread.currentThread().getName() + " paymentInfoTimeOutHandler,id: " + id + "超时兜底方法"; } } -
激活主启动类:
@SpringBootApplication @EnableEurekaClient @EnableCircuitBreaker public class PaymentHystrixMain8001 { public static void main(String[] args) { SpringApplication.run(PaymentHystrixMain8001.class,args); } } -
访问测试:可以看出直接调用的fallback方法。
-
再次修改service:
// 指定出问题调用的兜底方法和超时时间 @HystrixCommand(fallbackMethod = "paymentInfoTimeOutHandler", commandProperties = {@HystrixProperty(name = "execution.isolation.thread.timeoutInMilliseconds", value = "3000")}) public String paymentInfoTimeOut(Integer id){ int a = 10/0; return "线程池: " + Thread.currentThread().getName() + " paymentInfoTimeOut,id: " + id ; } -
访问测试:可以看出,当服务出现异常时也会主动调用fallback的方法。
-
修改配置文件:
server: port: 80 eureka: client: register-with-eureka: false # 不注册进eureka服务中心 service-url: defaultZone: http://eureka7001.com:7001/eureka/,http://eureka7002.com:7002/eureka/ feign: hystrix: enabled: true -
主启动类激活
@SpringBootApplication @EnableFeignClients @EnableHystrix public class OrderHystrixOrder80 { public static void main(String[] args) { SpringApplication.run(OrderHystrixOrder80.class,args); } } -
修改controller:
@Slf4j @RestController @RequestMapping("/consumer/payment") public class OrderHystrixController { @Autowired private PaymentHystrixService paymentHystrixService; @GetMapping("/hystrix/ok/{id}") public String paymentInfoOK(@PathVariable("id") Integer id) { return paymentHystrixService.paymentInfoOK(id); } @GetMapping("/hystrix/timeout/{id}") @HystrixCommand(fallbackMethod = "paymentInfoTimeOutHandler", commandProperties = {@HystrixProperty(name = "execution.isolation.thread.timeoutInMilliseconds", value = "3000")}) public String paymentInfoTimeOut(@PathVariable("id") Integer id) { return paymentHystrixService.paymentInfoTimeOut(id); } public String paymentInfoTimeOutHandler(Integer id){ return "80:支付端口繁忙,请稍后。"; } } -
测试:由于80端配置了自己的超时时间,获取80端出错,就直接调用fallback。
由于上方的fallback处理方法与实际方法耦合在一个类中,代码很膨胀,且耦合高。
-
修改controller(80端):
@Slf4j @RestController @RequestMapping("/consumer/payment") @DefaultProperties(defaultFallback = "paymentGlobalFallbackMethod") public class OrderHystrixController { @Autowired private PaymentHystrixService paymentHystrixService; @GetMapping("/hystrix/ok/{id}") @HystrixCommand // 当前controller全局fallback public String paymentInfoOK(@PathVariable("id") Integer id) { return paymentHystrixService.paymentInfoOK(id); } @GetMapping("/hystrix/timeout/{id}") // 特殊指定自己的fallback @HystrixCommand(fallbackMethod = "paymentInfoTimeOutHandler", commandProperties = {@HystrixProperty(name = "execution.isolation.thread.timeoutInMilliseconds", value = "3000")}) public String paymentInfoTimeOut(@PathVariable("id") Integer id) { return paymentHystrixService.paymentInfoTimeOut(id); } public String paymentInfoTimeOutHandler(Integer id){ return "80:支付端口繁忙,请稍后。"; } public String paymentGlobalFallbackMethod(){ return "默认异常(超时)处理方法。"; } }
将fallback与业务方法放在一块耦合度太高。
针对80端口完善。
-
新建PaymentFallbackService实现PaymentHystrixService接口统一处理fallback。
@Component public class PaymentFallbackService implements PaymentHystrixService { @Override public String paymentInfoOK(Integer id) { return "PaymentFallbackService - paymentInfoOK"; } @Override public String paymentInfoTimeOut(Integer id) { return "PaymentFallbackService - paymentInfoTimeOut"; } } -
接口指定fallback类:
@Service @FeignClient(value = "CLOUD-PROVIDER-HYSTRIX-PAYMENT",fallback = PaymentFallbackService.class) public interface PaymentHystrixService { @GetMapping("/payment/hystrix/ok/{id}") String paymentInfoOK(@PathVariable("id") Integer id); @GetMapping("/payment/hystrix/timeout/{id}") String paymentInfoTimeOut(@PathVariable("id") Integer id); } -
正常访问:
-
模拟8001宕机:
熔断机制是应对雪崩效应的一种微服务链路保护机制。当扇出链路的某个微服务出错不可用或者响应时间太长是,会对该服务进行降级,进而熔断该节点微服务的调用,快速返回错误的响应信息。
当检测到该节点微服务调用响应正常后,恢复调用链路。
Hystrxi会监控微服务间调用的情况,当失败的调用达到一定阙值,默认是5秒内20次调用,会自动熔断。
-
切换到cloud-provider-hystrix-payment8001项目。
-
在PaymentService中新增服务熔断处理代码:
@HystrixCommand(fallbackMethod = "paymentCircuitBreakerFallback", commandProperties = { @HystrixProperty(name = "circuitBreaker.enabled", value = "true"),// 是否开启断路器 @HystrixProperty(name = "circuitBreaker.requestVolumeThreshold", value = "10"),// 请求次数 @HystrixProperty(name = "circuitBreaker.sleepWindowInMilliseconds", value = "10000"), // 时间窗口期 @HystrixProperty(name = "circuitBreaker.errorThresholdPercentage", value = "60"),// 失败率达到多少后跳闸 // @HystrixProperty(name = "execution.isolation.thread.timeoutInMilliseconds", value = "5000")// 超时处理 }) public String paymentCircuitBreaker(Integer id) { if (id < 0) { throw new RuntimeException("******id 不能负数"); } //测试异常 // int age = 10 / 0; // int second = 3; // try { // TimeUnit.SECONDS.sleep(second); // } catch (InterruptedException e) { // e.printStackTrace(); // } // 生成uuid作为调用流水号 String serialNumber = IdUtil.simpleUUID(); return Thread.currentThread().getName() + "t" + "调用成功,流水号: " + serialNumber; } public String paymentCircuitBreakerFallback(Integer id) { return Thread.currentThread().getName() + "t" + "id 不能负数或超时或自身错误,请稍后再试,/(ㄒoㄒ)/~~ id: " + id; } -
controller新增接口:
@GetMapping("/hystrix/circuit/{id}") public String paymentCircuitBreaker(@PathVariable("id") Integer id) { String result = paymentService.paymentCircuitBreaker(id); log.info("****result: " + result); return result; } -
正确模拟调用:可以看到接口可以正常响应
-
失败调用并且达到断路器的阈值:这时会断路器会进入open状态:
-
打开断路器后,不会再转发请求,直接访问fallback,正确的请求也无法访问:
-
等过一定时间后(默认5s),断路器处于半开状态,放行一个请求去调用当前接口,如果成功,则关闭断路器,否则仍然处于关闭状态,重复上方操作。
-
熔断步骤:
- 当满足一定阈值(默认10s大于20个请求),且失败率达到一定值(默认50%)断路器才会开启;
- 当开启的时候,所有的请求都不会再进行转发,直接访问断路器设置的fallback;
- 一定时间之后(默认5s),断路器处于半开状态,会让其中一个请求进行转发,如果成功,断路器关闭,如果失败,继续开启,再返回上一步。
1.9 Hystrix工作流程 1.10 服务监控HystrixDashboard等待sentinel讲解。
Hystrix会持续的记录所用通过它发起的请求和执行信息。且以统计报表和图形的形式展示给用户,可以将内容转化成可视化界面。
-
新建module:cloud-consumer-hystrix-dashboard9001可视化微服务
-
依赖:
org.springframework.cloud spring-cloud-starter-netflix-hystrix-dashboard org.springframework.boot spring-boot-starter-actuator org.springframework.boot spring-boot-devtools runtime true org.projectlombok lombok true org.springframework.boot spring-boot-starter-test test -
配置文件:
server: port: 9001
-
启动类:
@SpringBootApplication @EnableHystrixDashboard public class HystrixDashboardMain9001 { public static void main(String[] args) { SpringApplication.run(HystrixDashboardMain9001.class,args); } } -
访问测试:访问成功
-
配置被监控微服务cloud-provider-hystrix-payment8001主启动类:
@SpringBootApplication @EnableEurekaClient @EnableCircuitBreaker public class PaymentHystrixMain8001 { public static void main(String[] args) { SpringApplication.run(PaymentHystrixMain8001.class,args); } @Bean public ServletRegistrationBean getServlet() { HystrixMetricsStreamServlet streamServlet = new HystrixMetricsStreamServlet(); ServletRegistrationBean registrationBean = new ServletRegistrationBean(streamServlet); // 一启动就加载 registrationBean.setLoadOnStartup(1); // 添加url registrationBean.addUrlMappings("/hystrix.stream"); // 设置名称 registrationBean.setName("HystrixMetricsStreamServlet"); return registrationBean; } } -
监控测试:http://localhost:8001/hystrix.stream
监控啥啊监控:出现相同问题,表示采纳。



