栏目分类:
子分类:
返回
名师互学网用户登录
快速导航关闭
当前搜索
当前分类
子分类
实用工具
热门搜索
名师互学网 > IT > 软件开发 > 后端开发 > Java

微服务之服务降级Hystrix

Java 更新时间: 发布时间: IT归档 最新发布 模块sitemap 名妆网 法律咨询 聚返吧 英语巴士网 伯小乐 网商动力

微服务之服务降级Hystrix

B站尚硅谷P47~P64
代码Gitee地址
以上次博客的eureka集群作为注册中心来演示。
虽然豪猪哥已经停止更新了,但设计理念非常优秀。

1. Hystrix 1.1 为什么引入Hystrix
  • 服务雪崩
    多个微服务之间调用的时候,假设微服务A调用微服务B和微服务C,B和C又调用其它的微服务,这就是所谓的“扇出”。如果扇出的链路上某个微服务的调用响应时间过长或者不可用,对微服务A的调用就会占用越来越多的系统资源,进而引起系统崩溃,所谓的“雪崩效应”。
    对于高流量的应用来说,单一的后端依赖可能会导致所有服务器上的所有资源在几秒内饱和。更严重的是,这些引用程序还可能导致服务之间的延迟增加,备份队列,线程和其它系统资源紧张,导致整个系统发生更多的级联故障。这些都表示需要对故障和延迟隔离和管理,以便单个依赖关系的失败,不能取消整个应用程序或系统。

Hystrix是一个用于分布式系统的延迟和容错的开源库,在分布式系统里,许多依赖不可避免的会调用失败,比如超时、异常等,Hystrix能够保证在一个依赖出问题的情况下,不会导致整体服务失败,避免级联故障,以提高分布式系统的弹性。

当微服务的某个服务单元发生故障之后,通过断路器的故障监控,向调用的方法返回一个符合预期的、可处理的备选响应,而不是长时间的等待或抛出调用方法无法处理的异常,这样就保证了服务调用方的线程不会被长时间、不必要的占用,从而避免了故障在分布式系统的蔓延。

  • 作用:
    1. 服务降级;
    2. 服务熔断;
    3. 接近实时的监控;
1.2 Hystrix概念
  • 服务降级(fallback):当前单元无法处理调用方法,向调用方法返回一个预期且可备选的响应方案。
    触发服务降级的情况:
    1. 程序运行异常;
    2. 超时;
    3. 服务熔断触发服务降级;
    4. 线程池/信号量打满。
  • 服务熔断(break):达到最大访问量时,直接拒绝访问,通过服务降级的方法返回友好提示。
  • 服务限流(flowlimit):对于高并发的操作,使其排队,有序的进行。
1.3 项目搭建

这里以之前博客的eureka集群作为注册中心来搭建。

  • 新建moudle:cloud-provider-hystrix-payment8001

  • 依赖:

        
            
                org.springframework.cloud
                spring-cloud-starter-netflix-hystrix
            
    
            
                org.springframework.cloud
                spring-cloud-starter-netflix-eureka-client
            
    
            
                org.example
                cloud-api-commons
                1.0-SNAPSHOT
            
    
            
                org.springframework.boot
                spring-boot-starter-web
            
    
            
                org.springframework.boot
                spring-boot-starter-actuator
            
    
            
                org.projectlombok
                lombok
                true
            
    
            
                org.springframework.boot
                spring-boot-starter-test
                test
            
    
        
    
  • 配置文件:

    server:
      port: 8001
    
    spring:
      application:
        name: cloud-provider-hystrix-payment
    
    eureka:
      client:
        register-with-eureka: true
        fetch-registry: true
        service-url:
          defaultZone: http://eureka7001.com:7001/eureka,http://eureka7002.com:7002/eureka
    
    
  • 主启动类:

    @SpringBootApplication
    @EnableEurekaClient
    public class PaymentHystrixMain8001 {
        public static void main(String[] args) {
            SpringApplication.run(PaymentHystrixMain8001.class,args);
        }
    }
    
  • service:模拟了正常情况调用和用时多情况调用。

    @Service
    public class PaymentService {
    
        
        public String paymentInfoOK(Integer id) {
            return "线程池:  " +
                    Thread.currentThread().getName()
                    + "  paymentInfoOK,id:  " + id;
        }
    
        
        public String paymentInfoTimeOut(Integer id){
            int time = 3;
            try {
                TimeUnit.SECONDS.sleep(time);
            } catch (InterruptedException e) {
                e.printStackTrace();
            }
            return "线程池:  " + Thread.currentThread().getName() +
                    "  paymentInfoTimeOut,id:  " + id + "耗时"+ time +"秒";
        }
    
    }
    
    
  • controller:

    @Slf4j
    @RestController
    @RequestMapping("/payment")
    public class PaymentController {
    
        @Autowired
        private PaymentService paymentService;
    
        @Value("${server.port}")
        private String serverPort;
    
        
        @GetMapping("/hystrix/ok/{id}")
        public String paymentInfoOK(@PathVariable("id") Integer id) {
            String result = paymentService.paymentInfoOK(id);
            log.info("result: " + result);
            return result;
        }
    
        
        @GetMapping("/hystrix/timeout/{id}")
        public String paymentInfoTimeOut(@PathVariable("id") Integer id) {
            String result = paymentService.paymentInfoTimeOut(id);
            log.info("result: " + result);
            return result;
        }
    
    }
    
1.4 引入消费端

服务降级一般用在消费端。

  • 新建module:cloud-consumer-feign-hystrix-order80

  • 依赖:

        
            
                org.springframework.cloud
                spring-cloud-starter-netflix-hystrix
            
    
            
                org.springframework.cloud
                spring-cloud-starter-openfeign
            
    
            
                org.springframework.cloud
                spring-cloud-starter-netflix-eureka-client
            
    
            
                org.example
                cloud-api-commons
                1.0-SNAPSHOT
            
    
            
                org.springframework.boot
                spring-boot-starter-web
            
    
            
                org.springframework.boot
                spring-boot-starter-actuator
            
    
            
                org.springframework.boot
                spring-boot-devtools
            
    
            
                org.projectlombok
                lombok
                true
            
    
            
                org.springframework.boot
                spring-boot-starter-test
                test
            
    
        
    
  • 配置文件:

    server:
      port: 80
    
    eureka:
      client:
        register-with-eureka: false # 不注册进eureka服务中心
        service-url:
          defaultZone: http://eureka7001.com:7001/eureka/,http://eureka7002.com:7002/eureka/
    
    
  • 主启动类

    @SpringBootApplication
    @EnableFeignClients
    public class OrderHystrixOrder80 {
        public static void main(String[] args) {
            SpringApplication.run(OrderHystrixOrder80.class,args);
        }
    }
    
  • service

    @Service
    @FeignClient(value = "CLOUD-PROVIDER-HYSTRIX-PAYMENT")
    public interface PaymentHystrixService {
    
        @GetMapping("/payment/hystrix/ok/{id}")
        String paymentInfoOK(@PathVariable("id") Integer id);
    
        @GetMapping("/payment/hystrix/timeout/{id}")
        String paymentInfoTimeOut(@PathVariable("id") Integer id);
    
    }
    
  • controller:

    @Slf4j
    @RestController
    @RequestMapping("/consumer/payment")
    public class OrderHystrixController {
    
        @Autowired
        private PaymentHystrixService paymentHystrixService;
    
        @GetMapping("/hystrix/ok/{id}")
        public String paymentInfoOK(@PathVariable("id") Integer id) {
            return paymentHystrixService.paymentInfoOK(id);
        }
    
    
        @GetMapping("/hystrix/timeout/{id}")
        public String paymentInfoTimeOut(@PathVariable("id") Integer id) {
            return paymentHystrixService.paymentInfoTimeOut(id);
        }
    }
    
  • 启动测试:可以看到接口调用成功。

1.5 压力测试

以两万个请求去高并发localhost:8001/payment/hystrix/timeout/1接口,显然会直接被耗死。这时访问localhost:8001/payment/hystrix/ok/1也会被拖慢。服务提供端8001自己都无法达到预期。
此时再访问localhost:80/consumer/payment/hystrix/ok/1接口,明显会拖慢80接口的速度,甚至会超时报错。

1.6 服务降级 1.6.1 服务提供者端

设置自身的超时时间峰值,并设置兜底方法,超时调用兜底方法作为降级fallback。

  • 修改service:

    @Service
    public class PaymentService {
    
        
        public String paymentInfoOK(Integer id) {
            return "线程池:  " +
                    Thread.currentThread().getName()
                    + "  paymentInfoOK,id:  " + id;
        }
    
        
        // 指定出问题调用的兜底方法和超时时间
        @HystrixCommand(fallbackMethod = "paymentInfoTimeOutHandler",
                        commandProperties = {@HystrixProperty(name = "execution.isolation.thread.timeoutInMilliseconds", value = "3000")})
        public String paymentInfoTimeOut(Integer id){
            int time = 5;
            try {
                TimeUnit.SECONDS.sleep(time);
            } catch (InterruptedException e) {
                e.printStackTrace();
            }
            return "线程池:  " + Thread.currentThread().getName() +
                    "  paymentInfoTimeOut,id:  " + id + "耗时"+ time +"秒";
        }
    
        
        public String paymentInfoTimeOutHandler(Integer id){
            return "线程池:  " + Thread.currentThread().getName() +
                    "  paymentInfoTimeOutHandler,id:  " + id + "超时兜底方法";
        }
    
    }
    
  • 激活主启动类:

    @SpringBootApplication
    @EnableEurekaClient
    @EnableCircuitBreaker
    public class PaymentHystrixMain8001 {
        public static void main(String[] args) {
            SpringApplication.run(PaymentHystrixMain8001.class,args);
        }
    }
    
  • 访问测试:可以看出直接调用的fallback方法。

  • 再次修改service:

        // 指定出问题调用的兜底方法和超时时间
        @HystrixCommand(fallbackMethod = "paymentInfoTimeOutHandler",
                        commandProperties = {@HystrixProperty(name = "execution.isolation.thread.timeoutInMilliseconds", value = "3000")})
        public String paymentInfoTimeOut(Integer id){
            int a = 10/0;
            return "线程池:  " + Thread.currentThread().getName() +
                    "  paymentInfoTimeOut,id:  " + id ;
        }
    
  • 访问测试:可以看出,当服务出现异常时也会主动调用fallback的方法。

1.6.2 服务消费者端
  • 修改配置文件:

    server:
      port: 80
    
    eureka:
      client:
        register-with-eureka: false # 不注册进eureka服务中心
        service-url:
          defaultZone: http://eureka7001.com:7001/eureka/,http://eureka7002.com:7002/eureka/
    
    feign:
      hystrix:
        enabled: true
    
  • 主启动类激活

    @SpringBootApplication
    @EnableFeignClients
    @EnableHystrix
    public class OrderHystrixOrder80 {
        public static void main(String[] args) {
            SpringApplication.run(OrderHystrixOrder80.class,args);
        }
    }
    
  • 修改controller:

    @Slf4j
    @RestController
    @RequestMapping("/consumer/payment")
    public class OrderHystrixController {
    
        @Autowired
        private PaymentHystrixService paymentHystrixService;
    
        @GetMapping("/hystrix/ok/{id}")
        public String paymentInfoOK(@PathVariable("id") Integer id) {
            return paymentHystrixService.paymentInfoOK(id);
        }
    
    
        @GetMapping("/hystrix/timeout/{id}")
        @HystrixCommand(fallbackMethod = "paymentInfoTimeOutHandler",
                commandProperties = {@HystrixProperty(name = "execution.isolation.thread.timeoutInMilliseconds", value = "3000")})
        public String paymentInfoTimeOut(@PathVariable("id") Integer id) {
            return paymentHystrixService.paymentInfoTimeOut(id);
        }
    
        
        public String paymentInfoTimeOutHandler(Integer id){
            return "80:支付端口繁忙,请稍后。";
        }
    }
    
  • 测试:由于80端配置了自己的超时时间,获取80端出错,就直接调用fallback。

1.6.3 抽取统一兜底(fallback)方法

由于上方的fallback处理方法与实际方法耦合在一个类中,代码很膨胀,且耦合高。

  • 修改controller(80端):

    @Slf4j
    @RestController
    @RequestMapping("/consumer/payment")
    @DefaultProperties(defaultFallback = "paymentGlobalFallbackMethod")
    public class OrderHystrixController {
    
        @Autowired
        private PaymentHystrixService paymentHystrixService;
    
        @GetMapping("/hystrix/ok/{id}")
        @HystrixCommand // 当前controller全局fallback
        public String paymentInfoOK(@PathVariable("id") Integer id) {
            return paymentHystrixService.paymentInfoOK(id);
        }
    
    
        @GetMapping("/hystrix/timeout/{id}")
        // 特殊指定自己的fallback
        @HystrixCommand(fallbackMethod = "paymentInfoTimeOutHandler",
                commandProperties = {@HystrixProperty(name = "execution.isolation.thread.timeoutInMilliseconds", value = "3000")})
        public String paymentInfoTimeOut(@PathVariable("id") Integer id) {
            return paymentHystrixService.paymentInfoTimeOut(id);
        }
    
        
        public String paymentInfoTimeOutHandler(Integer id){
            return "80:支付端口繁忙,请稍后。";
        }
    
        
        public String paymentGlobalFallbackMethod(){
            return "默认异常(超时)处理方法。";
        }
    }
    
1.6.4 解决fallback与业务方法耦合问题

将fallback与业务方法放在一块耦合度太高。

针对80端口完善。

  • 新建PaymentFallbackService实现PaymentHystrixService接口统一处理fallback。

    @Component
    public class PaymentFallbackService implements PaymentHystrixService {
        @Override
        public String paymentInfoOK(Integer id) {
            return "PaymentFallbackService - paymentInfoOK";
        }
    
        @Override
        public String paymentInfoTimeOut(Integer id) {
            return "PaymentFallbackService - paymentInfoTimeOut";
        }
    }
    
  • 接口指定fallback类:

    @Service
    @FeignClient(value = "CLOUD-PROVIDER-HYSTRIX-PAYMENT",fallback = PaymentFallbackService.class)
    public interface PaymentHystrixService {
    
        @GetMapping("/payment/hystrix/ok/{id}")
        String paymentInfoOK(@PathVariable("id") Integer id);
    
        @GetMapping("/payment/hystrix/timeout/{id}")
        String paymentInfoTimeOut(@PathVariable("id") Integer id);
    
    }
    
  • 正常访问:

  • 模拟8001宕机:

1.7 服务熔断

熔断机制是应对雪崩效应的一种微服务链路保护机制。当扇出链路的某个微服务出错不可用或者响应时间太长是,会对该服务进行降级,进而熔断该节点微服务的调用,快速返回错误的响应信息。
当检测到该节点微服务调用响应正常后,恢复调用链路。
Hystrxi会监控微服务间调用的情况,当失败的调用达到一定阙值,默认是5秒内20次调用,会自动熔断。

  • 切换到cloud-provider-hystrix-payment8001项目。

  • 在PaymentService中新增服务熔断处理代码:

        
        @HystrixCommand(fallbackMethod = "paymentCircuitBreakerFallback", commandProperties = {
                @HystrixProperty(name = "circuitBreaker.enabled", value = "true"),// 是否开启断路器
                @HystrixProperty(name = "circuitBreaker.requestVolumeThreshold", value = "10"),// 请求次数
                @HystrixProperty(name = "circuitBreaker.sleepWindowInMilliseconds", value = "10000"), // 时间窗口期
                @HystrixProperty(name = "circuitBreaker.errorThresholdPercentage", value = "60"),// 失败率达到多少后跳闸
    //            @HystrixProperty(name = "execution.isolation.thread.timeoutInMilliseconds", value = "5000")// 超时处理
        })
        public String paymentCircuitBreaker(Integer id) {
            if (id < 0) {
                throw new RuntimeException("******id 不能负数");
            }
            //测试异常
    //        int age = 10 / 0;
    //        int second = 3;
    //        try {
    //            TimeUnit.SECONDS.sleep(second);
    //        } catch (InterruptedException e) {
    //            e.printStackTrace();
    //        }
    
            // 生成uuid作为调用流水号
            String serialNumber = IdUtil.simpleUUID();
            return Thread.currentThread().getName() + "t" + "调用成功,流水号: " + serialNumber;
        }
    
        
        public String paymentCircuitBreakerFallback(Integer id) {
            return Thread.currentThread().getName() + "t" + "id 不能负数或超时或自身错误,请稍后再试,/(ㄒoㄒ)/~~   id: " + id;
        }
    
    
  • controller新增接口:

        
        @GetMapping("/hystrix/circuit/{id}")
        public String paymentCircuitBreaker(@PathVariable("id") Integer id) {
            String result = paymentService.paymentCircuitBreaker(id);
            log.info("****result: " + result);
            return result;
        }
    
  • 正确模拟调用:可以看到接口可以正常响应

  • 失败调用并且达到断路器的阈值:这时会断路器会进入open状态:

  • 打开断路器后,不会再转发请求,直接访问fallback,正确的请求也无法访问:

  • 等过一定时间后(默认5s),断路器处于半开状态,放行一个请求去调用当前接口,如果成功,则关闭断路器,否则仍然处于关闭状态,重复上方操作。

  • 熔断步骤:

    1. 当满足一定阈值(默认10s大于20个请求),且失败率达到一定值(默认50%)断路器才会开启;
    2. 当开启的时候,所有的请求都不会再进行转发,直接访问断路器设置的fallback;
    3. 一定时间之后(默认5s),断路器处于半开状态,会让其中一个请求进行转发,如果成功,断路器关闭,如果失败,继续开启,再返回上一步。
1.8 服务限流

等待sentinel讲解。

1.9 Hystrix工作流程

1.10 服务监控HystrixDashboard

Hystrix会持续的记录所用通过它发起的请求和执行信息。且以统计报表和图形的形式展示给用户,可以将内容转化成可视化界面。

  • 新建module:cloud-consumer-hystrix-dashboard9001可视化微服务

  • 依赖:

        
            
                org.springframework.cloud
                spring-cloud-starter-netflix-hystrix-dashboard
            
    
            
                org.springframework.boot
                spring-boot-starter-actuator
            
    
            
                org.springframework.boot
                spring-boot-devtools
                runtime
                true
            
    
            
                org.projectlombok
                lombok
                true
            
    
            
                org.springframework.boot
                spring-boot-starter-test
                test
            
            
        
    
  • 配置文件:

    server:
      port: 9001
    
  • 启动类:

    @SpringBootApplication
    @EnableHystrixDashboard
    public class HystrixDashboardMain9001 {
        public static void main(String[] args) {
            SpringApplication.run(HystrixDashboardMain9001.class,args);
        }
    }
    
  • 访问测试:访问成功

  • 配置被监控微服务cloud-provider-hystrix-payment8001主启动类:

    @SpringBootApplication
    @EnableEurekaClient
    @EnableCircuitBreaker
    public class PaymentHystrixMain8001 {
        public static void main(String[] args) {
            SpringApplication.run(PaymentHystrixMain8001.class,args);
        }
    
        
        @Bean
        public ServletRegistrationBean getServlet() {
            HystrixMetricsStreamServlet streamServlet = new HystrixMetricsStreamServlet();
            ServletRegistrationBean registrationBean = new ServletRegistrationBean(streamServlet);
    
            // 一启动就加载
            registrationBean.setLoadOnStartup(1);
            // 添加url
            registrationBean.addUrlMappings("/hystrix.stream");
            // 设置名称
            registrationBean.setName("HystrixMetricsStreamServlet");
            return registrationBean;
        }
    
    }
    
  • 监控测试:http://localhost:8001/hystrix.stream

监控啥啊监控:出现相同问题,表示采纳。

转载请注明:文章转载自 www.mshxw.com
本文地址:https://www.mshxw.com/it/967069.html
我们一直用心在做
关于我们 文章归档 网站地图 联系我们

版权所有 (c)2021-2022 MSHXW.COM

ICP备案号:晋ICP备2021003244-6号