- 一、微服务概述
- 1.1、什么是微服务?
- 1.2、微服务与微服务架构
- 1.2.1、微服务
- 1.2.2、微服务架构
- 1.3、 微服务优缺点
- 1.4、微服务技术栈及对应的技术
- 1.5、SpringCloud的优势及各微服务框架对比
- 二、SpringCloud概述
- 2.1、SpringCloud简介
- 2.2、SpringCloud和SpringBoot的关系
- 2.3、Dubbo 和 SpringCloud技术选型
- 2.4、SpringCloud下载
- 三、SpringCloud Rest通信环境搭建
- 3.1、Maven的分包分模块架构复习
- 3.2、创建父工程
- 3.3、创建子模块并对子模块内容编码
- 四、Eureka服务注册中心
- 4.1、 什么是Eureka?
- 4.2、 Eureka原理理解
- 4.3、Eureka构建步骤
- 4.3.1、 eureka-server
- 4.3.2、eureka-client
- 4.3.3、EureKa自我保护机制
- 4.3.4、新注册微服务获取公共消息
- 4.4、Eureka集群环境配置
- 4.4.1. 初始化
- 4.4.2、集群成员相互关联
- 4.5 、Eureka和Zookeeper对比及区别
- 五、Ribbon:基于客户端负载均衡
- 5.1 、负载均衡以及Ribbon
- 5.1.1、什么是负载均衡?
- 5.1.2、Ribbon及其功能
- 5.2 、集成Ribbon
- 5.3、使用Ribbon实现负载均衡
- 5.3.1、Ribbon实现负载均衡流程
- 5.3.2、如何切换或者自定义访问规则呢?
- 六、Feign:基于服务器负载均衡
- 6.1、Feign简介
- 6.2 、Feign的使用步骤
- 七、Hystrix:服务熔断
- 7.1、服务雪崩
- 7.2、什么是Hystrix?
- 7.3、Hystrix功能
- 7.4、服务熔断
- 7.4.1、什么是服务熔断?
- 7.4.2、服务熔断案例
- 7.5、服务降级
- 7.5.1、什么是服务降级?
- 7.5.2、服务降级需要考虑的问题
- 7.5.3、自动降级分类
- 7.5.4、入门案例
- 7.6、服务熔断和降级的区别
- 7.7、Dashboard 流监控
- 八、Zuul路由网关
- 8.1、Zuul概述
- 8.2、Zuul案例
- 九、Spring Colud Config分布式配置
- 9.1、Spring Colud Config概述
- 9.1.1、分布式系统面临的配置文件问题
- 9.1.2、什么是SpringCloud config分布式配置中心?
- 9.1.3、spring cloud config分布式配置中心功能
- 补充:spring cloud config 分布式配置中心与GitHub整合
- 9.2、入门案例
- 9.2.1、服务端
- 9.2.2、客户端
- 参考博客
笔记 参考视频—狂神 一、微服务概述 1.1、什么是微服务?
微服务(Microservice Architecture) 是近几年流行的一种架构思想,关于它的概念很难一言以蔽之。
1.2、微服务与微服务架构 1.2.1、微服务就目前而言,对于微服务,业界并没有一个统一的,标准的定义:
- 通常而言,微服务架构是一种架构模式,或者说是一种架构风格,它提倡将单一的应用程序划分成一组小的服务,每个服务运行在其独立的自己的进程内,服务之间互相协调,互相配置,为用户提供最终价值,服务之间采用轻量级的通信机制(HTTP) 互相沟通,每个服务都围绕着具体的业务进行构建,并且能狗被独立的部署到生产环境中,另外,应尽量避免统一的,集中式的服务管理机制,对具体的一个服务而言,应该根据业务上下文,选择合适的语言,工具(Maven)对其进行构建,可以有一个非常轻量级的集中式管理来协调这些服务,可以使用不同的语言来编写服务,也可以使用不同的数据存储。
从技术维度角度理解:
- 微服务化的核心就是将传统的一站式应用,根据业务拆分成一个一个的服务,彻底地去耦合,每一个微服务提供单个业务功能的服务,一个服务做一件事情,从技术角度看就是一种小而独立的处理过程,类似进程的概念,能够自行单独启动或销毁,拥有自己独立的数据库。
1.2.2、微服务架构强调的是服务的大小,它关注的是某一个点,是具体解决某一个问题/提供落地对应服务的一个服务应用,狭义的看,可以看作是IDEA中的一个个微服务工程,或者Moudel。IDEA工具里面使用Maven开发的一个个独立的小Moudel,它具体是使用SpringBoot开发的一个小模块,专业的事情交给专业的模块来做,一个模块就做着一件事情。强调的是一个个的个体,每个个体完成一个具体的任务或者功能。
1.3、 微服务优缺点微服务架构是一种架构模式,它提倡将单一应用程序划分成一组小的服务,服务之间相互协调,互相配合,为用户提供最终价值。(每个服务运行在其独立的进程中,服务与服务之间采用轻量级的通信机制 如HTTP)互相协作,每个服务都围绕着具体的业务进行构建,并且能够被独立的部署到生产环境中,另外,应尽量避免统一的,集中式的服务管理机制,对具体的一个服务而言,应根据业务上下文,选择合适的语言、工具(如Maven) 对其进行构建。
优点:
- 单一职责原则;
- 每个服务足够内聚,足够小,代码容易理解,这样能聚焦一个指定的业务功能或业务需求;
- 开发简单,开发效率高,一个服务可能就是专一的只干一件事;
- 微服务能够被小团队单独开发,这个团队只需2-5个开发人员组成;
- 微服务是松耦合的,是有功能意义的服务,无论是在开发阶段或部署阶段都是独立的;
- 微服务能使用不同的语言开发;
- 易于和第三方集成,微服务允许容易且灵活的方式集成自动部署,通过持续集成工具,如jenkins,Hudson,bamboo;
- 微服务易于被一个开发人员理解,修改和维护,这样小团队能够更关注自己的工作成果,无需通过合作才能体现价值;
- 微服务允许利用和融合最新技术;
- 微服务只是业务逻辑的代码,不会和HTML,CSS,或其他的界面混合;
- 每个微服务都有自己的存储能力,可以有自己的数据库,也可以有统一的数据库
缺点:
1.4、微服务技术栈及对应的技术 1.5、SpringCloud的优势及各微服务框架对比
- 开发人员要处理分布式系统的复杂性;
- 多服务运维难度,随着服务的增加,运维的压力也在增大;
- 系统部署依赖问题;
- 服务间通信成本问题;
- 数据一致性问题;
- 系统集成测试问题;
- 性能和监控问题;
SpringCloud优势:
- 整体解决方案和框架成熟度
- 社区热度
- 可维护性
- 学习曲线
各大IT公司用的微服务架构及其对比:
二、SpringCloud概述 2.1、SpringCloud简介
- 阿里:dubbo+HFS
- 京东:JFS
- 新浪:Motan
- 当当网:DubboX
… …对比:
- SpringCloud官网
Spring Cloud 为开发者提供了工具来快速构建分布式系统中的一些常见模式(例如配置管理、服务发现、断路器、智能路由、微代理、控制总线、一次性令牌、全局锁、领导选举、分布式会话,集群状态)。分布式系统的协调导致了样板模式,使用 Spring Cloud 开发人员可以快速建立实现这些模式的服务和应用程序。它们 (样本模式的服务和洋洋程序)在任何分布式环境中都能很好地工作,包括开发人员个人的笔记本电脑、裸机数据中心以及 Cloud Foundry 等托管平台。
Spring Cloud特征(功能):
Spring Cloud 专注于为典型用例提供良好的开箱即用体验,并提供可扩展机制以覆盖其他用例:
- 分布式/版本化配置
- 服务注册和发现
- 路由
- 服务到服务调用
- 负载均衡
- 断路器
- 全局锁
- 领导选举和集群状态
- 分布式消息传递
SpringCloud架构图:
- SpringBoot专注于方便地开发单个个体微服务。
- SpringCloud是关注全局的微服务协调整理治理框架,即它关注在全局的微服务协调整理治理,它将SpringBoot开发的一个个单体微服务,整合并管理起来,为各个微服务之间提供:配置管理、服务发现、断路器、路由、为代理、事件总栈、全局锁、决策竞选、分布式会话等集成服务。
- SpringBoot可以离开SpringCloud独立使用,开发项目,但SpringCloud离不开SpringBoot,属于依赖关系。
- SpringBoot专注于快速、方便的开发单个个体微服务,SpringCloud关注全局的服务治理。
Dubbo 和 SpringCloud对比:
两者最大区别:Spring Cloud 抛弃了Dubbo的RPC通信,采用的是基于HTTP的REST方式进行各服务间通信。
严格来说,这两种方式各有优劣。虽然从一定程度上来说,SpringCloud牺牲了服务调用的性能,但也避免了上面提到的原生RPC带来的问题。而且REST相比RPC更为灵活,服务提供方和调用方的依赖只依靠一纸契约,不存在代码级别的强依赖,这个优点在当下强调快速演化的微服务环境下,显得更加合适。
总结: 二者解决的问题域不一样,Dubbo的定位是一款RPC框架,而SpringCloud的目标是微服务架构下的一站式解决方案。
2.4、SpringCloud下载- SpringCloud下载地址
NOTE: SpringCloud在2020年之前没有采用数字编号的方式命名版本号,而是采用了伦敦地铁站的名称,同时根据字母表的顺序来对应版本时间顺序;在2020年以后安装发布时间命名。
自学参考:
三、SpringCloud Rest通信环境搭建 3.1、Maven的分包分模块架构复习
- SpringCloud Netflix 中文文档
- SpringCloud 中文API文档(官方文档翻译版)
- SpringCloud中国社区
- SpringCloud中文网
一个简单的Maven模块结构是这样的: -- app-parent: 一个父项目(app-parent)聚合了很多子项目(app-utilapp-daoapp-web...) |-- pom.xml | |-- app-core ||---- pom.xml | |-- app-web ||---- pom.xml ......
总结:Maven模式结构是一个父工程带着多个Moudule子模块。
3.2、创建父工程例如:MicroServiceCloud父工程(Project)下初次带着3个子模块(Module)
- microservicecloud-api 【封装的整体entity/接口/公共配置等】
- microservicecloud-consumer-dept-80 【服务提供者】
- microservicecloud-provider-dept-8001 【服务消费者】
- 新建父工程项目springcloud,切记Packageing是pom模式
- 主要是定义父工程项目中pom.xml文件,将各个子模块公用的jar包(依赖)等统一提取出来,类似一个抽象父类。
父工程项目pom.xml
3.3、创建子模块并对子模块内容编码4.0.0 com.haust springcloud 1.0-SNAPSHOT springcloud-api springcloud-provider-dept-8001 springcloud-consumer-dept-80 springcloud-eureka-7001 springcloud-eureka-7002 springcloud-eureka-7003 springcloud-provider-dept-8002 springcloud-provider-dept-8003 springcloud-consumer-dept-feign springcloud-provider-dept-hystrix-8001 springcloud-consumer-hystrix-dashboard springcloud-zuul-9527 springcloud-config-server-3344 springcloud-config-client-3355 springcloud-config-eureka-7001 springcloud-config-dept-8001 pom UTF-8 1.8 1.8 4.12 1.2.17 1.16.18 org.springframework.cloud spring-cloud-alibaba-dependencies 0.2.0.RELEASE pom import org.springframework.cloud spring-cloud-dependencies Greenwich.SR1 pom import org.springframework.boot spring-boot-dependencies 2.1.4.RELEASE pom import mysql mysql-connector-java 5.1.47 com.alibaba druid 1.1.10 org.mybatis.spring.boot mybatis-spring-boot-starter 1.3.2 ch.qos.logback logback-core 1.2.3 junit junit ${junit.version} log4j log4j ${log4j.version} org.projectlombok lombok ${lombok.version}
- 在父工程springcloud中,创建多个子模块module,如下:
- 若让springcloud-consumer-dept-80 使用REST方式访问springcloud-provider-dept-8001下的controller,则springcloud-consumer-dept-80中DeptConsumerController.java编码如下:
@RestController
public class DeptConsumerController {
// 理解:消费者,不应该有service层~
// RestTemplate .... 供我们直接调用就可以了! 注册到Spring中
// (url, 实体:Map ,Class responseType)
@Autowired
private RestTemplate restTemplate; //提供多种便捷访问远程http服务的方法,简单的Restful服务模板~
//Ribbon。我们这里的地址,应该是一个变量,通过服务名来访问
private static final String REST_URL_PREFIX = "http://localhost:8001";
//private static final String REST_URL_PREFIX = "http://SPRINGCLOUD-PROVIDER-DEPT";
@RequestMapping("/consumer/dept/add")
public boolean add(Dept dept){
return restTemplate.postForObject(REST_URL_PREFIX+"/dept/add",dept,Boolean.class);
}
@RequestMapping("/consumer/dept/get/{id}")
public Dept get(@PathVariable("id") Long id){
return restTemplate.getForObject(REST_URL_PREFIX+"/dept/get/"+id,Dept.class);
}
@RequestMapping("/consumer/dept/list")
public List list(){
return restTemplate.getForObject(REST_URL_PREFIX+"/dept/list",List.class);
}
}
- 使用RestTemplete需要将其先放入Spring容器中,ConfigBean.java代码如下:
@Configuration
public class ConfigBean {//@Configuration -- spring applicationContext.xml
//配置负载均衡实现RestTemplate
// IRule
// RoundRobinRule 轮询
// RandomRule 随机
// AvailabilityFilteringRule : 会先过滤掉,跳闸,访问故障的服务~,对剩下的进行轮询~
// RetryRule : 会先按照轮询获取服务~,如果服务获取失败,则会在指定的时间内进行,重试
@Bean
public RestTemplate getRestTemplate(){
return new RestTemplate();
}
}
- springcloud-provider-dept-8001的dao接口调用springcloud-api模块下的pojo,可使用在springcloud-provider-dept-8001的pom文件导入springcloud-api模块依赖的方式:
com.haust
springcloud-api
1.0-SNAPSHOT
四、Eureka服务注册中心
4.1、 什么是Eureka?
- SpingCloud Netflix在涉及Eureka时,遵循的就是API原则。
- Eureka是SpingCloud Netflix的一个子模块,也是核心模块之一。Eureka是基于REST的服务,用于定位服务,以实现云端中间件层服务发现和故障转移,服务注册与发现对于微服务来说是非常重要的,有了服务注册与发现,只需要使用服务的标识符,就可以访问到服务,而不需要修改服务调用的配置文件了,功能类似于Dubbo的注册中心,比如Zookeeper。
- Eureka基本的架构:
- Springcloud 封装了Netflix公司开发的Eureka模块来实现服务注册与发现 (对比Zookeeper).
- Eureka采用了C-S的架构设计,EurekaServer作为服务注册功能的服务器,他是服务注册中心.
- 而系统中的其他微服务,使用Eureka的客户端连接到EurekaServer并维持心跳连接。这样系统的维护人员就可以通过EurekaServer来监控系统中各个微服务是否正常运行,Springcloud
的一些其他模块 (比如Zuul) 就可以通过EurekaServer来发现系统中的其他微服务,并执行相关的逻辑.
- Eureka和Dubbo架构对比
- Eureka 包含两个组件:Eureka Server 和 Eureka Client.
- Eureka Server 提供服务注册,各个节点启动后,回在EurekaServer中进行注册,这样Eureka Server中的服务注册表中将会储存所有课用服务节点的信息,服务节点的信息可以在界面中直观的看到.
- Eureka Client 是一个Java客户端,用于简化EurekaServer的交互,客户端同时也具备一个内置的,使用轮询负载算法的负载均衡器。在应用启动后,将会向EurekaServer发送心跳
(默认周期为30秒) 。如果Eureka
Server在多个心跳周期内没有接收到某个节点的心跳,EurekaServer将会从服务注册表中把这个服务节点移除掉 (默认周期为90s).
- Eureka三大角色
- Eureka Server:提供服务的注册与发现 Service
- Provider:服务生产方,将自身服务注册到Eureka中,从而使服务消费方能狗找到 Service
- Consumer:服务消费方,从Eureka中获取注册服务列表,从而找到消费服务
- Eureka目前工程状况
Eureka 包含两个组件:Eureka Server 和 Eureka Client.
4.3.1、 eureka-server- springcloud-eureka-7001 模块建立
- pom.xml 配置
org.springframework.cloud spring-cloud-starter-eureka-server 1.4.6.RELEASE org.springframework.boot spring-boot-devtools
- application.yaml
server:
port: 7001
# Eureka配置
eureka:
instance:
# Eureka服务端的实例名字
hostname: 127.0.0.1
client:
# 表示是否向 Eureka 注册中心注册自己(这个模块本身是服务器,所以不需要)
register-with-eureka: false
# fetch-registry如果为false,则表示自己为注册中心,客户端的化为 ture
fetch-registry: false
# Eureka监控页面~
service-url:
defaultZone: http://${eureka.instance.hostname}:${server.port}/eureka/
源码中Eureka的默认端口以及访问路径:
- 主启动类
@SpringBootApplication
// @EnableEurekaServer 服务端的启动类,可以接受别人注册进来~
@EnableEurekaServer
public class EurekaServer_7001 {
public static void main(String[] args) {
SpringApplication.run(EurekaServer_7001.class,args);
}
}
- 测试:启动成功后访问 http://localhost:7001/
调整之前创建的springlouc-provider-dept-8001
- 导入Eureka依赖
org.springframework.cloud spring-cloud-starter-eureka 1.4.6.RELEASE
- application.yaml中新增Eureca配置
# Eureka配置:配置服务注册中心地址
eureka:
client:
service-url:
defaultZone: http://localhost:7001/eureka/
- 在主启动类添加@EnableEurekaClient注解
@SpringBootApplication
// @EnableEurekaClient 开启Eureka客户端注解,在服务启动后自动向注册中心注册服务
@EnableEurekaClient
public class DeptProvider_8001 {
public static void main(String[] args) {
SpringApplication.run(DeptProvider_8001.class,args);
}
}
- 测试:先启动7001服务端后启动8001客户端进行测试,再访问监控页http://localhost:7001/
- 修改application.yaml中Eureka的默认描述信息
# Eureka配置:配置服务注册中心地址
eureka:
client:
service-url:
defaultZone: http://localhost:7001/eureka/
instance:
instance-id: springcloud-provider-dept-8001 #修改Eureka上的默认描述信息
结果如下:
注:如果此时停掉springcloud-provider-dept-8001 等30s后 监控会开启保护机制
配置关于服务加载的监控信息
pom.xml中添加依赖
org.springframework.boot spring-boot-starter-actuator
application.yml中添加配置
#info配置 info: app.name: haust-springcloud #项目的名称 company.name: com.haust #公司的名称
此时刷新监控页,点击进入
跳转新页面显示如下内容:
EureKa自我保护机制遵从好死不如赖活着,当某时刻某一个微服务不可用,eureka不会立即清理,依旧会对该微服务的信息进行保存。
- 默认情况下,当eureka server在一定时间内没有收到实例的心跳,便会把该实例从注册表中删除(默认是90秒),但是,如果短时间内丢失大量的实例心跳,便会触发eureka server的自我保护机制,比如在开发测试时,需要频繁地重启微服务实例,但是我们很少会把eureka server一起重启(因为在开发过程中不会修改eureka注册中心),当一分钟内收到的心跳数大量减少时,会触发该保护机制。可以在eureka管理界面看到Renews threshold和Renews(last min),当后者(最后一分钟收到的心跳数)小于前者(心跳阈值)的时候,触发保护机制,会出现红色的警告: EMERGENCY!EUREKA MAY BE INCORRECTLY CLAIMING INSTANCES ARE UP WHEN THEY’RE NOT.RENEWALS ARE LESSER THAN THRESHOLD AND HENCE THE INSTANCES ARE NOT BEGING EXPIRED JUST TO BE SAFE. 从警告中可以看到,eureka认为虽然收不到实例的心跳,但它认为实例还是健康的,eureka会保护这些实例,不会把它们从注册表中删掉。
- 该保护机制的目的是避免网络连接故障,在发生网络故障时,微服务和注册中心之间无法正常通信,但服务本身是健康的,不应该注销该服务,如果eureka因网络故障而把微服务误删了,那即使网络恢复了,该微服务也不会重新注册到eureka server了,因为只有在微服务启动的时候才会发起注册请求,后面只会发送心跳和服务列表请求,这样的话,该实例虽然是运行着,但永远不会被其它服务所感知。所以,eureka server在短时间内丢失过多的客户端心跳时,会进入自我保护模式,该模式下,eureka会保护注册表中的信息,不在注销任何微服务,当网络故障恢复后,eureka会自动退出保护模式。自我保护模式可以让集群更加健壮。
- 但是我们在开发测试阶段,需要频繁地重启发布,如果触发了保护机制,则旧的服务实例没有被删除,这时请求有可能跑到旧的实例中,而该实例已经关闭了,这就导致请求错误,影响开发测试。所以,在开发测试阶段,我们可以关闭自我保护模式,只需在eureka server配置文件中加上如下配置即可:eureka.server.enable-self-preservation=false。
在团队开发中,新注册进来的微服务需要获取公共消息。
- DeptController.java新增方法:
//获取一些配置的信息,得到具体的微服务!
@Autowired
private DiscoveryClient client;
//注册进来的微服务~,获取一些消息~
@GetMapping("/dept/discovery")
public Object discovery() {
//获取微服务列表的清单
List services = client.getServices();
System.out.println("discovery=>services:" + services);
//得到一个具体的微服务信息,通过具体的微服务id,applicaioinName;
List instances = client.getInstances("SPRINGCLOUD-PROVIDER-DEPT");
for (ServiceInstance instance : instances) {
System.out.println(
instance.getHost() + "t" + // 主机名称
instance.getPort() + "t" + // 端口号
instance.getUri() + "t" + // uri
instance.getServiceId() // 服务id
);
}
return this.client;
}
- 主启动类中加入@EnableDiscoveryClient 注解
@SpringBootApplication
@EnableEurekaClient //在服务启动后自动注册到Eureka中!
@EnableDiscoveryClient //服务发现~
public class DeptProvider_8001 {
...
}
- 测试,结果如下:
新建springcloud-eureka-7002、springcloud-eureka-7003 模块
- .为上述两个模块的pom.xml添加依赖 (与springcloud-eureka-7001相同)
org.springframework.cloud spring-cloud-starter-eureka-server 1.4.6.RELEASE org.springframework.boot spring-boot-devtools
- 为上述两个模块的application.yml配置(与springcloud-eureka-7001相同)
server:
port: 7003
#Eureka配置
eureka:
instance:
hostname: localhost #Eureka服务端的实例名字
client:
register-with-eureka: false #表示是否向 Eureka 注册中心注册自己(这个模块本身是服务器,所以不需要)
fetch-registry: false #fetch-registry如果为false,则表示自己为注册中心
service-url: #监控页面~
#重写Eureka的默认端口以及访问路径 --->http://localhost:7001/eureka/
defaultZone: http://${eureka.instance.hostname}:${server.port}/eureka/
- 为主启动类添加注解(与springcloud-eureka-7001相同,以springcloud-eureka-7003为例)
//启动之后,访问 http://localhost:7001/
@SpringBootApplication
@EnableEurekaServer //EnableEurekaServer 服务端的启动类,可以接受别人注册进来~
public class EurekaServer_7003 {
public static void main(String[] args) {
SpringApplication.run(EurekaServer_7003.class,args);
}
}
4.4.2、集群成员相互关联
- 配置一些自定义本机名字,找到本机hosts文件并打开
在hosts文件最后加上,要访问的本机名称,默认是localhost
- 修改application.yml的配置,如图为springcloud-eureka-7001配置,springcloud-eureka-7002/springcloud-eureka-7003同样分别修改为其对应的名称即可
- 在集群中使springcloud-eureka-7001关联springcloud-eureka-7002、springcloud-eureka-7003
完整的springcloud-eureka-7001下的application.yml如下:
server:
port: 7001
#Eureka配置
eureka:
instance:
hostname: eureka7001.com #Eureka服务端的实例名字
client:
register-with-eureka: false #表示是否向 Eureka 注册中心注册自己(这个模块本身是服务器,所以不需要)
fetch-registry: false #fetch-registry如果为false,则表示自己为注册中心
service-url: #监控页面~
#重写Eureka的默认端口以及访问路径 --->http://localhost:7001/eureka/
# 单机: defaultZone: http://${eureka.instance.hostname}:${server.port}/eureka/
# 集群(关联):7001关联7002、7003
defaultZone: http://eureka7002.com:7002/eureka/,http://eureka7003.com:7003/eureka/
同时在集群中使springcloud-eureka-7002关联springcloud-eureka-7001、springcloud-eureka-7003
完整的springcloud-eureka-7002下的application.yml如下
server:
port: 7002
#Eureka配置
eureka:
instance:
hostname: eureka7002.com #Eureka服务端的实例名字
client:
register-with-eureka: false #表示是否向 Eureka 注册中心注册自己(这个模块本身是服务器,所以不需要)
fetch-registry: false #fetch-registry如果为false,则表示自己为注册中心
service-url: #监控页面~
#重写Eureka的默认端口以及访问路径 --->http://localhost:7001/eureka/
# 单机: defaultZone: http://${eureka.instance.hostname}:${server.port}/eureka/
# 集群(关联):7002关联7001、7003
defaultZone: http://eureka7001.com:7001/eureka/,http://eureka7003.com:7003/eureka/
springcloud-eureka-7003配置方式同理可得.
- 通过springcloud-provider-dept-8001下的yml配置文件,修改Eureka配置:配置服务注册中心地址
# Eureka配置:配置服务注册中心地址
eureka:
client:
service-url:
# 注册中心地址7001-7003
defaultZone: http://eureka7001.com:7001/eureka/,http://eureka7002.com:7002/eureka/,http://eureka7003.com:7003/eureka/
instance:
instance-id: springcloud-provider-dept-8001 #修改Eureka上的默认描述信息
- 这样模拟集群就搭建号了,就可以把一个项目挂载到三个服务器上
- 回顾CAP原则
RDBMS (MySQLOraclesqlServer) 即关系型数据库遵循ACID原则
NoSQL (RedisMongoDB)即 非关系型数据库遵循CAP原则
- ACID是什么?
- A (Atomicity) 原子性
- C (Consistency) 一致性
- I (Isolation) 隔离性
- D (Durability) 持久性
- CAP是什么?
- C (Consistency) 强一致性
- A (Availability) 可用性
- P (Partition tolerance) 分区容错性
CAP的三进二:CA、AP、CP,及非关系数据库只能保持CAP原则终的两方面。
- CAP理论的核心
- 一个分布式系统不可能同时很好的满足一致性,可用性和分区容错性这三个需求
- 根据CAP原理,将NoSQL数据库分成了满足CA原则,满足CP原则和满足AP原则三大类
- CA:单点集群,满足一致性,可用性的系统,通常可扩展性较差
- CP:满足一致性,分区容错的系统,通常性能不是特别高
- AP:满足可用性,分区容错的系统,通常可能对一致性要求低一些
- 作为分布式服务注册中心,Eureka比Zookeeper好在哪里?
著名的CAP理论指出,一个分布式系统不可能同时满足C (一致性) 、A (可用性) 、P (容错性),由于分区容错性P再分布式系统中是必须要保证的,因此我们只能再A和C之间进行权衡。而Zookeeper 保证的是CP,Eureka 保证的是AP。
- Zookeeper保证的是CP
当向注册中心查询服务列表时,我们可以容忍注册中心返回的是几分钟以前的注册信息,但不能接收服务直接down掉不可用。也就是说,服务注册功能对可用性的要求要高于一致性。但zookeeper会出现这样一种情况,当master节点因为网络故障与其他节点失去联系时,剩余节点会重新进行leader选举。问题在于,选举leader的时间太长,30-120s,且选举期间整个zookeeper集群是不可用的,这就导致在选举期间注册服务瘫痪。在云部署的环境下,因为网络问题使得zookeeper集群失去master节点是较大概率发生的事件,虽然服务最终能够恢复,但是,漫长的选举时间导致注册长期不可用,是不可容忍的。
- Eureka保证的是AP
Eureka看明白了这一点,因此在设计时就优先保证可用性。Eureka各个节点都是平等的,几个节点挂掉不会影响正常节点的工作,剩余的节点依然可以提供注册和查询服务。而Eureka的客户端在向某个Eureka注册时,如果发现连接失败,则会自动切换至其他节点,只要有一台Eureka还在,就能保住注册服务的可用性,只不过查到的信息可能不是最新的,除此之外,Eureka还有之中自我保护机制,如果在15分钟内超过85%的节点都没有正常的心跳,那么Eureka就认为客户端与注册中心出现了网络故障,此时会出现以下几种情况:
- Eureka不在从注册列表中移除因为长时间没收到心跳而应该过期的服务
- Eureka仍然能够接受新服务的注册和查询请求,但是不会被同步到其他节点上 (即保证当前节点依然可用)
- 当网络稳定时,当前实例新的注册信息会被同步到其他节点中
因此,Eureka可以很好的应对因网络故障导致部分节点失去联系的情况,而不会像zookeeper那样使整个注册服务瘫痪。
五、Ribbon:基于客户端负载均衡 5.1 、负载均衡以及Ribbon 5.1.1、什么是负载均衡?5.1.2、Ribbon及其功能
- 负载均衡(Load Balance),即将负载(工作任务,访问请求)进行平衡、分摊到多个操作单元(服务器,组件)上进行执行。
- 负载均衡是解决***高性能,单点故障(高可用),扩展性(水平伸缩)***的终极解决方案。
Ribbon是什么?
- Spring Cloud Ribbon 是基于Netflix Ribbon 实现的一套客户端负载均衡的工具。
- 简单的说,Ribbon 是 Netflix 发布的开源项目,主要功能是提供客户端的软件负载均衡算法,将 Netflix 的中间层服务连接在一起。Ribbon 的客户端组件提供一系列完整的配置项,如:连接超时、重试等。简单的说,就是在配置文件中列出
LoadBalancer (简称LB:负载均衡) 后面所有的及其,Ribbon 会自动的帮助你基于某种规则 (如简单轮询,随机连接等等)
去连接这些机器。我们也容易使用 Ribbon 实现自定义的负载均衡算法!
Ribbon的功能
- LB,即负载均衡 (LoadBalancer) ,在微服务或分布式集群中经常用的一种应用。
- 负载均衡简单的说就是将用户的请求平摊的分配到多个服务上,从而达到系统的HA (高用)。
- 常见的负载均衡软件有 Nginx、Lvs 等等。
- Dubbo、SpringCloud 中均给我们提供了负载均衡,SpringCloud 的负载均衡算法可以自定义。
负载均衡简单分类:
- 集中式LB,即在服务的提供方和消费方之间使用独立的LB设施,如Nginx,由该设施负责把访问请求通过某种策略转发至服务的提供方!
- 进程式LB,将LB逻辑集成到消费方,消费方从服务注册中心获知有哪些地址可用,然后自己再从这些地址中选出一个合适的服务器。
Ribbon就属于进程式LB,它只是一个类库,集成于消费方进程,消费方通过它来获取到服务提供方的地址!
5.2 、集成Ribbon- 在上述springcloud-consumer-dept-80的pom.xml中添加Ribbon和Eureka依赖,如下:
org.springframework.cloud spring-cloud-starter-ribbon 1.4.6.RELEASE org.springframework.cloud spring-cloud-starter-eureka 1.4.6.RELEASE
- 在springcloud-consumer-dept-80的application.yaml文件中配置Eureka,如下:
# Eureka配置
eureka:
client:
register-with-eureka: false # 不向 Eureka注册自己
service-url: # 从三个注册中心中随机取一个去访问
defaultZone: http://eureka7001.com:7001/eureka/,http://eureka7002.com:7002/eureka/,http://eureka7003.com:7003/eureka/
3.在springcloud-consumer-dept-80的 主启动类加上@EnableEurekaClient注解,开启Eureka,如下:
//Ribbon 和 Eureka 整合以后,客户端可以直接调用,不用关心IP地址和端口号
@SpringBootApplication
@EnableEurekaClient //开启Eureka 客户端
public class DeptConsumer_80 {
public static void main(String[] args) {
SpringApplication.run(DeptConsumer_80.class, args);
}
}
- 自定义Spring配置类:ConfigBean.java 配置负载均衡实现RestTemplate,如下:
@Configuration
public class ConfigBean {//@Configuration -- spring applicationContext.xml
@LoadBalanced //配置负载均衡实现RestTemplate
@Bean
public RestTemplate getRestTemplate() {
return new RestTemplate();
}
}
- 修改conroller,即DeptConsumerController.java
//Ribbon:我们这里的地址,应该是一个变量,通过服务名来访问 //private static final String REST_URL_PREFIX = "http://localhost:8001"; private static final String REST_URL_PREFIX = "http://SPRINGCLOUD-PROVIDER-DEPT";5.3、使用Ribbon实现负载均衡 5.3.1、Ribbon实现负载均衡流程
流程图:
- 新建两个服务提供者Moudle:springcloud-provider-dept-8003、springcloud-provider-dept-8002
- 参照springcloud-provider-dept-8001 依次为另外两个Moudle添加pom.xml依赖 、resourece下的mybatis和application.yml配置,Java代码
- 启动所有服务测试(根据自身电脑配置决定启动服务的个数),访问http://eureka7001.com:7002/查看结果:
测试访问http://localhost/consumer/dept/list 这时候随机访问的是服务提供者8003
再次访问http://localhost/consumer/dept/list这时候随机的是服务提供者8001
NOTE:以上这种每次访问http://localhost/consumer/dept/list随机访问集群中某个服务提供者,这种情况叫做轮询,轮询算法在SpringCloud中可以自定义。
- 在springcloud-provider-dept-80模块下的ConfigBean中进行配置,切换使用不同的规则,如下:
@Configuration
public class ConfigBean {//@Configuration -- spring applicationContext.xml
@LoadBalanced //配置负载均衡实现RestTemplate
@Bean
public RestTemplate getRestTemplate() {
return new RestTemplate();
}
@Bean
public IRule myRule(){
return new RandomRule();//使用随机规则
}
}
- 也可以自定义规则,在自定义的myRule包下自定义一个配置类MyRule.java,注意:该包不要和主启动类所在的包同级,要跟启动类所在包同级,如下:
六、Feign:基于服务器负载均衡 6.1、Feign简介
- 自定义的规则(这里我们参考Ribbon中默认的规则代码自己稍微改动):MyRandomRule.java
public class MyRandomRule extends AbstractLoadBalancerRule { private int total = 0;//被调用的次数 private int currentIndex = 0;//当前是谁在提供服务 //@edu.umd.cs.findbugs.annotations.SuppressWarnings(value = "RCN_REDUNDANT_NULLCHECK_OF_NULL_VALUE") public Server choose(ILoadBalancer lb, Object key) { if (lb == null) { return null; } Server server = null; while (server == null) { if (Thread.interrupted()) { return null; } ListupList = lb.getReachableServers();//获得当前活着的服务 List allList = lb.getAllServers();//获取所有的服务 int serverCount = allList.size(); if (serverCount == 0) { return null; } //int index = chooseRandomInt(serverCount);//生成区间随机数 //server = upList.get(index);//从或活着的服务中,随机获取一个 //=====================自定义代码========================= if (total < 5) { server = upList.get(currentIndex); total++; } else { total = 0; currentIndex++; if (currentIndex > upList.size()) { currentIndex = 0; } server = upList.get(currentIndex);//从活着的服务中,获取指定的服务来进行操作 } //====================================================== if (server == null) { Thread.yield(); continue; } if (server.isAlive()) { return (server); } // Shouldn't actually happen.. but must be transient or a bug. server = null; Thread.yield(); } return server; } protected int chooseRandomInt(int serverCount) { return ThreadLocalRandom.current().nextInt(serverCount); } @Override public Server choose(Object key) { return choose(getLoadBalancer(), key); } @Override public void initWithNiwsConfig(IClientConfig clientConfig) { // TODO Auto-generated method stub } }
- 编写自定义的MyRule.java
@Configuration public class MyRule { @Bean public IRule myRule(){ return new MyRandomRule();//默认是轮询RandomRule,现在自定义为自己的 } }
- 在主启动类开启负载均衡并指定自定义的MyRule配置类
//Ribbon 和 Eureka 整合以后,客户端可以直接调用,不用关心IP地址和端口号 @SpringBootApplication @EnableEurekaClient //在微服务启动的时候就能加载自定义的Ribbon类(自定义的规则会覆盖原有默认的规则) @RibbonClient(name = "SPRINGCLOUD-PROVIDER-DEPT",configuration =MyRule.class)//开启负载均衡,并指定自定义的规则 public class DeptConsumer_80 { public static void main(String[] args) { SpringApplication.run(DeptConsumer_80.class, args); } }
Feign是声明式Web Service客户端,它让微服务之间的调用变得更简单,类似controller调用service。SpringCloud集成了Ribbon和Eureka,可以使用Feigin提供负载均衡的http客户端,只需要创建一个接口,然后添加注解即可。
Feign,主要是社区版,大家都习惯面向接口编程。这个是很多开发人员的规范。调用微服务访问两种方法:
- 根据微服务名字 ribbon
- 使用接口和注解 feign
Feign功能
- Feign旨在使编写Java Http客户端变得更容易
- 前面在使用Ribbon + RestTemplate时,利用RestTemplate对Http请求的封装处理,形成了一套模板化的调用方法。但是在实际开发中,由于对服务依赖的调用可能不止一处,往往一个接口会被多处调用,所以通常都会针对每个微服务自行封装一个客户端类来包装这些依赖服务的调用。所以,Feign在此基础上做了进一步的封装,由他来帮助我们定义和实现依赖服务接口的定义,在Feign的实现下,我们只需要创建一个接口并使用注解的方式来配置它 (类似以前Dao接口上标注Mapper注解,现在是一个微服务接口上面标注一个Feign注解),即可完成对服务提供方的接口绑定,简化了使用Spring Cloud Ribbon 时,自动封装服务调用客户端的开发量。
NOTE:Feign默认集成了Ribbon
- 利用Ribbon维护了MicroServiceCloud-Dept的服务列表信息,并且通过轮询实现了客户端的负载均衡,而与Ribbon不同的是,通过Feign只需要定义服务绑定接口且以声明式的方法,优雅而简单的实现了服务调用。
第一步:创建springcloud-consumer-fdept-feign模块
- 拷贝springcloud-consumer-dept-80模块下的pom.xml,resource,以及java代码到springcloud-consumer-feign模块,并添加feign依赖。
org.springframework.cloud spring-cloud-starter-feign 1.4.6.RELEASE
- 改写控制类controller
- 通过Ribbon实现:—原来的controller:DeptConsumerController.java
package com.haust.springcloud.controller; import com.haust.springcloud.pojo.Dept; import org.springframework.beans.factory.annotation.Autowired; import org.springframework.web.bind.annotation.PathVariable; import org.springframework.web.bind.annotation.RequestMapping; import org.springframework.web.bind.annotation.RestController; import org.springframework.web.client.RestTemplate; import java.util.List; @RestController public class DeptConsumerController { // 理解:消费者,不应该有service层~ // RestTemplate .... 供我们直接调用就可以了! 注册到Spring中 // (url, 实体:Map ,ClassresponseType) @Autowired private RestTemplate restTemplate; //提供多种便捷访问远程http服务的方法,简单的Restful服务模板~ //Ribbon:我们这里的地址,应该是一个变量,通过服务名来访问 //private static final String REST_URL_PREFIX = "http://localhost:8001"; private static final String REST_URL_PREFIX = "http://SPRINGCLOUD-PROVIDER-DEPT"; @RequestMapping("/consumer/dept/add") public boolean add(Dept dept) { return restTemplate.postForObject(REST_URL_PREFIX + "/dept/add", dept, Boolean.class); } @RequestMapping("/consumer/dept/get/{id}") public Dept get(@PathVariable("id") Long id) { return restTemplate.getForObject(REST_URL_PREFIX + "/dept/get/" + id, Dept.class); } @RequestMapping("/consumer/dept/list") public List list() { return restTemplate.getForObject(REST_URL_PREFIX + "/dept/list", List.class); } }
- 通过Feign实现:—改造后controller:DeptConsumerController.java
@RestController public class DeptConsumerController { @Autowired private DeptClientService deptClientService = null; @RequestMapping("/consumer/dept/add") public boolean add(Dept dept) { return this.deptClientService.addDept(dept); } @RequestMapping("/consumer/dept/get/{id}") public Dept get(@PathVariable("id") Long id) { return this.deptClientService.queryById(id); } @RequestMapping("/consumer/dept/list") public Listlist() { return this.deptClientService.queryAll(); } } Feign和Ribbon二者对比,前者显现出面向接口编程特点,代码看起来更简洁。
- 改写主启动类
@SpringBootApplication
@EnableEurekaClient
//feign客户端注解,并指定要扫描的包以及配置接口DeptClientService
@EnableFeignClients(basePackages = {"com.haust.springcloud"})
//扫描所有自己的包,让所有注解也能生效
@ComponentScan("com.haust.springcloud")
public class FeignDeptConsumer_80 {
public static void main(String[] args) {
SpringApplication.run(FeignDeptConsumer_80.class, args);
}
}
第二步:改造springcloud-api模块
- pom.xml添加feign依赖
org.springframework.cloud spring-cloud-starter-feign 1.4.6.RELEASE
- 新建service包,并新建DeptClientService.java接口,
//@FeignClient:微服务客户端注解,value:指定微服务的名字,这样就可以使Feign客户端直接找到对应的微服务
@FeignClient(value = "SPRINGCLOUD-PROVIDER-DEPT")
public interface DeptClientService {
@GetMapping("/dept/get/{id}")
public Dept queryById(@PathVariable("id") Long id);
@GetMapping("/dept/list")
public Dept queryAll();
@GetMapping("/dept/add")
public Dept addDept(Dept dept);
}
Q:Feign和Ribbon如何选择?
A:根据个人习惯而定,如果喜欢REST风格使用Ribbon;如果喜欢社区版的面向接口风格使用Feign。
分布式系统面临的问题:
7.1、服务雪崩复杂分布式体系结构中的应用程序有数十个依赖关系,每个依赖关系在某些时候将不可避免失败。
7.2、什么是Hystrix?
多个微服务之间调用的时候,假设微服务A调用微服务B和微服务C,微服务B和微服务C又调用其他的微服务,这就是所谓的“扇出”,如果扇出的链路上某个微服务的调用响应时间过长,或者不可用,对微服务A的调用就会占用越来越多的系统资源,进而引起系统崩溃,所谓的“雪崩效应”。
对于高流量的应用来说,单一的后端依赖可能会导致所有服务器上的所有资源都在几十秒内饱和。比失败更糟糕的是,这些应用程序还可能导致服务之间的延迟增加,备份队列,线程和其他系统资源紧张,导致整个系统发生更多的级联故障,这些都表示需要对故障和延迟进行隔离和管理,以便单个依赖关系的失败,不能取消整个应用程序或系统。
7.3、Hystrix功能
Hystrix是一个应用于处理分布式系统的延迟和容错的开源库,在分布式系统里,许多依赖不可避免的会调用失败,比如超时,异常等,Hystrix能够保证在一个依赖出问题的情况下,不会导致整个体系服务失败,避免级联故障,以提高分布式系统的弹性。
熔断器Hystrix本身是一种开关装置,当某个服务单元发生故障之后,通过断路器的故障监控 (类似熔断保险丝) ,向调用方方茴一个服务预期的,可处理的备选响应 (FallBack),而不是长时间的等待或者抛出调用方法无法处理的异常,这样就可以保证了服务调用方的线程不会被长时间,不必要的占用,从而避免了故障在分布式系统中的蔓延,乃至雪崩。
- 服务降级
- 服务熔断
- 服务限流
- 接近实时的监控
… …
当一切正常时,请求流可以如下所示:
当许多的后端系统中有个系统存在潜在故障时,它可以阻止整个用户请求:
=========================================================
随着大容量通信量的增加,单个后端依赖项的潜在性会导致所有服务器上的所有资源在几秒钟内饱和。
应用程序中通过网络或客户端库可能导致网络请求的每个点都是潜在故障的来源。比失败更糟糕的是,这些应用程序还可能导致服务之间的延迟增加,从而备份队列、线程和其他系统资源,从而导致更多跨系统的级联故障。如下图:
当使用hystrix包装每个基础依赖项时,上面的图表中所示的体系结构会发生类似于以下关系图的变化。每个依赖项是相互隔离的,限制在延迟发生时它可以填充的资源中,并包含在回退逻辑中,该逻辑决定在依赖项中发生任何类型的故障时要做出什么样的响应:
7.4.2、服务熔断案例
- 熔断机制是赌赢雪崩效应的一种微服务链路保护机制。
- 在微服务架构中,微服务之间的数据交互通过远程调用完成,微服务A调用微服务B和微服务C,微服务B和微服务C又调用其它的微服务,此时如果链路上某个微服务的调用响应时间过长或者不可用,那么对微服务A的调用就会占用越来越多的系统资源,进而引起系统崩溃,导致“雪崩效应”。
- 服务熔断是应对雪崩效应的一种微服务链路保护机制。例如在高压电路中,如果某个地方的电压过高,熔断器就会熔断,对电路进行保护。同样,在微服务架构中,熔断机制也是起着类似的作用。当调用链路的某个微服务不可用或者响应时间太长时,会进行服务熔断,不再有该节点微服务的调用,快速返回错误的响应信息。当检测到该节点微服务调用响应正常后,恢复调用链路。
- 当扇出链路的某个微服务不可用或者响应时间太长时,会进行服务的降级,进而熔断该节点微服务的调用,快速返回错误的响应信息。检测到该节点微服务调用响应正常后恢复调用链路。在SpringCloud框架里熔断机制通过Hystrix实现。Hystrix会监控微服务间调用的状况,当失败的调用到一定阀值缺省是5秒内20次调用失败,就会启动熔断机制。熔断机制的注解是:@HystrixCommand 。
- 服务熔断解决如下问题: 1. 当所依赖的对象不稳定时,能够起到快速失败的目的;2. 快速失败后,能够根据一定的算法动态试探所依赖对象是否恢复。
新建springcloud-provider-dept-hystrix-8001模块并拷贝springcloud-provider-dept–8001内的pom.xml、resource和Java代码进行初始化并调整。
- 导入hystrix依赖
org.springframework.cloud spring-cloud-starter-hystrix 1.4.6.RELEASE
- 调整yaml配置文件
server:
port: 8001
# mybatis配置
mybatis:
# springcloud-api 模块下的pojo包
type-aliases-package: com.haust.springcloud.pojo
# 本模块下的mybatis-config.xml核心配置文件类路径
config-location: classpath:mybatis/mybatis-config.xml
# 本模块下的mapper配置文件类路径
mapper-locations: classpath:mybatis/mapper/*.xml
# spring配置
spring:
application:
#项目名
name: springcloud-provider-dept
datasource:
# 德鲁伊数据源
type: com.alibaba.druid.pool.DruidDataSource
driver-class-name: com.mysql.jdbc.Driver
url: jdbc:mysql://localhost:3306/db01?useUnicode=true&characterEncoding=utf-8
username: root
password: root
# Eureka配置:配置服务注册中心地址
eureka:
client:
service-url:
# 注册中心地址7001-7003
defaultZone: http://eureka7001.com:7001/eureka/,http://eureka7002.com:7002/eureka/,http://eureka7003.com:7003/eureka/
instance:
instance-id: springcloud-provider-dept-hystrix-8001 #修改Eureka上的默认描述信息
prefer-ip-address: true #改为true后默认显示的是ip地址而不再是localhost
#info配置
info:
app.name: haust-springcloud #项目的名称
company.name: com.haust #公司的名称
- prefer-ip-address: false(即使用主机名来定义注册中心的地址):
- prefer-ip-address: true(即不使用主机名而使用IP地址的形式来定义注册中心的地址):
- 修改controller
//提供Restful服务
@RestController
public class DeptController {
@Autowired
private DeptService deptService;
@HystrixCommand(fallbackMethod = "hystrixGet")//如果根据id查询出现异常,走这段代码
@GetMapping("/dept/get/{id}")//根据id查询
public Dept get(@PathVariable("id") Long id){
Dept dept = deptService.queryById(id);
if (dept==null){
throw new RuntimeException("这个id=>"+id+",不存在该用户,或信息无法找到~");
}
return dept;
}
//根据id查询备选方案(熔断)
public Dept hystrixGet(@PathVariable("id") Long id){
return new Dept().setDeptno(id)
.setDname("这个id=>"+id+",没有对应的信息,null---@Hystrix~")
.setDb_source("在MySQL中没有这个数据库");
}
}
- 在主启动类内添加对熔断的支持注解@EnableCircuitBreaker
@SpringBootApplication
@EnableEurekaClient //EnableEurekaClient 客户端的启动类,在服务启动后自动向注册中心注册服务
@EnableCircuitBreaker//添加对熔断的支持注解
public class HystrixDeptProvider_8001 {
public static void main(String[] args) {
SpringApplication.run(HystrixDeptProvider_8001.class,args);
}
}
测试
- 使用熔断后,当访问一个不存在的id时,前台页展示数据如下:
- 而不适用熔断的springcloud-provider-dept–8001模块访问相同地址会出现下面状况:
因此:为了避免因某个微服务后台出现异常或错误而导致整个应用或网页报错,使用熔断是必要的。
7.5、服务降级 7.5.1、什么是服务降级?
- 服务降级是指 当服务器压力剧增的情况下,根据实际业务情况及流量,对一些服务和页面有策略的不处理或换种简单的方式处理,从而释放服务器资源以保证核心业务正常运作或高效运作。说白了,就是尽可能的把系统资源让给优先级高的服务。
- 资源有限,而请求是无限的。如果在并发高峰期,不做服务降级处理,一方面肯定会影响整体服务的性能,严重的话可能会导致宕机某些重要的服务不可用。所以,一般在高峰期,为了保证核心功能服务的可用性,都要对某些服务降级处理。比如当双11活动时,把交易无关的服务统统降级,如查看蚂蚁深林,查看历史订单等等。
由上图可得,当某一时间内服务A的访问量暴增,而B和C的访问量较少,为了缓解A服务的压力,这时候需要B和C暂时关闭一些服务功能,去承担A的部分服务,从而为A分担压力,叫做服务降级。
服务降级主要用于什么场景呢?
7.5.2、服务降级需要考虑的问题
- 当整个微服务架构整体的负载超出了预设的上限阈值或即将到来的流量预计将会超过预设的阈值时,为了保证重要或基本的服务能正常运行,可以将一些 不重要 或 不紧急 的服务或任务进行服务的 延迟使用 或 暂停使用。
- 降级的方式可以根据业务来,可以延迟服务,比如延迟给用户增加积分,只是放到一个缓存中,等服务平稳之后再执行 ;或者在粒度范围内关闭服务,比如关闭相关文章的推荐。
- 那些服务是核心服务,哪些服务是非核心服务
- 那些服务可以支持降级,那些服务不能支持降级,降级策略是什么
- 除服务降级之外是否存在更复杂的业务放通场景,策略是什么?
-
超时降级:主要配置好超时时间和超时重试次数和机制,并使用异步机制探测回复情况
-
失败次数降级:主要是一些不稳定的api,当失败调用次数达到一定阀值自动降级,同样要使用异步机制探测回复情况
-
故障降级:比如要调用的远程服务挂掉了(网络故障、DNS故障、http服务返回错误的状态码、rpc服务抛出异常),则可以直接降级。降级后的处理方案有:默认值(比如库存服务挂了,返回默认现货)、兜底数据(比如广告挂了,返回提前准备好的一些静态页面)、缓存(之前暂存的一些缓存数据)
-
限流降级:秒杀或者抢购一些限购商品时,此时可能会因为访问量太大而导致系统崩溃,此时会使用限流来进行限制访问量,当达到限流阀值,后续请求会被降级;降级后的处理方案可以是:排队页面(将用户导流到排队页面等一会重试)、无货(直接告知用户没货了)、错误页(如活动太火爆了,稍后重试)。
- 在springcloud-api模块下的service包中新建降级配置类DeptClientServiceFallBackFactory.java
//降级 ~
@Component
public class DeptClientServiceFallBackFactory implements FallbackFactory {
@Override
public DeptClientService create(Throwable cause) {
return new DeptClientService() {
@Override
public Dept queryById(Long id) {
return new Dept()
.setDeptno(id)
.setDname("id=>" + id + "没有对应的信息,客户端提供了降级的信息,这个服务现在已经被关闭")
.setDb_source("没有数据~");
}
@Override
public List queryAll() {
return null;
}
@Override
public Boolean addDept(Dept dept) {
return false;
}
};
}
}
- 在DeptClientService中指定降级配置类DeptClientServiceFallBackFactory
@Component //注册到spring容器中
//@FeignClient:微服务客户端注解,value:指定微服务的名字,这样就可以使Feign客户端直接找到对应的微服务
@FeignClient(value = "SPRINGCLOUD-PROVIDER-DEPT",fallbackFactory = DeptClientServiceFallBackFactory.class)//fallbackFactory指定降级配置类
public interface DeptClientService {
@GetMapping("/dept/get/{id}")
public Dept queryById(@PathVariable("id") Long id);
@GetMapping("/dept/list")
public List queryAll();
@GetMapping("/dept/add")
public Boolean addDept(Dept dept);
}
- 在springcloud-consumer-dept-feign模块的配置文件中开启降级
server:
port: 80
# Eureka配置
eureka:
client:
register-with-eureka: false # 不向 Eureka注册自己
service-url: # 从三个注册中心中随机取一个去访问
defaultZone: http://eureka7001.com:7001/eureka/,http://eureka7002.com:7002/eureka/,http://eureka7003.com:7003/eureka/
# 开启降级feign.hystrix
feign:
hystrix:
enabled: true
7.6、服务熔断和降级的区别
- 服务熔断—>服务器:某个服务超时或异常,引起熔断~,类似于保险丝(自我熔断)
- 服务降级—>客户端:从整体网站请求负载考虑,当某个服务熔断或者关闭之后,服务将不再被调用,此时在客户端,我们可以准备一个 FallBackFactory ,返回一个默认的值(缺省值)。会导致整体的服务下降,但是好歹能用,比直接挂掉强。
- 触发原因不太一样,服务熔断一般是某个服务(下游服务)故障引起,而服务降级一般是从整体负荷考虑;管理目标的层次不太一样,熔断其实是一个框架级的处理,每个微服务都需要(无层级之分),而降级一般需要对业务有层级之分(比如降级一般是从最外围服务开始)
- 实现方式不太一样,服务降级具有代码侵入性(由控制器完成/或自动降级),熔断一般称为自我熔断。
提高分布式系统的弹性,降低服务雪崩的三种方式:
- 限流:限制并发的请求访问量,超过阈值则拒绝。
- 熔断:依赖的下游服务故障触发熔断,避免引发本系统崩溃;系统自动执行和恢复。
- 降级:服务分优先级,牺牲非核心服务(不可用),保证核心服务稳定;从整体负荷考虑。
- 新建springcloud-consumer-hystrix-dashboard模块
- 添加Hystrix相关依赖:
org.springframework.cloud spring-cloud-starter-hystrix1.4.6.RELEASE org.springframework.cloud spring-cloud-starter-hystrix-dashboard 1.4.6.RELEASE org.springframework.cloud spring-cloud-starter-ribbon1.4.6.RELEASE org.springframework.cloud spring-cloud-starter-eureka1.4.6.RELEASE com.haust springcloud-api 1.0-SNAPSHOT org.springframework.boot spring-boot-starter-web org.springframework.boot spring-boot-devtools
- 在主启动类上添加注解@EnableHystrixDashboard
@SpringBootApplication //开启Dashboard @EnableHystrixDashboard public class DeptConsumerDashboard_9001 { public static void main(String[] args) { SpringApplication.run(DeptConsumerDashboard_9001.class,args); } }
- 给springcloud-provider-dept-8001模块下的主启动类添加如下代码,添加监控
@SpringBootApplication
@EnableEurekaClient //EnableEurekaClient 客户端的启动类,在服务启动后自动向注册中心注册服务
public class DeptProvider_8001 {
public static void main(String[] args) {
SpringApplication.run(DeptProvider_8001.class,args);
}
//增加一个 Servlet
@Bean
public ServletRegistrationBean hystrixMetricsStreamServlet(){
ServletRegistrationBean registrationBean = new ServletRegistrationBean(new HystrixMetricsStreamServlet());
//访问该页面就是监控页面
registrationBean.addUrlMappings("/actuator/hystrix.stream");
return registrationBean;
}
}
八、Zuul路由网关
8.1、Zuul概述
什么是zuul?
- zuul 是netflix开源的一个API Gateway 服务器, 本质上是一个web servlet应用。
- Zuul 在云平台上提供动态路由,监控,弹性,安全等边缘服务的框架。Zuul 相当于是设备和 Netflix 流应用的 Web 网站后端所有请求的前门。
Zuul功能
- Zuul官方文档
Zuul包含了对请求的路由(用来跳转的)和过滤两个最主要功能:
- Zuul的路由功能负责将外部请求转发到具体的微服务实例上,是实现外部访问统一入口的基础。
- Zuul的过滤器功能则负责对请求的处理过程进行干预,是实现请求校验,服务聚合等功能的基础。
NOTE: Zuul和Eureka进行整合,将Zuul自身注册为Eureka服务治理下的应用,同时从Eureka中获得其他服务的消息,也即以后的访问微服务都是通过Zuul跳转后获得。
注意:Zuul服务最终还是会注册进Eureka,Zuul提供代理+路由+过滤 三大功能。
8.2、Zuul案例- 新建springcloud-zuul模块,并导入依赖
org.springframework.cloud spring-cloud-starter-zuul 1.4.6.RELEASEorg.springframework.cloud spring-cloud-starter-hystrix1.4.6.RELEASE org.springframework.cloud spring-cloud-starter-hystrix-dashboar 1.4.6.RELEASE org.springframework.cloud spring-cloud-starter-ribbon1.4.6.RELEASE org.springframework.cloud spring-cloud-starter-eureka1.4.6.RELEASE com.haust springcloud-api 1.0-SNAPSHOT org.springframework.boot spring-boot-starter-web org.springframework.boot spring-boot-devtools
- application.yaml配置
server:
port: 9527
spring:
application:
name: springcloud-zuul #微服务名称
eureka:
client:
service-url:
defaultZone: http://eureka7001.com:7001/eureka/,http://eureka7002.com:7002/eureka/,http://eureka7003.com:7003/eureka/
instance: #实例的id
instance-id: zuul9527.com
prefer-ip-address: true # 显示ip
info:
app.name: haust.springcloud #项目名称
company.name: haust #公司名称
zuul:
routes:
mydept.serviceId: springcloud-provider-dept
mydept.path: /mydept/**
ignored-services: "*" # 不能再使用某个(*:全部)路径访问了,ignored : 忽略,隐藏全部的~
prefix: /kuagn # 设置公共的前缀,实现隐藏原有路由
3. 改写主启动类,添加注解@EnableZuulProxy
@SpringBootApplication
@EnableZuulProxy //开启Zuul
public class ZuulApplication_9527 {
public static void main(String[] args) {
SpringApplication.run(ZuulApplication_9527.class,args);
}
}
补充:Zuul组件文档
九、Spring Colud Config分布式配置 9.1、Spring Colud Config概述Spring Cloud Config为分布式系统中的外部配置提供服务器和客户端支持。使用Config Server,您可以在所有环境中管理应用程序的外部属性。客户端和服务器上的概念映射与Spring Environment和PropertySource抽象相同,因此它们与Spring应用程序非常契合,但可以与任何以任何语言运行的应用程序一起使用。随着应用程序通过从开发人员到测试和生产的部署流程,您可以管理这些环境之间的配置,并确定应用程序具有迁移时需要运行的一切。服务器存储后端的默认实现使用git,因此它轻松支持标签版本的配置环境,以及可以访问用于管理内容的各种工具。很容易添加替代实现,并使用Spring配置将其插入。
9.1.1、分布式系统面临的配置文件问题9.1.2、什么是SpringCloud config分布式配置中心?微服务意味着要将单体应用中的业务拆分成一个个子服务,每个服务的粒度相对较小,因此系统中会出现大量的服务,由于每个服务都需要必要的配置信息才能运行,所以一套集中式的,动态的配置管理设施是必不可少的。spring cloud提供了configServer来解决这个问题,我们每一个微服务自己带着一个application.yml,那上百个的配置文件修改起来极其麻烦。
spring cloud config 为微服务架构中的微服务提供集中化的外部支持,配置服务器为各个不同微服务应用的所有环节提供了一个中心化的外部配置。
spring cloud config 分为服务端和客户端两部分:
9.1.3、spring cloud config分布式配置中心功能
服务端也称为分布式配置中心,它是一个独立的微服务应用,用来连接配置服务器并为客户端提供获取配置信息,加密,解密信息等访问接口。
客户端则是通过指定的配置中心来管理应用资源,以及与业务相关的配置内容,并在启动的时候从配置中心获取和加载配置信息。配置服务器默认采用git来存储配置信息,这样就有助于对环境配置进行版本管理。并且可用通过git客户端工具来方便的管理和访问配置内容。
补充:spring cloud config 分布式配置中心与GitHub整合
- 集中式管理配置文件
- 不同环境,不同配置,动态化的配置更新,分环境部署,比如 /dev /test /prod /beta /release
- 运行期间动态调整配置,不再需要在每个服务部署的机器上编写配置文件,服务会向配置中心统一拉取配置自己的信息
- 当配置发生变动时,服务不需要重启,即可感知到配置的变化,并应用新的配置
- 将配置信息以REST接口的形式暴露
由于spring cloud config 默认使用git来存储配置文件 (也有其他方式,比如自持SVN 和本地文件),但是最推荐的还是git ,并且使用的是 http / https 访问的形式。
9.2、入门案例 9.2.1、服务端- 新建springcloud-config-server-3344模块导入pom.xml依赖
org.springframework.boot spring-boot-starter-web org.springframework.cloud spring-cloud-config-server 2.1.1.RELEASE org.springframework.cloud spring-cloud-starter-eureka 1.4.6.RELEASE
- resource下创建application.yaml配置文件,Spring Cloud Config服务器从git存储库(必须提供)为远程客户端提供配置:
server:
port: 3344
spring:
application:
name: springcloud-config-server
# 连接码云远程仓库
cloud:
config:
server:
git:
#注意是https的而不是ssh
uri: https://gitee.com/cao_shi_peng/springcloud-config.git
# 通过 config-server可以连接到git,访问其中的资源以及配置~
# 不加这个配置会报Cannot execute request on any known server 这个错:连接Eureka服务端地址不对
# 或者直接注释掉eureka依赖 这里暂时用不到eureka
eureka:
client:
register-with-eureka: false
fetch-registry: false
- 在主启动类上添加注解@EnableConfigServer
@EnableConfigServer //开启spring cloud config server服务
@SpringBootApplication
public class Config_server_3344 {
public static void main(String[] args) {
SpringApplication.run(Config_server_3344.class,args);
}
}
- 将本地git仓库springcloud-config文件夹下新建的application.yaml提交到码云仓库:
NOTE:
定位资源的默认策略是克隆一个git仓库(spring.cloud.config.server.git.uri),并使用它来初始化一个迷你SpringApplication。该小应用程序(即SpringApplication)的Environment用于枚举属性源并通过JSON端点发布。
HTTP服务具有以下格式的资源:
/{application}/{profile}[/{label}]
/{application}-{profile}.yml
/{label}/{application}-{profile}.yml
/{application}-{profile}.properties
/{label}/{application}-{profile}.properties
其中{application}作为SpringApplication中的spring.config.name注入(即常规的Spring Boot应用程序中通常是“应用程序”),“{profile}”是活动配置文件(或逗号分隔列表的属性),“{label}”是可选的git标签(默认为“master”)。
- 测试
9.2.2、客户端
- 测试访问http://localhost:3344/application-dev.yml
- 测试访问 http://localhost:3344/application/test/master
- 测试访问 http://localhost:3344/master/application-dev.yml
- 如果测试访问不存在的配置则不显示 如:http://localhost:3344/master/application-aaa.yml
将本地git仓库springcloud-config文件夹下新建的config-client.yml提交到码云仓库:
- 新建一个springcloud-config-client-3355模块,并导入依赖
@Value("${spring.application.name}")
private String applicationName; //获取微服务名称
@Value("${eureka.client.service-url.defaultZone}")
private String eurekaServer; //获取Eureka服务
@Value("${server.port}")
private String port; //获取服务端的端口号
@RequestMapping("/config")
public String getConfig(){
return "applicationName:"+applicationName +
"eurekaServer:"+eurekaServer +
"port:"+port;
}
}
- 主启动类无变化
@SpringBootApplication
public class ConfigClient {
public static void main(String[] args) {
SpringApplication.run(ConfigClient.class,args);
}
}
- 测试,先启动服务端Config_server_3344 再启动客户端ConfigClient,访问:http://localhost:8201/config/



