1.服务注册和服务发现
服务注册:服务提供者将所提供服务的信息(服务IP和服务端口、服务访问协议等)注册/登记到注册中心;
服务注册中心的本质是:解耦服务提供者和服务消费者
服务发现:服务消费者能够从服务中心获取到较为真实的服务列表,然后根据一定的策略选择一个服务访问;
2.负载均衡
负载均衡:将多个服务请求分配到多个服务器(应用服务器、数据库服务器等),以此来提高服务的性能、可靠性;
3.熔断
熔断又称为:断路保护,在微服务架构中,如果下游服务因为访问压力过大而变慢或者失败。上游服务为了保护系统的整体可用性,暂时切断对该下游服务的调用。
4.链路追踪
一次请求涉及的多个服务链路进行日志记录、性能监控
5.API网关
微服务架构下,不同的微服务往往会有不同的访问地址,客户端可能需要调用多个服务的接口才能完成一个业务需求,如果让客户端直接与各个微服务通信可能出现:
1)客户端需要调用不同的url地址,增加了维护调用难度
2)在一定的场景下,也存在跨域请求的问题(前后端分离就会碰到跨域问题,原本我们在后端采用Cors就能解决,现在利用网关,那么就放在网关这层做好了)
3)每个微服务都需要进行单独的身份认证
功能:
1) 统一接入(路由)
2)安全防护(统一鉴权)
3)黑白名单(实现通信协议校验,适配转换的功能)
4) 流量管控
5)容错能力(负载均衡)
Spring Cloud的核心组件
注册中心 Eureka 阿里巴巴Nacos
客户端负载均衡 Ribbon 阿里巴巴Dubbo LB
熔断器 Hystrix 阿里巴巴 Sentinel
网关 Spring Cloud GateWay
配置中心 spring cloud config 阿里巴巴Nacos
服务调用 Feign
消息驱动 spring cloud Stream
链路追踪 spring cloud sleuth/zipkin
spring cloud 与 Dubbon 的区别
Dubbon 基于RPC调用 spring cloud 基于http 协议调用
Bubbon 体系组件不全,不能提供一站式解决方案 ,Spring Cloud 相反
Spring cloud 与 Spring Boot 的关系
CAP定理又称CAP原则,指在一个分布式系统中,Consistency(一致性)、Availability(可用性)、
Partition tolerance(分区容错性)
CPA不可能同时满足三个,要么是AP、要么是CP
Eureka AP(自我保护机制,保证可用) HTTP
Nacos 支持AP/CP切换 HTTP/DNS
Consul CP 客户端
Zookeeper CP HTTP
服务每隔30秒会向注册中心续约(心跳)一次(也称为报活),如果没有续约,租约在90秒后到期,然后服务会被失效。每隔30秒的续约操作我们称之为心跳检测(renew)
每隔一段时间服务会从注册中心中拉取一份服务列表,这个时间默认是30秒
Ribbon 负载均衡服务端负载均衡:请求到达服务器之后,由负载均衡器根据一定的算法将请求路由到目标服务器处理
客户端负载均衡 :调用方在请求前通过一定的负载均衡器选择一个服务器进行访问,负载均衡算法是在请求客户端进行
负载均衡的策略:轮询策略 默认超过10次获取到的Server都不可用返回一个空的server
随机策略 如果随机的server不可用或者为bull的话,while不停的选取
重试策略 一定时限内循环重试。默认继承RoundRobinRule,也支持自定义注入,RetryRule会在每次选取之后,对选举的server进行判断,是否为null,是否alive,并且在500ms内会不停的选取判断。而RoundRobinRule失效的策略是超过10次,RandomRule是没有失效时间的概念,只要serverList没都挂。
最小链接数策略
可用过滤策略
区域权衡策略
Hystrix熔断器(属于一种容错机制)微服务中的雪崩效应:因“服务提供者不可用(下游服务)(原因)”导致“服务调用者(上游服务)不可用(结果)”,并且将不可用逐渐放大,最后导致服务不可用
雪崩效应图:
1.刚开始完好的运行中
2.下游服务调用失败或者奔溃
3.影响到上游服务
4.影响整个服务奔溃
如图所示:最下游商品微服务响应时间过长,大量请求阻塞,大量线程不会释放,会导致服务器资源耗尽,最终导致上游服务甚至整个系统瘫痪。
扇入:代表着该服务被调用的次数,扇入大,说明模块复用性好
扇出:该微服务调用其他微服务的个数,扇出大,说明业务逻辑复杂
扇入大是一个好事,扇出则不一定
形成原因:
服务雪崩的过程可以分为三个阶段:
-
服务提供者不可用
-
重试加大请求流量
-
服务调用者不可用
雪崩效应的解决方案:
服务熔断
服务熔断重点在”断“ ,切断对下流服务的调用
服务熔断和服务降级往往是一起使用的,Hystrix就是这样。
服务降级
通俗讲就是整体资源不够用了,先将一些不关紧的服务停掉(调用我的时候,给你返回一个预留的值,也叫做兜底数据),待渡过难关高峰过去,再把那些服务打开。
服务限流
服务限流:是当服务出问题或者影响到核心流程的性能时,暂时将服务屏蔽掉,待高峰或者问题解决后再打开;但是有些场景并不能用服务降级来解决,比如秒杀业务这样的核心功能,这个时候可以结合服务限流来限制这些场景的并发/请求量
限流措施也很多,比如
-
限制总并发数(比如数据库连接池、线程池)
-
限制瞬时并发数(如nginx限制瞬时并发连接数)
-
限制时间窗口内的平均速率(如Guava的RateLimiter、nginx的limit_req模块,限制每秒的平均速率)
-
限制远程接口调用速率、限制MQ的消费速率等



