字节三面-hashmap和Nginx负载均衡

提示：以下是本篇文章正文内容，下面案例可供参考

红黑树结构：首先红黑树也是一种AVL平衡二叉树，其构成的节点有黑色和红色节点构成。红黑树中没有一条从根节点到叶子节点的距离是最短的根节点到叶子节点的两倍，且每一条根节点到叶子节点的路径上黑色节点个数相同，所以是一个弱平衡二叉树，相对于AVL树来说，红黑树的旋转次数少，对于搜索、插入、删除多的操作下用红黑树。

在服务器集群中，Nginx起到一个代理服务器的角色（即反向代理），为了避免单独一个服务器压力过大，将来自用户的请求转发给不同的服务器。

最基本的配置方法，它是upstream模块默认的负载均衡，每个请求按时间顺序分配到不同的后端服务器上面

fail_timeout：与max_fails结合使用

max_fails：设置在fail_timeout参数设置的时间内最大失败次数，如果在这个时间内，所有针对该服务器的请求都失败了，那么认为该服务器会被认为是停机了

fail_time：服务器被认为停机的时间长度，默认为10s

backup：标记该服务器为备用服务器，当主服务停止时，请求会被发送到这台服务器

down：标记服务器不参与负载均衡

在轮询策略的基础上指定轮询的几率，weight的默认值为1，weight的数值与访问比率成正比

权重越高分配到需要处理的请求越多。
此策略可以与least_conn和ip_hash结合使用。
此策略比较适合服务器的硬件配置差别比较大的情况

保证每个访客都固定访问一个后端服务器

在nginx版本1.3.1之前，不能在ip_hash中使用权重（weight）。
ip_hash不能与backup同时使用。
此策略适合有状态服务，比如session。
当有服务器需要剔除，必须手动down掉。

把请求转发给连接数较少的后端服务器。轮询算法是把请求平均的转发给各个后端，使它们的负载大致相同；但是，有些请求占用的时间很长，会导致其所在的后端负载较高。这种情况下，least_conn这种方式就可以达到更好的负载均衡效果

此负载均衡策略适合请求处理时间长短不一造成服务器过载的情况

第三方的负载均衡策略需要安装第三方插件（upstream_fair）

按照服务器响应时间来分配请求，响应时间短的优先分配

按访问url的hash结果分配请求，使每个url定向分配到同一个后端服务器，同一个资源多次请求，可能会请求到不同的服务器上，导致不必要的多次下载，缓存命中率不高，以及一些资源时间的浪费，使用url_hash,可以使得同一个URL会达到同一台服务器上面，再次请求的时候，就可以从缓存中读取。