ribbon 的几种负载均衡

本贴最后更新于 1074 天前,其中的信息可能已经事过境迁

1、简介

spring cloud 的负载均衡由 ribbon 组件实现,ribbon 是 NetFlix 发布的客户端负载均衡器。

2、ribbon 负载均衡规则

ribbon 负载均衡策略的结构类图

image.png

IRule 接口中共有三个方法

image.png

抽象类 AbstractLoadBalancerRule 实现了 IRule 接口,定义了一个 ILoadBalancer 类型变量,用于 ILoadBalancer 接口定义了软负载均衡的操作方法。

image.png

3、负载均衡策略

3.1、轮询策略

轮询策略在 RoundRobinRule 类中实现,它将可用服务存储在一个 List 中,然后定义了一个原子操作类,每次调用就 +1,下次调用就把这个值作为 List 的下标,以此决定要调用哪个服务。

下面是定义,在 RoundRobinRule 构造函数中,会初始化值为 0

image.png

image.png

3.2、随机策略

随机策略在 RandomRule 实现,RandomRule 定义规则,从现有服务中,随机选择一个服务,具体做法就是根据可选服务数量,选出一个随机数作为下标,获取服务

image.png

image.png

3.3、根据响应时间分配权重的策略

这个策略由 WeightedResponseTimeRule 实现,使用这个策略的话,相应时间越长的服务,越不容易被选中,响应时间越短的被选中的概率越大。

WeightedResponseTimeTule 定义了一个定时任务 30S 执行一次

image.png

每次执行会先计算所有服务的相应时间的和

image.png

然后用时间和减去每个服务的相应平均时间作为权重值再加上上一个服务的权重值,这样一来,相应时间越长的服务,分配的权重就会越低,由此就可以得到各个服务的权重

image.png

最后得到的各个服务的值就是一个依次递增的数列,数列的项与前一项差距越小说明相应所花时间越长,这么说可能太抽象,我们假设五个服务,把他们的 list 的值在 x 轴上做排列如下

image.png

第三个节点因为相应的平均时间较长,所以权重小,距离上一个节点距离就近一些,此时,我们取出最后一个节点(他的值最大),然后生成一个在 0-这个节点值之间的随机数,那么,命中第二个和第三个节点之间的概率就会小一些,换而言之,命中其他响应时间较短的节点的概率自然就提高了

再来看具体选择节点的代码,代码中,他选取了服务权重列表的最后一个服务权重为基准,做了一系列判断

image.png

此处,先取出最后一个服务的权重,因为这个服务权重是所有服务权重之和,如果最大的权重都小于 0.001d,说明所有服务相应时间都很短或者可用服务和权重列表数量不一致(有服务在期间挂了或其他),就默认使用轮询策略选择一个服务返回

image.png

这里就是按照之前说的,取一个在权重和的范围内的随机数,选择一个服务即可

3.4、最低并发策略

最低并发策略在 BestAvailableRule 中实现,这个算法就是给定一个随机的服务列表(为了避免大量服务请求时选择同一个并发数最小的服务造成服务导致崩溃,通过 ServerListSubsetFilter 来限制获取一个随机列表),然后选择出一个并发数最小的服务来请求。

image.png

3.5、可用性策略

可用性策略在 AvailabilityFilteringRule 中实现,他按照轮询规则来依次获取服务,如果当前获取到的服务符合规则,则返回服务,如果连续十次没有获取到符合条件的服务,就调用父类的轮询方法来直接获取服务。

image.png

选取规则默认使用 AvailabilityPredicate,选取代码如下

image.png

代码中判断,如果断路器已经被打开,或者服务的连接数超过最大连接数限制就过滤这个服务,进行下一个服务的判断。

3.6、区域权重策略

这个策略在 ZoneAvoidanceRule 中实现。

image.png

image.png

image.png

这个策略中有两个条件,将 ZoneAvoidancePredicate 作为主要规则,AvailabilityPredicate 作为次要规则,然后用 CompositePredicate 将这两个规则封装作为复核规则,主要规则满足则直接返回服务,否则调用次要规则获取服务,然后在获取到的服务中轮询调用。

ZoneAvoidanceRule.getAvailableZones 用来获取可用服务,流程如下

image.png

这里的 worstZones 并不需要全部从可用服务中剔除,但是要随机剔除一个

image.png

3.7、重试策略

重试策略在 RetryRule 中实现,他的具体做法是在选定的负载均衡策略上,如果调用失败则不断调用指定的负载策略获取服务,直到超过最大时间限制或成功,其默认负载策略是轮询。

image.png

image.png

  • Spring

    Spring 是一个开源框架,是于 2003 年兴起的一个轻量级的 Java 开发框架,由 Rod Johnson 在其著作《Expert One-On-One J2EE Development and Design》中阐述的部分理念和原型衍生而来。它是为了解决企业应用开发的复杂性而创建的。框架的主要优势之一就是其分层架构,分层架构允许使用者选择使用哪一个组件,同时为 JavaEE 应用程序开发提供集成的框架。

    944 引用 • 1459 回帖 • 16 关注
  • Java

    Java 是一种可以撰写跨平台应用软件的面向对象的程序设计语言,是由 Sun Microsystems 公司于 1995 年 5 月推出的。Java 技术具有卓越的通用性、高效性、平台移植性和安全性。

    3187 引用 • 8213 回帖
  • 开发
    38 引用 • 159 回帖 • 2 关注

相关帖子

欢迎来到这里!

我们正在构建一个小众社区,大家在这里相互信任,以平等 • 自由 • 奔放的价值观进行分享交流。最终,希望大家能够找到与自己志同道合的伙伴,共同成长。

注册 关于
请输入回帖内容 ...