SpringCloud 系列 --3. 负载均衡

本贴最后更新于 1746 天前,其中的信息可能已经时移俗易

我们先单独使用 ribbon 来看下:

  1. 建立服务端,简单的实现一个 controller, 还是响应中返回请求的服务所在端口等信息.简单代码如下:

  • 使用 ribbon 来调用上述服务.代码如下:
  • pom.xml 为

    <project xmlns="http://maven.apache.org/POM/4.0.0" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
    	xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 http://maven.apache.org/xsd/maven-4.0.0.xsd">
    	<modelVersion>4.0.0</modelVersion>
    	<groupId>org.crazyit.cloud</groupId>
    	<artifactId>first-ribbon-client</artifactId>
    	<version>0.0.1-SNAPSHOT</version>
    
    	<dependencies>
    		<dependency>
    			<groupId>com.netflix.ribbon</groupId>
    			<artifactId>ribbon</artifactId>
    			<version>2.2.2</version>
    		</dependency>
    		<dependency>
    			<groupId>com.netflix.ribbon</groupId>
    			<artifactId>ribbon-core</artifactId>
    			<version>2.2.2</version>
    		</dependency>
    		<dependency>
    			<groupId>com.netflix.ribbon</groupId>
    			<artifactId>ribbon-httpclient</artifactId>
    			<version>2.2.2</version>
    		</dependency>
    		<dependency>
    			<groupId>com.netflix.ribbon</groupId>
    			<artifactId>ribbon-loadbalancer</artifactId>
    			<version>2.2.2</version>
    			<scope>compile</scope>
    		</dependency>
    
    		<dependency>
    			<groupId>commons-configuration</groupId>
    			<artifactId>commons-configuration</artifactId>
    			<version>1.10</version>
    		</dependency>
    
    		<dependency>
    			<groupId>com.netflix.ribbon</groupId>
    			<artifactId>ribbon-loadbalancer</artifactId>
    			<version>2.2.2</version>
    		</dependency>
    		<dependency>
    			<groupId>com.google.guava</groupId>
    			<artifactId>guava</artifactId>
    			<version>18.0</version>
    		</dependency>
    		<dependency>
    			<groupId>com.netflix.archaius</groupId>
    			<artifactId>archaius-core</artifactId>
    			<version>0.7.4</version>
    		</dependency>
    	</dependencies>
    </project>
    

    具体调用代码:

    对应的输出:

    localhost:8081
    localhost:8080
    localhost:8081
    localhost:8080
    localhost:8081
    localhost:8080
    结果是一样的, 默认使用的是 RoundRobinRule 规则。

    image.png

    自定义负载规则

    我们知道选择哪个服务器进行处理是 ILoadBalancer 接口的 chooseServer 方法决定,而在 BaseLoadBalancer 类中,则使用 IRule 接口的 choose 方法来决定选择哪一个服务器对象。如果自定义负载均衡规则,可以编写一个 IRule 的实现类。

    1.首先实现 IRule 接口

    2. 指定负载策略(硬编码)
    
    2.指定负载策略(配置)
    
    Ribbon 自带的负载规则
    
    • RoundRobinRule: 系统默认的规则,通过简单地轮询服务列表来选择服务器,其他规则在很多情况下仍然使用 RoundRobinRule;
    • AvailabilityFilteringRule: 该规则会忽略以下服务器。
      无法连接的服务器:在默认情况下,如果 3 次连接失败,该服务器将会被置为"短路"状态,改状态将持续 30 秒;如果再次连接失败,"短路"状态的持续时间将会以几何级数增加,可以通过修改 niws.loadbalancer.<clientName>.connectionFailureCountThreshold 属性来配置连接失败的次数。
      并发过高的服务器:如果连接到该服务器的并发数过高,也会被这个规则忽略,可以通过修改 <clientName>.ribbon.ActiveConnectionsLimit 属性设定最高并发数。
    • WeightedResponseTimeRule: 权重,服务器的响应时间越长,该权重值就应配置越少。
    • ZoneAvoidanceRule: 该规则以区域、可用服务器为基础进行选择,可以理解为机架或者机房。
    • BestAvailableRule: 忽略"短路"的服务器,并选择并发数较低的服务器.
    • RandomRule: 随机选择可用的服务器。
    • RetryRule: 含有重试的选择逻辑,如果使用 RoundRobinRule 选择的服务器无法连接,那么将会重新选择服务器。

    Ping 机制

    负载均衡器中提供了 Ping 机制,每个一段时间会去 ping 服务器,该工作由 IPing 接口的实现类负责,如果单独使用 Ribbon,默认情况不激活 Ping 机制,默认实现类为 DummyPing,以下示例使用另一个 IPing 实现类 PingUrl

    输出结果一致:
    2
    localhost:8080 状态:true
    localhost:8888 状态:false

    自定义 Ping

    输出
    这是自定义 Ping 实现类:localhost:8080
    这是自定义 Ping 实现类:localhost:8888
    这是自定义 Ping 实现类:localhost:8080
    这是自定义 Ping 实现类:localhost:8888
    这是自定义 Ping 实现类:localhost:8080
    这是自定义 Ping 实现类:localhost:8888
    这是自定义 Ping 实现类:localhost:8080
    这是自定义 Ping 实现类:localhost:8888
    这是自定义 Ping 实现类:localhost:8080
    这是自定义 Ping 实现类:localhost:8888
    2
    localhost:8080 状态:true
    localhost:8888 状态:true

    其他配置:

    NFLoadBalancerClassName:指定负载均衡器的实现类,可利用该配置实现自己的负载均衡器。
    NIWSServerListClassName: 服务器列表处理类,用来维护服务器列表,Ribbon 已经实现动态服务器列表。
    NIWSServerListFilterClassName: 用于处理服务器列表拦截。

    • Spring

      Spring 是一个开源框架,是于 2003 年兴起的一个轻量级的 Java 开发框架,由 Rod Johnson 在其著作《Expert One-On-One J2EE Development and Design》中阐述的部分理念和原型衍生而来。它是为了解决企业应用开发的复杂性而创建的。框架的主要优势之一就是其分层架构,分层架构允许使用者选择使用哪一个组件,同时为 JavaEE 应用程序开发提供集成的框架。

      943 引用 • 1460 回帖 • 3 关注
    • Ribbon
      5 引用 • 2 回帖

    相关帖子

    欢迎来到这里!

    我们正在构建一个小众社区,大家在这里相互信任,以平等 • 自由 • 奔放的价值观进行分享交流。最终,希望大家能够找到与自己志同道合的伙伴,共同成长。

    注册 关于
    请输入回帖内容 ...

    推荐标签 标签

    • Windows

      Microsoft Windows 是美国微软公司研发的一套操作系统,它问世于 1985 年,起初仅仅是 Microsoft-DOS 模拟环境,后续的系统版本由于微软不断的更新升级,不但易用,也慢慢的成为家家户户人们最喜爱的操作系统。

      223 引用 • 474 回帖
    • Wide

      Wide 是一款基于 Web 的 Go 语言 IDE。通过浏览器就可以进行 Go 开发,并有代码自动完成、查看表达式、编译反馈、Lint、实时结果输出等功能。

      欢迎访问我们运维的实例: https://wide.b3log.org

      30 引用 • 218 回帖 • 635 关注
    • Elasticsearch

      Elasticsearch 是一个基于 Lucene 的搜索服务器。它提供了一个分布式多用户能力的全文搜索引擎,基于 RESTful 接口。Elasticsearch 是用 Java 开发的,并作为 Apache 许可条款下的开放源码发布,是当前流行的企业级搜索引擎。设计用于云计算中,能够达到实时搜索,稳定,可靠,快速,安装使用方便。

      117 引用 • 99 回帖 • 209 关注
    • Pipe

      Pipe 是一款小而美的开源博客平台。Pipe 有着非常活跃的社区,可将文章作为帖子推送到社区,来自社区的回帖将作为博客评论进行联动(具体细节请浏览 B3log 构思 - 分布式社区网络)。

      这是一种全新的网络社区体验,让热爱记录和分享的你不再感到孤单!

      132 引用 • 1114 回帖 • 125 关注
    • 招聘

      哪里都缺人,哪里都不缺人。

      190 引用 • 1057 回帖
    • 互联网

      互联网(Internet),又称网际网络,或音译因特网、英特网。互联网始于 1969 年美国的阿帕网,是网络与网络之间所串连成的庞大网络,这些网络以一组通用的协议相连,形成逻辑上的单一巨大国际网络。

      98 引用 • 344 回帖
    • Laravel

      Laravel 是一套简洁、优雅的 PHP Web 开发框架。它采用 MVC 设计,是一款崇尚开发效率的全栈框架。

      20 引用 • 23 回帖 • 726 关注
    • 微服务

      微服务架构是一种架构模式,它提倡将单一应用划分成一组小的服务。服务之间互相协调,互相配合,为用户提供最终价值。每个服务运行在独立的进程中。服务于服务之间才用轻量级的通信机制互相沟通。每个服务都围绕着具体业务构建,能够被独立的部署。

      96 引用 • 155 回帖
    • TGIF

      Thank God It's Friday! 感谢老天,总算到星期五啦!

      288 引用 • 4485 回帖 • 663 关注
    • Typecho

      Typecho 是一款博客程序,它在 GPLv2 许可证下发行,基于 PHP 构建,可以运行在各种平台上,支持多种数据库(MySQL、PostgreSQL、SQLite)。

      12 引用 • 65 回帖 • 446 关注
    • 反馈

      Communication channel for makers and users.

      123 引用 • 913 回帖 • 250 关注
    • frp

      frp 是一个可用于内网穿透的高性能的反向代理应用,支持 TCP、UDP、 HTTP 和 HTTPS 协议。

      20 引用 • 7 回帖 • 2 关注
    • 强迫症

      强迫症(OCD)属于焦虑障碍的一种类型,是一组以强迫思维和强迫行为为主要临床表现的神经精神疾病,其特点为有意识的强迫和反强迫并存,一些毫无意义、甚至违背自己意愿的想法或冲动反反复复侵入患者的日常生活。

      15 引用 • 161 回帖 • 2 关注
    • 新人

      让我们欢迎这对新人。哦,不好意思说错了,让我们欢迎这位新人!
      新手上路,请谨慎驾驶!

      52 引用 • 228 回帖
    • 职场

      找到自己的位置,萌新烦恼少。

      127 引用 • 1706 回帖
    • OkHttp

      OkHttp 是一款 HTTP & HTTP/2 客户端库,专为 Android 和 Java 应用打造。

      16 引用 • 6 回帖 • 76 关注
    • Spark

      Spark 是 UC Berkeley AMP lab 所开源的类 Hadoop MapReduce 的通用并行框架。Spark 拥有 Hadoop MapReduce 所具有的优点;但不同于 MapReduce 的是 Job 中间输出结果可以保存在内存中,从而不再需要读写 HDFS,因此 Spark 能更好地适用于数据挖掘与机器学习等需要迭代的 MapReduce 的算法。

      74 引用 • 46 回帖 • 559 关注
    • 服务

      提供一个服务绝不仅仅是简单的把硬件和软件累加在一起,它包括了服务的可靠性、服务的标准化、以及对服务的监控、维护、技术支持等。

      41 引用 • 24 回帖
    • 代码片段

      代码片段分为 CSS 与 JS 两种代码,添加在 [设置 - 外观 - 代码片段] 中,这些代码会在思源笔记加载时自动执行,用于改善笔记的样式或功能。

      用户在该标签下分享代码片段时需在帖子标题前添加 [css] [js] 用于区分代码片段类型。

      90 引用 • 561 回帖 • 1 关注
    • 小薇

      小薇是一个用 Java 写的 QQ 聊天机器人 Web 服务,可以用于社群互动。

      由于 Smart QQ 从 2019 年 1 月 1 日起停止服务,所以该项目也已经停止维护了!

      34 引用 • 467 回帖 • 748 关注
    • Solidity

      Solidity 是一种智能合约高级语言,运行在 [以太坊] 虚拟机(EVM)之上。它的语法接近于 JavaScript,是一种面向对象的语言。

      3 引用 • 18 回帖 • 401 关注
    • App

      App(应用程序,Application 的缩写)一般指手机软件。

      91 引用 • 384 回帖 • 2 关注
    • 又拍云

      又拍云是国内领先的 CDN 服务提供商,国家工信部认证通过的“可信云”,乌云众测平台认证的“安全云”,为移动时代的创业者提供新一代的 CDN 加速服务。

      21 引用 • 37 回帖 • 548 关注
    • HBase

      HBase 是一个分布式的、面向列的开源数据库,该技术来源于 Fay Chang 所撰写的 Google 论文 “Bigtable:一个结构化数据的分布式存储系统”。就像 Bigtable 利用了 Google 文件系统所提供的分布式数据存储一样,HBase 在 Hadoop 之上提供了类似于 Bigtable 的能力。

      17 引用 • 6 回帖 • 75 关注
    • OpenStack

      OpenStack 是一个云操作系统,通过数据中心可控制大型的计算、存储、网络等资源池。所有的管理通过前端界面管理员就可以完成,同样也可以通过 Web 接口让最终用户部署资源。

      10 引用 • 1 关注
    • VirtualBox

      VirtualBox 是一款开源虚拟机软件,最早由德国 Innotek 公司开发,由 Sun Microsystems 公司出品的软件,使用 Qt 编写,在 Sun 被 Oracle 收购后正式更名成 Oracle VM VirtualBox。

      10 引用 • 2 回帖
    • PWA

      PWA(Progressive Web App)是 Google 在 2015 年提出、2016 年 6 月开始推广的项目。它结合了一系列现代 Web 技术,在网页应用中实现和原生应用相近的用户体验。

      14 引用 • 69 回帖 • 159 关注