消息队列 RabbitMQ(上)

本贴最后更新于 1208 天前,其中的信息可能已经时异事殊

1、MQ 的基本概念

  MQ 全称 Message Queue(消息队列),是在消息的传输过程中保存消息的容器,也叫消息中间件。多用于分布式系统之间进行通信。

image.png

优势

(1)应用解耦,提升系统容错性和可维护性。

image.png

(2)异步提速,提升用户体验和系统吞吐量(单位时间内处理请求的数目)

image.png

(3)削峰填谷,使用了 MQ 之后,限制消费消息的速度为 1000,这样一来,高峰期产生的数据势必会被积压在 MQ 中,高峰就被“削”掉了,但是因为消息积压,在高峰期过后的一段时间内,消费消息的速度还是会维持在 1000,直到消费完积压的消息,这就叫做“填谷”。可以提高系统稳定性

image.png

劣势

  • 系统可用性降低。

  系统引入的外部依赖越多,系统稳定性越差。一旦 MQ 宕机,就会对业务造成影响,如何保证 MQ 的高可用?

  • 系统复杂度提高。

  MQ 的加入大大增加了系统的复杂度,以前系统间是同步的远程调用,现在是通过 MQ 进行异步调用。如何保证消息没有被重复消费?怎么处理消息丢失情况?那么保证消息传递的顺序性?

  • 一致性问题。

  A 系统处理完业务,通过 MQ 给 B、C、D 三个系统发消息数据,如果 B 系统、C 系统处理成功,D 系统处理失败。如何保证消息数据处理的一致性?

使用 MQ 需要满足的条件

  1. 生产者不需要从消费者处获得反馈。引入消息队列之前的直接调用,其接口的返回值应该为空,这才让明明下层的动作还没做,上层却当成动作做完了继续往后走,即所谓异步成为了可能。
  2. 容许短暂的不一致性。
  3. 确实是用了有效果。即解耦、提速、削峰这些方面的收益,超过加入 MQ,管理 MQ 这些成本。

常见的 MQ 产品

  目前业界有很多的 MQ 产品,例如 RabbitMQ、RocketMQ、ActiveMQ、Kafka、ZeroMQ、MetaMq 等,也有直接使用 Redis 充当消息队列的案例,而这些消息队列产品,各有侧重,在实际选型时,需要结合自身需求及 MQ 产品特征,综合考虑。

image.png

2、RabbitMQ 简介

  AMQP,即 Advanced Message Queuing Protocol(高级消息队列协议),是一个网络协议,是应用层协议的一个开放标准,为面向消息的中间件设计。基于此协议的客户端与消息中间件可传递消息,并不受客户端/中间件不同产品,不同的开发语言等条件的限制。

  JMS 即 Java 消息服务(JavaMessage Service)应用程序接口,是一个 Java 平台中关于面向消息中间件的 API,是 JavaEE 规范中的一种,类比 JDBC。很多消息中间件都实现了 JMS 规范,例如:ActiveMQ、RabbitMQ ,官方没有提供 JMS 的实现包,但是开源社区有。

  RabbitMQ 采用 Erlang 语言开发。Erlang 语言由 Ericson 设计,专门为开发高并发和分布式系统的一种语言,在电信领域使用广泛。

RabbitMQ 基础架构如下图:

image.png

  • Broker:接收和分发消息的应用,RabbitMQ Server 就是 Message Broker。
  • Virtual host:出于多租户和安全因素设计的,把 AMQP 的基本组件划分到一个虚拟的分组中,类似于网络中的 namespace 概念。当多个不同的用户使用同一个 RabbitMQ server 提供的服务时,可以划分出多个 vhost,每个用户在自己的 vhost 创建 exchange/queue 等。
  • Connection:publisher/consumer 和 broker 之间的 TCP 连接。
  • Channel:如果每一次访问 RabbitMQ 都建立一个 Connection,在消息量大的时候建立 TCP 。Connection 的开销将是巨大的,效率也较低。Channel 是在 connection 内部建立的逻辑连接,如果应用程序支持多线程,通常每个 thread 创建单独的 channel 进行通讯,AMQP method 包含了 channel id 帮助客户端和 message broker 识别 channel,所以 channel 之间是完全隔离的。Channel 作为轻量级的 Connection 极大减少了操作系统建立 TCP connection 的开销。
  • Exchange:message 到达 broker 的第一站,根据分发规则,匹配查询表中的 routing key,分发消息到 queue 中去。常用的类型有:direct (point-to-point), topic (publish-subscribe) and fanout (multicast)。
  • Queue:消息最终被送到这里等待 consumer 取走。
  • Binding:exchange 和 queue 之间的虚拟连接,binding 中可以包含 routing key。Binding 信息被保存到 exchange 中的查询表中,用于 message 的分发依据。

RabbitMQ 提供了 7 种工作模式

(1)Hello World(简单模式)

image.png

  生产者将消息发送到队列,消费者从队列中获取消息,队列是存储消息的缓冲区。

(2)Work Queues(工作队列模式)

image.png

  在基本消息模型中,一个生产者对应一个消费者,而实际生产过程中,往往消息生产会发送很多条消息,如果消费者只有一个的话效率就会很低,因此 rabbitmq 有另外一种消息模型,这种模型下,一个生产发送消息到队列,允许有多个消费者接收消息,但是一条消息只会被一个消费者获取。

(3)Publish/Subscribe(发布/订阅模式)

image.png

  在之前的模型中,一条消息只能被一个消费者获取,而在订阅模式中,可以实现一条消息被多个消费者获取。在这种模型下,消息传递过程中比之前多了一个 exchange 交换机,生产者不是直接发送消息到队列,而是先发送给交换机,经由交换机分配到不同的队列,而每个消费者都有自己的队列。(使用 Fanout 类型交换机)

exchange 交换机的类型有以下几种:
  • Fanout:广播,交换机将消息发送到所有与之绑定的队列中去。

在广播模式下,消息发送的流程如下:

  1. 可以有多个消费者,每个消费者都有自己的队列;
  2. 每个队列都要与 exchange 绑定;
  3. 生产者发送消息到 exchange;
  4. exchange 将消息把消息发送到所有绑定的队列中去;
  5. 消费者从各自的队列中获取消息。
  • Direct:定向,交换机按照指定的 Routing Key 发送到匹配的队列中去。
  • Topics:通配符,与 Direct 大致相同,不同在于 Routing Key 可以根据通配符进行匹配。

  Exchange 交换机只负责转发消息,不具备存储消息的能力,因此如果没有任何队列与 Exchange 绑定,或者没有符合路由规则的队列,那么消息会丢失。

(4)Routing(路由模型)

image.png

  交换机根据 Routing Key 将消息发送到指定的队列,队列在与交换机绑定时会设定一个 Routing Key,而生产者发送的消息时也需要携带一个 Routing Key。(使用 Direct 类型交换机)

(5)Topics(主题模型)

image.png

  Topic 模型 Routing 模型相比,都是可以根据 RoutingKey 把消息路由到不同的队列。只不过 Topic 模型可以让队列在绑定 Routing key 的时候使用通配符。(使用 Topic 类型交换机)

(6)RPC(远程过程调用模型)

(7)Publisher Confirms(发布确认模型)

  • RabbitMQ

    RabbitMQ 是一个开源的 AMQP 实现,服务器端用 Erlang 语言编写,支持多种语言客户端,如:Python、Ruby、.NET、Java、C、PHP、ActionScript 等。用于在分布式系统中存储转发消息,在易用性、扩展性、高可用性等方面表现不俗。

    49 引用 • 60 回帖 • 394 关注

相关帖子

欢迎来到这里!

我们正在构建一个小众社区,大家在这里相互信任,以平等 • 自由 • 奔放的价值观进行分享交流。最终,希望大家能够找到与自己志同道合的伙伴,共同成长。

注册 关于
请输入回帖内容 ...