深入学习 RabbitMQ(三):channel 的 confirm 模式

本贴最后更新于 2349 天前,其中的信息可能已经时移俗易

[转]http://blog.csdn.net/hzw19920329/article/details/54340711

上一篇博客我们介绍了使用 RabbitMQ 可能会遇到的一个问题,即生产者不知道消息是否真正到达 broker 代理服务器,随后通过 AMQP 协议层面为我们提供的事务机制解决了这个问题,但是采用事务机制实现会降低 RabbitMQ 的消息吞吐量,那么有没有更加高效的解决方式呢?RabbitMQ 团队为我们拿出了更好的方案,即采用发送方确认模式;

   生产者确认模式实现原理:

   生产者将信道设置成confirm模式,一旦信道进入confirm模式,所有在该信道上面发布的消息都将会被指派一个唯一的ID(从1开始),一旦消息被投递到所有匹配的队列之后,broker就会发送一个确认给生产者(包含消息的唯一ID),这就使得生产者知道消息已经正确到达目的队列了,如果消息和队列是可持久化的,那么确认消息会在将消息写入磁盘之后发出,broker回传给生产者的确认消息中delivery-tag域包含了确认消息的序列号,此外broker也可以设置basic.ack的multiple域,表示到这个序列号之前的所有消息都已经得到了处理;

   confirm模式最大的好处在于他是异步的,一旦发布一条消息,生产者应用程序就可以在等信道返回确认的同时继续发送下一条消息,当消息最终得到确认之后,生产者应用便可以通过回调方法来处理该确认消息,如果RabbitMQ因为自身内部错误导致消息丢失,就会发送一条nack消息,生产者应用程序同样可以在回调方法中处理该nack消息;

   开启confirm模式的方法:

   生产者通过调用channel的confirmSelect方法将channel设置为confirm模式,(注意一点,已经在transaction事务模式的channel是不能再设置成confirm模式的,即这两种模式是不能共存的),如果没有设置no-wait标志的话,broker会返回confirm.select-ok表示同意发送者将当前channel信道设置为confirm模式(从目前RabbitMQ最新版本3.6来看,如果调用了channel.confirmSelect方法,默认情况下是直接将no-wait设置成false的,也就是默认情况下broker是必须回传confirm.select-ok的,而且我也没找到我们自己能够设置no-wait标志的方法);

   生产者实现confiem模式有三种编程方式:

   (1):普通confirm模式,每发送一条消息,调用waitForConfirms()方法等待服务端confirm,这实际上是一种串行的confirm,每publish一条消息之后就等待服务端confirm,如果服务端返回false或者超时时间内未返回,客户端进行消息重传;

   (2):批量confirm模式,每发送一批消息之后,调用waitForConfirms()方法,等待服务端confirm,这种批量确认的模式极大的提高了confirm效率,但是如果一旦出现confirm返回false或者超时的情况,客户端需要将这一批次的消息全部重发,这会带来明显的重复消息,如果这种情况频繁发生的话,效率也会不升反降;

   

   讲完了基本的原理之后,代码级别我们该怎么设置channel信道为confirm模式呢?以及我们该怎么获取broker返回给我们的确认消息呢?

   测试1:普通confirm模式

   首先从最简单的开始,仅仅将channel设置成confirm模式,并且生产者每发送一条消息就等待broker回应确认消息,至于确认消息是什么我们不去做任何处理,为了测试方便,此处生产者只发送了5条消息,实现代码如下:

[java] view plain copy

  1. public class ProducerTest {

  2.  public static void main(String[] args) {  
    
  3.      String exchangeName = "confirmExchange";  
    
  4.      String queueName = "confirmQueue";  
    
  5.      String routingKey = "confirmRoutingKey";  
    
  6.      String bindingKey = "confirmRoutingKey";  
    
  7.      int count = 5;  
    
  8.      ConnectionFactory factory = new ConnectionFactory();  
    
  9.      factory.setHost("172.16.151.74");  
    
  10.      factory.setUsername("test");  
    
  11.      factory.setPassword("test");  
    
  12.      factory.setPort(5672);  
    
  13.      //创建生产者  
    
  14.      Sender producer = new Sender(factory, count, exchangeName, queueName,routingKey,bindingKey);  
    
  15.      producer.run();  
    
  16.  }  
    
  17. }

  18. class Sender

  19. {

  20.  private ConnectionFactory factory;  
    
  21.  private int count;  
    
  22.  private String exchangeName;  
    
  23.  private String  queueName;  
    
  24.  private String routingKey;  
    
  25.  private String bindingKey;  
    
  26.  public Sender(ConnectionFactory factory,int count,String exchangeName,String queueName,String routingKey,String bindingKey) {  
    
  27.      this.factory = factory;  
    
  28.      this.count = count;  
    
  29.      this.exchangeName = exchangeName;  
    
  30.      this.queueName = queueName;  
    
  31.      this.routingKey = routingKey;  
    
  32.      this.bindingKey = bindingKey;  
    
  33.  }  
    
  34.  public void run() {  
    
  35.      Channel channel = null;  
    
  36.      try {  
    
  37.          Connection connection = factory.newConnection();  
    
  38.          channel = connection.createChannel();  
    
  39.          //创建exchange  
    
  40.          channel.exchangeDeclare(exchangeName, "direct", true, false, null);  
    
  41.          //创建队列  
    
  42.          channel.queueDeclare(queueName, true, false, false, null);  
    
  43.          //绑定exchange和queue  
    
  44.          channel.queueBind(queueName, exchangeName, bindingKey);  
    
  45.          channel.confirmSelect();  
    
  46.          //发送持久化消息  
    
  47.          for(int i = 0;i < count;i++)  
    
  48.          {  
    
  49.              //第一个参数是exchangeName(默认情况下代理服务器端是存在一个""名字的exchange的,  
    
  50.              //因此如果不创建exchange的话我们可以直接将该参数设置成"",如果创建了exchange的话  
    
  51.              //我们需要将该参数设置成创建的exchange的名字),第二个参数是路由键  
    
  52.              channel.basicPublish(exchangeName, routingKey,MessageProperties.PERSISTENT_BASIC, ("第"+(i+1)+"条消息").getBytes());  
    
  53.              if(channel.waitForConfirms())  
    
  54.              {  
    
  55.                  System.out.println("发送成功");  
    
  56.              }  
    
  57.          }  
    
  58.          final long start = System.currentTimeMillis();  
    
  59.          System.out.println("执行waitForConfirmsOrDie耗费时间: "+(System.currentTimeMillis()-start)+"ms");  
    
  60.      } catch (Exception e) {  
    
  61.          e.printStackTrace();  
    
  62.      }  
    
  63.  }  
    
  64. }

    在第 50 行调用 Channel 信道的 confirmSelect 方法将当前信道设置成了 confirm 模式,第 57 行通过 for 循环调用 Channel 的 basicPublish 方法发送了 5 条消息到消息队列中,第 58 行调用 waitForConfirms 方法等待 broker 服务端返回 ack 或者 nack 消息,这种模式每发送一条消息就会等待 broker 代理服务器返回消息,这点我们可以从抓包的角度观察结果:

   可以看到上面生产者通过Confirm.Select将当前Channel信道设置成confirm模式,broker代理服务器收到之后回传Confirm.Select-Ok同一将当前Channel设置成confirm模式,此外看到返回5条Basic.Ack消息;

    测试2:批量confirm模式

    这种模式生产者不是每发送一条就等待broker确认,而是发送一批,实现代码见下:

[java] view plain copy

  1. public class ProducerTest {

  2.  public static void main(String[] args) {  
    
  3.      String exchangeName = "confirmExchange";  
    
  4.      String queueName = "confirmQueue";  
    
  5.      String routingKey = "confirmRoutingKey";  
    
  6.      String bindingKey = "confirmRoutingKey";  
    
  7.      int count = 100;  
    
  8.      ConnectionFactory factory = new ConnectionFactory();  
    
  9.      factory.setHost("172.16.151.74");  
    
  10.      factory.setUsername("test");  
    
  11.      factory.setPassword("test");  
    
  12.      factory.setPort(5672);  
    
  13.      //创建生产者  
    
  14.      Sender producer = new Sender(factory, count, exchangeName, queueName,routingKey,bindingKey);  
    
  15.      producer.run();  
    
  16.  }  
    
  17. }

  18. class Sender

  19. {

  20.  private ConnectionFactory factory;  
    
  21.  private int count;  
    
  22.  private String exchangeName;  
    
  23.  private String  queueName;  
    
  24.  private String routingKey;  
    
  25.  private String bindingKey;  
    
  26.  public Sender(ConnectionFactory factory,int count,String exchangeName,String queueName,String routingKey,String bindingKey) {  
    
  27.      this.factory = factory;  
    
  28.      this.count = count;  
    
  29.      this.exchangeName = exchangeName;  
    
  30.      this.queueName = queueName;  
    
  31.      this.routingKey = routingKey;  
    
  32.      this.bindingKey = bindingKey;  
    
  33.  }  
    
  34.  public void run() {  
    
  35.      Channel channel = null;  
    
  36.      try {  
    
  37.          Connection connection = factory.newConnection();  
    
  38.          channel = connection.createChannel();  
    
  39.          //创建exchange  
    
  40.          channel.exchangeDeclare(exchangeName, "direct", true, false, null);  
    
  41.          //创建队列  
    
  42.          channel.queueDeclare(queueName, true, false, false, null);  
    
  43.          //绑定exchange和queue  
    
  44.          channel.queueBind(queueName, exchangeName, bindingKey);  
    
  45.          channel.confirmSelect();  
    
  46.          //发送持久化消息  
    
  47.          for(int i = 0;i < count;i++)  
    
  48.          {  
    
  49.              //第一个参数是exchangeName(默认情况下代理服务器端是存在一个""名字的exchange的,  
    
  50.              //因此如果不创建exchange的话我们可以直接将该参数设置成"",如果创建了exchange的话  
    
  51.              //我们需要将该参数设置成创建的exchange的名字),第二个参数是路由键  
    
  52.              channel.basicPublish(exchangeName, routingKey,MessageProperties.PERSISTENT_BASIC, ("第"+(i+1)+"条消息").getBytes());  
    
  53.          }  
    
  54.          long start = System.currentTimeMillis();  
    
  55.          channel.waitForConfirmsOrDie();  
    
  56.          System.out.println("执行waitForConfirmsOrDie耗费时间: "+(System.currentTimeMillis()-start)+"ms");  
    
  57.      } catch (Exception e) {  
    
  58.          e.printStackTrace();  
    
  59.      }  
    
  60.  }  
    
  61. }

    第 50 行调用 channel.confirmSelect 将当前 channel 信道设置成 confirm 模式,接着在第 57 行通过 for 循环发送了 100 条消息,第 60 行调用了 channel 的 waitForConfirmsOrDie,从 waitForConfirmsOrDie 方法的注释上可以看出,该方法会等到最后一条消息得到确认或者得到 nack 才会结束,也就是说在 waitForConfirmsOrDie 处会造成当前程序的阻塞,以测试 1 程序发送 100 条消息为例,阻塞时间是 135ms,我们再来看看对测试 1 的抓包情况:

   从红色箭头的标号1出可以看到:首先是24向74发送了Confirm.Select消息表示请求将当前信道设置为confirm模式,接着74向24回送了Confirm.Select-Ok消息表示同意将信道设置成confirm模式,从红色标号2处NoWait字段的值为false也印证了我们如果直接调用Channel信道的confirmSelect()方法的话,实际上默认是开启broker回传Confirm.Select-Ok确认消息的;  

   接下来我们看看broker回传给客户端的确认消息数据包是什么样子的呢?同样通过抓包看看结果:

   你会发现,在上面测试1中我们通过for循环发送了100条消息,但是在抓包的时候我们仅仅看到有两个Basic.Ack确认消息回传回来,原因在于上面截图的标号3处,你会发现Multiple域的值是True的,之前我们已经讲过broker可以设置Multiple域表示broker已经收到当前确认消息的Delivery-Tag域之前标号的消息,以上面截图为例的话表示broker告诉发送者编号4之前的消息已经全部收到了,从这点我们看出broker端默认情况下是进行批量回复的,并不是针对每条消息都发送一条ack消息;

   测试2:

   测试1我们仅仅是测试发送者能够收到broker的确认消息以及知道了broker对消息默认是采用批量回复方式的,那么在程序中我们该怎么获取到broker回传回来的确认消息呢,假如我们有时候需要在收到确认消息之后做一些提示性操作该怎么办呢?测试1中,我们采用的是Channel信道的waitForConfirmsOrDie等待broker端回传回ack确认消息的,但我们没法拿到这个ack消息进行后期操作,要想拿到ack消息的话,我们可以给当前Channel信道绑定监听器,具体来说就是调用Channel信道的addConfirmListener方法进行设置,Channel信道在收到broker的ack消息之后会回调设置在该信道监听器上的handleAck方法,在收到nack消息之后会回调设置在该信道监听器上的handleNack方法。

   实现代码:

[java] view plain copy

  1. public class ProducerTest {

  2.  public static void main(String[] args) {  
    
  3.      String exchangeName = "confirmExchange";  
    
  4.      String queueName = "confirmQueue";  
    
  5.      String routingKey = "confirmRoutingKey";  
    
  6.      String bindingKey = "confirmRoutingKey";  
    
  7.      int count = 100;  
    
  8.      ConnectionFactory factory = new ConnectionFactory();  
    
  9.      factory.setHost("172.16.151.74");  
    
  10.      factory.setUsername("test");  
    
  11.      factory.setPassword("test");  
    
  12.      factory.setPort(5672);  
    
  13.      //创建生产者  
    
  14.      Sender producer = new Sender(factory, count, exchangeName, queueName,routingKey,bindingKey);  
    
  15.      producer.run();  
    
  16.  }  
    
  17. }

  18. class Sender

  19. {

  20.  private ConnectionFactory factory;  
    
  21.  private int count;  
    
  22.  private String exchangeName;  
    
  23.  private String  queueName;  
    
  24.  private String routingKey;  
    
  25.  private String bindingKey;  
    
  26.  public Sender(ConnectionFactory factory,int count,String exchangeName,String queueName,String routingKey,String bindingKey) {  
    
  27.      this.factory = factory;  
    
  28.      this.count = count;  
    
  29.      this.exchangeName = exchangeName;  
    
  30.      this.queueName = queueName;  
    
  31.      this.routingKey = routingKey;  
    
  32.      this.bindingKey = bindingKey;  
    
  33.  }  
    
  34.  public void run() {  
    
  35.      Channel channel = null;  
    
  36.      try {  
    
  37.          Connection connection = factory.newConnection();  
    
  38.          channel = connection.createChannel();  
    
  39.          //创建exchange  
    
  40.          channel.exchangeDeclare(exchangeName, "direct", true, false, null);  
    
  41.          //创建队列  
    
  42.          channel.queueDeclare(queueName, true, false, false, null);  
    
  43.          //绑定exchange和queue  
    
  44.          channel.queueBind(queueName, exchangeName, bindingKey);  
    
  45.          channel.confirmSelect();  
    
  46.          //发送持久化消息  
    
  47.          for(int i = 0;i < count;i++)  
    
  48.          {  
    
  49.              //第一个参数是exchangeName(默认情况下代理服务器端是存在一个""名字的exchange的,  
    
  50.              //因此如果不创建exchange的话我们可以直接将该参数设置成"",如果创建了exchange的话  
    
  51.              //我们需要将该参数设置成创建的exchange的名字),第二个参数是路由键  
    
  52.              channel.basicPublish(exchangeName, routingKey,MessageProperties.PERSISTENT_BASIC, ("第"+(i+1)+"条消息").getBytes());  
    
  53.          }  
    
  54.          long start = System.currentTimeMillis();  
    
  55.          channel.addConfirmListener(new ConfirmListener() {  
    
  56.              @Override  
    
  57.              public void handleNack(long deliveryTag, boolean multiple) throws IOException {  
    
  58.                  System.out.println("nack: deliveryTag = "+deliveryTag+" multiple: "+multiple);  
    
  59.              }  
    
  60.              @Override  
    
  61.              public void handleAck(long deliveryTag, boolean multiple) throws IOException {  
    
  62.                  System.out.println("ack: deliveryTag = "+deliveryTag+" multiple: "+multiple);  
    
  63.              }  
    
  64.          });  
    
  65.          System.out.println("执行waitForConfirmsOrDie耗费时间: "+(System.currentTimeMillis()-start)+"ms");  
    
  66.      } catch (Exception e) {  
    
  67.          e.printStackTrace();  
    
  68.      }  
    
  69.  }  
    
  70. }

    第 60 行我们调用了 Channel 信道的 addConfirmListener 设置了监听器,并且在监听器的 handleAck 和 handleNack 方法中打印了信息,运行程序查看输出:

   可以看到,虽然我们还是发送了100条消息,同样我们并没有收到100个ack消息 ,只收到两个ack消息,并且这两个ack消息的multiple域都为true,这点和测试1是相同的,你多次运行程序会发现每次发送回来的ack消息中的deliveryTag域的值并不是一样的,说明broker端批量回传给发送者的ack消息并不是以固定的批量大小回传的;

   也就是我们通过信道Channel的waitForConfirmsOrDie方法或者为信道设置监听器都可以保证发送者收到broker回传的ack或者nack消息,那么这两种方式有什么区别呢?从测试一的第61行代码以及测试2的第72行代码处你就能找到答案啦,测试1中调用waitForConfirmsOrDie方法发送100条消息并且全部收到确认需要135ms,测试2中通过监听器的方式仅仅需要1ms,说明调用waitForConfirmsOrDie会造成程序的阻塞,通过监听器并不会造成程序的阻塞,下一篇博客我会试着从RabbitMQ的源码层面来分析这两种方式造成这种区别的原因啦啦;

   参考资料:

   [RabbitMQ官网](http://www.rabbitmq.com/confirms.html)

   [RabbitMQ不同Confirm模式下的性能对比](http://ju.outofmemory.cn/entry/177937)
  • RabbitMQ

    RabbitMQ 是一个开源的 AMQP 实现,服务器端用 Erlang 语言编写,支持多种语言客户端,如:Python、Ruby、.NET、Java、C、PHP、ActionScript 等。用于在分布式系统中存储转发消息,在易用性、扩展性、高可用性等方面表现不俗。

    49 引用 • 60 回帖 • 400 关注

相关帖子

欢迎来到这里!

我们正在构建一个小众社区,大家在这里相互信任,以平等 • 自由 • 奔放的价值观进行分享交流。最终,希望大家能够找到与自己志同道合的伙伴,共同成长。

注册 关于
请输入回帖内容 ...

推荐标签 标签

  • Unity

    Unity 是由 Unity Technologies 开发的一个让开发者可以轻松创建诸如 2D、3D 多平台的综合型游戏开发工具,是一个全面整合的专业游戏引擎。

    25 引用 • 7 回帖 • 233 关注
  • jQuery

    jQuery 是一套跨浏览器的 JavaScript 库,强化 HTML 与 JavaScript 之间的操作。由 John Resig 在 2006 年 1 月的 BarCamp NYC 上释出第一个版本。全球约有 28% 的网站使用 jQuery,是非常受欢迎的 JavaScript 库。

    63 引用 • 134 回帖 • 732 关注
  • 面试

    面试造航母,上班拧螺丝。多面试,少加班。

    324 引用 • 1395 回帖 • 4 关注
  • Mobi.css

    Mobi.css is a lightweight, flexible CSS framework that focus on mobile.

    1 引用 • 6 回帖 • 708 关注
  • 旅游

    希望你我能在旅途中找到人生的下一站。

    86 引用 • 896 回帖 • 1 关注
  • C++

    C++ 是在 C 语言的基础上开发的一种通用编程语言,应用广泛。C++ 支持多种编程范式,面向对象编程、泛型编程和过程化编程。

    106 引用 • 152 回帖
  • BAE

    百度应用引擎(Baidu App Engine)提供了 PHP、Java、Python 的执行环境,以及云存储、消息服务、云数据库等全面的云服务。它可以让开发者实现自动地部署和管理应用,并且提供动态扩容和负载均衡的运行环境,让开发者不用考虑高成本的运维工作,只需专注于业务逻辑,大大降低了开发者学习和迁移的成本。

    19 引用 • 75 回帖 • 618 关注
  • 单点登录

    单点登录(Single Sign On)是目前比较流行的企业业务整合的解决方案之一。SSO 的定义是在多个应用系统中,用户只需要登录一次就可以访问所有相互信任的应用系统。

    9 引用 • 25 回帖
  • WebComponents

    Web Components 是 W3C 定义的标准,它给了前端开发者扩展浏览器标签的能力,可以方便地定制可复用组件,更好的进行模块化开发,解放了前端开发者的生产力。

    1 引用 • 15 关注
  • Webswing

    Webswing 是一个能将任何 Swing 应用通过纯 HTML5 运行在浏览器中的 Web 服务器,详细介绍请看 将 Java Swing 应用变成 Web 应用

    1 引用 • 15 回帖 • 632 关注
  • MyBatis

    MyBatis 本是 Apache 软件基金会 的一个开源项目 iBatis,2010 年这个项目由 Apache 软件基金会迁移到了 google code,并且改名为 MyBatis ,2013 年 11 月再次迁移到了 GitHub。

    170 引用 • 414 回帖 • 405 关注
  • 游戏

    沉迷游戏伤身,强撸灰飞烟灭。

    171 引用 • 813 回帖 • 1 关注
  • DNSPod

    DNSPod 建立于 2006 年 3 月份,是一款免费智能 DNS 产品。 DNSPod 可以为同时有电信、网通、教育网服务器的网站提供智能的解析,让电信用户访问电信的服务器,网通的用户访问网通的服务器,教育网的用户访问教育网的服务器,达到互联互通的效果。

    6 引用 • 26 回帖 • 524 关注
  • Docker

    Docker 是一个开源的应用容器引擎,让开发者可以打包他们的应用以及依赖包到一个可移植的容器中,然后发布到任何流行的操作系统上。容器完全使用沙箱机制,几乎没有性能开销,可以很容易地在机器和数据中心中运行。

    484 引用 • 906 回帖 • 1 关注
  • 新人

    让我们欢迎这对新人。哦,不好意思说错了,让我们欢迎这位新人!
    新手上路,请谨慎驾驶!

    51 引用 • 226 回帖
  • ngrok

    ngrok 是一个反向代理,通过在公共的端点和本地运行的 Web 服务器之间建立一个安全的通道。

    7 引用 • 63 回帖 • 605 关注
  • FFmpeg

    FFmpeg 是一套可以用来记录、转换数字音频、视频,并能将其转化为流的开源计算机程序。

    23 引用 • 31 回帖 • 8 关注
  • 996
    13 引用 • 200 回帖 • 2 关注
  • 程序员

    程序员是从事程序开发、程序维护的专业人员。

    541 引用 • 3529 回帖
  • InfluxDB

    InfluxDB 是一个开源的没有外部依赖的时间序列数据库。适用于记录度量,事件及实时分析。

    2 引用 • 60 关注
  • Mac

    Mac 是苹果公司自 1984 年起以“Macintosh”开始开发的个人消费型计算机,如:iMac、Mac mini、Macbook Air、Macbook Pro、Macbook、Mac Pro 等计算机。

    164 引用 • 594 回帖 • 2 关注
  • B3log

    B3log 是一个开源组织,名字来源于“Bulletin Board Blog”缩写,目标是将独立博客与论坛结合,形成一种新的网络社区体验,详细请看 B3log 构思。目前 B3log 已经开源了多款产品:SymSoloVditor思源笔记

    1083 引用 • 3461 回帖 • 262 关注
  • frp

    frp 是一个可用于内网穿透的高性能的反向代理应用,支持 TCP、UDP、 HTTP 和 HTTPS 协议。

    16 引用 • 7 回帖
  • 微软

    微软是一家美国跨国科技公司,也是世界 PC 软件开发的先导,由比尔·盖茨与保罗·艾伦创办于 1975 年,公司总部设立在华盛顿州的雷德蒙德(Redmond,邻近西雅图)。以研发、制造、授权和提供广泛的电脑软件服务业务为主。

    8 引用 • 44 回帖
  • LeetCode

    LeetCode(力扣)是一个全球极客挚爱的高质量技术成长平台,想要学习和提升专业能力从这里开始,充足技术干货等你来啃,轻松拿下 Dream Offer!

    209 引用 • 72 回帖
  • C

    C 语言是一门通用计算机编程语言,应用广泛。C 语言的设计目标是提供一种能以简易的方式编译、处理低级存储器、产生少量的机器码以及不需要任何运行环境支持便能运行的编程语言。

    83 引用 • 165 回帖 • 11 关注
  • Sphinx

    Sphinx 是一个基于 SQL 的全文检索引擎,可以结合 MySQL、PostgreSQL 做全文搜索,它可以提供比数据库本身更专业的搜索功能,使得应用程序更容易实现专业化的全文检索。

    1 引用 • 191 关注