深入学习 RabbitMQ(三):channel 的 confirm 模式

本贴最后更新于 2660 天前,其中的信息可能已经时移俗易

[转]http://blog.csdn.net/hzw19920329/article/details/54340711

上一篇博客我们介绍了使用 RabbitMQ 可能会遇到的一个问题,即生产者不知道消息是否真正到达 broker 代理服务器,随后通过 AMQP 协议层面为我们提供的事务机制解决了这个问题,但是采用事务机制实现会降低 RabbitMQ 的消息吞吐量,那么有没有更加高效的解决方式呢?RabbitMQ 团队为我们拿出了更好的方案,即采用发送方确认模式;

生产者确认模式实现原理: 生产者将信道设置成confirm模式,一旦信道进入confirm模式,所有在该信道上面发布的消息都将会被指派一个唯一的ID(从1开始),一旦消息被投递到所有匹配的队列之后,broker就会发送一个确认给生产者(包含消息的唯一ID),这就使得生产者知道消息已经正确到达目的队列了,如果消息和队列是可持久化的,那么确认消息会在将消息写入磁盘之后发出,broker回传给生产者的确认消息中delivery-tag域包含了确认消息的序列号,此外broker也可以设置basic.ack的multiple域,表示到这个序列号之前的所有消息都已经得到了处理; confirm模式最大的好处在于他是异步的,一旦发布一条消息,生产者应用程序就可以在等信道返回确认的同时继续发送下一条消息,当消息最终得到确认之后,生产者应用便可以通过回调方法来处理该确认消息,如果RabbitMQ因为自身内部错误导致消息丢失,就会发送一条nack消息,生产者应用程序同样可以在回调方法中处理该nack消息; 开启confirm模式的方法: 生产者通过调用channel的confirmSelect方法将channel设置为confirm模式,(注意一点,已经在transaction事务模式的channel是不能再设置成confirm模式的,即这两种模式是不能共存的),如果没有设置no-wait标志的话,broker会返回confirm.select-ok表示同意发送者将当前channel信道设置为confirm模式(从目前RabbitMQ最新版本3.6来看,如果调用了channel.confirmSelect方法,默认情况下是直接将no-wait设置成false的,也就是默认情况下broker是必须回传confirm.select-ok的,而且我也没找到我们自己能够设置no-wait标志的方法); 生产者实现confiem模式有三种编程方式: (1):普通confirm模式,每发送一条消息,调用waitForConfirms()方法等待服务端confirm,这实际上是一种串行的confirm,每publish一条消息之后就等待服务端confirm,如果服务端返回false或者超时时间内未返回,客户端进行消息重传; (2):批量confirm模式,每发送一批消息之后,调用waitForConfirms()方法,等待服务端confirm,这种批量确认的模式极大的提高了confirm效率,但是如果一旦出现confirm返回false或者超时的情况,客户端需要将这一批次的消息全部重发,这会带来明显的重复消息,如果这种情况频繁发生的话,效率也会不升反降; 讲完了基本的原理之后,代码级别我们该怎么设置channel信道为confirm模式呢?以及我们该怎么获取broker返回给我们的确认消息呢? 测试1:普通confirm模式 首先从最简单的开始,仅仅将channel设置成confirm模式,并且生产者每发送一条消息就等待broker回应确认消息,至于确认消息是什么我们不去做任何处理,为了测试方便,此处生产者只发送了5条消息,实现代码如下:

[java] view plain copy

  1. public class ProducerTest {

  2. public static void main(String[] args) {
  3. String exchangeName = "confirmExchange";
  4. String queueName = "confirmQueue";
  5. String routingKey = "confirmRoutingKey";
  6. String bindingKey = "confirmRoutingKey";
  7. int count = 5;
  8. ConnectionFactory factory = new ConnectionFactory();
  9. factory.setHost("172.16.151.74");
  10. factory.setUsername("test");
  11. factory.setPassword("test");
  12. factory.setPort(5672);
  13. //创建生产者
  14. Sender producer = new Sender(factory, count, exchangeName, queueName,routingKey,bindingKey);
  15. producer.run();
  16. }
  17. }

  18. class Sender

  19. {

  20. private ConnectionFactory factory;
  21. private int count;
  22. private String exchangeName;
  23. private String queueName;
  24. private String routingKey;
  25. private String bindingKey;
  26. public Sender(ConnectionFactory factory,int count,String exchangeName,String queueName,String routingKey,String bindingKey) {
  27. this.factory = factory;
  28. this.count = count;
  29. this.exchangeName = exchangeName;
  30. this.queueName = queueName;
  31. this.routingKey = routingKey;
  32. this.bindingKey = bindingKey;
  33. }
  34. public void run() {
  35. Channel channel = null;
  36. try {
  37. Connection connection = factory.newConnection();
  38. channel = connection.createChannel();
  39. //创建exchange
  40. channel.exchangeDeclare(exchangeName, "direct", true, false, null);
  41. //创建队列
  42. channel.queueDeclare(queueName, true, false, false, null);
  43. //绑定exchange和queue
  44. channel.queueBind(queueName, exchangeName, bindingKey);
  45. channel.confirmSelect();
  46. //发送持久化消息
  47. for(int i = 0;i < count;i++)
  48. {
  49. //第一个参数是exchangeName(默认情况下代理服务器端是存在一个""名字的exchange的,
  50. //因此如果不创建exchange的话我们可以直接将该参数设置成"",如果创建了exchange的话
  51. //我们需要将该参数设置成创建的exchange的名字),第二个参数是路由键
  52. channel.basicPublish(exchangeName, routingKey,MessageProperties.PERSISTENT_BASIC, ("第"+(i+1)+"条消息").getBytes());
  53. if(channel.waitForConfirms())
  54. {
  55. System.out.println("发送成功");
  56. }
  57. }
  58. final long start = System.currentTimeMillis();
  59. System.out.println("执行waitForConfirmsOrDie耗费时间: "+(System.currentTimeMillis()-start)+"ms");
  60. } catch (Exception e) {
  61. e.printStackTrace();
  62. }
  63. }
  64. }

    在第 50 行调用 Channel 信道的 confirmSelect 方法将当前信道设置成了 confirm 模式,第 57 行通过 for 循环调用 Channel 的 basicPublish 方法发送了 5 条消息到消息队列中,第 58 行调用 waitForConfirms 方法等待 broker 服务端返回 ack 或者 nack 消息,这种模式每发送一条消息就会等待 broker 代理服务器返回消息,这点我们可以从抓包的角度观察结果:

可以看到上面生产者通过Confirm.Select将当前Channel信道设置成confirm模式,broker代理服务器收到之后回传Confirm.Select-Ok同一将当前Channel设置成confirm模式,此外看到返回5条Basic.Ack消息; 测试2:批量confirm模式 这种模式生产者不是每发送一条就等待broker确认,而是发送一批,实现代码见下:

[java] view plain copy

  1. public class ProducerTest {

  2. public static void main(String[] args) {
  3. String exchangeName = "confirmExchange";
  4. String queueName = "confirmQueue";
  5. String routingKey = "confirmRoutingKey";
  6. String bindingKey = "confirmRoutingKey";
  7. int count = 100;
  8. ConnectionFactory factory = new ConnectionFactory();
  9. factory.setHost("172.16.151.74");
  10. factory.setUsername("test");
  11. factory.setPassword("test");
  12. factory.setPort(5672);
  13. //创建生产者
  14. Sender producer = new Sender(factory, count, exchangeName, queueName,routingKey,bindingKey);
  15. producer.run();
  16. }
  17. }

  18. class Sender

  19. {

  20. private ConnectionFactory factory;
  21. private int count;
  22. private String exchangeName;
  23. private String queueName;
  24. private String routingKey;
  25. private String bindingKey;
  26. public Sender(ConnectionFactory factory,int count,String exchangeName,String queueName,String routingKey,String bindingKey) {
  27. this.factory = factory;
  28. this.count = count;
  29. this.exchangeName = exchangeName;
  30. this.queueName = queueName;
  31. this.routingKey = routingKey;
  32. this.bindingKey = bindingKey;
  33. }
  34. public void run() {
  35. Channel channel = null;
  36. try {
  37. Connection connection = factory.newConnection();
  38. channel = connection.createChannel();
  39. //创建exchange
  40. channel.exchangeDeclare(exchangeName, "direct", true, false, null);
  41. //创建队列
  42. channel.queueDeclare(queueName, true, false, false, null);
  43. //绑定exchange和queue
  44. channel.queueBind(queueName, exchangeName, bindingKey);
  45. channel.confirmSelect();
  46. //发送持久化消息
  47. for(int i = 0;i < count;i++)
  48. {
  49. //第一个参数是exchangeName(默认情况下代理服务器端是存在一个""名字的exchange的,
  50. //因此如果不创建exchange的话我们可以直接将该参数设置成"",如果创建了exchange的话
  51. //我们需要将该参数设置成创建的exchange的名字),第二个参数是路由键
  52. channel.basicPublish(exchangeName, routingKey,MessageProperties.PERSISTENT_BASIC, ("第"+(i+1)+"条消息").getBytes());
  53. }
  54. long start = System.currentTimeMillis();
  55. channel.waitForConfirmsOrDie();
  56. System.out.println("执行waitForConfirmsOrDie耗费时间: "+(System.currentTimeMillis()-start)+"ms");
  57. } catch (Exception e) {
  58. e.printStackTrace();
  59. }
  60. }
  61. }

    第 50 行调用 channel.confirmSelect 将当前 channel 信道设置成 confirm 模式,接着在第 57 行通过 for 循环发送了 100 条消息,第 60 行调用了 channel 的 waitForConfirmsOrDie,从 waitForConfirmsOrDie 方法的注释上可以看出,该方法会等到最后一条消息得到确认或者得到 nack 才会结束,也就是说在 waitForConfirmsOrDie 处会造成当前程序的阻塞,以测试 1 程序发送 100 条消息为例,阻塞时间是 135ms,我们再来看看对测试 1 的抓包情况:

从红色箭头的标号1出可以看到:首先是24向74发送了Confirm.Select消息表示请求将当前信道设置为confirm模式,接着74向24回送了Confirm.Select-Ok消息表示同意将信道设置成confirm模式,从红色标号2处NoWait字段的值为false也印证了我们如果直接调用Channel信道的confirmSelect()方法的话,实际上默认是开启broker回传Confirm.Select-Ok确认消息的; 接下来我们看看broker回传给客户端的确认消息数据包是什么样子的呢?同样通过抓包看看结果:

你会发现,在上面测试1中我们通过for循环发送了100条消息,但是在抓包的时候我们仅仅看到有两个Basic.Ack确认消息回传回来,原因在于上面截图的标号3处,你会发现Multiple域的值是True的,之前我们已经讲过broker可以设置Multiple域表示broker已经收到当前确认消息的Delivery-Tag域之前标号的消息,以上面截图为例的话表示broker告诉发送者编号4之前的消息已经全部收到了,从这点我们看出broker端默认情况下是进行批量回复的,并不是针对每条消息都发送一条ack消息; 测试2: 测试1我们仅仅是测试发送者能够收到broker的确认消息以及知道了broker对消息默认是采用批量回复方式的,那么在程序中我们该怎么获取到broker回传回来的确认消息呢,假如我们有时候需要在收到确认消息之后做一些提示性操作该怎么办呢?测试1中,我们采用的是Channel信道的waitForConfirmsOrDie等待broker端回传回ack确认消息的,但我们没法拿到这个ack消息进行后期操作,要想拿到ack消息的话,我们可以给当前Channel信道绑定监听器,具体来说就是调用Channel信道的addConfirmListener方法进行设置,Channel信道在收到broker的ack消息之后会回调设置在该信道监听器上的handleAck方法,在收到nack消息之后会回调设置在该信道监听器上的handleNack方法。 实现代码:

[java] view plain copy

  1. public class ProducerTest {

  2. public static void main(String[] args) {
  3. String exchangeName = "confirmExchange";
  4. String queueName = "confirmQueue";
  5. String routingKey = "confirmRoutingKey";
  6. String bindingKey = "confirmRoutingKey";
  7. int count = 100;
  8. ConnectionFactory factory = new ConnectionFactory();
  9. factory.setHost("172.16.151.74");
  10. factory.setUsername("test");
  11. factory.setPassword("test");
  12. factory.setPort(5672);
  13. //创建生产者
  14. Sender producer = new Sender(factory, count, exchangeName, queueName,routingKey,bindingKey);
  15. producer.run();
  16. }
  17. }

  18. class Sender

  19. {

  20. private ConnectionFactory factory;
  21. private int count;
  22. private String exchangeName;
  23. private String queueName;
  24. private String routingKey;
  25. private String bindingKey;
  26. public Sender(ConnectionFactory factory,int count,String exchangeName,String queueName,String routingKey,String bindingKey) {
  27. this.factory = factory;
  28. this.count = count;
  29. this.exchangeName = exchangeName;
  30. this.queueName = queueName;
  31. this.routingKey = routingKey;
  32. this.bindingKey = bindingKey;
  33. }
  34. public void run() {
  35. Channel channel = null;
  36. try {
  37. Connection connection = factory.newConnection();
  38. channel = connection.createChannel();
  39. //创建exchange
  40. channel.exchangeDeclare(exchangeName, "direct", true, false, null);
  41. //创建队列
  42. channel.queueDeclare(queueName, true, false, false, null);
  43. //绑定exchange和queue
  44. channel.queueBind(queueName, exchangeName, bindingKey);
  45. channel.confirmSelect();
  46. //发送持久化消息
  47. for(int i = 0;i < count;i++)
  48. {
  49. //第一个参数是exchangeName(默认情况下代理服务器端是存在一个""名字的exchange的,
  50. //因此如果不创建exchange的话我们可以直接将该参数设置成"",如果创建了exchange的话
  51. //我们需要将该参数设置成创建的exchange的名字),第二个参数是路由键
  52. channel.basicPublish(exchangeName, routingKey,MessageProperties.PERSISTENT_BASIC, ("第"+(i+1)+"条消息").getBytes());
  53. }
  54. long start = System.currentTimeMillis();
  55. channel.addConfirmListener(new ConfirmListener() {
  56. @Override
  57. public void handleNack(long deliveryTag, boolean multiple) throws IOException {
  58. System.out.println("nack: deliveryTag = "+deliveryTag+" multiple: "+multiple);
  59. }
  60. @Override
  61. public void handleAck(long deliveryTag, boolean multiple) throws IOException {
  62. System.out.println("ack: deliveryTag = "+deliveryTag+" multiple: "+multiple);
  63. }
  64. });
  65. System.out.println("执行waitForConfirmsOrDie耗费时间: "+(System.currentTimeMillis()-start)+"ms");
  66. } catch (Exception e) {
  67. e.printStackTrace();
  68. }
  69. }
  70. }

    第 60 行我们调用了 Channel 信道的 addConfirmListener 设置了监听器,并且在监听器的 handleAck 和 handleNack 方法中打印了信息,运行程序查看输出:

可以看到,虽然我们还是发送了100条消息,同样我们并没有收到100个ack消息 ,只收到两个ack消息,并且这两个ack消息的multiple域都为true,这点和测试1是相同的,你多次运行程序会发现每次发送回来的ack消息中的deliveryTag域的值并不是一样的,说明broker端批量回传给发送者的ack消息并不是以固定的批量大小回传的; 也就是我们通过信道Channel的waitForConfirmsOrDie方法或者为信道设置监听器都可以保证发送者收到broker回传的ack或者nack消息,那么这两种方式有什么区别呢?从测试一的第61行代码以及测试2的第72行代码处你就能找到答案啦,测试1中调用waitForConfirmsOrDie方法发送100条消息并且全部收到确认需要135ms,测试2中通过监听器的方式仅仅需要1ms,说明调用waitForConfirmsOrDie会造成程序的阻塞,通过监听器并不会造成程序的阻塞,下一篇博客我会试着从RabbitMQ的源码层面来分析这两种方式造成这种区别的原因啦啦; 参考资料: [RabbitMQ官网](http://www.rabbitmq.com/confirms.html) [RabbitMQ不同Confirm模式下的性能对比](http://ju.outofmemory.cn/entry/177937)
  • RabbitMQ

    RabbitMQ 是一个开源的 AMQP 实现,服务器端用 Erlang 语言编写,支持多种语言客户端,如:Python、Ruby、.NET、Java、C、PHP、ActionScript 等。用于在分布式系统中存储转发消息,在易用性、扩展性、高可用性等方面表现不俗。

    49 引用 • 60 回帖 • 345 关注

相关帖子

欢迎来到这里!

我们正在构建一个小众社区,大家在这里相互信任,以平等 • 自由 • 奔放的价值观进行分享交流。最终,希望大家能够找到与自己志同道合的伙伴,共同成长。

注册 关于
请输入回帖内容 ...

推荐标签 标签

  • uTools

    uTools 是一个极简、插件化、跨平台的现代桌面软件。通过自由选配丰富的插件,打造你得心应手的工具集合。

    7 引用 • 27 回帖 • 1 关注
  • Dubbo

    Dubbo 是一个分布式服务框架,致力于提供高性能和透明化的 RPC 远程服务调用方案,是 [阿里巴巴] SOA 服务化治理方案的核心框架,每天为 2,000+ 个服务提供 3,000,000,000+ 次访问量支持,并被广泛应用于阿里巴巴集团的各成员站点。

    60 引用 • 82 回帖 • 613 关注
  • CloudFoundry

    Cloud Foundry 是 VMware 推出的业界第一个开源 PaaS 云平台,它支持多种框架、语言、运行时环境、云平台及应用服务,使开发人员能够在几秒钟内进行应用程序的部署和扩展,无需担心任何基础架构的问题。

    5 引用 • 18 回帖 • 181 关注
  • 安装

    你若安好,便是晴天。

    132 引用 • 1184 回帖
  • 工具

    子曰:“工欲善其事,必先利其器。”

    298 引用 • 763 回帖
  • RabbitMQ

    RabbitMQ 是一个开源的 AMQP 实现,服务器端用 Erlang 语言编写,支持多种语言客户端,如:Python、Ruby、.NET、Java、C、PHP、ActionScript 等。用于在分布式系统中存储转发消息,在易用性、扩展性、高可用性等方面表现不俗。

    49 引用 • 60 回帖 • 345 关注
  • ZeroNet

    ZeroNet 是一个基于比特币加密技术和 BT 网络技术的去中心化的、开放开源的网络和交流系统。

    1 引用 • 21 回帖 • 647 关注
  • 以太坊

    以太坊(Ethereum)并不是一个机构,而是一款能够在区块链上实现智能合约、开源的底层系统。以太坊是一个平台和一种编程语言 Solidity,使开发人员能够建立和发布下一代去中心化应用。 以太坊可以用来编程、分散、担保和交易任何事物:投票、域名、金融交易所、众筹、公司管理、合同和知识产权等等。

    34 引用 • 367 回帖
  • Electron

    Electron 基于 Chromium 和 Node.js,让你可以使用 HTML、CSS 和 JavaScript 构建应用。它是一个由 GitHub 及众多贡献者组成的活跃社区共同维护的开源项目,兼容 Mac、Windows 和 Linux,它构建的应用可在这三个操作系统上面运行。

    15 引用 • 136 回帖 • 4 关注
  • Flutter

    Flutter 是谷歌的移动 UI 框架,可以快速在 iOS 和 Android 上构建高质量的原生用户界面。 Flutter 可以与现有的代码一起工作,它正在被越来越多的开发者和组织使用,并且 Flutter 是完全免费、开源的。

    39 引用 • 92 回帖 • 3 关注
  • SpaceVim

    SpaceVim 是一个社区驱动的模块化 vim/neovim 配置集合,以模块的方式组织管理插件以
    及相关配置,为不同的语言开发量身定制了相关的开发模块,该模块提供代码自动补全,
    语法检查、格式化、调试、REPL 等特性。用户仅需载入相关语言的模块即可得到一个开箱
    即用的 Vim-IDE。

    3 引用 • 31 回帖 • 113 关注
  • 服务

    提供一个服务绝不仅仅是简单的把硬件和软件累加在一起,它包括了服务的可靠性、服务的标准化、以及对服务的监控、维护、技术支持等。

    41 引用 • 24 回帖 • 1 关注
  • 音乐

    你听到信仰的声音了么?

    62 引用 • 512 回帖
  • C++

    C++ 是在 C 语言的基础上开发的一种通用编程语言,应用广泛。C++ 支持多种编程范式,面向对象编程、泛型编程和过程化编程。

    107 引用 • 153 回帖
  • 游戏

    沉迷游戏伤身,强撸灰飞烟灭。

    181 引用 • 821 回帖
  • WebClipper

    Web Clipper 是一款浏览器剪藏扩展,它可以帮助你把网页内容剪藏到本地。

    3 引用 • 9 回帖
  • JWT

    JWT(JSON Web Token)是一种用于双方之间传递信息的简洁的、安全的表述性声明规范。JWT 作为一个开放的标准(RFC 7519),定义了一种简洁的,自包含的方法用于通信双方之间以 JSON 的形式安全的传递信息。

    20 引用 • 15 回帖 • 22 关注
  • 禅道

    禅道是一款国产的开源项目管理软件,她的核心管理思想基于敏捷方法 scrum,内置了产品管理和项目管理,同时又根据国内研发现状补充了测试管理、计划管理、发布管理、文档管理、事务管理等功能,在一个软件中就可以将软件研发中的需求、任务、bug、用例、计划、发布等要素有序的跟踪管理起来,完整地覆盖了项目管理的核心流程。

    6 引用 • 15 回帖 • 12 关注
  • 知乎

    知乎是网络问答社区,连接各行各业的用户。用户分享着彼此的知识、经验和见解,为中文互联网源源不断地提供多种多样的信息。

    10 引用 • 66 回帖
  • JetBrains

    JetBrains 是一家捷克的软件开发公司,该公司位于捷克的布拉格,并在俄国的圣彼得堡及美国麻州波士顿都设有办公室,该公司最为人所熟知的产品是 Java 编程语言开发撰写时所用的集成开发环境:IntelliJ IDEA

    18 引用 • 54 回帖 • 1 关注
  • Logseq

    Logseq 是一个隐私优先、开源的知识库工具。

    Logseq is a joyful, open-source outliner that works on top of local plain-text Markdown and Org-mode files. Use it to write, organize and share your thoughts, keep your to-do list, and build your own digital garden.

    7 引用 • 69 回帖 • 1 关注
  • VirtualBox

    VirtualBox 是一款开源虚拟机软件,最早由德国 Innotek 公司开发,由 Sun Microsystems 公司出品的软件,使用 Qt 编写,在 Sun 被 Oracle 收购后正式更名成 Oracle VM VirtualBox。

    10 引用 • 2 回帖 • 18 关注
  • 倾城之链
    23 引用 • 66 回帖 • 168 关注
  • 导航

    各种网址链接、内容导航。

    44 引用 • 177 回帖
  • V2EX

    V2EX 是创意工作者们的社区。这里目前汇聚了超过 400,000 名主要来自互联网行业、游戏行业和媒体行业的创意工作者。V2EX 希望能够成为创意工作者们的生活和事业的一部分。

    16 引用 • 236 回帖 • 262 关注
  • Sillot

    Insights(注意当前设置 master 为默认分支)

    汐洛彖夲肜矩阵(Sillot T☳Converbenk Matrix),致力于服务智慧新彖乄,具有彖乄驱动、极致优雅、开发者友好的特点。其中汐洛绞架(Sillot-Gibbet)基于自思源笔记(siyuan-note),前身是思源笔记汐洛版(更早是思源笔记汐洛分支),是智慧新录乄终端(多端融合,移动端优先)。

    主仓库地址:Hi-Windom/Sillot

    文档地址:sillot.db.sc.cn

    注意事项:

    1. ⚠️ 汐洛仍在早期开发阶段,尚不稳定
    2. ⚠️ 汐洛并非面向普通用户设计,使用前请了解风险
    3. ⚠️ 汐洛绞架基于思源笔记,开发者尽最大努力与思源笔记保持兼容,但无法实现 100% 兼容
    29 引用 • 25 回帖 • 116 关注
  • QQ

    1999 年 2 月腾讯正式推出“腾讯 QQ”,在线用户由 1999 年的 2 人(马化腾和张志东)到现在已经发展到上亿用户了,在线人数超过一亿,是目前使用最广泛的聊天软件之一。

    45 引用 • 557 回帖 • 1 关注