Java NIO 原理图文分析及代码实现

本贴最后更新于 3032 天前,其中的信息可能已经渤澥桑田

Java NIO 原理图文分析及代码实现

前言:

最近在分析 hadoop 的 RPC(Remote Procedure Call Protocol ,远程过程调用协议,它是一种通过网络从远程计算机程序上请求服务,而不需要了解底层网络技术的协议。可以参考:http://baike.baidu.com/view/32726.htm )机制时,发现 hadoop 的 RPC 机制的实现主要用到了两个技术:动态代理(动态代理可以参考博客:http://weixiaolu.iteye.com/blog/1477774 )和 java NIO。为了能够正确地分析 hadoop 的 RPC 源码,我觉得很有必要先研究一下 java NIO 的原理和具体实现。

这篇博客我主要从两个方向来分析 java NIO

目录:

一.java NIO 和阻塞 I/O 的区别

1\. 阻塞I/O通信模型 2\. java NIO原理及通信模型

二.java NIO 服务端和客户端代码实现

具体分析:

一.java NIO 和阻塞 I/O 的区别

1. 阻塞 I/O 通信模型

假如现在你对阻塞 I/O 已有了一定了解,我们知道阻塞 I/O 在调用 InputStream.read()方法时是阻塞的,它会一直等到数据到来时(或超时)才会返回;同样,在调用 ServerSocket.accept()方法时,也会一直阻塞到有客户端连接才会返回,每个客户端连接过来后,服务端都会启动一个线程去处理该客户端的请求。阻塞 I/O 的通信模型示意图如下:

如果你细细分析,一定会发现阻塞 I/O 存在一些缺点。根据阻塞 I/O 通信模型,我总结了它的两点缺点:

1. 当客户端多时,会创建大量的处理线程。且每个线程都要占用栈空间和一些 CPU 时间

2. 阻塞可能带来频繁的上下文切换,且大部分上下文切换可能是无意义的。

在这种情况下非阻塞式 I/O 就有了它的应用前景。

  1. java NIO 原理及通信模型

Java NIO 是在 jdk1.4 开始使用的,它既可以说成“新 I/O”,也可以说成非阻塞式 I/O。下面是 java NIO 的工作原理:

1. 由一个专门的线程来处理所有的 IO 事件,并负责分发。

2. 事件驱动机制:事件到的时候触发,而不是同步的去监视事件。

3. 线程通讯:线程之间通过 wait,notify 等方式通讯。保证每次上下文切换都是有意义的。减少无谓的线程切换。

阅读过一些资料之后,下面贴出我理解的 java NIO 的工作原理图:

(注:每个线程的处理流程大概都是读取数据、解码、计算处理、编码、发送响应。)

Java NIO 的服务端只需启动一个专门的线程来处理所有的 IO 事件,这种通信模型是怎么实现的呢?呵呵,我们一起来探究它的奥秘吧。java NIO 采用了双向通道(channel)进行数据传输,而不是单向的流(stream),在通道上可以注册我们感兴趣的事件。一共有以下四种事件:

| 事件名 | 对应值 |
| 服务端接收客户端连接事件 | SelectionKey.OP_ACCEPT(16) |
| 客户端连接服务端事件 | SelectionKey.OP_CONNECT(8) |
| 读事件 | SelectionKey.OP_READ(1) |
| 写事件 | SelectionKey.OP_WRITE(4) |

服务端和客户端各自维护一个管理通道的对象,我们称之为 selector,该对象能检测一个或多个通道 (channel) 上的事件。我们以服务端为例,如果服务端的 selector 上注册了读事件,某时刻客户端给服务端发送了一些数据,阻塞 I/O 这时会调用 read()方法阻塞地读取数据,而 NIO 的服务端会在 selector 中添加一个读事件。服务端的处理线程会轮询地访问 selector,如果访问 selector 时发现有感兴趣的事件到达,则处理这些事件,如果没有感兴趣的事件到达,则处理线程会一直阻塞直到感兴趣的事件到达为止。下面是我理解的 java NIO 的通信模型示意图:

二.java NIO 服务端和客户端代码实现

为了更好地理解 java NIO,下面贴出服务端和客户端的简单代码实现。

服务端:

Java 代码

  1. package cn.nio;
  2. import java.io.IOException;
  3. import java.net.InetSocketAddress;
  4. import java.nio.ByteBuffer;
  5. import java.nio.channels.SelectionKey;
  6. import java.nio.channels.Selector;
  7. import java.nio.channels.ServerSocketChannel;
  8. import java.nio.channels.SocketChannel;
  9. import java.util.Iterator;
  10. /**
    • NIO 服务端
  11. */
  12. public class NIOServer {
  13. //通道管理器
  14. private Selector selector;
  15. /**
  16. * 获得一个ServerSocket通道,并对该通道做一些初始化的工作
  17. * @param port 绑定的端口号
  18. * @throws IOException
  19. */
  20. public void initServer(int port) throws IOException {
  21. // 获得一个ServerSocket通道
  22. ServerSocketChannel serverChannel = ServerSocketChannel.open();
  23. // 设置通道为非阻塞
  24. serverChannel.configureBlocking(false);
  25. // 将该通道对应的ServerSocket绑定到port端口
  26. serverChannel.socket().bind(new InetSocketAddress(port));
  27. // 获得一个通道管理器
  28. this.selector = Selector.open();
  29. //将通道管理器和该通道绑定,并为该通道注册SelectionKey.OP_ACCEPT事件,注册该事件后,
  30. //当该事件到达时,selector.select()会返回,如果该事件没到达selector.select()会一直阻塞。
  31. serverChannel.register(selector, SelectionKey.OP_ACCEPT);
  32. }
  33. /**
  34. * 采用轮询的方式监听selector上是否有需要处理的事件,如果有,则进行处理
  35. * @throws IOException
  36. */
  37. @SuppressWarnings("unchecked")
  38. public void listen() throws IOException {
  39. System.out.println("服务端启动成功!");
  40. // 轮询访问selector
  41. while (true) {
  42. //当注册的事件到达时,方法返回;否则,该方法会一直阻塞
  43. selector.select();
  44. // 获得selector中选中的项的迭代器,选中的项为注册的事件
  45. Iterator ite = this.selector.selectedKeys().iterator();
  46. while (ite.hasNext()) {
  47. SelectionKey key = (SelectionKey) ite.next();
  48. // 删除已选的key,以防重复处理
  49. ite.remove();
  50. // 客户端请求连接事件
  51. if (key.isAcceptable()) {
  52. ServerSocketChannel server = (ServerSocketChannel) key
  53. .channel();
  54. // 获得和客户端连接的通道
  55. SocketChannel channel = server.accept();
  56. // 设置成非阻塞
  57. channel.configureBlocking(false);
  58. //在这里可以给客户端发送信息哦
  59. channel.write(ByteBuffer.wrap(new String("向客户端发送了一条信息").getBytes()));
  60. //在和客户端连接成功之后,为了可以接收到客户端的信息,需要给通道设置读的权限。
  61. channel.register(this.selector, SelectionKey.OP_READ);
  62. // 获得了可读的事件
  63. } else if (key.isReadable()) {
  64. read(key);
  65. }
  66. }
  67. }
  68. }
  69. /**
  70. * 处理读取客户端发来的信息 的事件
  71. * @param key
  72. * @throws IOException
  73. */
  74. public void read(SelectionKey key) throws IOException{
  75. // 服务器可读取消息:得到事件发生的Socket通道
  76. SocketChannel channel = (SocketChannel) key.channel();
  77. // 创建读取的缓冲区
  78. ByteBuffer buffer = ByteBuffer.allocate(10);
  79. channel.read(buffer);
  80. byte[] data = buffer.array();
  81. String msg = new String(data).trim();
  82. System.out.println("服务端收到信息:"+msg);
  83. ByteBuffer outBuffer = ByteBuffer.wrap(msg.getBytes());
  84. channel.write(outBuffer);// 将消息回送给客户端
  85. }
  86. /**
  87. * 启动服务端测试
  88. * @throws IOException
  89. */
  90. public static void main(String[] args) throws IOException {
  91. NIOServer server = new NIOServer();
  92. server.initServer(8000);
  93. server.listen();
  94. }
  95. }

客户端:

Java 代码

  1. package cn.nio;
  2. import java.io.IOException;
  3. import java.net.InetSocketAddress;
  4. import java.nio.ByteBuffer;
  5. import java.nio.channels.SelectionKey;
  6. import java.nio.channels.Selector;
  7. import java.nio.channels.SocketChannel;
  8. import java.util.Iterator;
  9. /**
    • NIO 客户端
  10. */
  11. public class NIOClient {
  12. //通道管理器
  13. private Selector selector;
  14. /**
  15. * 获得一个Socket通道,并对该通道做一些初始化的工作
  16. * @param ip 连接的服务器的ip
  17. * @param port 连接的服务器的端口号
  18. * @throws IOException
  19. */
  20. public void initClient(String ip,int port) throws IOException {
  21. // 获得一个Socket通道
  22. SocketChannel channel = SocketChannel.open();
  23. // 设置通道为非阻塞
  24. channel.configureBlocking(false);
  25. // 获得一个通道管理器
  26. this.selector = Selector.open();
  27. // 客户端连接服务器,其实方法执行并没有实现连接,需要在listen()方法中调
  28. //用channel.finishConnect();才能完成连接
  29. channel.connect(new InetSocketAddress(ip,port));
  30. //将通道管理器和该通道绑定,并为该通道注册SelectionKey.OP_CONNECT事件。
  31. channel.register(selector, SelectionKey.OP_CONNECT);
  32. }
  33. /**
  34. * 采用轮询的方式监听selector上是否有需要处理的事件,如果有,则进行处理
  35. * @throws IOException
  36. */
  37. @SuppressWarnings("unchecked")
  38. public void listen() throws IOException {
  39. // 轮询访问selector
  40. while (true) {
  41. selector.select();
  42. // 获得selector中选中的项的迭代器
  43. Iterator ite = this.selector.selectedKeys().iterator();
  44. while (ite.hasNext()) {
  45. SelectionKey key = (SelectionKey) ite.next();
  46. // 删除已选的key,以防重复处理
  47. ite.remove();
  48. // 连接事件发生
  49. if (key.isConnectable()) {
  50. SocketChannel channel = (SocketChannel) key
  51. .channel();
  52. // 如果正在连接,则完成连接
  53. if(channel.isConnectionPending()){
  54. channel.finishConnect();
  55. }
  56. // 设置成非阻塞
  57. channel.configureBlocking(false);
  58. //在这里可以给服务端发送信息哦
  59. channel.write(ByteBuffer.wrap(new String("向服务端发送了一条信息").getBytes()));
  60. //在和服务端连接成功之后,为了可以接收到服务端的信息,需要给通道设置读的权限。
  61. channel.register(this.selector, SelectionKey.OP_READ);
  62. // 获得了可读的事件
  63. } else if (key.isReadable()) {
  64. read(key);
  65. }
  66. }
  67. }
  68. }
  69. /**
  70. * 处理读取服务端发来的信息 的事件
  71. * @param key
  72. * @throws IOException
  73. */
  74. public void read(SelectionKey key) throws IOException{
  75. //和服务端的read方法一样
  76. }
  77. /**
  78. * 启动客户端测试
  79. * @throws IOException
  80. */
  81. public static void main(String[] args) throws IOException {
  82. NIOClient client = new NIOClient();
  83. client.initClient("localhost",8000);
  84. client.listen();
  85. }
  86. }

小结:

终于把动态代理和 java NIO 分析完了,呵呵,下面就要分析 hadoop 的 RPC 机制源码了,博客地址:http://weixiaolu.iteye.com/blog/1504898 。不过如果对 java NIO 的理解存在异议的,欢迎一起讨论。

  • Java

    Java 是一种可以撰写跨平台应用软件的面向对象的程序设计语言,是由 Sun Microsystems 公司于 1995 年 5 月推出的。Java 技术具有卓越的通用性、高效性、平台移植性和安全性。

    3201 引用 • 8217 回帖 • 1 关注

相关帖子

欢迎来到这里!

我们正在构建一个小众社区,大家在这里相互信任,以平等 • 自由 • 奔放的价值观进行分享交流。最终,希望大家能够找到与自己志同道合的伙伴,共同成长。

注册 关于
请输入回帖内容 ...
  • someone

    讲真,您这代码不支持高亮,差评

推荐标签 标签

  • Firefox

    Mozilla Firefox 中文俗称“火狐”(正式缩写为 Fx 或 fx,非正式缩写为 FF),是一个开源的网页浏览器,使用 Gecko 排版引擎,支持多种操作系统,如 Windows、OSX 及 Linux 等。

    7 引用 • 30 回帖 • 376 关注
  • RESTful

    一种软件架构设计风格而不是标准,提供了一组设计原则和约束条件,主要用于客户端和服务器交互类的软件。基于这个风格设计的软件可以更简洁,更有层次,更易于实现缓存等机制。

    30 引用 • 114 回帖 • 7 关注
  • C++

    C++ 是在 C 语言的基础上开发的一种通用编程语言,应用广泛。C++ 支持多种编程范式,面向对象编程、泛型编程和过程化编程。

    108 引用 • 153 回帖
  • Latke

    Latke 是一款以 JSON 为主的 Java Web 框架。

    71 引用 • 535 回帖 • 829 关注
  • Mac

    Mac 是苹果公司自 1984 年起以“Macintosh”开始开发的个人消费型计算机,如:iMac、Mac mini、Macbook Air、Macbook Pro、Macbook、Mac Pro 等计算机。

    167 引用 • 597 回帖 • 4 关注
  • 友情链接

    确认过眼神后的灵魂连接,站在链在!

    24 引用 • 373 回帖 • 2 关注
  • 叶归
    12 引用 • 56 回帖 • 22 关注
  • 开源

    Open Source, Open Mind, Open Sight, Open Future!

    415 引用 • 3594 回帖 • 1 关注
  • 自由行
  • Markdown

    Markdown 是一种轻量级标记语言,用户可使用纯文本编辑器来排版文档,最终通过 Markdown 引擎将文档转换为所需格式(比如 HTML、PDF 等)。

    172 引用 • 1538 回帖
  • 分享

    有什么新发现就分享给大家吧!

    248 引用 • 1794 回帖
  • Webswing

    Webswing 是一个能将任何 Swing 应用通过纯 HTML5 运行在浏览器中的 Web 服务器,详细介绍请看 将 Java Swing 应用变成 Web 应用

    1 引用 • 15 回帖 • 642 关注
  • Follow
    4 引用 • 12 回帖 • 5 关注
  • Electron

    Electron 基于 Chromium 和 Node.js,让你可以使用 HTML、CSS 和 JavaScript 构建应用。它是一个由 GitHub 及众多贡献者组成的活跃社区共同维护的开源项目,兼容 Mac、Windows 和 Linux,它构建的应用可在这三个操作系统上面运行。

    15 引用 • 136 回帖
  • 前端

    前端技术一般分为前端设计和前端开发,前端设计可以理解为网站的视觉设计,前端开发则是网站的前台代码实现,包括 HTML、CSS 以及 JavaScript 等。

    246 引用 • 1338 回帖 • 1 关注
  • 资讯

    资讯是用户因为及时地获得它并利用它而能够在相对短的时间内给自己带来价值的信息,资讯有时效性和地域性。

    56 引用 • 85 回帖 • 2 关注
  • Gitea

    Gitea 是一个开源社区驱动的轻量级代码托管解决方案,后端采用 Go 编写,采用 MIT 许可证。

    5 引用 • 16 回帖 • 1 关注
  • Spark

    Spark 是 UC Berkeley AMP lab 所开源的类 Hadoop MapReduce 的通用并行框架。Spark 拥有 Hadoop MapReduce 所具有的优点;但不同于 MapReduce 的是 Job 中间输出结果可以保存在内存中,从而不再需要读写 HDFS,因此 Spark 能更好地适用于数据挖掘与机器学习等需要迭代的 MapReduce 的算法。

    74 引用 • 46 回帖 • 565 关注
  • Maven

    Maven 是基于项目对象模型(POM)、通过一小段描述信息来管理项目的构建、报告和文档的软件项目管理工具。

    188 引用 • 319 回帖 • 239 关注
  • Redis

    Redis 是一个开源的使用 ANSI C 语言编写、支持网络、可基于内存亦可持久化的日志型、Key-Value 数据库,并提供多种语言的 API。从 2010 年 3 月 15 日起,Redis 的开发工作由 VMware 主持。从 2013 年 5 月开始,Redis 的开发由 Pivotal 赞助。

    284 引用 • 248 回帖
  • 支付宝

    支付宝是全球领先的独立第三方支付平台,致力于为广大用户提供安全快速的电子支付/网上支付/安全支付/手机支付体验,及转账收款/水电煤缴费/信用卡还款/AA 收款等生活服务应用。

    29 引用 • 347 回帖
  • JavaScript

    JavaScript 一种动态类型、弱类型、基于原型的直译式脚本语言,内置支持类型。它的解释器被称为 JavaScript 引擎,为浏览器的一部分,广泛用于客户端的脚本语言,最早是在 HTML 网页上使用,用来给 HTML 网页增加动态功能。

    730 引用 • 1283 回帖
  • JRebel

    JRebel 是一款 Java 虚拟机插件,它使得 Java 程序员能在不进行重部署的情况下,即时看到代码的改变对一个应用程序带来的影响。

    26 引用 • 78 回帖 • 680 关注
  • Tomcat

    Tomcat 最早是由 Sun Microsystems 开发的一个 Servlet 容器,在 1999 年被捐献给 ASF(Apache Software Foundation),隶属于 Jakarta 项目,现在已经独立为一个顶级项目。Tomcat 主要实现了 JavaEE 中的 Servlet、JSP 规范,同时也提供 HTTP 服务,是市场上非常流行的 Java Web 容器。

    162 引用 • 529 回帖 • 8 关注
  • 导航

    各种网址链接、内容导航。

    45 引用 • 177 回帖 • 1 关注
  • API

    应用程序编程接口(Application Programming Interface)是一些预先定义的函数,目的是提供应用程序与开发人员基于某软件或硬件得以访问一组例程的能力,而又无需访问源码,或理解内部工作机制的细节。

    79 引用 • 431 回帖
  • Wide

    Wide 是一款基于 Web 的 Go 语言 IDE。通过浏览器就可以进行 Go 开发,并有代码自动完成、查看表达式、编译反馈、Lint、实时结果输出等功能。

    欢迎访问我们运维的实例: https://wide.b3log.org

    30 引用 • 218 回帖 • 642 关注