Java NIO 原理图文分析及代码实现

本贴最后更新于 3018 天前,其中的信息可能已经渤澥桑田

Java NIO 原理图文分析及代码实现

前言:

最近在分析 hadoop 的 RPC(Remote Procedure Call Protocol ,远程过程调用协议,它是一种通过网络从远程计算机程序上请求服务,而不需要了解底层网络技术的协议。可以参考:http://baike.baidu.com/view/32726.htm )机制时,发现 hadoop 的 RPC 机制的实现主要用到了两个技术:动态代理(动态代理可以参考博客:http://weixiaolu.iteye.com/blog/1477774 )和 java NIO。为了能够正确地分析 hadoop 的 RPC 源码,我觉得很有必要先研究一下 java NIO 的原理和具体实现。

这篇博客我主要从两个方向来分析 java NIO

目录:

一.java NIO 和阻塞 I/O 的区别

1\. 阻塞I/O通信模型 2\. java NIO原理及通信模型

二.java NIO 服务端和客户端代码实现

具体分析:

一.java NIO 和阻塞 I/O 的区别

1. 阻塞 I/O 通信模型

假如现在你对阻塞 I/O 已有了一定了解,我们知道阻塞 I/O 在调用 InputStream.read()方法时是阻塞的,它会一直等到数据到来时(或超时)才会返回;同样,在调用 ServerSocket.accept()方法时,也会一直阻塞到有客户端连接才会返回,每个客户端连接过来后,服务端都会启动一个线程去处理该客户端的请求。阻塞 I/O 的通信模型示意图如下:

如果你细细分析,一定会发现阻塞 I/O 存在一些缺点。根据阻塞 I/O 通信模型,我总结了它的两点缺点:

1. 当客户端多时,会创建大量的处理线程。且每个线程都要占用栈空间和一些 CPU 时间

2. 阻塞可能带来频繁的上下文切换,且大部分上下文切换可能是无意义的。

在这种情况下非阻塞式 I/O 就有了它的应用前景。

  1. java NIO 原理及通信模型

Java NIO 是在 jdk1.4 开始使用的,它既可以说成“新 I/O”,也可以说成非阻塞式 I/O。下面是 java NIO 的工作原理:

1. 由一个专门的线程来处理所有的 IO 事件,并负责分发。

2. 事件驱动机制:事件到的时候触发,而不是同步的去监视事件。

3. 线程通讯:线程之间通过 wait,notify 等方式通讯。保证每次上下文切换都是有意义的。减少无谓的线程切换。

阅读过一些资料之后,下面贴出我理解的 java NIO 的工作原理图:

(注:每个线程的处理流程大概都是读取数据、解码、计算处理、编码、发送响应。)

Java NIO 的服务端只需启动一个专门的线程来处理所有的 IO 事件,这种通信模型是怎么实现的呢?呵呵,我们一起来探究它的奥秘吧。java NIO 采用了双向通道(channel)进行数据传输,而不是单向的流(stream),在通道上可以注册我们感兴趣的事件。一共有以下四种事件:

| 事件名 | 对应值 |
| 服务端接收客户端连接事件 | SelectionKey.OP_ACCEPT(16) |
| 客户端连接服务端事件 | SelectionKey.OP_CONNECT(8) |
| 读事件 | SelectionKey.OP_READ(1) |
| 写事件 | SelectionKey.OP_WRITE(4) |

服务端和客户端各自维护一个管理通道的对象,我们称之为 selector,该对象能检测一个或多个通道 (channel) 上的事件。我们以服务端为例,如果服务端的 selector 上注册了读事件,某时刻客户端给服务端发送了一些数据,阻塞 I/O 这时会调用 read()方法阻塞地读取数据,而 NIO 的服务端会在 selector 中添加一个读事件。服务端的处理线程会轮询地访问 selector,如果访问 selector 时发现有感兴趣的事件到达,则处理这些事件,如果没有感兴趣的事件到达,则处理线程会一直阻塞直到感兴趣的事件到达为止。下面是我理解的 java NIO 的通信模型示意图:

二.java NIO 服务端和客户端代码实现

为了更好地理解 java NIO,下面贴出服务端和客户端的简单代码实现。

服务端:

Java 代码

  1. package cn.nio;
  2. import java.io.IOException;
  3. import java.net.InetSocketAddress;
  4. import java.nio.ByteBuffer;
  5. import java.nio.channels.SelectionKey;
  6. import java.nio.channels.Selector;
  7. import java.nio.channels.ServerSocketChannel;
  8. import java.nio.channels.SocketChannel;
  9. import java.util.Iterator;
  10. /**
    • NIO 服务端
  11. */
  12. public class NIOServer {
  13. //通道管理器
  14. private Selector selector;
  15. /**
  16. * 获得一个ServerSocket通道,并对该通道做一些初始化的工作
  17. * @param port 绑定的端口号
  18. * @throws IOException
  19. */
  20. public void initServer(int port) throws IOException {
  21. // 获得一个ServerSocket通道
  22. ServerSocketChannel serverChannel = ServerSocketChannel.open();
  23. // 设置通道为非阻塞
  24. serverChannel.configureBlocking(false);
  25. // 将该通道对应的ServerSocket绑定到port端口
  26. serverChannel.socket().bind(new InetSocketAddress(port));
  27. // 获得一个通道管理器
  28. this.selector = Selector.open();
  29. //将通道管理器和该通道绑定,并为该通道注册SelectionKey.OP_ACCEPT事件,注册该事件后,
  30. //当该事件到达时,selector.select()会返回,如果该事件没到达selector.select()会一直阻塞。
  31. serverChannel.register(selector, SelectionKey.OP_ACCEPT);
  32. }
  33. /**
  34. * 采用轮询的方式监听selector上是否有需要处理的事件,如果有,则进行处理
  35. * @throws IOException
  36. */
  37. @SuppressWarnings("unchecked")
  38. public void listen() throws IOException {
  39. System.out.println("服务端启动成功!");
  40. // 轮询访问selector
  41. while (true) {
  42. //当注册的事件到达时,方法返回;否则,该方法会一直阻塞
  43. selector.select();
  44. // 获得selector中选中的项的迭代器,选中的项为注册的事件
  45. Iterator ite = this.selector.selectedKeys().iterator();
  46. while (ite.hasNext()) {
  47. SelectionKey key = (SelectionKey) ite.next();
  48. // 删除已选的key,以防重复处理
  49. ite.remove();
  50. // 客户端请求连接事件
  51. if (key.isAcceptable()) {
  52. ServerSocketChannel server = (ServerSocketChannel) key
  53. .channel();
  54. // 获得和客户端连接的通道
  55. SocketChannel channel = server.accept();
  56. // 设置成非阻塞
  57. channel.configureBlocking(false);
  58. //在这里可以给客户端发送信息哦
  59. channel.write(ByteBuffer.wrap(new String("向客户端发送了一条信息").getBytes()));
  60. //在和客户端连接成功之后,为了可以接收到客户端的信息,需要给通道设置读的权限。
  61. channel.register(this.selector, SelectionKey.OP_READ);
  62. // 获得了可读的事件
  63. } else if (key.isReadable()) {
  64. read(key);
  65. }
  66. }
  67. }
  68. }
  69. /**
  70. * 处理读取客户端发来的信息 的事件
  71. * @param key
  72. * @throws IOException
  73. */
  74. public void read(SelectionKey key) throws IOException{
  75. // 服务器可读取消息:得到事件发生的Socket通道
  76. SocketChannel channel = (SocketChannel) key.channel();
  77. // 创建读取的缓冲区
  78. ByteBuffer buffer = ByteBuffer.allocate(10);
  79. channel.read(buffer);
  80. byte[] data = buffer.array();
  81. String msg = new String(data).trim();
  82. System.out.println("服务端收到信息:"+msg);
  83. ByteBuffer outBuffer = ByteBuffer.wrap(msg.getBytes());
  84. channel.write(outBuffer);// 将消息回送给客户端
  85. }
  86. /**
  87. * 启动服务端测试
  88. * @throws IOException
  89. */
  90. public static void main(String[] args) throws IOException {
  91. NIOServer server = new NIOServer();
  92. server.initServer(8000);
  93. server.listen();
  94. }
  95. }

客户端:

Java 代码

  1. package cn.nio;
  2. import java.io.IOException;
  3. import java.net.InetSocketAddress;
  4. import java.nio.ByteBuffer;
  5. import java.nio.channels.SelectionKey;
  6. import java.nio.channels.Selector;
  7. import java.nio.channels.SocketChannel;
  8. import java.util.Iterator;
  9. /**
    • NIO 客户端
  10. */
  11. public class NIOClient {
  12. //通道管理器
  13. private Selector selector;
  14. /**
  15. * 获得一个Socket通道,并对该通道做一些初始化的工作
  16. * @param ip 连接的服务器的ip
  17. * @param port 连接的服务器的端口号
  18. * @throws IOException
  19. */
  20. public void initClient(String ip,int port) throws IOException {
  21. // 获得一个Socket通道
  22. SocketChannel channel = SocketChannel.open();
  23. // 设置通道为非阻塞
  24. channel.configureBlocking(false);
  25. // 获得一个通道管理器
  26. this.selector = Selector.open();
  27. // 客户端连接服务器,其实方法执行并没有实现连接,需要在listen()方法中调
  28. //用channel.finishConnect();才能完成连接
  29. channel.connect(new InetSocketAddress(ip,port));
  30. //将通道管理器和该通道绑定,并为该通道注册SelectionKey.OP_CONNECT事件。
  31. channel.register(selector, SelectionKey.OP_CONNECT);
  32. }
  33. /**
  34. * 采用轮询的方式监听selector上是否有需要处理的事件,如果有,则进行处理
  35. * @throws IOException
  36. */
  37. @SuppressWarnings("unchecked")
  38. public void listen() throws IOException {
  39. // 轮询访问selector
  40. while (true) {
  41. selector.select();
  42. // 获得selector中选中的项的迭代器
  43. Iterator ite = this.selector.selectedKeys().iterator();
  44. while (ite.hasNext()) {
  45. SelectionKey key = (SelectionKey) ite.next();
  46. // 删除已选的key,以防重复处理
  47. ite.remove();
  48. // 连接事件发生
  49. if (key.isConnectable()) {
  50. SocketChannel channel = (SocketChannel) key
  51. .channel();
  52. // 如果正在连接,则完成连接
  53. if(channel.isConnectionPending()){
  54. channel.finishConnect();
  55. }
  56. // 设置成非阻塞
  57. channel.configureBlocking(false);
  58. //在这里可以给服务端发送信息哦
  59. channel.write(ByteBuffer.wrap(new String("向服务端发送了一条信息").getBytes()));
  60. //在和服务端连接成功之后,为了可以接收到服务端的信息,需要给通道设置读的权限。
  61. channel.register(this.selector, SelectionKey.OP_READ);
  62. // 获得了可读的事件
  63. } else if (key.isReadable()) {
  64. read(key);
  65. }
  66. }
  67. }
  68. }
  69. /**
  70. * 处理读取服务端发来的信息 的事件
  71. * @param key
  72. * @throws IOException
  73. */
  74. public void read(SelectionKey key) throws IOException{
  75. //和服务端的read方法一样
  76. }
  77. /**
  78. * 启动客户端测试
  79. * @throws IOException
  80. */
  81. public static void main(String[] args) throws IOException {
  82. NIOClient client = new NIOClient();
  83. client.initClient("localhost",8000);
  84. client.listen();
  85. }
  86. }

小结:

终于把动态代理和 java NIO 分析完了,呵呵,下面就要分析 hadoop 的 RPC 机制源码了,博客地址:http://weixiaolu.iteye.com/blog/1504898 。不过如果对 java NIO 的理解存在异议的,欢迎一起讨论。

  • Java

    Java 是一种可以撰写跨平台应用软件的面向对象的程序设计语言,是由 Sun Microsystems 公司于 1995 年 5 月推出的。Java 技术具有卓越的通用性、高效性、平台移植性和安全性。

    3201 引用 • 8217 回帖 • 2 关注

相关帖子

欢迎来到这里!

我们正在构建一个小众社区,大家在这里相互信任,以平等 • 自由 • 奔放的价值观进行分享交流。最终,希望大家能够找到与自己志同道合的伙伴,共同成长。

注册 关于
请输入回帖内容 ...
  • someone

    讲真,您这代码不支持高亮,差评

推荐标签 标签

  • Sublime

    Sublime Text 是一款可以用来写代码、写文章的文本编辑器。支持代码高亮、自动完成,还支持通过插件进行扩展。

    10 引用 • 5 回帖 • 1 关注
  • 爬虫

    网络爬虫(Spider、Crawler),是一种按照一定的规则,自动地抓取万维网信息的程序。

    106 引用 • 275 回帖
  • Flume

    Flume 是一套分布式的、可靠的,可用于有效地收集、聚合和搬运大量日志数据的服务架构。

    9 引用 • 6 回帖 • 662 关注
  • PWL

    组织简介

    用爱发电 (Programming With Love) 是一个以开源精神为核心的民间开源爱好者技术组织,“用爱发电”象征开源与贡献精神,加入组织,代表你将遵守组织的“个人开源爱好者”的各项条款。申请加入:用爱发电组织邀请帖
    用爱发电组织官网:https://programmingwithlove.stackoverflow.wiki/

    用爱发电组织的核心驱动力:

    • 遵守开源守则,体现开源&贡献精神:以分享为目的,拒绝非法牟利。
    • 自我保护:使用适当的 License 保护自己的原创作品。
    • 尊重他人:不以各种理由、各种漏洞进行未经允许的抄袭、散播、洩露;以礼相待,尊重所有对社区做出贡献的开发者;通过他人的分享习得知识,要留下足迹,表示感谢。
    • 热爱编程、热爱学习:加入组织,热爱编程是首当其要的。我们欢迎热爱讨论、分享、提问的朋友,也同样欢迎默默成就的朋友。
    • 倾听:正确并恳切对待、处理问题与建议,及时修复开源项目的 Bug ,及时与反馈者沟通。不抬杠、不无视、不辱骂。
    • 平视:不诋毁、轻视、嘲讽其他开发者,主动提出建议、施以帮助,以和谐为本。只要他人肯努力,你也可能会被昔日小看的人所超越,所以请保持谦虚。
    • 乐观且活跃:你的努力决定了你的高度。不要放弃,多年后回头俯瞰,才会发现自己已经成就往日所仰望的水平。积极地将项目开源,帮助他人学习、改进,自己也会获得相应的提升、成就与成就感。
    1 引用 • 487 回帖 • 2 关注
  • AWS
    11 引用 • 28 回帖 • 8 关注
  • 架构

    我们平时所说的“架构”主要是指软件架构,这是有关软件整体结构与组件的抽象描述,用于指导软件系统各个方面的设计。另外还有“业务架构”、“网络架构”、“硬件架构”等细分领域。

    142 引用 • 442 回帖 • 1 关注
  • 知乎

    知乎是网络问答社区,连接各行各业的用户。用户分享着彼此的知识、经验和见解,为中文互联网源源不断地提供多种多样的信息。

    10 引用 • 66 回帖
  • 支付宝

    支付宝是全球领先的独立第三方支付平台,致力于为广大用户提供安全快速的电子支付/网上支付/安全支付/手机支付体验,及转账收款/水电煤缴费/信用卡还款/AA 收款等生活服务应用。

    29 引用 • 347 回帖
  • 博客

    记录并分享人生的经历。

    273 引用 • 2389 回帖 • 2 关注
  • OpenStack

    OpenStack 是一个云操作系统,通过数据中心可控制大型的计算、存储、网络等资源池。所有的管理通过前端界面管理员就可以完成,同样也可以通过 Web 接口让最终用户部署资源。

    10 引用 • 1 关注
  • 创业

    你比 99% 的人都优秀么?

    82 引用 • 1395 回帖
  • WebSocket

    WebSocket 是 HTML5 中定义的一种新协议,它实现了浏览器与服务器之间的全双工通信(full-duplex)。

    48 引用 • 206 回帖 • 284 关注
  • 思源笔记

    思源笔记是一款隐私优先的个人知识管理系统,支持完全离线使用,同时也支持端到端加密同步。

    融合块、大纲和双向链接,重构你的思维。

    26098 引用 • 108353 回帖 • 1 关注
  • Office

    Office 现已更名为 Microsoft 365. Microsoft 365 将高级 Office 应用(如 Word、Excel 和 PowerPoint)与 1 TB 的 OneDrive 云存储空间、高级安全性等结合在一起,可帮助你在任何设备上完成操作。

    5 引用 • 34 回帖 • 1 关注
  • Vditor

    Vditor 是一款浏览器端的 Markdown 编辑器,支持所见即所得、即时渲染(类似 Typora)和分屏预览模式。它使用 TypeScript 实现,支持原生 JavaScript、Vue、React 和 Angular。

    372 引用 • 1857 回帖 • 1 关注
  • CodeMirror
    2 引用 • 17 回帖 • 168 关注
  • Docker

    Docker 是一个开源的应用容器引擎,让开发者可以打包他们的应用以及依赖包到一个可移植的容器中,然后发布到任何流行的操作系统上。容器完全使用沙箱机制,几乎没有性能开销,可以很容易地在机器和数据中心中运行。

    497 引用 • 934 回帖 • 1 关注
  • 脑图

    脑图又叫思维导图,是表达发散性思维的有效图形思维工具 ,它简单却又很有效,是一种实用性的思维工具。

    32 引用 • 99 回帖
  • 域名

    域名(Domain Name),简称域名、网域,是由一串用点分隔的名字组成的 Internet 上某一台计算机或计算机组的名称,用于在数据传输时标识计算机的电子方位(有时也指地理位置)。

    44 引用 • 208 回帖
  • FreeMarker

    FreeMarker 是一款好用且功能强大的 Java 模版引擎。

    23 引用 • 20 回帖 • 464 关注
  • 负能量

    上帝为你关上了一扇门,然后就去睡觉了....努力不一定能成功,但不努力一定很轻松 (° ー °〃)

    89 引用 • 1251 回帖 • 393 关注
  • danl
    175 关注
  • 链书

    链书(Chainbook)是 B3log 开源社区提供的区块链纸质书交易平台,通过 B3T 实现共享激励与价值链。可将你的闲置书籍上架到链书,我们共同构建这个全新的交易平台,让闲置书籍继续发挥它的价值。

    链书社

    链书目前已经下线,也许以后还有计划重制上线。

    14 引用 • 257 回帖 • 2 关注
  • HTML

    HTML5 是 HTML 下一个的主要修订版本,现在仍处于发展阶段。广义论及 HTML5 时,实际指的是包括 HTML、CSS 和 JavaScript 在内的一套技术组合。

    108 引用 • 295 回帖 • 2 关注
  • 以太坊

    以太坊(Ethereum)并不是一个机构,而是一款能够在区块链上实现智能合约、开源的底层系统。以太坊是一个平台和一种编程语言 Solidity,使开发人员能够建立和发布下一代去中心化应用。 以太坊可以用来编程、分散、担保和交易任何事物:投票、域名、金融交易所、众筹、公司管理、合同和知识产权等等。

    34 引用 • 367 回帖 • 1 关注
  • Spring

    Spring 是一个开源框架,是于 2003 年兴起的一个轻量级的 Java 开发框架,由 Rod Johnson 在其著作《Expert One-On-One J2EE Development and Design》中阐述的部分理念和原型衍生而来。它是为了解决企业应用开发的复杂性而创建的。框架的主要优势之一就是其分层架构,分层架构允许使用者选择使用哪一个组件,同时为 JavaEE 应用程序开发提供集成的框架。

    947 引用 • 1460 回帖 • 1 关注
  • 阿里巴巴

    阿里巴巴网络技术有限公司(简称:阿里巴巴集团)是以曾担任英语教师的马云为首的 18 人,于 1999 年在中国杭州创立,他们相信互联网能够创造公平的竞争环境,让小企业通过创新与科技扩展业务,并在参与国内或全球市场竞争时处于更有利的位置。

    43 引用 • 221 回帖 • 58 关注