Java NIO 原理图文分析及代码实现

本贴最后更新于 3062 天前,其中的信息可能已经渤澥桑田

Java NIO 原理图文分析及代码实现

前言:

最近在分析 hadoop 的 RPC(Remote Procedure Call Protocol ,远程过程调用协议,它是一种通过网络从远程计算机程序上请求服务,而不需要了解底层网络技术的协议。可以参考:http://baike.baidu.com/view/32726.htm )机制时,发现 hadoop 的 RPC 机制的实现主要用到了两个技术:动态代理(动态代理可以参考博客:http://weixiaolu.iteye.com/blog/1477774 )和 java NIO。为了能够正确地分析 hadoop 的 RPC 源码,我觉得很有必要先研究一下 java NIO 的原理和具体实现。

这篇博客我主要从两个方向来分析 java NIO

目录:

一.java NIO 和阻塞 I/O 的区别

1\. 阻塞I/O通信模型 2\. java NIO原理及通信模型

二.java NIO 服务端和客户端代码实现

具体分析:

一.java NIO 和阻塞 I/O 的区别

1. 阻塞 I/O 通信模型

假如现在你对阻塞 I/O 已有了一定了解,我们知道阻塞 I/O 在调用 InputStream.read()方法时是阻塞的,它会一直等到数据到来时(或超时)才会返回;同样,在调用 ServerSocket.accept()方法时,也会一直阻塞到有客户端连接才会返回,每个客户端连接过来后,服务端都会启动一个线程去处理该客户端的请求。阻塞 I/O 的通信模型示意图如下:

如果你细细分析,一定会发现阻塞 I/O 存在一些缺点。根据阻塞 I/O 通信模型,我总结了它的两点缺点:

1. 当客户端多时,会创建大量的处理线程。且每个线程都要占用栈空间和一些 CPU 时间

2. 阻塞可能带来频繁的上下文切换,且大部分上下文切换可能是无意义的。

在这种情况下非阻塞式 I/O 就有了它的应用前景。

  1. java NIO 原理及通信模型

Java NIO 是在 jdk1.4 开始使用的,它既可以说成“新 I/O”,也可以说成非阻塞式 I/O。下面是 java NIO 的工作原理:

1. 由一个专门的线程来处理所有的 IO 事件,并负责分发。

2. 事件驱动机制:事件到的时候触发,而不是同步的去监视事件。

3. 线程通讯:线程之间通过 wait,notify 等方式通讯。保证每次上下文切换都是有意义的。减少无谓的线程切换。

阅读过一些资料之后,下面贴出我理解的 java NIO 的工作原理图:

(注:每个线程的处理流程大概都是读取数据、解码、计算处理、编码、发送响应。)

Java NIO 的服务端只需启动一个专门的线程来处理所有的 IO 事件,这种通信模型是怎么实现的呢?呵呵,我们一起来探究它的奥秘吧。java NIO 采用了双向通道(channel)进行数据传输,而不是单向的流(stream),在通道上可以注册我们感兴趣的事件。一共有以下四种事件:

| 事件名 | 对应值 |
| 服务端接收客户端连接事件 | SelectionKey.OP_ACCEPT(16) |
| 客户端连接服务端事件 | SelectionKey.OP_CONNECT(8) |
| 读事件 | SelectionKey.OP_READ(1) |
| 写事件 | SelectionKey.OP_WRITE(4) |

服务端和客户端各自维护一个管理通道的对象,我们称之为 selector,该对象能检测一个或多个通道 (channel) 上的事件。我们以服务端为例,如果服务端的 selector 上注册了读事件,某时刻客户端给服务端发送了一些数据,阻塞 I/O 这时会调用 read()方法阻塞地读取数据,而 NIO 的服务端会在 selector 中添加一个读事件。服务端的处理线程会轮询地访问 selector,如果访问 selector 时发现有感兴趣的事件到达,则处理这些事件,如果没有感兴趣的事件到达,则处理线程会一直阻塞直到感兴趣的事件到达为止。下面是我理解的 java NIO 的通信模型示意图:

二.java NIO 服务端和客户端代码实现

为了更好地理解 java NIO,下面贴出服务端和客户端的简单代码实现。

服务端:

Java 代码

  1. package cn.nio;
  2. import java.io.IOException;
  3. import java.net.InetSocketAddress;
  4. import java.nio.ByteBuffer;
  5. import java.nio.channels.SelectionKey;
  6. import java.nio.channels.Selector;
  7. import java.nio.channels.ServerSocketChannel;
  8. import java.nio.channels.SocketChannel;
  9. import java.util.Iterator;
  10. /**
    • NIO 服务端
  11. */
  12. public class NIOServer {
  13. //通道管理器
  14. private Selector selector;
  15. /**
  16. * 获得一个ServerSocket通道,并对该通道做一些初始化的工作
  17. * @param port 绑定的端口号
  18. * @throws IOException
  19. */
  20. public void initServer(int port) throws IOException {
  21. // 获得一个ServerSocket通道
  22. ServerSocketChannel serverChannel = ServerSocketChannel.open();
  23. // 设置通道为非阻塞
  24. serverChannel.configureBlocking(false);
  25. // 将该通道对应的ServerSocket绑定到port端口
  26. serverChannel.socket().bind(new InetSocketAddress(port));
  27. // 获得一个通道管理器
  28. this.selector = Selector.open();
  29. //将通道管理器和该通道绑定,并为该通道注册SelectionKey.OP_ACCEPT事件,注册该事件后,
  30. //当该事件到达时,selector.select()会返回,如果该事件没到达selector.select()会一直阻塞。
  31. serverChannel.register(selector, SelectionKey.OP_ACCEPT);
  32. }
  33. /**
  34. * 采用轮询的方式监听selector上是否有需要处理的事件,如果有,则进行处理
  35. * @throws IOException
  36. */
  37. @SuppressWarnings("unchecked")
  38. public void listen() throws IOException {
  39. System.out.println("服务端启动成功!");
  40. // 轮询访问selector
  41. while (true) {
  42. //当注册的事件到达时,方法返回;否则,该方法会一直阻塞
  43. selector.select();
  44. // 获得selector中选中的项的迭代器,选中的项为注册的事件
  45. Iterator ite = this.selector.selectedKeys().iterator();
  46. while (ite.hasNext()) {
  47. SelectionKey key = (SelectionKey) ite.next();
  48. // 删除已选的key,以防重复处理
  49. ite.remove();
  50. // 客户端请求连接事件
  51. if (key.isAcceptable()) {
  52. ServerSocketChannel server = (ServerSocketChannel) key
  53. .channel();
  54. // 获得和客户端连接的通道
  55. SocketChannel channel = server.accept();
  56. // 设置成非阻塞
  57. channel.configureBlocking(false);
  58. //在这里可以给客户端发送信息哦
  59. channel.write(ByteBuffer.wrap(new String("向客户端发送了一条信息").getBytes()));
  60. //在和客户端连接成功之后,为了可以接收到客户端的信息,需要给通道设置读的权限。
  61. channel.register(this.selector, SelectionKey.OP_READ);
  62. // 获得了可读的事件
  63. } else if (key.isReadable()) {
  64. read(key);
  65. }
  66. }
  67. }
  68. }
  69. /**
  70. * 处理读取客户端发来的信息 的事件
  71. * @param key
  72. * @throws IOException
  73. */
  74. public void read(SelectionKey key) throws IOException{
  75. // 服务器可读取消息:得到事件发生的Socket通道
  76. SocketChannel channel = (SocketChannel) key.channel();
  77. // 创建读取的缓冲区
  78. ByteBuffer buffer = ByteBuffer.allocate(10);
  79. channel.read(buffer);
  80. byte[] data = buffer.array();
  81. String msg = new String(data).trim();
  82. System.out.println("服务端收到信息:"+msg);
  83. ByteBuffer outBuffer = ByteBuffer.wrap(msg.getBytes());
  84. channel.write(outBuffer);// 将消息回送给客户端
  85. }
  86. /**
  87. * 启动服务端测试
  88. * @throws IOException
  89. */
  90. public static void main(String[] args) throws IOException {
  91. NIOServer server = new NIOServer();
  92. server.initServer(8000);
  93. server.listen();
  94. }
  95. }

客户端:

Java 代码

  1. package cn.nio;
  2. import java.io.IOException;
  3. import java.net.InetSocketAddress;
  4. import java.nio.ByteBuffer;
  5. import java.nio.channels.SelectionKey;
  6. import java.nio.channels.Selector;
  7. import java.nio.channels.SocketChannel;
  8. import java.util.Iterator;
  9. /**
    • NIO 客户端
  10. */
  11. public class NIOClient {
  12. //通道管理器
  13. private Selector selector;
  14. /**
  15. * 获得一个Socket通道,并对该通道做一些初始化的工作
  16. * @param ip 连接的服务器的ip
  17. * @param port 连接的服务器的端口号
  18. * @throws IOException
  19. */
  20. public void initClient(String ip,int port) throws IOException {
  21. // 获得一个Socket通道
  22. SocketChannel channel = SocketChannel.open();
  23. // 设置通道为非阻塞
  24. channel.configureBlocking(false);
  25. // 获得一个通道管理器
  26. this.selector = Selector.open();
  27. // 客户端连接服务器,其实方法执行并没有实现连接,需要在listen()方法中调
  28. //用channel.finishConnect();才能完成连接
  29. channel.connect(new InetSocketAddress(ip,port));
  30. //将通道管理器和该通道绑定,并为该通道注册SelectionKey.OP_CONNECT事件。
  31. channel.register(selector, SelectionKey.OP_CONNECT);
  32. }
  33. /**
  34. * 采用轮询的方式监听selector上是否有需要处理的事件,如果有,则进行处理
  35. * @throws IOException
  36. */
  37. @SuppressWarnings("unchecked")
  38. public void listen() throws IOException {
  39. // 轮询访问selector
  40. while (true) {
  41. selector.select();
  42. // 获得selector中选中的项的迭代器
  43. Iterator ite = this.selector.selectedKeys().iterator();
  44. while (ite.hasNext()) {
  45. SelectionKey key = (SelectionKey) ite.next();
  46. // 删除已选的key,以防重复处理
  47. ite.remove();
  48. // 连接事件发生
  49. if (key.isConnectable()) {
  50. SocketChannel channel = (SocketChannel) key
  51. .channel();
  52. // 如果正在连接,则完成连接
  53. if(channel.isConnectionPending()){
  54. channel.finishConnect();
  55. }
  56. // 设置成非阻塞
  57. channel.configureBlocking(false);
  58. //在这里可以给服务端发送信息哦
  59. channel.write(ByteBuffer.wrap(new String("向服务端发送了一条信息").getBytes()));
  60. //在和服务端连接成功之后,为了可以接收到服务端的信息,需要给通道设置读的权限。
  61. channel.register(this.selector, SelectionKey.OP_READ);
  62. // 获得了可读的事件
  63. } else if (key.isReadable()) {
  64. read(key);
  65. }
  66. }
  67. }
  68. }
  69. /**
  70. * 处理读取服务端发来的信息 的事件
  71. * @param key
  72. * @throws IOException
  73. */
  74. public void read(SelectionKey key) throws IOException{
  75. //和服务端的read方法一样
  76. }
  77. /**
  78. * 启动客户端测试
  79. * @throws IOException
  80. */
  81. public static void main(String[] args) throws IOException {
  82. NIOClient client = new NIOClient();
  83. client.initClient("localhost",8000);
  84. client.listen();
  85. }
  86. }

小结:

终于把动态代理和 java NIO 分析完了,呵呵,下面就要分析 hadoop 的 RPC 机制源码了,博客地址:http://weixiaolu.iteye.com/blog/1504898 。不过如果对 java NIO 的理解存在异议的,欢迎一起讨论。

  • Java

    Java 是一种可以撰写跨平台应用软件的面向对象的程序设计语言,是由 Sun Microsystems 公司于 1995 年 5 月推出的。Java 技术具有卓越的通用性、高效性、平台移植性和安全性。

    3203 引用 • 8217 回帖 • 1 关注

相关帖子

欢迎来到这里!

我们正在构建一个小众社区,大家在这里相互信任,以平等 • 自由 • 奔放的价值观进行分享交流。最终,希望大家能够找到与自己志同道合的伙伴,共同成长。

注册 关于
请输入回帖内容 ...
  • someone

    讲真,您这代码不支持高亮,差评

推荐标签 标签

  • Electron

    Electron 基于 Chromium 和 Node.js,让你可以使用 HTML、CSS 和 JavaScript 构建应用。它是一个由 GitHub 及众多贡献者组成的活跃社区共同维护的开源项目,兼容 Mac、Windows 和 Linux,它构建的应用可在这三个操作系统上面运行。

    15 引用 • 136 回帖 • 4 关注
  • 爬虫

    网络爬虫(Spider、Crawler),是一种按照一定的规则,自动地抓取万维网信息的程序。

    106 引用 • 275 回帖 • 2 关注
  • Q&A

    提问之前请先看《提问的智慧》,好的问题比好的答案更有价值。

    10304 引用 • 46800 回帖 • 62 关注
  • Swagger

    Swagger 是一款非常流行的 API 开发工具,它遵循 OpenAPI Specification(这是一种通用的、和编程语言无关的 API 描述规范)。Swagger 贯穿整个 API 生命周期,如 API 的设计、编写文档、测试和部署。

    26 引用 • 35 回帖 • 3 关注
  • IPFS

    IPFS(InterPlanetary File System,星际文件系统)是永久的、去中心化保存和共享文件的方法,这是一种内容可寻址、版本化、点对点超媒体的分布式协议。请浏览 IPFS 入门笔记了解更多细节。

    20 引用 • 245 回帖 • 240 关注
  • Hprose

    Hprose 是一款先进的轻量级、跨语言、跨平台、无侵入式、高性能动态远程对象调用引擎库。它不仅简单易用,而且功能强大。你无需专门学习,只需看上几眼,就能用它轻松构建分布式应用系统。

    9 引用 • 17 回帖 • 639 关注
  • MyBatis

    MyBatis 本是 Apache 软件基金会 的一个开源项目 iBatis,2010 年这个项目由 Apache 软件基金会迁移到了 google code,并且改名为 MyBatis ,2013 年 11 月再次迁移到了 GitHub。

    173 引用 • 414 回帖 • 357 关注
  • PWL

    组织简介

    用爱发电 (Programming With Love) 是一个以开源精神为核心的民间开源爱好者技术组织,“用爱发电”象征开源与贡献精神,加入组织,代表你将遵守组织的“个人开源爱好者”的各项条款。申请加入:用爱发电组织邀请帖
    用爱发电组织官网:https://programmingwithlove.stackoverflow.wiki/

    用爱发电组织的核心驱动力:

    • 遵守开源守则,体现开源&贡献精神:以分享为目的,拒绝非法牟利。
    • 自我保护:使用适当的 License 保护自己的原创作品。
    • 尊重他人:不以各种理由、各种漏洞进行未经允许的抄袭、散播、洩露;以礼相待,尊重所有对社区做出贡献的开发者;通过他人的分享习得知识,要留下足迹,表示感谢。
    • 热爱编程、热爱学习:加入组织,热爱编程是首当其要的。我们欢迎热爱讨论、分享、提问的朋友,也同样欢迎默默成就的朋友。
    • 倾听:正确并恳切对待、处理问题与建议,及时修复开源项目的 Bug ,及时与反馈者沟通。不抬杠、不无视、不辱骂。
    • 平视:不诋毁、轻视、嘲讽其他开发者,主动提出建议、施以帮助,以和谐为本。只要他人肯努力,你也可能会被昔日小看的人所超越,所以请保持谦虚。
    • 乐观且活跃:你的努力决定了你的高度。不要放弃,多年后回头俯瞰,才会发现自己已经成就往日所仰望的水平。积极地将项目开源,帮助他人学习、改进,自己也会获得相应的提升、成就与成就感。
    1 引用 • 487 回帖 • 3 关注
  • 程序员

    程序员是从事程序开发、程序维护的专业人员。

    593 引用 • 3533 回帖
  • Access
    1 引用 • 3 回帖 • 2 关注
  • Git

    Git 是 Linux Torvalds 为了帮助管理 Linux 内核开发而开发的一个开放源码的版本控制软件。

    211 引用 • 358 回帖
  • BookxNote

    BookxNote 是一款全新的电子书学习工具,助力您的学习与思考,让您的大脑更高效的记忆。

    笔记整理交给我,一心只读圣贤书。

    1 引用 • 1 回帖 • 3 关注
  • 七牛云

    七牛云是国内领先的企业级公有云服务商,致力于打造以数据为核心的场景化 PaaS 服务。围绕富媒体场景,七牛先后推出了对象存储,融合 CDN 加速,数据通用处理,内容反垃圾服务,以及直播云服务等。

    29 引用 • 230 回帖 • 125 关注
  • abitmean

    有点意思就行了

    33 关注
  • V2EX

    V2EX 是创意工作者们的社区。这里目前汇聚了超过 400,000 名主要来自互联网行业、游戏行业和媒体行业的创意工作者。V2EX 希望能够成为创意工作者们的生活和事业的一部分。

    16 引用 • 236 回帖 • 237 关注
  • 以太坊

    以太坊(Ethereum)并不是一个机构,而是一款能够在区块链上实现智能合约、开源的底层系统。以太坊是一个平台和一种编程语言 Solidity,使开发人员能够建立和发布下一代去中心化应用。 以太坊可以用来编程、分散、担保和交易任何事物:投票、域名、金融交易所、众筹、公司管理、合同和知识产权等等。

    34 引用 • 367 回帖
  • Solidity

    Solidity 是一种智能合约高级语言,运行在 [以太坊] 虚拟机(EVM)之上。它的语法接近于 JavaScript,是一种面向对象的语言。

    3 引用 • 18 回帖 • 451 关注
  • Hexo

    Hexo 是一款快速、简洁且高效的博客框架,使用 Node.js 编写。

    22 引用 • 148 回帖 • 16 关注
  • H2

    H2 是一个开源的嵌入式数据库引擎,采用 Java 语言编写,不受平台的限制,同时 H2 提供了一个十分方便的 web 控制台用于操作和管理数据库内容。H2 还提供兼容模式,可以兼容一些主流的数据库,因此采用 H2 作为开发期的数据库非常方便。

    11 引用 • 54 回帖 • 675 关注
  • Sym

    Sym 是一款用 Java 实现的现代化社区(论坛/BBS/社交网络/博客)系统平台。

    下一代的社区系统,为未来而构建

    524 引用 • 4601 回帖 • 710 关注
  • wolai

    我来 wolai:不仅仅是未来的云端笔记!

    2 引用 • 14 回帖 • 3 关注
  • MySQL

    MySQL 是一个关系型数据库管理系统,由瑞典 MySQL AB 公司开发,目前属于 Oracle 公司。MySQL 是最流行的关系型数据库管理系统之一。

    694 引用 • 537 回帖
  • frp

    frp 是一个可用于内网穿透的高性能的反向代理应用,支持 TCP、UDP、 HTTP 和 HTTPS 协议。

    17 引用 • 7 回帖 • 3 关注
  • Notion

    Notion - The all-in-one workspace for your notes, tasks, wikis, and databases.

    10 引用 • 77 回帖
  • FreeMarker

    FreeMarker 是一款好用且功能强大的 Java 模版引擎。

    23 引用 • 20 回帖 • 475 关注
  • 强迫症

    强迫症(OCD)属于焦虑障碍的一种类型,是一组以强迫思维和强迫行为为主要临床表现的神经精神疾病,其特点为有意识的强迫和反强迫并存,一些毫无意义、甚至违背自己意愿的想法或冲动反反复复侵入患者的日常生活。

    15 引用 • 161 回帖 • 3 关注
  • NGINX

    NGINX 是一个高性能的 HTTP 和反向代理服务器,也是一个 IMAP/POP3/SMTP 代理服务器。 NGINX 是由 Igor Sysoev 为俄罗斯访问量第二的 Rambler.ru 站点开发的,第一个公开版本 0.1.0 发布于 2004 年 10 月 4 日。

    315 引用 • 547 回帖