Java NIO 原理图文分析及代码实现

本贴最后更新于 2830 天前,其中的信息可能已经渤澥桑田

Java NIO 原理图文分析及代码实现

前言:

最近在分析 hadoop 的 RPC(Remote Procedure Call Protocol ,远程过程调用协议,它是一种通过网络从远程计算机程序上请求服务,而不需要了解底层网络技术的协议。可以参考:http://baike.baidu.com/view/32726.htm )机制时,发现 hadoop 的 RPC 机制的实现主要用到了两个技术:动态代理(动态代理可以参考博客:http://weixiaolu.iteye.com/blog/1477774 )和 java NIO。为了能够正确地分析 hadoop 的 RPC 源码,我觉得很有必要先研究一下 java NIO 的原理和具体实现。

这篇博客我主要从两个方向来分析 java NIO

目录:

一.java NIO 和阻塞 I/O 的区别

 1\. 阻塞I/O通信模型

 2\. java NIO原理及通信模型

二.java NIO 服务端和客户端代码实现

具体分析:

一.java NIO 和阻塞 I/O 的区别

1. 阻塞 I/O 通信模型

假如现在你对阻塞 I/O 已有了一定了解,我们知道阻塞 I/O 在调用 InputStream.read()方法时是阻塞的,它会一直等到数据到来时(或超时)才会返回;同样,在调用 ServerSocket.accept()方法时,也会一直阻塞到有客户端连接才会返回,每个客户端连接过来后,服务端都会启动一个线程去处理该客户端的请求。阻塞 I/O 的通信模型示意图如下:

如果你细细分析,一定会发现阻塞 I/O 存在一些缺点。根据阻塞 I/O 通信模型,我总结了它的两点缺点:

1. 当客户端多时,会创建大量的处理线程。且每个线程都要占用栈空间和一些 CPU 时间

2. 阻塞可能带来频繁的上下文切换,且大部分上下文切换可能是无意义的。

在这种情况下非阻塞式 I/O 就有了它的应用前景。

  1. java NIO 原理及通信模型

Java NIO 是在 jdk1.4 开始使用的,它既可以说成“新 I/O”,也可以说成非阻塞式 I/O。下面是 java NIO 的工作原理:

1. 由一个专门的线程来处理所有的 IO 事件,并负责分发。

2. 事件驱动机制:事件到的时候触发,而不是同步的去监视事件。

3. 线程通讯:线程之间通过 wait,notify 等方式通讯。保证每次上下文切换都是有意义的。减少无谓的线程切换。

阅读过一些资料之后,下面贴出我理解的 java NIO 的工作原理图:

(注:每个线程的处理流程大概都是读取数据、解码、计算处理、编码、发送响应。)

Java NIO 的服务端只需启动一个专门的线程来处理所有的 IO 事件,这种通信模型是怎么实现的呢?呵呵,我们一起来探究它的奥秘吧。java NIO 采用了双向通道(channel)进行数据传输,而不是单向的流(stream),在通道上可以注册我们感兴趣的事件。一共有以下四种事件:

| 事件名 | 对应值 |
| 服务端接收客户端连接事件 | SelectionKey.OP_ACCEPT(16) |
| 客户端连接服务端事件 | SelectionKey.OP_CONNECT(8) |
| 读事件 | SelectionKey.OP_READ(1) |
| 写事件 | SelectionKey.OP_WRITE(4) |

服务端和客户端各自维护一个管理通道的对象,我们称之为 selector,该对象能检测一个或多个通道 (channel) 上的事件。我们以服务端为例,如果服务端的 selector 上注册了读事件,某时刻客户端给服务端发送了一些数据,阻塞 I/O 这时会调用 read()方法阻塞地读取数据,而 NIO 的服务端会在 selector 中添加一个读事件。服务端的处理线程会轮询地访问 selector,如果访问 selector 时发现有感兴趣的事件到达,则处理这些事件,如果没有感兴趣的事件到达,则处理线程会一直阻塞直到感兴趣的事件到达为止。下面是我理解的 java NIO 的通信模型示意图:

二.java NIO 服务端和客户端代码实现

为了更好地理解 java NIO,下面贴出服务端和客户端的简单代码实现。

服务端:

Java 代码

  1. package cn.nio;
  2. import java.io.IOException;
  3. import java.net.InetSocketAddress;
  4. import java.nio.ByteBuffer;
  5. import java.nio.channels.SelectionKey;
  6. import java.nio.channels.Selector;
  7. import java.nio.channels.ServerSocketChannel;
  8. import java.nio.channels.SocketChannel;
  9. import java.util.Iterator;
  10. /**
    • NIO 服务端
  11. */
  12. public class NIOServer {
  13.  //通道管理器  
    
  14.  private Selector selector;  
    
  15.  /** 
    
  16.   * 获得一个ServerSocket通道,并对该通道做一些初始化的工作 
    
  17.   * @param port  绑定的端口号 
    
  18.   * @throws IOException 
    
  19.   */  
    
  20.  public void initServer(int port) throws IOException {  
    
  21.      // 获得一个ServerSocket通道  
    
  22.      ServerSocketChannel serverChannel = ServerSocketChannel.open();  
    
  23.      // 设置通道为非阻塞  
    
  24.      serverChannel.configureBlocking(false);  
    
  25.      // 将该通道对应的ServerSocket绑定到port端口  
    
  26.      serverChannel.socket().bind(new InetSocketAddress(port));  
    
  27.      // 获得一个通道管理器  
    
  28.      this.selector = Selector.open();  
    
  29.      //将通道管理器和该通道绑定,并为该通道注册SelectionKey.OP_ACCEPT事件,注册该事件后,  
    
  30.      //当该事件到达时,selector.select()会返回,如果该事件没到达selector.select()会一直阻塞。  
    
  31.      serverChannel.register(selector, SelectionKey.OP_ACCEPT);  
    
  32.  }  
    
  33.  /** 
    
  34.   * 采用轮询的方式监听selector上是否有需要处理的事件,如果有,则进行处理 
    
  35.   * @throws IOException 
    
  36.   */  
    
  37.  @SuppressWarnings("unchecked")  
    
  38.  public void listen() throws IOException {  
    
  39.      System.out.println("服务端启动成功!");  
    
  40.      // 轮询访问selector  
    
  41.      while (true) {  
    
  42.          //当注册的事件到达时,方法返回;否则,该方法会一直阻塞  
    
  43.          selector.select();  
    
  44.          // 获得selector中选中的项的迭代器,选中的项为注册的事件  
    
  45.          Iterator ite = this.selector.selectedKeys().iterator();  
    
  46.          while (ite.hasNext()) {  
    
  47.              SelectionKey key = (SelectionKey) ite.next();  
    
  48.              // 删除已选的key,以防重复处理  
    
  49.              ite.remove();  
    
  50.              // 客户端请求连接事件  
    
  51.              if (key.isAcceptable()) {  
    
  52.                  ServerSocketChannel server = (ServerSocketChannel) key  
    
  53.                          .channel();  
    
  54.                  // 获得和客户端连接的通道  
    
  55.                  SocketChannel channel = server.accept();  
    
  56.                  // 设置成非阻塞  
    
  57.                  channel.configureBlocking(false);  
    
  58.                  //在这里可以给客户端发送信息哦  
    
  59.                  channel.write(ByteBuffer.wrap(new String("向客户端发送了一条信息").getBytes()));  
    
  60.                  //在和客户端连接成功之后,为了可以接收到客户端的信息,需要给通道设置读的权限。  
    
  61.                  channel.register(this.selector, SelectionKey.OP_READ);  
    
  62.                  // 获得了可读的事件  
    
  63.              } else if (key.isReadable()) {  
    
  64.                      read(key);  
    
  65.              }  
    
  66.          }  
    
  67.      }  
    
  68.  }  
    
  69.  /** 
    
  70.   * 处理读取客户端发来的信息 的事件 
    
  71.   * @param key 
    
  72.   * @throws IOException  
    
  73.   */  
    
  74.  public void read(SelectionKey key) throws IOException{  
    
  75.      // 服务器可读取消息:得到事件发生的Socket通道  
    
  76.      SocketChannel channel = (SocketChannel) key.channel();  
    
  77.      // 创建读取的缓冲区  
    
  78.      ByteBuffer buffer = ByteBuffer.allocate(10);  
    
  79.      channel.read(buffer);  
    
  80.      byte[] data = buffer.array();  
    
  81.      String msg = new String(data).trim();  
    
  82.      System.out.println("服务端收到信息:"+msg);  
    
  83.      ByteBuffer outBuffer = ByteBuffer.wrap(msg.getBytes());  
    
  84.      channel.write(outBuffer);// 将消息回送给客户端  
    
  85.  }  
    
  86.  /** 
    
  87.   * 启动服务端测试 
    
  88.   * @throws IOException  
    
  89.   */  
    
  90.  public static void main(String[] args) throws IOException {  
    
  91.      NIOServer server = new NIOServer();  
    
  92.      server.initServer(8000);  
    
  93.      server.listen();  
    
  94.  }  
    
  95. }

客户端:

Java 代码

  1. package cn.nio;
  2. import java.io.IOException;
  3. import java.net.InetSocketAddress;
  4. import java.nio.ByteBuffer;
  5. import java.nio.channels.SelectionKey;
  6. import java.nio.channels.Selector;
  7. import java.nio.channels.SocketChannel;
  8. import java.util.Iterator;
  9. /**
    • NIO 客户端
  10. */
  11. public class NIOClient {
  12.  //通道管理器  
    
  13.  private Selector selector;  
    
  14.  /** 
    
  15.   * 获得一个Socket通道,并对该通道做一些初始化的工作 
    
  16.   * @param ip 连接的服务器的ip 
    
  17.   * @param port  连接的服务器的端口号          
    
  18.   * @throws IOException 
    
  19.   */  
    
  20.  public void initClient(String ip,int port) throws IOException {  
    
  21.      // 获得一个Socket通道  
    
  22.      SocketChannel channel = SocketChannel.open();  
    
  23.      // 设置通道为非阻塞  
    
  24.      channel.configureBlocking(false);  
    
  25.      // 获得一个通道管理器  
    
  26.      this.selector = Selector.open();  
    
  27.      // 客户端连接服务器,其实方法执行并没有实现连接,需要在listen()方法中调  
    
  28.      //用channel.finishConnect();才能完成连接  
    
  29.      channel.connect(new InetSocketAddress(ip,port));  
    
  30.      //将通道管理器和该通道绑定,并为该通道注册SelectionKey.OP_CONNECT事件。  
    
  31.      channel.register(selector, SelectionKey.OP_CONNECT);  
    
  32.  }  
    
  33.  /** 
    
  34.   * 采用轮询的方式监听selector上是否有需要处理的事件,如果有,则进行处理 
    
  35.   * @throws IOException 
    
  36.   */  
    
  37.  @SuppressWarnings("unchecked")  
    
  38.  public void listen() throws IOException {  
    
  39.      // 轮询访问selector  
    
  40.      while (true) {  
    
  41.          selector.select();  
    
  42.          // 获得selector中选中的项的迭代器  
    
  43.          Iterator ite = this.selector.selectedKeys().iterator();  
    
  44.          while (ite.hasNext()) {  
    
  45.              SelectionKey key = (SelectionKey) ite.next();  
    
  46.              // 删除已选的key,以防重复处理  
    
  47.              ite.remove();  
    
  48.              // 连接事件发生  
    
  49.              if (key.isConnectable()) {  
    
  50.                  SocketChannel channel = (SocketChannel) key  
    
  51.                          .channel();  
    
  52.                  // 如果正在连接,则完成连接  
    
  53.                  if(channel.isConnectionPending()){  
    
  54.                      channel.finishConnect();  
    
  55.                  }  
    
  56.                  // 设置成非阻塞  
    
  57.                  channel.configureBlocking(false);  
    
  58.                  //在这里可以给服务端发送信息哦  
    
  59.                  channel.write(ByteBuffer.wrap(new String("向服务端发送了一条信息").getBytes()));  
    
  60.                  //在和服务端连接成功之后,为了可以接收到服务端的信息,需要给通道设置读的权限。  
    
  61.                  channel.register(this.selector, SelectionKey.OP_READ);  
    
  62.                  // 获得了可读的事件  
    
  63.              } else if (key.isReadable()) {  
    
  64.                      read(key);  
    
  65.              }  
    
  66.          }  
    
  67.      }  
    
  68.  }  
    
  69.  /** 
    
  70.   * 处理读取服务端发来的信息 的事件 
    
  71.   * @param key 
    
  72.   * @throws IOException  
    
  73.   */  
    
  74.  public void read(SelectionKey key) throws IOException{  
    
  75.      //和服务端的read方法一样  
    
  76.  }  
    
  77.  /** 
    
  78.   * 启动客户端测试 
    
  79.   * @throws IOException  
    
  80.   */  
    
  81.  public static void main(String[] args) throws IOException {  
    
  82.      NIOClient client = new NIOClient();  
    
  83.      client.initClient("localhost",8000);  
    
  84.      client.listen();  
    
  85.  }  
    
  86. }

小结:

终于把动态代理和 java NIO 分析完了,呵呵,下面就要分析 hadoop 的 RPC 机制源码了,博客地址:http://weixiaolu.iteye.com/blog/1504898 。不过如果对 java NIO 的理解存在异议的,欢迎一起讨论。

  • Java

    Java 是一种可以撰写跨平台应用软件的面向对象的程序设计语言,是由 Sun Microsystems 公司于 1995 年 5 月推出的。Java 技术具有卓越的通用性、高效性、平台移植性和安全性。

    3190 引用 • 8214 回帖 • 1 关注

相关帖子

欢迎来到这里!

我们正在构建一个小众社区,大家在这里相互信任,以平等 • 自由 • 奔放的价值观进行分享交流。最终,希望大家能够找到与自己志同道合的伙伴,共同成长。

注册 关于
请输入回帖内容 ...
  • someone

    讲真,您这代码不支持高亮,差评

推荐标签 标签

  • B3log

    B3log 是一个开源组织,名字来源于“Bulletin Board Blog”缩写,目标是将独立博客与论坛结合,形成一种新的网络社区体验,详细请看 B3log 构思。目前 B3log 已经开源了多款产品:SymSoloVditor思源笔记

    1063 引用 • 3454 回帖 • 189 关注
  • 七牛云

    七牛云是国内领先的企业级公有云服务商,致力于打造以数据为核心的场景化 PaaS 服务。围绕富媒体场景,七牛先后推出了对象存储,融合 CDN 加速,数据通用处理,内容反垃圾服务,以及直播云服务等。

    27 引用 • 225 回帖 • 163 关注
  • IDEA

    IDEA 全称 IntelliJ IDEA,是一款 Java 语言开发的集成环境,在业界被公认为最好的 Java 开发工具之一。IDEA 是 JetBrains 公司的产品,这家公司总部位于捷克共和国的首都布拉格,开发人员以严谨著称的东欧程序员为主。

    181 引用 • 400 回帖
  • Shell

    Shell 脚本与 Windows/Dos 下的批处理相似,也就是用各类命令预先放入到一个文件中,方便一次性执行的一个程序文件,主要是方便管理员进行设置或者管理用的。但是它比 Windows 下的批处理更强大,比用其他编程程序编辑的程序效率更高,因为它使用了 Linux/Unix 下的命令。

    123 引用 • 74 回帖 • 2 关注
  • MySQL

    MySQL 是一个关系型数据库管理系统,由瑞典 MySQL AB 公司开发,目前属于 Oracle 公司。MySQL 是最流行的关系型数据库管理系统之一。

    692 引用 • 535 回帖
  • C

    C 语言是一门通用计算机编程语言,应用广泛。C 语言的设计目标是提供一种能以简易的方式编译、处理低级存储器、产生少量的机器码以及不需要任何运行环境支持便能运行的编程语言。

    85 引用 • 165 回帖 • 2 关注
  • Bootstrap

    Bootstrap 是 Twitter 推出的一个用于前端开发的开源工具包。它由 Twitter 的设计师 Mark Otto 和 Jacob Thornton 合作开发,是一个 CSS / HTML 框架。

    18 引用 • 33 回帖 • 667 关注
  • 思源笔记

    思源笔记是一款隐私优先的个人知识管理系统,支持完全离线使用,同时也支持端到端加密同步。

    融合块、大纲和双向链接,重构你的思维。

    23014 引用 • 92572 回帖
  • WebComponents

    Web Components 是 W3C 定义的标准,它给了前端开发者扩展浏览器标签的能力,可以方便地定制可复用组件,更好的进行模块化开发,解放了前端开发者的生产力。

    1 引用 • 4 关注
  • Telegram

    Telegram 是一个非盈利性、基于云端的即时消息服务。它提供了支持各大操作系统平台的开源的客户端,也提供了很多强大的 APIs 给开发者创建自己的客户端和机器人。

    5 引用 • 35 回帖
  • Ruby

    Ruby 是一种开源的面向对象程序设计的服务器端脚本语言,在 20 世纪 90 年代中期由日本的松本行弘(まつもとゆきひろ/Yukihiro Matsumoto)设计并开发。在 Ruby 社区,松本也被称为马茨(Matz)。

    7 引用 • 31 回帖 • 216 关注
  • Facebook

    Facebook 是一个联系朋友的社交工具。大家可以通过它和朋友、同事、同学以及周围的人保持互动交流,分享无限上传的图片,发布链接和视频,更可以增进对朋友的了解。

    4 引用 • 15 回帖 • 440 关注
  • Docker

    Docker 是一个开源的应用容器引擎,让开发者可以打包他们的应用以及依赖包到一个可移植的容器中,然后发布到任何流行的操作系统上。容器完全使用沙箱机制,几乎没有性能开销,可以很容易地在机器和数据中心中运行。

    492 引用 • 926 回帖
  • MongoDB

    MongoDB(来自于英文单词“Humongous”,中文含义为“庞大”)是一个基于分布式文件存储的数据库,由 C++ 语言编写。旨在为应用提供可扩展的高性能数据存储解决方案。MongoDB 是一个介于关系数据库和非关系数据库之间的产品,是非关系数据库当中功能最丰富,最像关系数据库的。它支持的数据结构非常松散,是类似 JSON 的 BSON 格式,因此可以存储比较复杂的数据类型。

    90 引用 • 59 回帖 • 1 关注
  • webpack

    webpack 是一个用于前端开发的模块加载器和打包工具,它能把各种资源,例如 JS、CSS(less/sass)、图片等都作为模块来使用和处理。

    41 引用 • 130 回帖 • 253 关注
  • jQuery

    jQuery 是一套跨浏览器的 JavaScript 库,强化 HTML 与 JavaScript 之间的操作。由 John Resig 在 2006 年 1 月的 BarCamp NYC 上释出第一个版本。全球约有 28% 的网站使用 jQuery,是非常受欢迎的 JavaScript 库。

    63 引用 • 134 回帖 • 724 关注
  • JSON

    JSON (JavaScript Object Notation)是一种轻量级的数据交换格式。易于人类阅读和编写。同时也易于机器解析和生成。

    52 引用 • 190 回帖 • 1 关注
  • Vue.js

    Vue.js(读音 /vju ː/,类似于 view)是一个构建数据驱动的 Web 界面库。Vue.js 的目标是通过尽可能简单的 API 实现响应的数据绑定和组合的视图组件。

    265 引用 • 666 回帖 • 1 关注
  • 尊园地产

    昆明尊园房地产经纪有限公司,即:Kunming Zunyuan Property Agency Company Limited(简称“尊园地产”)于 2007 年 6 月开始筹备,2007 年 8 月 18 日正式成立,注册资本 200 万元,公司性质为股份经纪有限公司,主营业务为:代租、代售、代办产权过户、办理银行按揭、担保、抵押、评估等。

    1 引用 • 22 回帖 • 772 关注
  • JetBrains

    JetBrains 是一家捷克的软件开发公司,该公司位于捷克的布拉格,并在俄国的圣彼得堡及美国麻州波士顿都设有办公室,该公司最为人所熟知的产品是 Java 编程语言开发撰写时所用的集成开发环境:IntelliJ IDEA

    18 引用 • 54 回帖
  • Love2D

    Love2D 是一个开源的, 跨平台的 2D 游戏引擎。使用纯 Lua 脚本来进行游戏开发。目前支持的平台有 Windows, Mac OS X, Linux, Android 和 iOS。

    14 引用 • 53 回帖 • 538 关注
  • Solidity

    Solidity 是一种智能合约高级语言,运行在 [以太坊] 虚拟机(EVM)之上。它的语法接近于 JavaScript,是一种面向对象的语言。

    3 引用 • 18 回帖 • 401 关注
  • DevOps

    DevOps(Development 和 Operations 的组合词)是一组过程、方法与系统的统称,用于促进开发(应用程序/软件工程)、技术运营和质量保障(QA)部门之间的沟通、协作与整合。

    51 引用 • 25 回帖
  • 反馈

    Communication channel for makers and users.

    123 引用 • 913 回帖 • 250 关注
  • PostgreSQL

    PostgreSQL 是一款功能强大的企业级数据库系统,在 BSD 开源许可证下发布。

    22 引用 • 22 回帖
  • 大数据

    大数据(big data)是指无法在一定时间范围内用常规软件工具进行捕捉、管理和处理的数据集合,是需要新处理模式才能具有更强的决策力、洞察发现力和流程优化能力的海量、高增长率和多样化的信息资产。

    93 引用 • 113 回帖
  • 房星科技

    房星网,我们不和没有钱的程序员谈理想,我们要让程序员又有理想又有钱。我们有雄厚的房地产行业线下资源,遍布昆明全城的 100 家门店、四千地产经纪人是我们坚实的后盾。

    6 引用 • 141 回帖 • 584 关注