1.基本概念
IO是主存和外部设备(硬盘、终端和网络等)拷贝数据的过程。IO是操作系统的底层功能实现,底层通过I/O指令进行操作。
所有的语言在运行系统都提供了执行I/O较高级别的工具(C的printf、scanf;java的面向对象封装)。
2.java标准IO回顾
java标准IO类库是IO面向对象的一种抽象。基于本地方法的底层实现,我们无须关注底层实现。如InputStream/OutputStream(字节流)是一次传送一个字节。Reader/Writer(字符流):一次一个字符。
3.NIO简介
NIO是java New IO的简称,在jdk1.4里提供了新的API。sun官方标榜的特性如下:
——为所有的原始类型提供(Buffer)缓存支持。
——字符集编码解码解决方案
——channel:一个新的原始IO的抽象
——支持锁和内存映射文件的文件访问接口。
——提供多路(non-blocking)非阻塞式的高伸缩性网络IO
下面我们将围绕这几个特性进行探讨
4.Buffer和Channel
Channel和Buffer是NIO两个最基本的数据类型抽象。
Buffer
——是一块连续的内存块
——是NIO数据读或写的中转池
Channel
——数据的源头或者数据的目的地
——用于向Buffer提供数据或者读取Buffer数据,Buffer对象的唯一接口
——异步IO的支持
Channel和Buffer的关系如下图:
下面通过一个示例来体会:
public class CopyFile { public static void main(String[] args) { String infile = "D:\\web.txt"; String outfile = "D:\\web1.txt"; try { //获取源文件和目标文件的输入输出流 FileInputStream fin = new FileInputStream(infile); FileOutputStream fout = new FileOutputStream(outfile); //获取输入输出通道 FileChannel fcin = fin.getChannel(); FileChannel fcout = fout.getChannel(); //创建缓冲区 ByteBuffer buffer = ByteBuffer.allocate(1024); while (true){ //clear()方法重设缓冲区,使它可以接受读入的数据 buffer.clear(); //从输入通道中将数据读到缓冲区 int r = fcin.read(buffer); //read方法返回读取的字节数,可能为0,如果通道已经达到流的末尾,则返回-1 if (r == -1){ break; } //flip()方法让缓冲区可以将新读入的数据写入另一个通道。 buffer.flip(); //从输出通道中奖数据写入缓冲区 fcout.write(buffer); } } catch (Exception e) { e.printStackTrace(); } } }
其中buffer的内部结构如下:
一个buffer主要由position、limit、capacity三个变量来控制读写的过程。此三个变量的含义见如下表格:
Buffer常见的方法:
flip():写模式转换成读模式
rewind():将position重置为0,一般用于重复读。
clear():清空buffer,准备再次写入(position变成0,limit变成capacity)。
compact():将未读取的数据拷贝到buffer的头部位。
mark()、reset():mark()可以标记一个位置,reset可以重置到该位置。
Buffer的常见类型:ByteBuffer、MappedByteBuffer、CharBuffer、DoubleBuffer、FloatBuffer、IntBuffer、LongBuffer、ShortBuffer。
Channel常见的类型:FileChannel、DatagramChannel(UDP)、SocketChannel(TCP)、ServerSocketChannel(TCP)
性能测试:
——场景1:copy一个370MB的文件
——场景2:三个线程同时拷贝,每个线程拷贝一个370MB的文件
5.nio.charset
字符编码解码:字节码本事只是一些数字,放到正确的上下文中被正确解析。向ByteBuffer中存放数据时需要考虑字符集的编码方式,读取ByteBuffer数据时涉及对字符集解码。
java.nio.charset提供了编码解码的一套解决方案。
以我们最常见的http为例,在请求的时候必须对请求进行正确的编码。在得到相应的时候必须对相应进行正确的解码。
一下代码向百度发一次请求,并获取结果进行显示。例子演示到了charset的使用。
public class BaiduReader { //创建GBK字符集 private Charset charset = Charset.forName("GBK"); private SocketChannel channel; public void readHTMLContent(){ try { InetSocketAddress socketAddress = new InetSocketAddress("www.baidu.com", 80); //打开连接 channel = SocketChannel.open(socketAddress); //发送请求,使用GBK编码 channel.write(charset.encode("GET " + "/ HTTP/1.1" + "\r\n\r\n")); //读取数据 ByteBuffer buffer = ByteBuffer.allocate(1024); while (channel.read(buffer) != -1){ //flip()方法在读缓冲区字节操作之前调用 buffer.flip(); //使用charset。decode()方法将字节转换为字符串 System.out.println(charset.decode(buffer)); //清空缓冲区 buffer.clear(); } } catch (Exception e) { e.printStackTrace(); } finally{ if (channel != null){ try { channel.close(); } catch (Exception e2) { e2.printStackTrace(); } } } } public static void main(String[] args) { new BaiduReader().readHTMLContent(); } }
6.非阻塞IO
关于非阻塞IO将从为何阻塞、何为非阻塞、非阻塞原理和异步核心API几个方面来理解。
何为阻塞?
一个常见的网络IO通讯流程如下:
从该网络通讯过程来理解一下何为阻塞:
在 以上过程中若连接还没有到来,那么accept会阻塞,程序运行到这里不得不挂起,CPU转而执行其他线程。
在以上过程中若数据还没有准备好,read一样会阻塞。
阻塞式网络IO的特点:多线程处理多个连接。每个线程拥有自己的栈空间并且占用一些CPU时间。每个线程遇到外部未准备好的时候都会阻塞掉。阻塞的结果就是会带来大量的进程上下文切换。且大部分进程上下文切换可能是无意义的。比如假设一个线程监听一个端口,一天只会有几次请求进来,但是该CPU不得不为该线程不断做上下文切换尝试,大部分的切换以阻塞告终。
何为非阻塞?
下面有个隐喻:
下面有个隐喻:
一辆从 A 开往 B 的公共汽车上,路上有很多点可能会有人下车。司机不知道哪些点会有哪些人会下车,对于需要下车的人,如何处理更好?
1. 司机过程中定时询问每个乘客是否到达目的地,若有人说到了,那么司机停车,乘客下车。 ( 类似阻塞式 )
2. 每个人告诉售票员自己的目的地,然后睡觉,司机只和售票员交互,到了某个点由售票员通知乘客下车。 ( 类似非阻塞 )
很显然,每个人要到达某个目的地可以认为是一个线程,司机可以认为是 CPU 。在阻塞式里面,每个线程需要不断的轮询,上下文切换,以达到找到目的地的结果。而在非阻塞方式里,每个乘客 ( 线程 ) 都在睡觉 ( 休眠 ) ,只在真正外部环境准备好了才唤醒,这样的唤醒肯定不会阻塞。
非阻塞的原理
把整个过程切换成小的任务,通过任务间协作完成。
由一个专门的线程来处理所有的IO事件,并负责分发。
事件驱动机制:事件到的时候触发,而不是同步的去监视事件。
线程通讯:线程之间通过wait、notify等方式通讯。保证每次上下文切换都是有意义的。减少无谓的进程切换。
以下是异步的IO的结构:
Reactor就是上面 隐喻的售票员角色。每个线程的处理流程大概都是读取数据、解码、计算处理、编码、发送响应。
异步IO核心API
Selector
异步IO的的核心类,它能监测一个或多个通道(channel)上的事件,并将事件分发出去。
使用一个select线程就能监听多个通道上的事件,并给予事件驱动触发相应的响应。而不需要为每个channel去分配一个线程。
SelectionKey
包含了事件的状态信息和时间对应的通道的绑定。
原文来自:
http://www.iteye.com/topic/834447
Java NIO系列文章