IO模型阻塞、非阻塞、IO多路复用，异步

注&＃xff1a;这里的进程指早期的单线程进程&＃xff0c;这里所谓进程状态实质就是线程状态。

这里所谓“进程状态”指早期的那种“单线程进程”的状态。

对于现在普遍的“多线程进程”&＃xff0c;显然&＃xff0c;谈论“进程状态”已经没有意义&＃xff0c;应该谈论“进程下某个线程的状态”或者直接说“线程状态”。不过有时还是会把“进程状态”和“线程状态”混着去说。

有些系统把线程叫成“轻量级进程”&＃xff08;light-weight process&＃xff09;&＃xff0c;所以还是在谈“进程状态”。

有时则甚至既不叫“进程”&＃xff0c;也不叫“线程”&＃xff0c;它们叫“task”或者“job”。

&＃xff08;1&＃xff09;阻塞

我和女友点完餐后&＃xff0c;不知道什么时候能做好&＃xff0c;只好坐在餐厅里面等&＃xff0c;直到做好&＃xff0c;然后吃完才离开。

女友本想还和我一起逛街的&＃xff0c;但是不知道饭能什么时候做好&＃xff0c;只好和我一起在餐厅等&＃xff0c;而不能去逛街&＃xff0c;直到吃完饭才能去逛街&＃xff0c;中间等待做饭的时间浪费掉了。这就是典型的阻塞。网络中IO阻塞如下图所示&＃xff1a;

在《Unix网络编程》一书中提到了五种IO模型&＃xff0c;分别是&＃xff1a;阻塞IO、非阻塞IO、多路复用IO、信号驱动IO以及异步IO。
1、阻塞IO模型

　　最传统的一种IO模型&＃xff0c;即在读写数据过程中会发生阻塞现象。

　　当用户线程发出IO请求之后&＃xff0c;内核会去查看数据是否就绪&＃xff0c;如果没有就绪就会等待数据就绪&＃xff0c;而用户线程就会处于阻塞状态&＃xff0c;用户线程交出CPU。当数据就绪之后&＃xff0c;内核会将数据拷贝到用户线程&＃xff0c;并返回结果给用户线程&＃xff0c;用户线程才解除block状态。

    典型的阻塞IO模型的例子为&＃xff1a;

 data &＃61; socket.read(); 

    如果数据没有就绪&＃xff0c;就会一直阻塞在read方法。

&＃xff08;2&＃xff09;非阻塞

我女友不甘心白白在这等&＃xff0c;又想去逛商场&＃xff0c;又担心饭好了。所以我们逛一会&＃xff0c;回来询问服务员饭好了没有&＃xff0c;来来回回好多次&＃xff0c;饭都还没吃都快累死了啦。这就是非阻塞。需要不断的询问&＃xff0c;是否准备好了。网络IO非阻塞如下图所示&＃xff1a;

2、非阻塞IO模型

     当用户线程发起一个read操作后&＃xff0c;并不需要等待&＃xff0c;而是马上就得到了一个结果。如果结果是一个error时&＃xff0c;它就知道数据还没有准备好&＃xff0c;于是它可以再次发送read操作。一旦内核中的数据准备好了&＃xff0c;并且又再次收到了用户线程的请求&＃xff0c;那么它马上就将数据拷贝到了用户线程&＃xff0c;然后返回。

     所以事实上&＃xff0c;在非阻塞IO模型中&＃xff0c;用户线程需要不断地询问内核数据是否就绪&＃xff0c;也就说非阻塞IO不会交出CPU&＃xff0c;而会一直占用CPU。

     典型的非阻塞IO模型一般如下&＃xff1a;

while(true){ data &＃61; socket.read(); if(data!&＃61; error){ 处理数据 break; }
}

     但是对于非阻塞IO就有一个非常严重的问题&＃xff0c;在while循环中需要不断地去询问内核数据是否就绪&＃xff0c;这样会导致CPU占用率非常高&＃xff0c;因此一般情况下很少使用while循环这种方式来读取数据。

&＃xff08;3&＃xff09;IO多路复用

与第二个方案差不多&＃xff0c;餐厅安装了电子屏幕用来显示点餐的状态&＃xff0c;这样我和女友逛街一会&＃xff0c;回来就不用去询问服务员了&＃xff0c;直接看电子屏幕就可以了。这样每个人的餐是否好了&＃xff0c;都直接看电子屏幕就可以了&＃xff0c;这就是典型的IO多路复用&＃xff0c;如select、poll、epoll。网络IO具体模型如下图所示&＃xff1a;

多路复用IO模型是目前使用得比较多的模型。Java NIO实际上就是多路复用IO。

　　在多路复用IO模型中&＃xff0c;会有一个线程不断去轮询多个socket的状态&＃xff0c;只有当socket真正有读写事件时&＃xff0c;才真正调用实际的IO读写操作。因为在多路复用IO模型中&＃xff0c;只需要使用一个线程就可以管理多个socket&＃xff0c;系统不需要建立新的进程或者线程&＃xff0c;也不必维护这些线程和进程&＃xff0c;并且只有在真正有socket读写事件进行时&＃xff0c;才会使用IO资源&＃xff0c;所以它大大减少了资源占用。

　　在Java NIO中&＃xff0c;是通过selector.select()去查询每个通道是否有到达事件&＃xff0c;如果没有事件&＃xff0c;则一直阻塞在那里&＃xff0c;因此这种方式会导致用户线程的阻塞。

　　也许有朋友会说&＃xff0c;我可以采用 多线程&＃43; 阻塞IO 达到类似的效果&＃xff0c;但是由于在多线程 &＃43; 阻塞IO 中&＃xff0c;每个socket对应一个线程&＃xff0c;这样会造成很大的资源占用&＃xff0c;并且尤其是对于长连接来说&＃xff0c;线程的资源一直不会释放&＃xff0c;如果后面陆续有很多连接的话&＃xff0c;就会造成性能上的瓶颈。

　　而多路复用IO模式&＃xff0c;通过一个线程就可以管理多个socket&＃xff0c;只有当socket真正有读写事件发生才会占用资源来进行实际的读写操作。因此&＃xff0c;多路复用IO比较适合连接数比较多的情况。

　　另外多路复用IO为何比非阻塞IO模型的效率高是因为在非阻塞IO中&＃xff0c;不断地询问socket状态是通过用户线程去进行的&＃xff0c;而在多路复用IO中&＃xff0c;轮询每个socket状态是内核在进行的&＃xff0c;这个效率要比用户线程要高的多。

　　不过要注意的是&＃xff0c;多路复用IO模型是通过轮询的方式来检测是否有事件到达&＃xff0c;并且对到达的事件逐一进行响应。因此对于多路复用IO模型来说&＃xff0c;一旦事件响应体很大&＃xff0c;那么就会导致后续的事件迟迟得不到处理&＃xff0c;并且会影响新的事件轮询。

4&＃xff09;异步

女友不想逛街&＃xff0c;又餐厅太吵了&＃xff0c;回家好好休息一下。于是我们叫外卖&＃xff0c;打个电话点餐&＃xff0c;然后我和女友可以在家好好休息一下&＃xff0c;饭好了送货员送到家里来。这就是典型的异步&＃xff0c;只需要打个电话说一下&＃xff0c;然后可以做自己的事情&＃xff0c;饭好了就送来了。linux提供了AIO库函数实现异步&＃xff0c;但是用的很少。目前有很多开源的异步IO库&＃xff0c;例如libevent、libev、libuv。异步过程如下图所示&＃xff1a;

异步IO模型才是最理想的IO模型&＃xff0c;在异步IO模型中&＃xff0c;当用户线程发起read操作之后&＃xff0c;立刻就可以开始去做其它的事。而另一方面&＃xff0c;从内核的角度&＃xff0c;当它收到一个asynchronous read之后&＃xff0c;它会立刻返回&＃xff0c;说明read请求已经成功发起了&＃xff0c;因此不会对用户线程产生任何block。然后&＃xff0c;内核会等待数据准备完成&＃xff0c;然后将数据拷贝到用户线程&＃xff0c;当这一切都完成之后&＃xff0c;内核会给用户线程发送一个信号&＃xff0c;告诉它read操作完成了。也就说用户线程完全不需要知道实际的整个IO操作是如何进行的&＃xff0c;只需要先发起一个请求&＃xff0c;当接收内核返回的成功信号时表示IO操作已经完成&＃xff0c;可以直接去使用数据了。

　　也就说在异步IO模型中&＃xff0c;IO操作的两个阶段都不会阻塞用户线程&＃xff0c;这两个阶段都是由内核自动完成&＃xff0c;然后发送一个信号告知用户线程操作已完成。用户线程中不需要再次调用IO函数进行具体的读写。这点是和信号驱动模型有所不同的&＃xff0c;在信号驱动模型中&＃xff0c;当用户线程接收到信号表示数据已经就绪&＃xff0c;然后需要用户线程调用IO函数进行实际的读写操作&＃xff1b;而在异步IO模型中&＃xff0c;收到信号表示IO操作已经完成&＃xff0c;不需要再在用户线程中调用iO函数进行实际的读写操作。

　　注意&＃xff0c;异步IO是需要操作系统的底层支持&＃xff0c;在Java 7中&＃xff0c;提供了Asynchronous IO。

     前面四种IO模型实际上都属于同步IO&＃xff0c;只有最后一种是真正的异步IO&＃xff0c;因为无论是多路复用IO还是信号驱动模型&＃xff0c;IO操作的第2个阶段都会引起用户线程阻塞&＃xff0c;也就是内核进行数据拷贝的过程都会让用户线程阻塞。

5、同步与异步比较

　　实际上同步与异步是针对应用程序与内核的交互而言的。同步过程中进程触发IO操作并等待或者轮询的去查看IO操作是否完成。异步过程中进程触发IO操作以后&＃xff0c;直接返回&＃xff0c;做自己的事情&＃xff0c;IO交给内核来处理&＃xff0c;完成后内核通知进程IO完成。同步与异步如下图所示&＃xff1a;

6、阻塞与非阻塞比较

　　简单理解为需要做一件事能不能立即得到返回应答&＃xff0c;如果不能立即获得返回&＃xff0c;需要等待&＃xff0c;那就阻塞了&＃xff0c;否则就可以理解为非阻塞。详细区别如下图所示&＃xff1a;