Rector模式介绍

最最原始的网络编程思路就是服务器用一个while循环&＃xff0c;不断监听端口是否有新的套接字连接&＃xff0c;如果有&＃xff0c;那么就调用一个处理函数处理&＃xff0c;类似&＃xff1a;
while(true){ 
socket &＃61; accept(); 
handle(socket) 
} 
这种方法的最大问题是无法并发&＃xff0c;效率太低&＃xff0c;如果当前的请求没有处理完&＃xff0c;那么后面的请求只能被阻塞&＃xff0c;服务器的吞吐量太低。
之后&＃xff0c;想到了使用多线程&＃xff0c;也就是很经典的connection per thread&＃xff0c;每一个连接用一个线程处理&＃xff0c;类似&＃xff1a;
while(true){ 
socket &＃61; accept(); 
new thread(socket); 
} 
tomcat服务器的早期版本确实是这样实现的。多线程的方式确实一定程度上极大地提高了服务器的吞吐量&＃xff0c;因为之前的请求在read阻塞以后&＃xff0c;不会影响到后续的请求&＃xff0c;因为他们在不同的线程中。这也是为什么通常会讲“一个线程只能对应一个socket”的原因。最开始对这句话很不理解&＃xff0c;线程中创建多个socket不行吗&＃xff1f;语法上确实可以&＃xff0c;但是实际上没有用&＃xff0c;每一个socket都是阻塞的&＃xff0c;所以在一个线程里只能处理一个socket&＃xff0c;就算accept了多个也没用&＃xff0c;前一个socket被阻塞了&＃xff0c;后面的是无法被执行到的。
缺点在于资源要求太高&＃xff0c;系统中创建线程是需要比较高的系统资源的&＃xff0c;如果连接数太高&＃xff0c;系统无法承受&＃xff0c;而且&＃xff0c;线程的反复创建-销毁也需要代价。

线程池本身可以缓解线程创建-销毁的代价&＃xff0c;这样优化确实会好很多&＃xff0c;不过还是存在一些问题的&＃xff0c;就是线程的粒度太大。每一个线程把一次交互的事情全部做了&＃xff0c;包括读取和返回&＃xff0c;甚至连接&＃xff0c;表面上似乎连接不在线程里&＃xff0c;但是如果线程不够&＃xff0c;有了新的连接&＃xff0c;也无法得到处理&＃xff0c;所以&＃xff0c;目前的方案线程里可以看成要做三件事&＃xff0c;连接&＃xff0c;读取和写入。

线程同步的粒度太大了&＃xff0c;限制了吞吐量。应该把一次连接的操作分为更细的粒度或者过程&＃xff0c;这些更细的粒度是更小的线程。整个线程池的数目会翻倍&＃xff0c;但是线程更简单&＃xff0c;任务更加单一。这其实就是Reactor出现的原因&＃xff0c;在Reactor中&＃xff0c;这些被拆分的小线程或者子过程对应的是handler&＃xff0c;每一种handler会出处理一种event。这里会有一个全局的管理者selector&＃xff0c;我们需要把channel注册感兴趣的事件&＃xff0c;那么这个selector就会不断在channel上检测是否有该类型的事件发生&＃xff0c;如果没有&＃xff0c;那么主线程就会被阻塞&＃xff0c;否则就会调用相应的事件处理函数即handler来处理。典型的事件有连接&＃xff0c;读取和写入&＃xff0c;当然我们就需要为这些事件分别提供处理器&＃xff0c;每一个处理器可以采用线程的方式实现。一个连接来了&＃xff0c;显示被读取线程或者handler处理了&＃xff0c;然后再执行写入&＃xff0c;那么之前的读取就可以被后面的请求复用&＃xff0c;吞吐量就提高了。

这种模型由于IO在阻塞时会一直等待&＃xff0c;因此在用户负载增加时&＃xff0c;性能下降的非常快。

server导致阻塞的原因&＃xff1a;

1、serversocket的accept方法&＃xff0c;阻塞等待client连接&＃xff0c;直到client连接成功。

2、线程从socket inputstream读入数据&＃xff0c;会进入阻塞状态&＃xff0c;直到全部数据读完。

3、线程向socket outputstream写入数据&＃xff0c;会阻塞直到全部数据写完。

改进&＃xff1a;采用基于事件驱动的设计&＃xff0c;当有事件触发时&＃xff0c;才会调用处理器进行数据处理。

Reactor&＃xff1a;负责响应IO事件&＃xff0c;当检测到一个新的事件&＃xff0c;将其发送给相应的Handler去处理。

Handler&＃xff1a;负责处理非阻塞的行为&＃xff0c;标识系统管理的资源&＃xff1b;同时将handler与事件绑定。

Reactor为单个线程&＃xff0c;需要处理accept连接&＃xff0c;同时发送请求到处理器中。

由于只有单个线程&＃xff0c;所以处理器中的业务需要能够快速处理完。

将处理器的执行放入线程池&＃xff0c;多线程进行业务处理。但Reactor仍为单个线程。

继续改进&＃xff1a;对于多个CPU的机器&＃xff0c;为充分利用系统资源&＃xff0c;将Reactor拆分为两部分。

Using Multiple Reactors

mainReactor负责监听连接&＃xff0c;accept连接给subReactor处理&＃xff0c;为什么要单独分一个Reactor来处理监听呢&＃xff1f;因为像TCP这样需要经过3次握手才能建立连接&＃xff0c;这个建立连接的过程也是要耗时间和资源的&＃xff0c;单独分一个Reactor来处理&＃xff0c;可以提高性能。