作者:mobiledu2502884697 | 来源:互联网 | 2023-08-22 12:58
传统IO模型:
流程:
1.read:从socket读取数据。
2.decode:解码,因为网络上的数据都是以byte的形式进行传输的,要想获取真正的请求,必定需要解码。
3.compute:计算,也就是业务处理。
4.encode:编码,同理,因为网络上的数据都是以byte的形式进行传输的,也就是socket只接收byte,所以必定需要编码。
5.send: 输出数据到socket.
传统IO的特点在于:
每个客户端连接到达之后,服务端会分配一个线程给该客户端,该线程会处理包括读取数据,解码,业务计算,编码,以及发送数据整个过程;
同一时刻,服务端的吞吐量与服务器所提供的线程数量是呈线性关系的。
存在的问题在于:
服务器的并发量对服务端能够创建的线程数有很大的依赖关系,但是服务器线程却是不能无限增长的;
服务端每个线程不仅要进行IO读写操作,而且还需要进行业务计算;
服务端在获取客户端连接,读取数据,以及写入数据的过程都是阻塞类型的,在网络状况不好的情况下,这将极大的降低服务器每个线程的利用率,从而降低服务器吞吐量。
单reactor单线程模型:
流程:
1. Reactor 对象通过 Select 监控客户端请求事件,收到事件后通过 Dispatch 进行分发。
2. 如果是建立连接请求事件,则由 Acceptor 通过 Accept 处理连接请求,然后创建一个 Handler 对象处理连接完成后的后续业务处理。
3. 如果不是建立连接事件,则 Reactor 会分发调用连接对应的 Handler 来响应
4. Handler 会完成 Read→业务处理→Send 的完整业务流程
优点:
模型简单,没有多线程、进程通信、竞争的问题,全部都在一个线程中完成。
缺点:
1. 性能问题,只有一个线程,无法完全发挥多核 CPU 的性能。Handler 在处理某个连接上的业务时,整个进程无法处理其他连接事件,很容易导致性能阻塞。
2. 可靠性问题,线程意外终止,或者进入死循环,会导致整个系统通信模块不可用,不能接收和处理外部消息,造成节点故障。
使用场景:
客户端的数量有限,业务处理非常快速。java原生nio就是这个模型。
单reactor多线程模型:
流程:
1. Reactor 对象通过select 监控客户端请求事件, 收到事件后,通过dispatch进行分发。
2. 如果建立连接请求, 则由Acceptor 通过accept 处理连接请求, 然后创建一个Handler对象处理完成连接后的各种事件。
3. 如果不是连接请求,则由reactor分发调用连接对应的handler 来处理。
4. handler 只负责响应事件,不做具体的业务处理, 通过read 读取数据后,会分发给后面的worker线程池的某个线程处理业务。
5. worker 线程池会分配独立线程完成真正的业务,并将结果返回给handler。
6. handler收到响应后,通过send 将结果返回给client。
优点:
可以充分的利用多核cpu 的处理能力。
缺点:
多线程数据共享和访问比较复杂, reactor 处理所有的事件的监听和响应,在单线程运行, 在高并发场景容易出现性能瓶颈。
主从reactor多线程模型:
流程:
1. Reactor主线程 MainReactor 对象通过select 监听连接事件, 收到事件后,通过Acceptor 处理连接事件。
2. 当 Acceptor 处理连接事件后,MainReactor 将连接分配给SubReactor 。
3. subreactor 将连接加入到连接队列进行监听,并创建handler进行各种事件处理。
4. 当有新事件发生时, subreactor 就会调用对应的handler处理。
5. handler 通过read 读取数据,分发给后面的worker 线程处理。
6. worker 线程池分配独立的worker 线程进行业务处理,并返回结果。
7. handler 收到响应的结果后,再通过send 将结果返回给client。
8. Reactor 主线程可以对应多个Reactor 子线程, 即MainRecator 可以关联多个SubReactor。
优点:
1. 父线程与子线程的数据交互简单职责明确,父线程只需要接收新连接,子线程完成后续的业务处理。
2. 父线程与子线程的数据交互简单,Reactor 主线程只需要把新连接传给子线程,子线程无需返回数据。
缺点:
编程复杂度较高。
应用场景:
这种模型在许多项目中广泛使用,包括 Nginx 主从 Reactor 多进程模型,Memcached 主从多线程,Netty 主从多线程模型的支持。