关于操作系统多进程多线程问题的小的总结

0.前言

最近发觉自己博客转帖的太多&＃xff0c;于是决定自己写一个原创的。笔者用过MPI和C#线程池&＃xff0c;参加过比赛&＃xff0c;有所感受&＃xff0c;将近一年来&＃xff0c;对多线程编程兴趣一直不减&＃xff0c;一直有所关注&＃xff0c;决定写篇文章&＃xff0c;算是对知识的总结吧。有说的不对的地方&＃xff0c;欢迎各位大哥们指正&＃xff1a;&＃xff09;

1.CPU发展趋势

核心数目依旧会越来越多&＃xff0c;依据摩尔定律&＃xff0c;由于单个核心性能提升有着严重的瓶颈问题&＃xff0c;普通的桌面PC有望在2017年末2018年初达到24核心&＃xff08;或者16核32线程&＃xff09;&＃xff0c;我们如何来面对这突如其来的核心数目的增加&＃xff1f;编程也要与时俱进。笔者斗胆预测&＃xff0c;CPU各个核心之间的片内总线将会采用4路组相连&＃xff1a;&＃xff09;&＃xff0c;因为全相连太过复杂&＃xff0c;单总线又不够给力。而且应该是非对称多核处理器&＃xff0c;可能其中会混杂几个DSP处理器或流处理器。

2.多线程与并行计算的区别

(1)多线程的作用不只是用作并行计算&＃xff0c;他还有很多很有益的作用。

还在单核时代&＃xff0c;多线程就有很广泛的应用&＃xff0c;这时候多线程大多用于降低阻塞&＃xff08;意思是类似于

while(1)

{

if(flag&＃61;&＃61;1)

break;

sleep(1);

}

这样的代码&＃xff09;带来的CPU资源闲置,注意这里没有浪费CPU资源&＃xff0c;去掉sleep(1)就是纯浪费了。

阻塞在什么时候发生呢&＃xff1f;一般是等待IO操作&＃xff08;磁盘&＃xff0c;数据库&＃xff0c;网络等等&＃xff09;。此时如果单线程&＃xff0c;CPU会干转不干实事&＃xff08;与本程序无关的事情都算不干实事&＃xff0c;因为执行其他程序对我来说没意义&＃xff09;&＃xff0c;效率低下&＃xff08;针对这个程序而言&＃xff09;&＃xff0c;例如一个IO操作要耗时10毫秒&＃xff0c;CPU就会被阻塞接近10毫秒&＃xff0c;这是何等的浪费啊&＃xff01;要知道CPU是数着纳秒过日子的。

所以这种耗时的IO操作就用一个线程Thread去代为执行&＃xff0c;创建这个线程的函数&＃xff08;代码&＃xff09;部分不会被IO操作阻塞&＃xff0c;继续干这个程序中其他的事情&＃xff0c;而不是干等待&＃xff08;或者去执行其他程序&＃xff09;。

同样在这个单核时代&＃xff0c;多线程的这个消除阻塞的作用还可以叫做“并发”&＃xff0c;这和并行是有着本质的不同的。并发是“伪并行”&＃xff0c;看似并行&＃xff0c;而实际上还是一个CPU在执行一切事物&＃xff0c;只是切换的太快&＃xff0c;我们没法察觉罢了。例如基于UI的程序&＃xff08;俗话说就是图形界面&＃xff09;&＃xff0c;如果你点一个按钮触发的事件需要执行10秒钟&＃xff0c;那么这个程序就会假死&＃xff0c;因为程序在忙着执行&＃xff0c;没空搭理用户的其他操作&＃xff1b;而如果你把这个按钮触发的函数赋给一个线程&＃xff0c;然后启动线程去执行&＃xff0c;那么程序就不会假死&＃xff0c;继续相应用户的其他操作。但是&＃xff0c;随之而来的就是线程的互斥和同步、死锁等问题&＃xff0c;详细见有关文献。

现在是多核时代了&＃xff0c;这种线程的互斥和同步问题是更加严峻的&＃xff0c;单核时代大都算并发&＃xff0c;多核时代真的就大为不同&＃xff0c;为什么呢&＃xff1f;具体细节请参考有关文献。我这里简单解释一下&＃xff0c;以前volatile型变量的使用可以解决大部分问题&＃xff0c;例如多个线程共同访问一个Flag标志位&＃xff0c;如果是单核并发&＃xff0c;基本不会出问题&＃xff08;P.S.在什么情况下会出问题呢&＃xff1f;Flag有多个&＃xff0c;或者是一个数组&＃xff0c;这时候只能通过逻辑手段搞定这个问题了&＃xff0c;多来几次空转无所谓&＃xff0c;别出致命问题就行&＃xff09;&＃xff0c;因为CPU只有一个&＃xff0c;同时访问这个标志位的只能有一个线程&＃xff0c;而多核情况下就不太一样了&＃xff0c;所以仅仅volatile不太能解决问题&＃xff0c;这就要用到具体语言&＃xff0c;具体环境中的“信号量”了&＃xff0c;Mutex&＃xff0c;Monitor&＃xff0c;Lock等等&＃xff0c;这些类都操作了硬件上的“关中断”&＃xff0c;达到“原语”效果&＃xff0c;对临界区的访问不被打断的效果&＃xff0c;具体就不解释了&＃xff0c;读者可以看看《现代操作系统》。

(2)并行计算还可以通过其他手段来获得&＃xff0c;而多线程只是其中之一。

其他手段包括&＃xff1a;多进程&＃xff08;这又包括共享存储区的和分布式多机&＃xff0c;以及混合式的&＃xff09;&＃xff0c;指令级并行。

ILP&＃xff08;指令级并行&＃xff09;&＃xff0c;x86架构里叫SMT&＃xff08;同时多线程&＃xff09;&＃xff0c;在MIPS架构里与之对应的是super scalar&＃xff08;超标量&＃xff09;和乱序执行&＃xff0c;二者有区别&＃xff0c;但共同点都是可以达到指令级并行&＃xff0c;这是用户没法控制的&＃xff0c;不属于编程范围&＃xff0c;只能做些有限的优化&＃xff0c;而这有限的优化可能只属于编译器管辖的范畴&＃xff0c;用户能做的甚少。

(3)典型的适于并行计算的语言

Erlang和MPI&＃xff1a;这两个前者是语言&＃xff0c;后者是C&＃43;&＃43;和Fortran的扩展库&＃xff0c;效果是一样的&＃xff0c;利用多进程实现并行计算&＃xff0c;Erlang是共享存储区的&＃xff0c;MPI是混合型的。

C#.NET4.0&＃xff1a;新版本4.0可以用少量代码实现并行For循环&＃xff0c;之前版本需要用很繁琐的代码才能实现同样功能。这是利用了多线程实现并行计算。Java和C#3.5都有线程池&＃xff08;ThreadPool&＃xff09;&＃xff0c;也是不错的很好用的多线程管理类&＃xff0c;可以方便高效的使用多线程。

CUDA&＃xff0c;还是个初生牛犊&＃xff0c;有很大的发展潜力&＃xff0c;只不过就目前其应用领域很有限。其目前只能使用C语言&＃xff0c;而且还不是C99&＃xff0c;比较低级&＃xff0c;不能使用函数指针。个人感觉这由于硬件上天生的局限性&＃xff08;平均每个核心可用内存小&＃xff0c;与系统内存通讯时间长&＃xff09;&＃xff0c;只适用于做科学计算&＃xff0c;静态图像处理&＃xff0c;视频编码解码&＃xff0c;其他领域&＃xff0c;还不如高端CPU。等以后GPU有操作系统了&＃xff0c;能充分调度GPU资源了&＃xff0c;GPU就可以当大神了。游戏中的物理加速&＃xff0c;实际上多核CPU也能很好的做到。

其他语言。。。恩。。留作将来讨论。

3.线程越多越好吗&＃xff1f;什么时候才有必要用多线程&＃xff1f;

线程必然不是越多越好&＃xff0c;线程切换也是要开销的&＃xff0c;当你增加一个线程的时候&＃xff0c;增加的额外开销要小于该线程能够消除的阻塞时间&＃xff0c;这才叫物有所值。

Linux自从2.6内核开始&＃xff0c;就会把不同的线程交给不同的核心去处理。Windows也从NT.4.0开始支持这一特性。

什么时候该使用多线程呢&＃xff1f;这要分四种情况讨论&＃xff1a;

a.多核CPU——计算密集型任务。此时要尽量使用多线程&＃xff0c;可以提高任务执行效率&＃xff0c;例如加密解密&＃xff0c;数据压缩解压缩&＃xff08;视频、音频、普通数据&＃xff09;&＃xff0c;否则只能使一个核心满载&＃xff0c;而其他核心闲置。

b.单核CPU——计算密集型任务。此时的任务已经把CPU资源100%消耗了&＃xff0c;就没必要也不可能使用多线程来提高计算效率了&＃xff1b;相反&＃xff0c;如果要做人机交互&＃xff0c;最好还是要用多线程&＃xff0c;避免用户没法对计算机进行操作。

c.单核CPU——IO密集型任务&＃xff0c;使用多线程还是为了人机交互方便&＃xff0c;

d.多核CPU——IO密集型任务&＃xff0c;这就更不用说了&＃xff0c;跟单核时候原因一样。

4.程序员需要掌握的技巧/技术

(1)减少串行化的代码用以提高效率。这是废话。

(2)单一的共享数据分布化&＃xff1a;把一个数据复制很多份&＃xff0c;让不同线程可以同时访问。

(3)负载均衡&＃xff0c;分为静态的和动态的两种。具体的参见有关文献。