热门标签 | HotTags
当前位置:  开发笔记 > 编程语言 > 正文

[转帖]Linux内核为大规模支持100Gb/s网卡准备好了吗?并没有

Linux内核为大规模支持100Gbs网卡准备好了吗?并没有之前用千兆的机器下载速度一般只能到50MB左右没法

Linux内核为大规模支持100Gb/s网卡准备好了吗?并没有

版权声明:本文为博主原创,无版权,未经博主允许可以随意转载,无需注明出处,随意修改或保持可作为原创! https://blog.csdn.net/dog250/article/details/86756635

又是大年初一,和过去三十多年的新年一样,无聊,消沉,吃不好饭,盼着上班(小时候是盼着开学…)…


事实上,不仅仅是Linux内核,几乎所有的 现代操作系统 都没有为支持100Gb/s做好准备。

这是一个变革的年代,现代操作系统 已经不再 现代

我们回望一下类似Unix/Linux,Windows NT这些操作系统是如何被称作 现代 的。嗯,是因为虚拟内存系统。

是 隔离的地址空间 让操作系统一下子进入了现代社会。在此之前,操作系统都是谭浩强书里写的那种一旦操作空指针就会系统崩溃的系统。


自打操作系统成为现代操作系统后,貌似它就没有再有过突破性的进化,但是其周边,确实翻天覆地了。

先看CPU和系统架构,先是其主频的疯涨,然后又是多核架构。主频增加这个对于操作系统内核来讲是好事,在单位时间内能多执行很多指令,这完全是一个打鸡血的过程。然而多核心架构就让几乎所有的操作系统内核有点开始吃力应对了。其对数据同步的解法中,往往都是见招拆招地加锁。

多核心架构对系统性能的作用力和主频增加的作用力方向是相反的,如果主频的增加让CPU在单位时间执行了更多的指令,那么多核之间的沟通成本抵消了这个主频提升带来的收益,因为同步成本是高昂的。

多核心架构重演了 人月神话

最后的结果就是,支持SMP多核架构的操作系统内核,其实就是给当年引入虚拟内存时的现代操作系统全部挂满了枷锁而已。单就操作系统内核本身而言,它更慢了,而不是更快了!

意思是说,多核心架构下,单独的CPU上,操作系统的执行效率要比单核架构下操作系统的执行效率更低了!核数越多,沟通同步成本越大,最终让性能/核心数曲线上凸!

而沟通同步的方式,无外乎就是,锁!

所以说,锁是阻止操作系统性能多核扩展性伸缩性的罪魁祸首!

事实上,Linux内核也好,UNIX也好,Windows NT也好,根本就不是为多核心架构而设计的,它们只是 简单适应了SMP而已

操作系统虽然是现代的, 但是却不是当代的! (我记得上小学和初中那会儿,老师说过现代和当代的区别)


在现代操作系统发展停滞不前的时候,硬件却没有闲着。

100Gb/s网卡的意思是说, 如果有100Gb的数据在缓冲区里,它可以在1秒中把它们全部发送出去。但问题是, 操作系统有能力在1秒钟内准备好100Gb的数据吗?

我们知道,在我们对操作系统的传统认知中,数据的源头来自于用户态缓冲区,经由操作系统内核协议栈,将数据怼到网卡缓存区。我们可以简单测算一下,操作系统的内核协议栈有没有能力1秒钟往网卡怼100Gbit的数据。

这里有几个简单的统计数据统计点,获取这些数据的方法:

  • 在tcp_write_xmit函数的while循环里打点,看看发送一个skb需要多久;
  • 使用pktgen类似的机制,测算单包发送延时。

在如今常见的1Gb/s的网卡上发包测算,平均约4微秒发送一个Full Mss的包,貌似Linux内核对于千兆网卡应对的还不错,但这并不意味着它应对10Gb/s,40Gb/s,100Gb/s这些发送速率时,是可以线性扩展的!

简单反算,100Gb/s需要单包发送延时在120纳秒以内,我们只需要测算一下120纳秒够不够内核协议栈处理一个数据包就可以了。

纳秒,这是一个cache级别的时间,如果发生了一次cache命中,至少可以节省20到30纳秒的时间,但是反过来如果很不幸cache missing了,那么就要在120纳秒中扣除20到30纳秒,这样就剩下90纳秒了。

该重头戏了:

  • 一次spinlock需要20纳秒左右的时间;
  • 一次内存分配需要大概60纳秒的时间;

很不幸,没有时间剩下来了。以上的测算还是基于64字节的小包,丝毫没有包括真正的处理开销!而我们知道,协议栈处理过程中,有超级多的协议逻辑…120纳秒远远不够!

在协议栈处理数据包并发送的过程中,内存分配和内存操作将会引入巨大的延时,这十有八九又会牵扯到cache missing!

从另一个角度看,Linux内核作为一个通用操作系统内核,显然并没有针对单独的特性做极端的性能优化,这个意义上,我不是说它没有为大规模支持100Gb/s网卡做好准备,而是它可能根本就没有准备在支持这种高速网卡的竞赛中取得胜利!这方面你可以和David Miller交流一下,看看在他看来,代码的可维护性,简洁性,统一处理这些和极端的性能优势相比,哪个更重要。

不过,无论如何,Linux内核,Windows NT之类的OS内核在多核心架构下无法线性扩展,这确实是阻碍其从 现代操作系统 进化到 当代操作系统 的路易十六!


推荐阅读
  • 如何在服务器主机上实现文件共享的方法和工具
    本文介绍了在服务器主机上实现文件共享的方法和工具,包括Linux主机和Windows主机的文件传输方式,Web运维和FTP/SFTP客户端运维两种方式,以及使用WinSCP工具将文件上传至Linux云服务器的操作方法。此外,还介绍了在迁移过程中需要安装迁移Agent并输入目的端服务器所在华为云的AK/SK,以及主机迁移服务会收集的源端服务器信息。 ... [详细]
  • 本文介绍了Windows操作系统的版本及其特点,包括Windows 7系统的6个版本:Starter、Home Basic、Home Premium、Professional、Enterprise、Ultimate。Windows操作系统是微软公司研发的一套操作系统,具有人机操作性优异、支持的应用软件较多、对硬件支持良好等优点。Windows 7 Starter是功能最少的版本,缺乏Aero特效功能,没有64位支持,最初设计不能同时运行三个以上应用程序。 ... [详细]
  • CentOS 7部署KVM虚拟化环境之一架构介绍
    本文介绍了CentOS 7部署KVM虚拟化环境的架构,详细解释了虚拟化技术的概念和原理,包括全虚拟化和半虚拟化。同时介绍了虚拟机的概念和虚拟化软件的作用。 ... [详细]
  • Java在运行已编译完成的类时,是通过java虚拟机来装载和执行的,java虚拟机通过操作系统命令JAVA_HOMEbinjava–option来启 ... [详细]
  • 服务器上的操作系统有哪些,如何选择适合的操作系统?
    本文介绍了服务器上常见的操作系统,包括系统盘镜像、数据盘镜像和整机镜像的数量。同时,还介绍了共享镜像的限制和使用方法。此外,还提供了关于华为云服务的帮助中心,其中包括产品简介、价格说明、购买指南、用户指南、API参考、最佳实践、常见问题和视频帮助等技术文档。对于裸金属服务器的远程登录,本文介绍了使用密钥对登录的方法,并提供了部分操作系统配置示例。最后,还提到了SUSE云耀云服务器的特点和快速搭建方法。 ... [详细]
  • 本文介绍了操作系统的定义和功能,包括操作系统的本质、用户界面以及系统调用的分类。同时还介绍了进程和线程的区别,包括进程和线程的定义和作用。 ... [详细]
  • 网卡工作原理及网络知识分享
    本文介绍了网卡的工作原理,包括CSMA/CD、ARP欺骗等网络知识。网卡是负责整台计算机的网络通信,没有它,计算机将成为信息孤岛。文章通过一个对话的形式,生动形象地讲述了网卡的工作原理,并介绍了集线器Hub时代的网络构成。对于想学习网络知识的读者来说,本文是一篇不错的参考资料。 ... [详细]
  • 篇首语:本文由编程笔记#小编为大家整理,主要介绍了软件测试知识点之数据库压力测试方法小结相关的知识,希望对你有一定的参考价值。 ... [详细]
  • Skywalking系列博客1安装单机版 Skywalking的快速安装方法
    本文介绍了如何快速安装单机版的Skywalking,包括下载、环境需求和端口检查等步骤。同时提供了百度盘下载地址和查询端口是否被占用的命令。 ... [详细]
  • 在Docker中,将主机目录挂载到容器中作为volume使用时,常常会遇到文件权限问题。这是因为容器内外的UID不同所导致的。本文介绍了解决这个问题的方法,包括使用gosu和suexec工具以及在Dockerfile中配置volume的权限。通过这些方法,可以避免在使用Docker时出现无写权限的情况。 ... [详细]
  • 本文介绍了C#中生成随机数的三种方法,并分析了其中存在的问题。首先介绍了使用Random类生成随机数的默认方法,但在高并发情况下可能会出现重复的情况。接着通过循环生成了一系列随机数,进一步突显了这个问题。文章指出,随机数生成在任何编程语言中都是必备的功能,但Random类生成的随机数并不可靠。最后,提出了需要寻找其他可靠的随机数生成方法的建议。 ... [详细]
  • Linux如何安装Mongodb的详细步骤和注意事项
    本文介绍了Linux如何安装Mongodb的详细步骤和注意事项,同时介绍了Mongodb的特点和优势。Mongodb是一个开源的数据库,适用于各种规模的企业和各类应用程序。它具有灵活的数据模式和高性能的数据读写操作,能够提高企业的敏捷性和可扩展性。文章还提供了Mongodb的下载安装包地址。 ... [详细]
  • Oracle优化新常态的五大禁止及其性能隐患
    本文介绍了Oracle优化新常态中的五大禁止措施,包括禁止外键、禁止视图、禁止触发器、禁止存储过程和禁止JOB,并分析了这些禁止措施可能带来的性能隐患。文章还讨论了这些禁止措施在C/S架构和B/S架构中的不同应用情况,并提出了解决方案。 ... [详细]
  • 关于CMS收集器的知识介绍和优缺点分析
    本文介绍了CMS收集器的概念、运行过程和优缺点,并解释了垃圾回收器的作用和实践。CMS收集器是一种基于标记-清除算法的垃圾回收器,适用于互联网站和B/S系统等对响应速度和停顿时间有较高要求的应用。同时,还提供了其他垃圾回收器的参考资料。 ... [详细]
  • 本文讨论了在VMWARE5.1的虚拟服务器Windows Server 2008R2上安装oracle 10g客户端时出现的问题,并提供了解决方法。错误日志显示了异常访问违例,通过分析日志中的问题帧,找到了解决问题的线索。文章详细介绍了解决方法,帮助读者顺利安装oracle 10g客户端。 ... [详细]
author-avatar
手机用户2502853267
这个家伙很懒,什么也没留下!
PHP1.CN | 中国最专业的PHP中文社区 | DevBox开发工具箱 | json解析格式化 |PHP资讯 | PHP教程 | 数据库技术 | 服务器技术 | 前端开发技术 | PHP框架 | 开发工具 | 在线工具
Copyright © 1998 - 2020 PHP1.CN. All Rights Reserved | 京公网安备 11010802041100号 | 京ICP备19059560号-4 | PHP1.CN 第一PHP社区 版权所有