超全整理！Linux性能分析工具汇总

点击下方“民工哥技术之路”&＃xff0c;选择“设为星标”

回复“1024”获取独家整理的学习资料&＃xff01;

出于对Linux操作系统的兴趣&＃xff0c;以及对底层知识的强烈欲望&＃xff0c;因此整理了这篇文章。本文也可以作为检验基础知识的指标&＃xff0c;另外文章涵盖了一个系统的方方面面。如果没有完善的计算机系统知识&＃xff0c;网络知识和操作系统知识&＃xff0c;文档中的工具&＃xff0c;是不可能完全掌握的&＃xff0c;另外对系统性能分析和优化是一个长期的系列。

本文档主要是结合Linux 大牛&＃xff0c;Netflix 高级性能架构师 Brendan Gregg 更新 Linux 性能调优工具的博文&＃xff0c;搜集Linux系统性能优化相关文章整理后的一篇综合性文章&＃xff0c;主要是结合博文对涉及到的原理和性能测试的工具展开说明。

性能分析工具

首先来看一张图&＃xff1a;

上图是Brendan Gregg 的一次性能分析的分享&＃xff0c;这里面的所有工具都可以通过man来获得它的帮助文档&＃xff0c;下问简单介绍介绍一下常规的用法&＃xff1a;

vmstat--虚拟内存统计

vmstat(VirtualMeomoryStatistics,虚拟内存统计) 是Linux中监控内存的常用工具,可对操作系统的虚拟内存、进程、CPU等的整体情况进行监视。

vmstat的常规用法&＃xff1a;vmstat interval times即每隔interval秒采样一次&＃xff0c;共采样times次&＃xff0c;如果省略times,则一直采集数据&＃xff0c;直到用户手动停止为止。简单举个例子&＃xff1a;

可以使用ctrl&＃43;c停止vmstat采集数据。

第一行显示了系统自启动以来的平均值&＃xff0c;第二行开始显示现在正在发生的情况&＃xff0c;接下来的行会显示每5秒间隔发生了什么&＃xff0c;每一列的含义在头部&＃xff0c;如下所示&＃xff1a;

• procs&＃xff1a;r这一列显示了多少进程在等待cpu&＃xff0c;b列显示多少进程正在不可中断的休眠&＃xff08;等待IO&＃xff09;。

• memory&＃xff1a;swapd列显示了多少块被换出了磁盘&＃xff08;页面交换&＃xff09;&＃xff0c;剩下的列显示了多少块是空闲的&＃xff08;未被使用&＃xff09;&＃xff0c;多少块正在被用作缓冲区&＃xff0c;以及多少正在被用作操作系统的缓存。

• swap&＃xff1a;显示交换活动&＃xff1a;每秒有多少块正在被换入&＃xff08;从磁盘&＃xff09;和换出&＃xff08;到磁盘&＃xff09;。

• io&＃xff1a;显示了多少块从块设备读取&＃xff08;bi&＃xff09;和写出&＃xff08;bo&＃xff09;,通常反映了硬盘I/O。

• system&＃xff1a;显示每秒中断(in)和上下文切换&＃xff08;cs&＃xff09;的数量。

• cpu&＃xff1a;显示所有的cpu时间花费在各类操作的百分比&＃xff0c;包括执行用户代码&＃xff08;非内核&＃xff09;&＃xff0c;执行系统代码&＃xff08;内核&＃xff09;&＃xff0c;空闲以及等待IO。

内存不足的表现&＃xff1a;free  memory急剧减少&＃xff0c;回收buffer和cacher也无济于事&＃xff0c;大量使用交换分区&＃xff08;swpd&＃xff09;,页面交换&＃xff08;swap&＃xff09;频繁&＃xff0c;读写磁盘数量&＃xff08;io&＃xff09;增多&＃xff0c;缺页中断&＃xff08;in&＃xff09;增多&＃xff0c;上下文切换&＃xff08;cs&＃xff09;次数增多&＃xff0c;等待IO的进程数&＃xff08;b&＃xff09;增多&＃xff0c;大量CPU时间用于等待IO&＃xff08;wa&＃xff09;

iostat--用于报告中央处理器统计信息

iostat用于报告中央处理器&＃xff08;CPU&＃xff09;统计信息和整个系统、适配器、tty 设备、磁盘和 CD-ROM 的输入/输出统计信息&＃xff0c;默认显示了与vmstat相同的cpu使用信息&＃xff0c;使用以下命令显示扩展的设备统计&＃xff1a;

第一行显示的是自系统启动以来的平均值&＃xff0c;然后显示增量的平均值&＃xff0c;每个设备一行。

常见linux的磁盘IO指标的缩写习惯&＃xff1a;rq是request,r是read,w是write,qu是queue&＃xff0c;sz是size,a是verage,tm是time,svc是service。

• rrqm/s和wrqm/s&＃xff1a;每秒合并的读和写请求&＃xff0c;“合并的”意味着操作系统从队列中拿出多个逻辑请求合并为一个请求到实际磁盘。

• r/s和w/s&＃xff1a;每秒发送到设备的读和写请求数。

• rsec/s和wsec/s&＃xff1a;每秒读和写的扇区数。

• avgrq –sz&＃xff1a;请求的扇区数。

• avgqu –sz&＃xff1a;在设备队列中等待的请求数。

• await&＃xff1a;每个IO请求花费的时间。

• svctm&＃xff1a;实际请求&＃xff08;服务&＃xff09;时间。

• %util&＃xff1a;至少有一个活跃请求所占时间的百分比。

dstat--系统监控工具

dstat显示了cpu使用情况&＃xff0c;磁盘io情况&＃xff0c;网络发包情况和换页情况&＃xff0c;输出是彩色的&＃xff0c;可读性较强&＃xff0c;相对于vmstat和iostat的输入更加详细且较为直观。在使用时&＃xff0c;直接输入命令即可&＃xff0c;当然也可以使用特定参数。

如下&＃xff1a;dstat –cdlmnpsy

iotop--LINUX进程实时监控工具

iotop命令是专门显示硬盘IO的命令&＃xff0c;界面风格类似top命令&＃xff0c;可以显示IO负载具体是由哪个进程产生的。是一个用来监视磁盘I/O使用状况的top类工具&＃xff0c;具有与top相似的UI&＃xff0c;其中包括PID、用户、I/O、进程等相关信息。

可以以非交互的方式使用&＃xff1a;

iotop –bod interval&＃xff0c;查看每个进程的I/O&＃xff0c;可以使用pidstat&＃xff0c;pidstat –d instat


pidstat--监控系统资源情况

pidstat主要用于监控全部或指定进程占用系统资源的情况,如CPU,内存、设备IO、任务切换、线程等。

使用方法&＃xff1a;

pidstat –d interval
#统计CPU使用信息
pidstat –u interval
#统计内存信息
Pidstat –r interval


top

top命令的汇总区域显示了五个方面的系统性能信息&＃xff1a;

• 负载&＃xff1a;时间&＃xff0c;登陆用户数&＃xff0c;系统平均负载&＃xff1b;

• 进程&＃xff1a;运行&＃xff0c;睡眠&＃xff0c;停止&＃xff0c;僵尸&＃xff1b;

• cpu:用户态&＃xff0c;核心态&＃xff0c;NICE,空闲&＃xff0c;等待IO,中断等&＃xff1b;

• 内存&＃xff1a;总量&＃xff0c;已用&＃xff0c;空闲&＃xff08;系统角度&＃xff09;&＃xff0c;缓冲&＃xff0c;缓存&＃xff1b;

• 交换分区&＃xff1a;总量&＃xff0c;已用&＃xff0c;空闲

任务区域默认显示&＃xff1a;进程ID,有效用户&＃xff0c;进程优先级&＃xff0c;NICE值&＃xff0c;进程使用的虚拟内存&＃xff0c;物理内存和共享内存&＃xff0c;进程状态&＃xff0c;CPU占用率&＃xff0c;内存占用率&＃xff0c;累计CPU时间&＃xff0c;进程命令行信息。

htop

htop 是Linux系统中的一个互动的进程查看器,一个文本模式的应用程序(在控制台或者X终端中),需要ncurses。

Htop可让用户交互式操作&＃xff0c;支持颜色主题&＃xff0c;可横向或纵向滚动浏览进程列表&＃xff0c;并支持鼠标操作。

与top相比&＃xff0c;htop有以下优点&＃xff1a;

• 可以横向或者纵向滚动浏览进程列表&＃xff0c;以便看到所有的进程和完整的命令行。

• 在启动上&＃xff0c;比top更快。

• 杀进程时不需要输入进程号。

• htop支持鼠标操作。

mpstat

mpstat 是Multiprocessor Statistics的缩写&＃xff0c;是实时系统监控工具。其报告与CPU的一些统计信息&＃xff0c;这些信息存放在/proc/stat文件中。在多CPUs系统里&＃xff0c;其不但能查看所有CPU的平均状况信息&＃xff0c;而且能够查看特定CPU的信息。常见用法&＃xff1a;

mpstat –P ALL interval times


netstat

Netstat用于显示与IP、TCP、UDP和ICMP协议相关的统计数据&＃xff0c;一般用于检验本机各端口的网络连接情况。

常见用法&＃xff1a;

netstat –npl   #可以查看你要打开的端口是否已经打开。
netstat –rn    #打印路由表信息。
netstat –in    #提供系统上的接口信息&＃xff0c;打印每个接口的MTU,输入分组数&＃xff0c;输入错误&＃xff0c;输出分组数&＃xff0c;输出错误&＃xff0c;冲突以及当前的输出队列的长度。


ps--显示当前进程的状态

ps参数太多&＃xff0c;具体使用方法可以参考man ps&＃xff0c;

常用的方法&＃xff1a;

ps  aux  #hsserver
ps –ef |grep #hundsun#杀掉某一程序的方法
ps  aux | grep mysqld | grep –v grep | awk ‘{print $2 }’ xargs kill -9#杀掉僵尸进程
ps –eal | awk ‘{if ($2 &＃61;&＃61; “Z”){print $4}}’ | xargs kill -9


strace

跟踪程序执行过程中产生的系统调用及接收到的信号&＃xff0c;帮助分析程序或命令执行中遇到的异常情况。

举例&＃xff1a;查看mysqld在linux上加载哪种配置文件&＃xff0c;可以通过运行下面的命令&＃xff1a;

strace –e stat64 mysqld –print –defaults > /dev/null


uptime

能够打印系统总共运行了多长时间和系统的平均负载&＃xff0c;uptime命令最后输出的三个数字的含义分别是1分钟&＃xff0c;5分钟&＃xff0c;15分钟内系统的平均负荷。

lsof

lsof(list open files)是一个列出当前系统打开文件的工具。通过lsof工具能够查看这个列表对系统检测及排错&＃xff0c;常见的用法&＃xff1a;

#查看文件系统阻塞  
lsof /boot#查看端口号被哪个进程占用   
lsof  -i : 3306#查看用户打开哪些文件   
lsof –u username#查看进程打开哪些文件   
lsof –p  4838#查看远程已打开的网络链接  
lsof –i &＃64;192.168.34.128


perf

perf是Linux kernel自带的系统性能优化工具。优势在于与Linux Kernel的紧密结合&＃xff0c;它可以最先应用到加入Kernel的new feature&＃xff0c;用于查看热点函数&＃xff0c;查看cashe miss的比率&＃xff0c;从而帮助开发者来优化程序性能。

性能调优工具如 perf&＃xff0c;Oprofile 等的基本原理都是对被监测对象进行采样&＃xff0c;最简单的情形是根据 tick 中断进行采样&＃xff0c;即在 tick 中断内触发采样点&＃xff0c;在采样点里判断程序当时的上下文。假如一个程序 90% 的时间都花费在函数 foo() 上&＃xff0c;那么 90% 的采样点都应该落在函数 foo() 的上下文中。运气不可捉摸&＃xff0c;但我想只要采样频率足够高&＃xff0c;采样时间足够长&＃xff0c;那么以上推论就比较可靠。因此&＃xff0c;通过 tick 触发采样&＃xff0c;我们便可以了解程序中哪些地方最耗时间&＃xff0c;从而重点分析。

汇总&＃xff1a;结合以上常用的性能测试命令并联系文初的性能分析工具的图&＃xff0c;就可以初步了解到性能分析过程中哪个方面的性能使用哪方面的工具&＃xff08;命令&＃xff09;。

常用的性能测试工具

熟练并精通了第二部分的性能分析命令工具&＃xff0c;引入几个性能测试的工具&＃xff0c;介绍之前先简单了解几个性能测试工具&＃xff1a;

perf_events

一款随 Linux 内核代码一同发布和维护的性能诊断工具&＃xff0c;由内核社区维护和发展。Perf 不仅可以用于应用程序的性能统计分析&＃xff0c;也可以应用于内核代码的性能统计和分析。

eBPF tools

一款使用bcc进行的性能追踪的工具,eBPF map可以使用定制的eBPF程序被广泛应用于内核调优方面&＃xff0c;也可以读取用户级的异步代码。重要的是这个外部的数据可以在用户空间管理。这个k-v格式的map数据体是通过在用户空间调用bpf系统调用创建、添加、删除等操作管理的。

perf-tools:

一款基于 perf_events (perf) 和 ftrace 的Linux性能分析调优工具集。Perf-Tools 依赖库少&＃xff0c;使用简单。支持Linux 3.2 及以上内核版本。

bcc(BPF Compiler Collection)

一款使用eBPF的perf性能分析工具。一个用于创建高效的内核跟踪和操作程序的工具包&＃xff0c;包括几个有用的工具和示例。利用扩展的BPF&＃xff08;伯克利数据包过滤器&＃xff09;&＃xff0c;正式称为eBPF&＃xff0c;一个新的功能&＃xff0c;首先被添加到Linux 3.15。多用途需要Linux 4.1以上BCC。

ktap

一种新型的linux脚本动态性能跟踪工具。允许用户跟踪Linux内核动态。ktap是设计给具有互操作性&＃xff0c;允许用户调整操作的见解&＃xff0c;排除故障和延长内核和应用程序。它类似于Linux和Solaris DTrace SystemTap。

Flame Graphs

是一款使用perf,system tap,ktap可视化的图形软件&＃xff0c;允许最频繁的代码路径快速准确地识别&＃xff0c;可以是使用github.com/brendangregg/flamegraph中的开发源代码的程序生成。

Linux observability tools | Linux 性能观测工具

首先学习的Basic Tool有如下&＃xff1a;

uptime、top(htop)、mpstat、isstat、vmstat、free、ping、nicstat、dstat。Linux性能检测常用的10个基本命令

高级的命令如下&＃xff1a;

sar、netstat、pidstat、strace、tcpdump、blktrace、iotop、slabtop、sysctl、/proc。值得收藏&＃xff01;Linux系统常用命令速查手册

Linux benchmarking tools | Linux 性能测评工具

是一款性能测评工具&＃xff0c;对于不同模块的性能测试可以使用相应的工具&＃xff0c;想要深入了解&＃xff0c;可以参考最下文的附件文档。

Linux tuning tools | Linux 性能调优工具

是一款性能调优工具&＃xff0c;主要是从linux内核源码层进行的调优&＃xff0c;想要深入了解&＃xff0c;可以参考下文附件文档。

Linux observability sar | linux性能观测工具

sar&＃xff08;System Activity Reporter系统活动情况报告&＃xff09;是目前LINUX上最为全面的系统性能分析工具之一&＃xff0c;可以从多方面对系统的活动进行报告&＃xff0c;包括&＃xff1a;文件的读写情况、系统调用的使用情况、磁盘I/O、CPU效率、内存使用状况、进程活动及IPC有关的活动等方面。

sar的常归使用方式&＃xff1a;

sar  [options] [-A] [-o file]  t [n]


其中&＃xff1a;

t         #为采样间隔&＃xff0c;n为采样次数&＃xff0c;默认值是1&＃xff1b;
-o file   #表示将命令结果以二进制格式存放在文件中&＃xff0c;file 是文件名。
options   #为命令行选项


来源&＃xff1a;https://rdc.hundsun.com/portal/article/731.html?ref&＃61;myread

推荐阅读 点击标题可跳转

用 GitLab 做 CI/CD 是什么感觉&＃xff0c;太强了

彻夜怒肝&＃xff01;Docker 常见疑难杂症解决方案已撸完

蚂蚁金服 CEO 突然辞职&＃xff01;去向很意外

再见 FTP/SFTP&＃xff01;下一代文件传输利器 Croc 来了&＃xff01;

这 5 种常用运维监控工具都不会&＃xff1f;你算啥运维人

Docker部署Prometheus&＃43;Grafana监控系统

MongoDB 日常运维实践总结

超详细讲解&＃xff01;10 种常见的软件架构模式

搞懂这 9 步&＃xff0c;DNS 访问原理就明明白白了