flink运行原理_如何生成Flink作业的交互式火焰图？

点击上方 "zhisheng"关注, 星标或置顶一起成长

Flink 从入门到精通 系列文章

前言

Flink 是目前最流行的大数据及流式计算框架之一&＃xff0c;用户可以使用 Java/Scala/Python  的DataStream 接口或者标准 SQL 语言来快速实现一个分布式高可用的流式应用&＃xff0c;通过内部的 Java JIT、off-heap 内存管理等技术优化性能&＃xff0c;并且有完整的 Source、Sink、WebUI、Metrics 等功能集成&＃xff0c;让 Flink 几乎成为了流式计算的事实标准。

但是当处理海量数据的时候&＃xff0c;很容易出现各种异常和性能瓶颈&＃xff0c;这时我们需要优化系统性能时&＃xff0c;常常需要分析程序运行行为和性能瓶颈。Profiling 技术是一种在应用运行时收集程序相关信息的动态分析手段&＃xff0c;常用的 JVM Profiler 可以从多个方面对程序进行动态分析&＃xff0c;如 CPU、Memory、Thread、Classes、GC 等&＃xff0c;其中 CPU Profiling 的应用最为广泛。CPU Profiling 经常被用于分析代码的执行热点&＃xff0c;如“哪个方法占用 CPU 的执行时间最长”、“每个方法占用 CPU 的比例是多少”等等&＃xff0c;通过 CPU Profiling 得到上述相关信息后&＃xff0c;研发人员就可以轻松针对热点瓶颈进行分析和性能优化&＃xff0c;进而突破性能瓶颈&＃xff0c;大幅提升系统的吞吐量。

本文介绍我们在做性能优化常用的火焰图以及为如何集成火焰图到通用的 Flink 作业中。

火焰图介绍

火焰图是《性能之巅》作者以及 DTrace 等一系列 Linux 系统优化工具作者 Brendan Gregg 大神的作品之一&＃xff0c;可以非常清晰地展示应用程序的函数调用栈以及函数调用时间占比&＃xff0c;基本原理是通过各种 agent 在程序运行时采样并输出日志&＃xff0c;使用 FlameGraph 工具把日志提取出来输出可在浏览器交互式查看的 SVG图片。

Uber 开源了 jvm-profiler 项目&＃xff0c;介绍如何为 Spark 应用和 Java 应用添加火焰图支持&＃xff0c;但是目前 Flink 社区和  jvm-profiler 官网都还没有相关的使用教程。

实际上基于 JVM 的程序都可以使用这个工具&＃xff0c;本文将基于 jvm-profiler 来介绍如何生成 Flink 作业的火焰图。

下载和编译 jvm-profiler

git clone git clone https://github.com/uber-common/jvm-profiler.git

mvn clean install -DskipTests&＃61;true -Dcheckstyle.skip -Dfast -T 8C


编译好了之后&＃xff0c;将项目 target 目录下的 jvm-profiler-1.0.0.jar 复制一份到 flink 的 lib 目录下面

cp target/jvm-profiler-1.0.0.jar /usr/local/flink-1.11.1/lib


下载 FlameGraph

由于 jvm-profiler 支持生成火焰图需要的日志文件&＃xff0c;将日志转化成交互式 SVG 图片还是使用 Brendan Gregg 的FlameGraph 工具。

git clone https://github.com/brendangregg/FlameGraph.git


下载项目源码即可&＃xff0c;后面会使用 flamegraph.pl 工具来生成图片文件。

配置 Flink

对于 Flink 应用&＃xff0c;我们只需要在 TaskManager 中注入打点的 Java agent 即可&＃xff0c;这里测试&＃xff0c;我就使用本地 standalone 模式&＃xff0c;修改 Flink conf 目录下的 flink-conf.yaml 文件&＃xff0c;添加一下如下配置&＃xff1a;

env.java.opts.taskmanager: "-javaagent:/usr/local/flink-1.11.1/lib/jvm-profiler-1.0.0.jar&＃61;sampleInterval&＃61;50"


目前最小的采样间隔就是 50 毫秒&＃xff0c;然后启动集群和运行一个 Flink 作业&＃xff1a;

./bin/start-cluster.sh


//运行一个作业
./bin/flink run ./examples/streaming/StateMachineExample.jar  


运行之后可以看到 TaskManager 的 stdout 里面打印如下&＃xff1a;

因为已经注入 Java agent&＃xff0c;因此在标准输出中会定期添加火焰图所需要的打点数据&＃xff0c;然后使用下面的命令提取相关日志&＃xff0c;并且使用 jvm-profiler 和 FlameGraph 提供的工具来生成 SVG 图片文件。

//1、提取 stdout 文件中的相关日志

cat log/flink-zhisheng-taskexecutor-0-zhisheng.out | grep "ConsoleOutputReporter - Stacktrace:" | awk &＃39;{print substr($0,37)}&＃39; > stacktrace.json


//2、在 jvm-profiler 目录下执行下面命令

python ./stackcollapse.py -i /usr/local/flink-1.11.1/stacktrace.json > stacktrace.folded


//3、在 FlameGraph 目录下执行下面命令生成 SVG 图片

./flamegraph.pl /Users/zhisheng/Documents/github/jvm-profiler/stacktrace.folded > stacktrace.svg


然后用浏览器打开刚才生成的 SVG 图片就可以看到火焰图信息。

总结

本文主要目的在于教大家如何利用 jvm-profiler 去生成 Flink 作业的运行火焰图&＃xff0c;这样可以在遇到性能瓶颈问题的时候会很方便大家去定位问题&＃xff0c;关于如何去读懂生成的火焰图&＃xff0c;后面可以再分享系列文章。

参考资料

• JVM CPU Profiler技术原理及源码深度解析
• jvm-profile

基于 Apache Flink 的实时监控告警系统

关于数据中台的深度思考与总结(干干货)

日志收集Agent&＃xff0c;阴暗潮湿的地底世界

2020 继续踏踏实实的做好自己

公众号(zhisheng)里回复 面经、ClickHouse、ES、Flink、 Spring、Java、Kafka、监控 等关键字可以查看更多关键字对应的文章。

点个赞&＃43;在看&＃xff0c;少个 bug ?