这篇文章介绍了如何利用Apache Flink的内置指标系统以及如何使用Prometheus来高效地监控流式应用程序。
为什么选择Prometheus&＃xff1f;
随着深入地了解Prometheus&＃xff0c;你会发现一些非常好的功能&＃xff1a;
- 服务发现使配置更加容易。Prometheus支持consul&＃xff0c;etcd&＃xff0c;kubernetes以及各家公有云厂商自动发现。对于监控目标动态发现&＃xff0c;这点特别契合Cloud时代&＃xff0c;应用动态扩缩的特点。我们无法想象&＃xff0c;在Cloud时代&＃xff0c;需要运维不断更改配置。
- 开源社区建立了数百个exporter。基本上涵盖了所有基础设施和主流中间件。
- 工具库可从您的应用程序获取自定义指标。基本上主流开发语言都有对应的工具库。
- 它是CNCF旗下的OSS&＃xff0c;是继Kubernetes之后的第二个毕业项目。Kubernetes已经与Promethues深度结合&＃xff0c;并在其所有服务中公开了Prometheus指标。
- Pushgateway&＃xff0c;Alermanager等组件&＃xff0c;基本上涵盖了一个完整的监控生命周期。
Flink官方已经提供了对接Prometheus的jar包&＃xff0c;很方便就可以集成。由于本系列文章重点在Flink on Kubernetes&＃xff0c; 因此我们所有的操作都是基于这点展开。
部署Prometheus
对k8s不熟悉的同学&＃xff0c;可以查阅k8s相关文档。由于部署不是本博客的重点&＃xff0c;所以我们直接贴出yaml文件&＃xff1a;
---apiVersion: v1kind: ServiceAccountmetadata:name: monitornamespace: kube-systemlabels:kubernetes.io/cluster-service: "true"addonmanager.kubernetes.io/mode: Reconcile
---apiVersion: rbac.authorization.k8s.io/v1kind: ClusterRolemetadata:name: monitorlabels:kubernetes.io/cluster-service: "true"addonmanager.kubernetes.io/mode: Reconcile rules:- apiGroups:- ""resources:- podsverbs:- get- list- watch
---apiVersion: rbac.authorization.k8s.io/v1kind: ClusterRoleBindingmetadata:name: monitorlabels:kubernetes.io/cluster-service: "true"addonmanager.kubernetes.io/mode: ReconcileroleRef:apiGroup: rbac.authorization.k8s.iokind: ClusterRolename: monitorsubjects:- kind: ServiceAccountname: monitornamespace: kube-system
---apiVersion: v1kind: ConfigMapmetadata:labels:app: monitorname: monitornamespace: kube-systemdata:prometheus.yml: |-global:scrape_interval: 10sevaluation_interval: 10sscrape_configs:- job_name: kubernetes-podskubernetes_sd_configs:- role: podrelabel_configs:- action: keepregex: truesource_labels:- __meta_kubernetes_pod_annotation_prometheus_io_scrape- action: replaceregex: (.&＃43;)source_labels:- __meta_kubernetes_pod_annotation_prometheus_io_pathtarget_label: __metrics_path__- action: replaceregex: ([^:]&＃43;)(?::d&＃43;)?;(d&＃43;)replacement: $1:$2source_labels:- __address__- __meta_kubernetes_pod_annotation_prometheus_io_porttarget_label: __address__- action: labelmapregex: __meta_kubernetes_pod_label_(.&＃43;)- action: replacesource_labels:- __meta_kubernetes_namespacetarget_label: kubernetes_namespace- action: replacesource_labels:- __meta_kubernetes_pod_nametarget_label: kubernetes_pod_name---apiVersion: apps/v1kind: StatefulSetmetadata:labels:app: monitorname: monitornamespace: kube-systemspec:serviceName: monitorselector:matchLabels:app: monitorreplicas: 1template:metadata:labels:app: monitorspec:containers:- args:- --config.file&＃61;/etc/prometheus/prometheus.yml- --storage.tsdb.path&＃61;/data/prometheus- --storage.tsdb.retention.time&＃61;10d image: prom/prometheus:v2.19.0imagePullPolicy: IfNotPresentname: prometheusports:- containerPort: 9090protocol: TCPreadinessProbe:httpGet:path: /-/readyport: 9090initialDelaySeconds: 30timeoutSeconds: 30livenessProbe:httpGet:path: /-/healthyport: 9090initialDelaySeconds: 30timeoutSeconds: 30resources:limits:cpu: 1000mmemory: 2018Mirequests:cpu: 1000mmemory: 2018MivolumeMounts:- mountPath: /etc/prometheusname: config-volume- mountPath: /dataname: monitor-persistent-storagerestartPolicy: AlwayspriorityClassName: system-cluster-criticalserviceAccountName: monitorinitContainers:- name: "init-chown-data"image: "busybox:latest"imagePullPolicy: "IfNotPresent"command: ["chown", "-R", "65534:65534", "/data"]volumeMounts:- name: monitor-persistent-storagemountPath: /datasubPath: ""volumes:- configMap:defaultMode: 420name: monitorname: config-volumevolumeClaimTemplates:- metadata:name: monitor-persistent-storagenamespace: kube-systemspec:accessModes:- ReadWriteOnceresources:requests:storage: 20GistorageClassName: gp2---apiVersion: v1kind: Servicemetadata:annotations:service.beta.kubernetes.io/aws-load-balancer-type: nlblabels:app: monitorname: monitornamespace: kube-systemspec:ports:- name: httpport: 9090protocol: TCPtargetPort: 9090selector:app: monitortype: LoadBalancer
这里我们简单说下&＃xff0c;由于我们想利用Prometheus的Kubernetes的服务发现的方式&＃xff0c;所以需要RBAC授权&＃xff0c;授权prometheus 实例对集群中的pod有一些读取权限。
为什么我们要使用自动发现的方式那&＃xff1f;
相比配置文件的方式&＃xff0c;自动发现更加灵活。尤其是当你使用的是flink on native kubernetes&＃xff0c;整个job manager 和task manager 是根据作业的提交自动创建的&＃xff0c;这种动态性&＃xff0c;显然是配置文件无法满足的。
由于我们的集群在eks上&＃xff0c;所以大家在使用其他云的时候&＃xff0c;需要略做调整。
定制镜像
这里我们基本上使用上一篇文章介绍的demo上&＃xff0c;增加监控相关&＃xff0c;所以Dockerfile如下&＃xff1a;
FROM flink
COPY /plugins/metrics-prometheus/flink-metrics-prometheus-1.11.0.jar /opt/flink/lib
RUN mkdir -p $FLINK_HOME/usrlib
COPY ./examples/streaming/WordCount.jar $FLINK_HOME/usrlib/my-flink-job.jar
Flink 的 Classpath 位于/opt/flink/lib&＃xff0c;所以插件的jar包需要放到该目录下
作业提交
由于我们的Pod必须增加一定的标识&＃xff0c;从而让Prometheus实例可以发现。所以提交命令稍作更改&＃xff0c;如下&＃xff1a;
./bin/flink run-application -p 8 -t kubernetes-application -Dkubernetes.cluster-id&＃61;my-first-cluster -Dtaskmanager.memory.process.size&＃61;2048m -Dkubernetes.taskmanager.cpu&＃61;2 -Dtaskmanager.numberOfTaskSlots&＃61;4 -Dkubernetes.container.image&＃61;iyacontrol/flink-world-count:v0.0.2 -Dkubernetes.container.image.pull-policy&＃61;Always -Dkubernetes.namespace&＃61;stream -Dkubernetes.jobmanager.service-account&＃61;flink -Dkubernetes.rest-service.exposed.type&＃61;LoadBalancer -Dkubernetes.rest-service.annotations&＃61;service.beta.kubernetes.io/aws-load-balancer-type:nlb,service.beta.kubernetes.io/aws-load-balancer-internal:true -Dkubernetes.jobmanager.annotations&＃61;prometheus.io/scrape:true,prometheus.io/port:9249 -Dkubernetes.taskmanager.annotations&＃61;prometheus.io/scrape:true,prometheus.io/port:9249 -Dmetrics.reporters&＃61;prom -Dmetrics.reporter.prom.class&＃61;org.apache.flink.metrics.prometheus.PrometheusReporter local:///opt/flink/usrlib/my-flink-job.jar
- 给 jobmanager 和 taskmanager 增加了annotations
- 增加了metrcis相关的配置&＃xff0c;指定使用prometheus reporter
关于prometheus reporter&＃xff1a;
参数&＃xff1a;
port - 可选, Prometheus导出器监听的端口&＃xff0c;默认为9249。为了能够在一台主机上运行报告程序的多个实例&＃xff08;例如&＃xff0c;当一个TaskManager与JobManager并置时&＃xff09;&＃xff0c;建议使用这样的端口范围 9250-9260。 filterLabelValueCharacters - 可选, 指定是否过滤标签值字符。如果启用&＃xff0c;则将删除所有不匹配[a-zA-Z0-9&＃xff1a;_]的字符&＃xff0c;否则将不删除任何字符。禁用此选项之前&＃xff0c;请确保您的标签值符合Prometheus要求。
效果
提交任务后&＃xff0c;我们看下实际效果。
首先查看Prometheus 是否发现了我们的Pod。
然后查看具体的metrics&＃xff0c;是否被准确抓取。
指标已经收集&＃xff0c;后续大家就可以选择grafana绘图了。或是增加相应的报警规则。例如&＃xff1a;
总结
当然除了Prometheus主动发现Pod&＃xff0c;然后定期抓取metrcis的方式&＃xff0c;flink 也支持向PushGateway 主动push metrcis。
Flink 通过 Reporter 来向外部系统提供metrcis。通过在conf/flink-conf.yaml中配置一个或多个Reporter &＃xff0c;可以将metrcis公开给外部系统。这些Reporter在启动时将在每个作业和任务管理器上实例化。
所有Reporter都必须至少具有class或factory.class属性。可以/应该使用哪个属性取决于Reporter的实现。有关更多信息&＃xff0c;请参见各个Reporter 配置部分。一些Reporter允许指定报告间隔。
指定多个Reporter 的示例配置&＃xff1a;
metrics.reporters: my_jmx_reporter,my_other_reportermetrics.reporter.my_jmx_reporter.factory.class: org.apache.flink.metrics.jmx.JMXReporterFactory
metrics.reporter.my_jmx_reporter.port: 9020-9040
metrics.reporter.my_jmx_reporter.scope.variables.excludes:job_id;task_attempt_nummetrics.reporter.my_other_reporter.class: org.apache.flink.metrics.graphite.GraphiteReporter
metrics.reporter.my_other_reporter.host: 192.168.1.1
metrics.reporter.my_other_reporter.port: 10000
启动Flink时&＃xff0c;必须可以访问包含reporter的jar。支持factory.class属性的reporter可以作为插件加载。否则&＃xff0c;必须将jar放在/lib文件夹中。
你可以通过实现org.apache.flink.metrics.reporter.MetricReporter接口来编写自己的Reporter。如果 reporter定期发送报告&＃xff0c;则还必须实现Scheduled接口。通过额外实现MetricReporterFactory&＃xff0c;你的reporter也可以作为插件加载。
京公网安备 11010802041100号