一、Apache Flink简述:
分布式大数据处理引擎,可以对有限流和无限流进行有状态的计算,可以部署在各种集群环境,对大小的数据规模进行快速计算。基于数据流的有状态计算。
二、环境部署
1.环境说明:
IP:192.168.56.77
部署位置:/usr/flink/flink-1.11.2
2.下载地址:
Wget http://mirror.bit.edu.cn/apache/flink/flink-1.11.2/flink-1.11.2-bin-scala_2.11.tgz
或者官网地址:
https://www.apache.org/dyn/closer.lua/flink/flink-1.11.2/flink-1.11.2-bin-scala_2.11.tgz
3.解压到/usr/flink下
4.启动
[root@slave2 flink-1.11.2]# ./bin/start-cluster.shStarting cluster.Starting standalonesession daemon on host slave2.Starting taskexecutor daemon on host slave2.[root@slave2 flink-1.11.2]# pwd/usr/flink/flink-1.11.2
5.jps查看
[root@slave2 flink-1.11.2]# jps1984 StandaloneSessionClusterEntrypoint2355 Jps2271 TaskManagerRunner
三、Flink集群搭建
1.环境说明:
Master 192.168.56.77
Slave 192.168.56.55
2.修改配置文件(master与slave均要改)
[root@slave2 conf]# vi /usr/flink/flink-1.11.2/conf/flink-conf.yam33 jobmanager.rpc.address: 192.168.56.77
#jobmanager所在节点
修改master所在节点:
[root@slave2 conf]# vi /usr/flink/flink-1.11.2/conf/masters1 192.168.56.77:8081
修改slave所在节点:
[root@slave2 conf]# vi /usr/flink/flink-1.11.2/conf/workers1 192.168.56.55
3.启动cluster
[root@slave2 bin]# pwd/usr/flink/flink-1.11.2/bin[root@slave2 bin]# ./start-cluster.shStarting cluster.Starting standalonesession daemon on host slave2.root@192.168.56.55's password:Starting taskexecutor daemon on host slave1.
4.JPS查看启动情况
[root@slave2 bin]# jps4053 Jps3992 StandaloneSessionClusterEntrypoint2271 TaskManagerRunner[root@slave1 conf]# jps1785 TaskManagerRunner1836 Jps