热门标签 | HotTags
当前位置:  开发笔记 > 编程语言 > 正文

【原创】七、Hadoop2.5.2+zookeeper高可用部署

一、原理(四大要点)(1)保证元数据一致(edits)namenode(fsimage edits)a、NFSb、journalnodec、zk(2)只有一台namenode对外提

一、原理(四大要点)

《【原创】七、Hadoop 2.5.2+zookeeper高可用部署》

(1)保证元数据一致(edits)

namenode(fsimage  edits)

a、NFS

b、journalnode

c、zk

(2)只有一台namenode对外提供服务(proxy)

(3)接受datanode的心跳

(4)隔离

二、HDFS HA启动并测试

《【原创】七、Hadoop 2.5.2+zookeeper高可用部署》

在Bigdata01.xxxx.com中配置:

Core-site.xml

《【原创】七、Hadoop 2.5.2+zookeeper高可用部署》

hdfs-site.xml

《【原创】七、Hadoop 2.5.2+zookeeper高可用部署》

把hadoop分别拷贝到bigdata02与bigdata03

$scp -r hadoop-2.5.2/ bigdata03.xxxx.com:/home/jit/app

按照以下步骤启动

启动服务

Step1 :启动Zookeeper集群bin/zkServer.sh start

在各个JournalNode节点上,输入以下命令启动journalnode服务:

$ sbin/hadoop-daemon.sh start journalnode

Step2:在[nn1]上,对其进行格式化,并启动:

$ bin/hdfs namenode –format

初始化HA在Zookeeper中状态bin/hdfs zkfc -formatZK

$ sbin/hadoop-daemon.sh start namenode

在各个NameNode节点上启动DFSZK Failover Controller,先在那台机器启动,那个机器的NameNode就是Active NameNode

sbin/hadoop-daemin.sh start zkfc

Step3:在[nn2]上,同步nn1的元数据信息:

$ bin/hdfs namenode -bootstrapStandby

Step4:启动[nn2]:

$ sbin/hadoop-daemon.sh start namenode

Step6:在[nn1]上,启动所有datanode

$ sbin/hadoop-daemons.sh start datanode

Bigdata01

《【原创】七、Hadoop 2.5.2+zookeeper高可用部署》

Bigdata02

《【原创】七、Hadoop 2.5.2+zookeeper高可用部署》

Bigdata03

《【原创】七、Hadoop 2.5.2+zookeeper高可用部署》
《【原创】七、Hadoop 2.5.2+zookeeper高可用部署》
《【原创】七、Hadoop 2.5.2+zookeeper高可用部署》

Kill -9 bigdata01的namenode

《【原创】七、Hadoop 2.5.2+zookeeper高可用部署》

Bigdata02变为active

《【原创】七、Hadoop 2.5.2+zookeeper高可用部署》

上传文件

《【原创】七、Hadoop 2.5.2+zookeeper高可用部署》

三、和ResouceManager Restart功能及配置部署与测试

三台机器yarn-site.xml分配进行配置

《【原创】七、Hadoop 2.5.2+zookeeper高可用部署》

进行yarn启动,并查看yarn的状态

《【原创】七、Hadoop 2.5.2+zookeeper高可用部署》

Kill掉rm1后

《【原创】七、Hadoop 2.5.2+zookeeper高可用部署》

Rm2状态变为active

重启rm1后状态变为standy

《【原创】七、Hadoop 2.5.2+zookeeper高可用部署》


推荐阅读
author-avatar
非策不劃小子白
这个家伙很懒,什么也没留下!
PHP1.CN | 中国最专业的PHP中文社区 | DevBox开发工具箱 | json解析格式化 |PHP资讯 | PHP教程 | 数据库技术 | 服务器技术 | 前端开发技术 | PHP框架 | 开发工具 | 在线工具
Copyright © 1998 - 2020 PHP1.CN. All Rights Reserved | 京公网安备 11010802041100号 | 京ICP备19059560号-4 | PHP1.CN 第一PHP社区 版权所有