热门标签 | HotTags
当前位置:  开发笔记 > 编程语言 > 正文

【原创】七、Hadoop2.5.2+zookeeper高可用部署

一、原理(四大要点)(1)保证元数据一致(edits)namenode(fsimage edits)a、NFSb、journalnodec、zk(2)只有一台namenode对外提

一、原理(四大要点)

《【原创】七、Hadoop 2.5.2+zookeeper高可用部署》

(1)保证元数据一致(edits)

namenode(fsimage  edits)

a、NFS

b、journalnode

c、zk

(2)只有一台namenode对外提供服务(proxy)

(3)接受datanode的心跳

(4)隔离

二、HDFS HA启动并测试

《【原创】七、Hadoop 2.5.2+zookeeper高可用部署》

在Bigdata01.xxxx.com中配置:

Core-site.xml

《【原创】七、Hadoop 2.5.2+zookeeper高可用部署》

hdfs-site.xml

《【原创】七、Hadoop 2.5.2+zookeeper高可用部署》

把hadoop分别拷贝到bigdata02与bigdata03

$scp -r hadoop-2.5.2/ bigdata03.xxxx.com:/home/jit/app

按照以下步骤启动

启动服务

Step1 :启动Zookeeper集群bin/zkServer.sh start

在各个JournalNode节点上,输入以下命令启动journalnode服务:

$ sbin/hadoop-daemon.sh start journalnode

Step2:在[nn1]上,对其进行格式化,并启动:

$ bin/hdfs namenode –format

初始化HA在Zookeeper中状态bin/hdfs zkfc -formatZK

$ sbin/hadoop-daemon.sh start namenode

在各个NameNode节点上启动DFSZK Failover Controller,先在那台机器启动,那个机器的NameNode就是Active NameNode

sbin/hadoop-daemin.sh start zkfc

Step3:在[nn2]上,同步nn1的元数据信息:

$ bin/hdfs namenode -bootstrapStandby

Step4:启动[nn2]:

$ sbin/hadoop-daemon.sh start namenode

Step6:在[nn1]上,启动所有datanode

$ sbin/hadoop-daemons.sh start datanode

Bigdata01

《【原创】七、Hadoop 2.5.2+zookeeper高可用部署》

Bigdata02

《【原创】七、Hadoop 2.5.2+zookeeper高可用部署》

Bigdata03

《【原创】七、Hadoop 2.5.2+zookeeper高可用部署》
《【原创】七、Hadoop 2.5.2+zookeeper高可用部署》
《【原创】七、Hadoop 2.5.2+zookeeper高可用部署》

Kill -9 bigdata01的namenode

《【原创】七、Hadoop 2.5.2+zookeeper高可用部署》

Bigdata02变为active

《【原创】七、Hadoop 2.5.2+zookeeper高可用部署》

上传文件

《【原创】七、Hadoop 2.5.2+zookeeper高可用部署》

三、和ResouceManager Restart功能及配置部署与测试

三台机器yarn-site.xml分配进行配置

《【原创】七、Hadoop 2.5.2+zookeeper高可用部署》

进行yarn启动,并查看yarn的状态

《【原创】七、Hadoop 2.5.2+zookeeper高可用部署》

Kill掉rm1后

《【原创】七、Hadoop 2.5.2+zookeeper高可用部署》

Rm2状态变为active

重启rm1后状态变为standy

《【原创】七、Hadoop 2.5.2+zookeeper高可用部署》


推荐阅读
  • 本文探讨了Hive中内部表和外部表的区别及其在HDFS上的路径映射,详细解释了两者的创建、加载及删除操作,并提供了查看表详细信息的方法。通过对比这两种表类型,帮助读者理解如何更好地管理和保护数据。 ... [详细]
  • 离线安装Grafana Cloudera Manager插件并监控CDH集群
    本文详细介绍如何离线安装Cloudera Manager (CM) 插件,并通过Grafana监控CDH集群的健康状况和资源使用情况。该插件利用CM提供的API接口进行数据获取和展示。 ... [详细]
  • 本文详细介绍如何使用 Apache Spark 执行基本任务,包括启动 Spark Shell、运行示例程序以及编写简单的 WordCount 程序。同时提供了参数配置的注意事项和优化建议。 ... [详细]
  • 深入解析Hadoop的核心组件与工作原理
    本文详细介绍了Hadoop的三大核心组件:分布式文件系统HDFS、资源管理器YARN和分布式计算框架MapReduce。通过分析这些组件的工作机制,帮助读者更好地理解Hadoop的架构及其在大数据处理中的应用。 ... [详细]
  • 本文探讨了Hive作业中Map任务数量的确定方式,主要涉及HiveInputFormat和CombineHiveInputFormat两种InputFormat的分片计算逻辑。通过调整相关参数,可以有效控制Map任务的数量,进而优化Hive作业的性能。 ... [详细]
  • 深入解析BookKeeper的设计与应用场景
    本文介绍了由Yahoo在2009年开发并于2011年开源的BookKeeper技术。BookKeeper是一种高效且可靠的日志流存储解决方案,广泛应用于需要高性能和强数据持久性的场景。 ... [详细]
  • MapReduce原理是怎么剖析的
    这期内容当中小编将会给大家带来有关MapReduce原理是怎么剖析的,文章内容丰富且以专业的角度为大家分析和叙述,阅读完这篇文章希望大家可以有所收获。1 ... [详细]
  • 深入解析:主流开源分布式文件系统综述
    本文详细探讨了几款主流的开源分布式文件系统,包括HDFS、MooseFS、Lustre、GlusterFS和CephFS,重点分析了它们的元数据管理和数据一致性机制,旨在为读者提供深入的技术见解。 ... [详细]
  • 本文详细介绍了如何使用PHP检测AJAX请求,通过分析预定义服务器变量来判断请求是否来自XMLHttpRequest。此方法简单实用,适用于各种Web开发场景。 ... [详细]
  • 本文详细介绍了如何在Linux系统上安装和配置Smokeping,以实现对网络链路质量的实时监控。通过详细的步骤和必要的依赖包安装,确保用户能够顺利完成部署并优化其网络性能监控。 ... [详细]
  • 在当前众多持久层框架中,MyBatis(前身为iBatis)凭借其轻量级、易用性和对SQL的直接支持,成为许多开发者的首选。本文将详细探讨MyBatis的核心概念、设计理念及其优势。 ... [详细]
  • Android LED 数字字体的应用与实现
    本文介绍了一种适用于 Android 应用的 LED 数字字体(digital font),并详细描述了其在 UI 设计中的应用场景及其实现方法。这种字体常用于视频、广告倒计时等场景,能够增强视觉效果。 ... [详细]
  • 探讨如何从数据库中按分组获取最大N条记录的方法,并分享新年祝福。本文提供多种解决方案,适用于不同数据库系统,如MySQL、Oracle等。 ... [详细]
  • 本文介绍了ArcXML配置文件的分类及其在不同服务中的应用,详细解释了地图配置文件的结构和功能,包括其在Image Service、Feature Service以及ArcMap Server中的使用方法。 ... [详细]
  • 前文|功能型_品读鸿蒙HDF架构
    前文|功能型_品读鸿蒙HDF架构 ... [详细]
author-avatar
非策不劃小子白
这个家伙很懒,什么也没留下!
PHP1.CN | 中国最专业的PHP中文社区 | DevBox开发工具箱 | json解析格式化 |PHP资讯 | PHP教程 | 数据库技术 | 服务器技术 | 前端开发技术 | PHP框架 | 开发工具 | 在线工具
Copyright © 1998 - 2020 PHP1.CN. All Rights Reserved | 京公网安备 11010802041100号 | 京ICP备19059560号-4 | PHP1.CN 第一PHP社区 版权所有