热门标签 | HotTags
当前位置:  开发笔记 > 编程语言 > 正文

【原创】七、Hadoop2.5.2+zookeeper高可用部署

一、原理(四大要点)(1)保证元数据一致(edits)namenode(fsimage edits)a、NFSb、journalnodec、zk(2)只有一台namenode对外提

一、原理(四大要点)

《【原创】七、Hadoop 2.5.2+zookeeper高可用部署》

(1)保证元数据一致(edits)

namenode(fsimage  edits)

a、NFS

b、journalnode

c、zk

(2)只有一台namenode对外提供服务(proxy)

(3)接受datanode的心跳

(4)隔离

二、HDFS HA启动并测试

《【原创】七、Hadoop 2.5.2+zookeeper高可用部署》

在Bigdata01.xxxx.com中配置:

Core-site.xml

《【原创】七、Hadoop 2.5.2+zookeeper高可用部署》

hdfs-site.xml

《【原创】七、Hadoop 2.5.2+zookeeper高可用部署》

把hadoop分别拷贝到bigdata02与bigdata03

$scp -r hadoop-2.5.2/ bigdata03.xxxx.com:/home/jit/app

按照以下步骤启动

启动服务

Step1 :启动Zookeeper集群bin/zkServer.sh start

在各个JournalNode节点上,输入以下命令启动journalnode服务:

$ sbin/hadoop-daemon.sh start journalnode

Step2:在[nn1]上,对其进行格式化,并启动:

$ bin/hdfs namenode –format

初始化HA在Zookeeper中状态bin/hdfs zkfc -formatZK

$ sbin/hadoop-daemon.sh start namenode

在各个NameNode节点上启动DFSZK Failover Controller,先在那台机器启动,那个机器的NameNode就是Active NameNode

sbin/hadoop-daemin.sh start zkfc

Step3:在[nn2]上,同步nn1的元数据信息:

$ bin/hdfs namenode -bootstrapStandby

Step4:启动[nn2]:

$ sbin/hadoop-daemon.sh start namenode

Step6:在[nn1]上,启动所有datanode

$ sbin/hadoop-daemons.sh start datanode

Bigdata01

《【原创】七、Hadoop 2.5.2+zookeeper高可用部署》

Bigdata02

《【原创】七、Hadoop 2.5.2+zookeeper高可用部署》

Bigdata03

《【原创】七、Hadoop 2.5.2+zookeeper高可用部署》
《【原创】七、Hadoop 2.5.2+zookeeper高可用部署》
《【原创】七、Hadoop 2.5.2+zookeeper高可用部署》

Kill -9 bigdata01的namenode

《【原创】七、Hadoop 2.5.2+zookeeper高可用部署》

Bigdata02变为active

《【原创】七、Hadoop 2.5.2+zookeeper高可用部署》

上传文件

《【原创】七、Hadoop 2.5.2+zookeeper高可用部署》

三、和ResouceManager Restart功能及配置部署与测试

三台机器yarn-site.xml分配进行配置

《【原创】七、Hadoop 2.5.2+zookeeper高可用部署》

进行yarn启动,并查看yarn的状态

《【原创】七、Hadoop 2.5.2+zookeeper高可用部署》

Kill掉rm1后

《【原创】七、Hadoop 2.5.2+zookeeper高可用部署》

Rm2状态变为active

重启rm1后状态变为standy

《【原创】七、Hadoop 2.5.2+zookeeper高可用部署》


推荐阅读
  • 本文探讨了Hive作业中Map任务数量的确定方式,主要涉及HiveInputFormat和CombineHiveInputFormat两种InputFormat的分片计算逻辑。通过调整相关参数,可以有效控制Map任务的数量,进而优化Hive作业的性能。 ... [详细]
  • 深入解析Hadoop的核心组件与工作原理
    本文详细介绍了Hadoop的三大核心组件:分布式文件系统HDFS、资源管理器YARN和分布式计算框架MapReduce。通过分析这些组件的工作机制,帮助读者更好地理解Hadoop的架构及其在大数据处理中的应用。 ... [详细]
  • 本文详细介绍了使用ZooKeeper构建高可用集群的方法,包括必要的软件环境准备、配置文件调整及集群启动等关键步骤。通常,一个ZooKeeper集群由奇数个节点组成,以确保Leader选举的有效性。 ... [详细]
  • 深入理解Kafka架构
    本文将详细介绍Kafka的内部工作机制,包括其工作流程、文件存储机制、生产者与消费者的具体实现,以及如何通过高效读写技术和Zookeeper支持来确保系统的高性能和稳定性。 ... [详细]
  • 全面解析运维监控:白盒与黑盒监控及四大黄金指标
    本文深入探讨了白盒和黑盒监控的概念,以及它们在系统监控中的应用。通过详细分析基础监控和业务监控的不同采集方法,结合四个黄金指标的解读,帮助读者更好地理解和实施有效的监控策略。 ... [详细]
  • 深入解析Java虚拟机(JVM)架构与原理
    本文旨在为读者提供对Java虚拟机(JVM)的全面理解,涵盖其主要组成部分、工作原理及其在不同平台上的实现。通过详细探讨JVM的结构和内部机制,帮助开发者更好地掌握Java编程的核心技术。 ... [详细]
  • 离线安装Grafana Cloudera Manager插件并监控CDH集群
    本文详细介绍如何离线安装Cloudera Manager (CM) 插件,并通过Grafana监控CDH集群的健康状况和资源使用情况。该插件利用CM提供的API接口进行数据获取和展示。 ... [详细]
  • Python 工具推荐 | PyHubWeekly 第二十一期:提升命令行体验的五大工具
    本期 PyHubWeekly 为大家精选了 GitHub 上五个优秀的 Python 工具,涵盖金融数据可视化、终端美化、国际化支持、图像增强和远程 Shell 环境配置。欢迎关注并参与项目。 ... [详细]
  • 本文档汇总了Python编程的基础与高级面试题目,涵盖语言特性、数据结构、算法以及Web开发等多个方面,旨在帮助开发者全面掌握Python核心知识。 ... [详细]
  • 前言无论是对于刚入行工作还是已经工作几年的java开发者来说,面试求职始终是你需要直面的一件事情。首先梳理自己的知识体系,针对性准备,会有事半功倍的效果。我们往往会把重点放在技术上 ... [详细]
  • window下kafka的安装以及测试
    目录一、安装JDK(需要安装依赖javaJDK)二、安装Kafka三、测试参考在Windows系统上安装消息队列kafka一、安装JDKÿ ... [详细]
  • Kafka Topic 数据管理与清理策略
    本文探讨了在生产环境中如何有效管理和定期清理Kafka Topic中的数据。介绍了基于时间、日志大小和日志起始偏移量三种清除方式,并重点讲解了基于时间的清除策略及其配置方法。 ... [详细]
  • 深入解析Spark核心架构与部署策略
    本文详细探讨了Spark的核心架构,包括其运行机制、任务调度和内存管理等方面,以及四种主要的部署模式:Standalone、Apache Mesos、Hadoop YARN和Kubernetes。通过本文,读者可以深入了解Spark的工作原理及其在不同环境下的部署方式。 ... [详细]
  • 深入解析:主流开源分布式文件系统综述
    本文详细探讨了几款主流的开源分布式文件系统,包括HDFS、MooseFS、Lustre、GlusterFS和CephFS,重点分析了它们的元数据管理和数据一致性机制,旨在为读者提供深入的技术见解。 ... [详细]
  • 构建Filebeat-Kafka-Logstash-ElasticSearch-Kibana日志收集体系
    本文介绍了如何使用Filebeat、Kafka、Logstash、ElasticSearch和Kibana构建一个高效、可扩展的日志收集与分析系统。各组件分别承担不同的职责,确保日志数据能够被有效收集、处理、存储及可视化。 ... [详细]
author-avatar
非策不劃小子白
这个家伙很懒,什么也没留下!
PHP1.CN | 中国最专业的PHP中文社区 | DevBox开发工具箱 | json解析格式化 |PHP资讯 | PHP教程 | 数据库技术 | 服务器技术 | 前端开发技术 | PHP框架 | 开发工具 | 在线工具
Copyright © 1998 - 2020 PHP1.CN. All Rights Reserved | 京公网安备 11010802041100号 | 京ICP备19059560号-4 | PHP1.CN 第一PHP社区 版权所有