热门标签 | HotTags
当前位置:  开发笔记 > 编程语言 > 正文

安装HBase2.4.12(hadoop3.3.1)

1.下载https:www.apache.orgdyncloser.luahbase2.4.12hbase-2.4.12-bin.tar.gz节点角色配置节点MasterZoo

1. 下载

https://www.apache.org/dyn/closer.lua/hbase/2.4.12/hbase-2.4.12-bin.tar.gz
在这里插入图片描述
节点角色配置

节点MasterZooKeeperRegionServer
node001yesyesyes
node002backupyesyes
node003noyesyes

2. 解压下载的文件,并切换到新创建的目录。

(base) [root@node001 bao]# tar -zxvf hbase-2.4.12-bin.tar.gz -C ../src
(base) [root@node001 bao]# cd ../src/hbase-2.4.12/conf

3. 配置hbase-env.sh

(base) [root@node001 conf]# $JAVA_HOME
-bash: /usr/local/java: 是一个目录
(base) [root@node001 conf]# vim hbase-env.shexport JAVA_HOME=/usr/local/java/
export HBASE_DISABLE_HADOOP_CLASSPATH_LOOKUP="true"
export HBASE_CLASSPATH=/opt/src/hadoop-3.3.1/etc/hadoop/
export HBASE_MANAGES_ZK=false

4. 配置hbase-site.xml

<property><name>hbase.cluster.distributed</name><value>true</value></property><property><name>hbase.rootdir</name><value>hdfs://node001:8020/hbase</value></property><property><name>hbase.zookeeper.quorum</name><value>node001,node002,node003</value></property><property><name>hbase.zookeeper.property.dataDir</name><value>/tmp/zookeeper/data</value></property><property><name>hbase.unsafe.stream.capability.enforce</name><value>false</value></property>

在这里插入图片描述

5. 配置regionservers

(base) [root&#64;node001 conf]# vim regionservers
(base) [root&#64;node001 conf]# cat regionservers
node001.djin.com
node002.djin.com
node003.djin.com

6 配置备主节点

(base) [root&#64;node001 conf]# pwd
/opt/src/hbase-2.4.12/conf
(base) [root&#64;node001 conf]# touch backup-masters
(base) [root&#64;node001 conf]# echo node002> backup-masters

7. 配置环境变量

(base) [root&#64;node001 hbase-2.4.12]# vim ~/.bashrc
#set HBASE_HOME
export HBASE_HOME&#61;/opt/src/hbase-2.4.12
export PATH&#61; $PATH:$HBASE_HOME/bin

8. 链接hadoop配置

(base) [root&#64;node001 ~]# ln -s $HADOOP_HOME/etc/hadoop/core-site.xml $HBASE_HOME/conf/core-site.xml
(base) [root&#64;node001 ~]# ln -s $HADOOP_HOME/etc/hadoop/hdfs-site.xml $HBASE_HOME/conf/hdfs-site.xml

9. 同步配置到其他节点


9.1 同步环境变量

(base) [root&#64;node001 hbase-2.4.12]# pscp -h /node.list ~/.bashrc ~/

在这里插入图片描述
到各节点激活配置

source ~/.bashrc

9.2 同步包及配置

(base) [root&#64;node001 src]# pscp -h /node.list -r /opt/src/hbase-2.4.12 /opt/src/

在这里插入图片描述

10. 启动


10.1 启动 hadoop

(base) [root&#64;node001 bin]# cat myhadoop.sh
#!/bin/bashif [$# -lt 1]
thenecho "No Args Input..."exit;
ficase $1 in
"start")echo "&#61;&#61;&#61;&#61;&#61;&#61;&#61;&#61;&#61;&#61;&#61;&#61;&#61;&#61;&#61;&#61;&#61;启动Hadoop集群&#61;&#61;&#61;&#61;&#61;&#61;&#61;&#61;&#61;&#61;&#61;&#61;&#61;&#61;&#61;"echo "-----------------启动hdfs----------------"ssh node001 "/opt/src/hadoop-3.3.1/sbin/start-dfs.sh"sleep 5echo "-----------------启动yarn----------------"ssh node002 "/opt/src/hadoop-3.3.1/sbin/start-yarn.sh"sleep 5echo "-----------------启动historyserver----------------"ssh node001 "/opt/src/hadoop-3.3.1/bin/mapred --daemon start historyserver"sleep 5
;;
"stop")echo "&#61;&#61;&#61;&#61;&#61;&#61;&#61;&#61;&#61;&#61;&#61;&#61;&#61;&#61;&#61;&#61;&#61;关闭Hadoop集群&#61;&#61;&#61;&#61;&#61;&#61;&#61;&#61;&#61;&#61;&#61;&#61;&#61;&#61;&#61;"echo "-----------------关闭historyserver----------------"ssh node001 "/opt/src/hadoop-3.3.1/bin/mapred --daemon stop historyserver"sleep 5echo "-----------------关闭yarn----------------"ssh node002 "/opt/src/hadoop-3.3.1/sbin/stop-yarn.sh"sleep 5echo "-----------------关闭hdfs----------------"ssh node001 "/opt/src/hadoop-3.3.1/sbin/stop-dfs.sh"sleep 5
;;
*)echo "Input Args Error.."
;;
esac
(base) [root&#64;node001 bin]# myhadoop.sh start

10.2 启动zookeeper

(base) [root&#64;node001 data]# cat /home/djin/bin/start-zk-all
#! /bin/bash
for host in node001 node002 node003
do
ssh $host "/opt/src/zookeeper-3.6.3/bin/zkServer.sh start"
echo "$host zkServer is running"
done
(base) [root&#64;node001 data]# start-zk-all
(base) [root&#64;node001 data]# jps
8576 DataNode
9475 JobHistoryServer
8309 NameNode
9175 NodeManager
28008 QuorumPeerMain
28095 Jps

10.3 启动hbase

(base) [root&#64;node001 ssh]# start-hbase.sh

错误1&#xff1a;如报Host key verification failed 错误 解决Host key verification failed
错误2&#xff1a;未能在hdfs上创建/hbase目录

  1. 查看日志

(base) [root&#64;node001 ~]# vim $HBASE_HOME/logs/hbase-root-master-node001.djin.com.logutil.FSUtils: Waiting for dfs to exit safe mode...

  1. 百度一把发现时hadoop处于安全模式&#xff0c;创建不了目录

(base) [root&#64;node001 ~]# hdfs dfsadmin -safemode get
Safe mode is ON

  1. 关闭安全模式&#xff0c;之后就可以成功创建hdfs目录/hbase

(base) [root&#64;node001 ~]# hadoop dfsadmin -safemode leave
(base) [root&#64;node001 ~]# hdfs dfsadmin -safemode get
Safe mode is OFF

11.启动hbase shell测试

hbase shell启动失败解决
问题解决后启动测试

(base) [root&#64;node001 lib]# hbase shell
2022-05-23 22:34:43,074 WARN [main] util.NativeCodeLoader: Unable to load native-hadoop library for your platform... using builtin-java classes where applicable
HBase Shell
Use "help" to get list of supported commands.
Use "exit" to quit this interactive shell.
For Reference, please visit: http://hbase.apache.org/2.0/book.html#shell
Version 2.4.12, r8382f55b15be6ae190f8d202a5e6a40af177ec76, Fri Apr 29 19:34:27 PDT 2022
Took 0.0010 seconds
hbase:001:0> exit
(base) [root&#64;node001 lib]# hbase shell
2022-05-23 22:49:45,386 WARN [main] util.NativeCodeLoader: Unable to load native-hadoop library for your platform... using builtin-java classes where applicable
HBase Shell
Use "help" to get list of supported commands.
Use "exit" to quit this interactive shell.
For Reference, please visit: http://hbase.apache.org/2.0/book.html#shell
Version 2.4.12, r8382f55b15be6ae190f8d202a5e6a40af177ec76, Fri Apr 29 19:34:27 PDT 2022
Took 0.0011 seconds
hbase:001:0> create &#39;test&#39;, &#39;cf&#39;
Created table test
Took 0.9043 seconds
&#61;> Hbase::Table - test
hbase:002:0> list &#39;test&#39;
TABLE
test
1 row(s)
Took 0.0175 seconds
&#61;> ["test"]
hbase:003:0> describe &#39;test&#39;
Table test is ENABLED
test
COLUMN FAMILIES DESCRIPTION
{NAME &#61;> &#39;cf&#39;, BLOOMFILTER &#61;> &#39;ROW&#39;, IN_MEMORY &#61;> &#39;false&#39;, VERSIONS &#61;> &#39;1&#39;, KEEP_DELETED_CELLS &#61;> &#39;FALSE&#39;, DATA_BLOCK_ENCODING &#61;>
&#39;NONE&#39;, COMPRESSION &#61;> &#39;NONE&#39;, TTL &#61;> &#39;FOREVER&#39;, MIN_VERSIONS &#61;> &#39;0&#39;, BLOCKCACHE &#61;> &#39;true&#39;, BLOCKSIZE &#61;> &#39;65536&#39;, REPLICATION_SCOP
E &#61;> &#39;0&#39;}1 row(s)
Quota is disabled
Took 0.0877 seconds
hbase:004:0> put &#39;test&#39;, &#39;row1&#39;, &#39;cf:a&#39;, &#39;value1&#39;
Took 0.0573 seconds
hbase:005:0> put &#39;test&#39;, &#39;row2&#39;, &#39;cf:b&#39;, &#39;value2&#39;
Took 0.0056 seconds
hbase:006:0> put &#39;test&#39;, &#39;row3&#39;, &#39;cf:c&#39;, &#39;value3&#39;
Took 0.0091 seconds
hbase:007:0> scan &#39;test&#39;
ROW COLUMN&#43;CELLrow1 column&#61;cf:a, timestamp&#61;2022-05-23T22:52:42.123, value&#61;value1row2 column&#61;cf:b, timestamp&#61;2022-05-23T22:52:53.079, value&#61;value2row3 column&#61;cf:c, timestamp&#61;2022-05-23T22:53:04.220, value&#61;value3
3 row(s)
Took 0.0212 seconds
hbase:008:0> get &#39;test&#39;, &#39;row1&#39;
COLUMN CELLcf:a timestamp&#61;2022-05-23T22:52:42.123, value&#61;value1
1 row(s)
Took 0.5428 seconds
hbase:009:0> disable &#39;test&#39;
Took 0.3357 seconds
hbase:010:0> enable &#39;test&#39;
Took 0.6361 seconds
hbase:011:0> disable &#39;test&#39;
Took 0.3328 seconds
hbase:012:0> drop &#39;test&#39;
Took 0.1287 seconds


推荐阅读
  • HBase在金融大数据迁移中的应用与挑战
    随着最后一台设备的下线,标志着超过10PB的HBase数据迁移项目顺利完成。目前,新的集群已在新机房稳定运行超过两个月,监控数据显示,新集群的查询响应时间显著降低,系统稳定性大幅提升。此外,数据消费的波动也变得更加平滑,整体性能得到了显著优化。 ... [详细]
  • 本文介绍了如何使用Flume从Linux文件系统收集日志并存储到HDFS,然后通过MapReduce清洗数据,使用Hive进行数据分析,并最终通过Sqoop将结果导出到MySQL数据库。 ... [详细]
  • Hadoop的文件操作位于包org.apache.hadoop.fs里面,能够进行新建、删除、修改等操作。比较重要的几个类:(1)Configurati ... [详细]
  • Hadoop平台警告解决:无法加载本机Hadoop库的全面应对方案
    本文探讨了在Hadoop平台上遇到“无法加载本机Hadoop库”警告的多种解决方案。首先,通过修改日志配置文件来忽略该警告,这一方法被证明是有效的。其次,尝试指定本地库的路径,但未能解决问题。接着,尝试不使用Hadoop本地库,同样没有效果。然后,通过替换现有的Hadoop本地库,成功解决了问题。最后,根据Hadoop的源代码自行编译本地库,也达到了预期的效果。以上方法适用于macOS系统。 ... [详细]
  • Amoeba 通过优化 MySQL 的读写分离功能显著提升了数据库性能。作为一款基于 MySQL 协议的代理工具,Amoeba 能够高效地处理应用程序的请求,并根据预设的规则将 SQL 请求智能地分配到不同的数据库实例,从而实现负载均衡和高可用性。该方案不仅提高了系统的并发处理能力,还有效减少了主数据库的负担,确保了数据的一致性和可靠性。 ... [详细]
  • 第二章:Kafka基础入门与核心概念解析
    本章节主要介绍了Kafka的基本概念及其核心特性。Kafka是一种分布式消息发布和订阅系统,以其卓越的性能和高吞吐量而著称。最初,Kafka被设计用于LinkedIn的活动流和运营数据处理,旨在高效地管理和传输大规模的数据流。这些数据主要包括用户活动记录、系统日志和其他实时信息。通过深入解析Kafka的设计原理和应用场景,读者将能够更好地理解其在现代大数据架构中的重要地位。 ... [详细]
  • HBase Java API 进阶:过滤器详解与应用实例
    本文详细探讨了HBase 1.2.6版本中Java API的高级应用,重点介绍了过滤器的使用方法和实际案例。首先,文章对几种常见的HBase过滤器进行了概述,包括列前缀过滤器(ColumnPrefixFilter)和时间戳过滤器(TimestampsFilter)。此外,还详细讲解了分页过滤器(PageFilter)的实现原理及其在大数据查询中的应用场景。通过具体的代码示例,读者可以更好地理解和掌握这些过滤器的使用技巧,从而提高数据处理的效率和灵活性。 ... [详细]
  • Zookeeper作为Apache Hadoop生态系统中的一个重要组件,主要致力于解决分布式应用中的常见数据管理难题。它提供了统一的命名服务、状态同步服务以及集群管理功能,有效提升了分布式系统的可靠性和可维护性。此外,Zookeeper还支持配置管理和临时节点管理,进一步增强了其在复杂分布式环境中的应用价值。 ... [详细]
  • 在搭建Hadoop集群以处理大规模数据存储和频繁读取需求的过程中,经常会遇到各种配置难题。本文总结了作者在实际部署中遇到的典型问题,并提供了详细的解决方案,帮助读者避免常见的配置陷阱。通过这些经验分享,希望读者能够更加顺利地完成Hadoop集群的搭建和配置。 ... [详细]
  • Hadoop 2.6 主要由 HDFS 和 YARN 两大部分组成,其中 YARN 包含了运行在 ResourceManager 的 JVM 中的组件以及在 NodeManager 中运行的部分。本文深入探讨了 Hadoop 2.6 日志文件的解析方法,并详细介绍了 MapReduce 日志管理的最佳实践,旨在帮助用户更好地理解和优化日志处理流程,提高系统运维效率。 ... [详细]
  • 构建高可用性Spark分布式集群:大数据环境下的最佳实践
    在构建高可用性的Spark分布式集群过程中,确保所有节点之间的无密码登录是至关重要的一步。通过在每个节点上生成SSH密钥对(使用 `ssh-keygen -t rsa` 命令并保持默认设置),可以实现这一目标。此外,还需将生成的公钥分发到所有节点的 `~/.ssh/authorized_keys` 文件中,以确保节点间的无缝通信。为了进一步提升集群的稳定性和性能,建议采用负载均衡和故障恢复机制,并定期进行系统监控和维护。 ... [详细]
  • 技术日志:深入探讨Spark Streaming与Spark SQL的融合应用
    技术日志:深入探讨Spark Streaming与Spark SQL的融合应用 ... [详细]
  • 在Linux系统中,原本已安装了多个版本的Python 2,并且还安装了Anaconda,其中包含了Python 3。本文详细介绍了如何通过配置环境变量,使系统默认使用指定版本的Python,以便在不同版本之间轻松切换。此外,文章还提供了具体的实践步骤和注意事项,帮助用户高效地管理和使用不同版本的Python环境。 ... [详细]
  • 在Java编程中,初始化List集合有多种高效的方法。本文介绍了六种常见的技术,包括使用常规方式、Arrays.asList、Collections.addAll、Java 8的Stream API、双重大括号初始化以及使用List.of。每种方法都有其特定的应用场景和优缺点,开发者可以根据实际需求选择最合适的方式。例如,常规方式通过直接创建ArrayList对象并逐个添加元素,适用于需要动态修改列表的情况;而List.of则提供了一种简洁的不可变列表初始化方式,适合于固定数据集的场景。 ... [详细]
  • Presto:高效即席查询引擎的深度解析与应用
    本文深入解析了Presto这一高效的即席查询引擎,详细探讨了其架构设计及其优缺点。Presto通过内存到内存的数据处理方式,显著提升了查询性能,相比传统的MapReduce查询,不仅减少了数据传输的延迟,还提高了查询的准确性和效率。然而,Presto在大规模数据处理和容错机制方面仍存在一定的局限性。本文还介绍了Presto在实际应用中的多种场景,展示了其在大数据分析领域的强大潜力。 ... [详细]
author-avatar
手机用户2502871065
这个家伙很懒,什么也没留下!
PHP1.CN | 中国最专业的PHP中文社区 | DevBox开发工具箱 | json解析格式化 |PHP资讯 | PHP教程 | 数据库技术 | 服务器技术 | 前端开发技术 | PHP框架 | 开发工具 | 在线工具
Copyright © 1998 - 2020 PHP1.CN. All Rights Reserved | 京公网安备 11010802041100号 | 京ICP备19059560号-4 | PHP1.CN 第一PHP社区 版权所有