热门标签 | HotTags
当前位置:  开发笔记 > 编程语言 > 正文

Hbase学习笔记(安装和基础知识及操作)

参考书籍:Hadoopinaction,吴超沉思录1.Hbase简介1.面向列的分布式数据库2.以HDFS作为文件系统3.利用MapReduce处理Hbase中海量数据4.Zo

参考书籍: Hadoop in action, 吴超沉思录

1.Hbase简介

  1.面向列的分布式数据库

  2. 以HDFS作为文件系统

  3. 利用MapReduce处理Hbase中海量数据

  4. ZookKeeper作为协调工具

  5. sqoop提供Hbase到关系型数据库中数据导入功能

  6. Hive和pig提供高层语言支持如HSQL

 

2. 伪分布式安装

   准备: 安装Hadoop 详细见上一篇日志:hadoop分布式安装

   hbase版本:hbase-0.94.7-security.tar.gz

   安装目录 /usr/local

   步骤:

    1.  安装 tar -zxvf hbase-0.94.7-security.tar.gz 

    2. 重命名: mv hbase-0.94.7-security hbase

    3. 配置环境变量hbase_home  (vi /etc/profile)

    4. 修改配置文件

 

1. hbase_home/conf/hbase_env.sh

    修改java_home export 
    JAVA_HOME=/usr/local/jdk/

    修改zookeeper(最后一行)
    export HBASE_MANAGES_ZK=true(使用Hbase托管的ZooKeeper)


2. hbase_home/conf/hbase-site.xml文件
    
    configuration 中加入:

<property>  
  <name>hbase.rootdirname>  
  <value>hdfs://hadoop0:9000/hbasevalue>
property>
<property>
  <name>hbase.cluster.distributedname>
  <value>truevalue>
property>
<property>
  <name>hbase.zookeeper.quorumname>
  <value>hadoop0value>
property>
<property>
  <name>dfs.replicationname>
  <value>1value>
property>

 

    5. 启动hbase

      先启动hadoop(start-all.sh)

      启用hbase (start-hbase.sh)

      jps查看进程 (HMaster,HRegionServer, HQuorumPeer)

      http://hadoop0:60010可以查看管理界面,如下:

,

   

    6. 进程说明:

     HMaster: 管理Hbase table的DDL操作

          给region分配工作

     HResionServer: 原则上每个slave对应一个HRegionServer

     HQuorumPeer: ZooKeeper的守护进程,此处我们使用的是Hbase内置的ZooKeeper(在hbase-env.sh中有配置)

      

3. 分布式安装

   准备条件: hadoop分布式环境已安装,查看hadoop分布式安装

         hadoop0主机上hbase伪分布已安装完成

   安装:

   1. scp -rp /usr/local/hbase hadoop1:/usr/local

   2. 在hadoop0上更改hbase_home/conf/regionservers 将localhost更改为hadoop1

   3. 在hadoop0上启动hbase

   4. jps查看,如下:

    hadoop0上进程:

,

    , 

   hadoop1上进程:

  ,

  同理可通过 hostname:60010访问hbase管理界面,同分布式安装部分

4. 数据模型

  1. Hbase数据库采用了和Bigtable非常类似的数据类型,表格是稀疏的;

  1. row key 行键,table的主键

  2. timestamp 时间戳,数据操作时对应的时间戳,可以看成数据的version number

  3. Column Family 列簇,每个family可以由任意多个column组成,列名是<族名>:<标签>形式;一个表格的族名时固定的,除非使用管理员权限来改变表格的族名; 不过可以在任何时候添加新的标签;

    eg:course对于表来说是一个有两个列的列族(该列族由两个列组成math和art);

 

rowkey

name

TimeStamp

course

math

art

wish

wish

t1

t2

t3

97

93

97

98

76

99

rain

rain

t4

100

90

 

     4.两张特殊的表  -ROOT- 和 .META.

  作用如下:(即-ROOT-记录.META.的region信息,.META.记录用户表的region信息)

  ,

 

  关系如下:

    ,

 

 

 

基本操作

  (注意操作后不要加分号,习惯了sql,总是在后面加分号,然后发现执行语句后都一直没有反应,去掉分号后成功)

  (表名和列名都需要加引号,不区分单双引号) 

  Hbase shell,是Hbase的命令行工具,命令行中执行hbase shell即可进入hbase shell命令行 

  1) list  查看hbase中所有表

  2) 创建表: 

    create ‘表名‘,‘列簇1‘,‘列簇2‘....

create student, name,grade,course

  在管理界面中查看student

,

 

  3)describe 查看表结构

    describe ‘表名‘

 

   eg: describe ‘student‘

hbase(main):003:0> describe "student"
DESCRIPTION                                          ENABLED
 student, {NAME => course, DATA_BLOCK_ENCODING = true
 > NONE, BLOOMFILTER => NONE, REPLICATION_SCOPE
 => 0, VERSIONS => 3, COMPRESSION => NONE, MIN
 _VERSIONS => 0, TTL => 2147483647, KEEP_DELETED
 _CELLS => false, BLOCKSIZE => 65536, IN_MEMORY
 => false, ENCODE_ON_DISK => true, BLOCKCACHE =>
  true}, {NAME => grade, DATA_BLOCK_ENCODING =>
 NONE, BLOOMFILTER => NONE, REPLICATION_SCOPE =>
  0, VERSIONS => 3, COMPRESSION => NONE, MIN_V
 ERSIONS => 0, TTL => 2147483647, KEEP_DELETED_C
 ELLS => false, BLOCKSIZE => 65536, IN_MEMORY =>
  false, ENCODE_ON_DISK => true, BLOCKCACHE => 
 true}, {NAME => name, DATA_BLOCK_ENCODING => NO
 NE, BLOOMFILTER => NONE, REPLICATION_SCOPE => 0
 , VERSIONS => 3, COMPRESSION => NONE, MIN_VERS
 IONS => 0, TTL => 2147483647, KEEP_DELETED_CELL
 S => false, BLOCKSIZE => 65536, IN_MEMORY => f
 alse, ENCODE_ON_DISK => true, BLOCKCACHE => tru
 e}

  

 

    4)插入数据和查看数据

   put ‘表名‘,‘行键名‘,‘列名‘,‘value‘,‘列名2‘,‘value2‘,‘family:列名1‘,‘value3‘.......

put student,wish,name:,wish

    查询数据:

   get ‘表名‘,‘行名‘

get student,wish

 

,

 

  插入更多数据

hbase(main):004:0> put student,wish,course:English,100


hbase(main):005:0> put student,wish,course:Chinese,60


hbase(main):006:0> put student,rain,course:Chinese,100


hbase(main):007:0> put student,rain,course:English,200

 

  查看表中数据: scan ‘student‘

,

 

  其他get例子:

get student,wish,course

get student,wish,[‘course‘]

get student,wish,[‘course‘,‘name‘]

 

 

  5)删除数据 

delete student,wish,course:Math

 

  6)删除表

    需停止表的可用性,再删除表   

disable studentdrop student

 

  7) 统计行数

  

count student

 

 

 

Hbase学习笔记(安装和基础知识及操作),,

Hbase学习笔记(安装和基础知识及操作)


推荐阅读
  • 本文介绍了lua语言中闭包的特性及其在模式匹配、日期处理、编译和模块化等方面的应用。lua中的闭包是严格遵循词法定界的第一类值,函数可以作为变量自由传递,也可以作为参数传递给其他函数。这些特性使得lua语言具有极大的灵活性,为程序开发带来了便利。 ... [详细]
  • 基于layUI的图片上传前预览功能的2种实现方式
    本文介绍了基于layUI的图片上传前预览功能的两种实现方式:一种是使用blob+FileReader,另一种是使用layUI自带的参数。通过选择文件后点击文件名,在页面中间弹窗内预览图片。其中,layUI自带的参数实现了图片预览功能。该功能依赖于layUI的上传模块,并使用了blob和FileReader来读取本地文件并获取图像的base64编码。点击文件名时会执行See()函数。摘要长度为169字。 ... [详细]
  • 本文介绍了C#中数据集DataSet对象的使用及相关方法详解,包括DataSet对象的概述、与数据关系对象的互联、Rows集合和Columns集合的组成,以及DataSet对象常用的方法之一——Merge方法的使用。通过本文的阅读,读者可以了解到DataSet对象在C#中的重要性和使用方法。 ... [详细]
  • 知识图谱——机器大脑中的知识库
    本文介绍了知识图谱在机器大脑中的应用,以及搜索引擎在知识图谱方面的发展。以谷歌知识图谱为例,说明了知识图谱的智能化特点。通过搜索引擎用户可以获取更加智能化的答案,如搜索关键词"Marie Curie",会得到居里夫人的详细信息以及与之相关的历史人物。知识图谱的出现引起了搜索引擎行业的变革,不仅美国的微软必应,中国的百度、搜狗等搜索引擎公司也纷纷推出了自己的知识图谱。 ... [详细]
  • 本文讲述了作者通过点火测试男友的性格和承受能力,以考验婚姻问题。作者故意不安慰男友并再次点火,观察他的反应。这个行为是善意的玩人,旨在了解男友的性格和避免婚姻问题。 ... [详细]
  • 本文详细介绍了Linux中进程控制块PCBtask_struct结构体的结构和作用,包括进程状态、进程号、待处理信号、进程地址空间、调度标志、锁深度、基本时间片、调度策略以及内存管理信息等方面的内容。阅读本文可以更加深入地了解Linux进程管理的原理和机制。 ... [详细]
  • 1,关于死锁的理解死锁,我们可以简单的理解为是两个线程同时使用同一资源,两个线程又得不到相应的资源而造成永无相互等待的情况。 2,模拟死锁背景介绍:我们创建一个朋友 ... [详细]
  • 后台获取视图对应的字符串
    1.帮助类后台获取视图对应的字符串publicclassViewHelper{将View输出为字符串(注:不会执行对应的ac ... [详细]
  • 《数据结构》学习笔记3——串匹配算法性能评估
    本文主要讨论串匹配算法的性能评估,包括模式匹配、字符种类数量、算法复杂度等内容。通过借助C++中的头文件和库,可以实现对串的匹配操作。其中蛮力算法的复杂度为O(m*n),通过随机取出长度为m的子串作为模式P,在文本T中进行匹配,统计平均复杂度。对于成功和失败的匹配分别进行测试,分析其平均复杂度。详情请参考相关学习资源。 ... [详细]
  • 本文介绍了通过ABAP开发往外网发邮件的需求,并提供了配置和代码整理的资料。其中包括了配置SAP邮件服务器的步骤和ABAP写发送邮件代码的过程。通过RZ10配置参数和icm/server_port_1的设定,可以实现向Sap User和外部邮件发送邮件的功能。希望对需要的开发人员有帮助。摘要长度:184字。 ... [详细]
  • 动态规划算法的基本步骤及最长递增子序列问题详解
    本文详细介绍了动态规划算法的基本步骤,包括划分阶段、选择状态、决策和状态转移方程,并以最长递增子序列问题为例进行了详细解析。动态规划算法的有效性依赖于问题本身所具有的最优子结构性质和子问题重叠性质。通过将子问题的解保存在一个表中,在以后尽可能多地利用这些子问题的解,从而提高算法的效率。 ... [详细]
  • Java验证码——kaptcha的使用配置及样式
    本文介绍了如何使用kaptcha库来实现Java验证码的配置和样式设置,包括pom.xml的依赖配置和web.xml中servlet的配置。 ... [详细]
  • 高质量SQL书写的30条建议
    本文提供了30条关于优化SQL的建议,包括避免使用select *,使用具体字段,以及使用limit 1等。这些建议是基于实际开发经验总结出来的,旨在帮助读者优化SQL查询。 ... [详细]
  • 本文介绍了指针的概念以及在函数调用时使用指针作为参数的情况。指针存放的是变量的地址,通过指针可以修改指针所指的变量的值。然而,如果想要修改指针的指向,就需要使用指针的引用。文章还通过一个简单的示例代码解释了指针的引用的使用方法,并思考了在修改指针的指向后,取指针的输出结果。 ... [详细]
  • 在project.properties添加#Projecttarget.targetandroid-19android.library.reference.1..Sliding ... [详细]
author-avatar
平凡小迪
这个家伙很懒,什么也没留下!
PHP1.CN | 中国最专业的PHP中文社区 | DevBox开发工具箱 | json解析格式化 |PHP资讯 | PHP教程 | 数据库技术 | 服务器技术 | 前端开发技术 | PHP框架 | 开发工具 | 在线工具
Copyright © 1998 - 2020 PHP1.CN. All Rights Reserved | 京公网安备 11010802041100号 | 京ICP备19059560号-4 | PHP1.CN 第一PHP社区 版权所有