HBase查询一张表的数据条数的方法

0、写在前面

• Linux版本&＃xff1a;Ubuntu Kylin 16.04
• Hadoop版本&＃xff1a;Hadoop-2.7.2
• Zookeeper版本&＃xff1a;HBase自带
• HBase版本&＃xff1a;HBase-1.1.5
• Hive版本&＃xff1a;Hive-2.1.0

1、HBase-Shell的count命令

hbase(main):017:0> help &＃39;count&＃39;
Count the number of rows in a table. Return value is the number of rows.
This operation may take a LONG time (Run &＃39;$HADOOP_HOME/bin/hadoop jar
hbase.jar rowcount&＃39; to run a counting mapreduce job). Current count is shown every 1000 rows by default. Count interval may be optionally specified. Scan caching is enabled on count scans by default. Default cache size is 10 rows.If your rows are small in size, you may want to increase this
parameter. Examples:
hbase> count &＃39;ns1:t1&＃39;
hbase> count &＃39;t1&＃39;
hbase> count &＃39;t1&＃39;, INTERVAL &＃61;> 100000
hbase> count &＃39;t1&＃39;, CACHE &＃61;> 1000
hbase> count &＃39;t1&＃39;, INTERVAL &＃61;> 10, CACHE &＃61;> 1000
The same commands also can be run on a table reference. Suppose you had a reference
t to table &＃39;t1&＃39;, the corresponding commands would be:
hbase> t.count
hbase> t.count INTERVAL &＃61;> 100000
hbase> t.count CACHE &＃61;> 1000
hbase> t.count INTERVAL &＃61;> 10, CACHE &＃61;> 1000


可以看到「使用count查询表的数据条数」这个操作可能需要消耗过长时间&＃xff08;运行’$HADOOP_HOME/bin/hadoop jar hbase.jar rowcount’ 来运行计数 mapReduce 作业&＃xff09;。

默认情况下&＃xff0c;当前计数每 1000 行显示一次。可以选择指定计数间隔。默认情况下&＃xff0c;对计数扫描启用扫描缓存。默认缓存大小为 10 行。

2、Scan操作获取数据条数

通过Java API的方式&＃xff0c;使用scan进行全表扫描&＃xff0c;循环计数RowCount&＃xff0c;速度较慢&＃xff01; 但快于第一种count方式&＃xff01;

基本代码如下&＃xff1a;

public void rowCountByScanFilter(String tablename){
long rowCount &＃61; 0;
try {
// 计时
StopWatch stopWatch &＃61; new StopWatch();
stopWatch.start();
TableName name&＃61;TableName.valueOf(tablename);
// connection为类静态变量
Table table &＃61; connection.getTable(name);
Scan scan &＃61; new Scan();
// FirstKeyOnlyFilter只会取得每行数据的第一个kv&＃xff0c;提高count速度
scan.setFilter(new FirstKeyOnlyFilter());

ResultScanner rs &＃61; table.getScanner(scan);
for (Result result : rs) {
rowCount &＃43;&＃61; result.size();
}
stopWatch.stop();
System.out.println("RowCount: " &＃43; rowCount);
System.out.println("统计耗时&＃xff1a;" &＃43;stopWatch.getTotalTimeMillis());
} catch (Throwable e) {
e.printStackTrace();
}
}


3、执行Mapreduce任务

zhangsan&＃64;node01:/usr/local/hbase-1.1.5/bin$ ./hbase org.apache.hadoop.hbase.mapreduce.RowCounter ‘yourtablename’


这种方式效率比第一种要高&＃xff0c;调用的HBase jar中自带的统计行数的类。

4、Hive与HBase整合

我们通过建立Hive和HBase关联表的方式&＃xff0c;可以直接在Hive中执行sql语句统计出HBase表的行数。

• 启动hdfs

zhangsan&＃64;node01:/usr/local/hadoop-2.7.2/sbin$ ./start-dfs.sh


• 启动HBase

zhangsan&＃64;node01:/usr/local/hbase-1.1.5/bin$ ./start-hbase.sh
zhangsan&＃64;node01:/usr/local/hbase/bin$ jps
3648 Jps
2737 DataNode
3555 HRegionServer
2948 SecondaryNameNode
3337 HQuorumPeer
2604 NameNode
3436 HMaster


• 启动hiveserver2服务

zhangsan&＃64;node01:/usr/local/hive-2.1.0/bin$ hiveserver2


• 启动HBase Shell&＃xff0c;建表

zhangsan&＃64;node01:/usr/local/hbase-1.1.5/bin$ hbase shell
# HBase 建表
create &＃39;hbase_hive_test&＃39;, &＃39;cf1&＃39;


• hive建立映射表

zhangsan&＃64;node01:/usr/local/hive-2.1.0/bin$ hive


hive>create table hive_hbase_test(key int,value string)
>stored by &＃39;org.apache.hadoop.hive.hbase.HBaseStorageHandler&＃39;
>with serdeproperties("hbase.columns.mapping"&＃61;":key,cf1:val")
>tblproperties("hbase.table.name"&＃61;"hive_hbase_test");
OK
Time taken: 8.018 seconds


• 在HBase中查看是否存在映射表

hbase(main):001:0> list
TABLE
hive_hbase_test
1 row(s) in 0.6800 seconds
&＃61;> ["hive_hbase_test"]


5、协处理器Coprocessor实现

该方法是目前最快实现「查询一张表的数据条数」的方法

为什么利用协处理器后速度会如此之快&＃xff1f;

Table注册了Coprocessor之后&＃xff0c;在执行AggregationClient的时候&＃xff0c;会将RowCount分散到Table的每一个Region上&＃xff0c;Region内RowCount的计算&＃xff0c;是通过RPC执行调用接口&＃xff0c;由Region对应的RegionServer执行InternalScanner进行的。

因此&＃xff0c;性能的提升有两点原因:

1.分布式统计。将原来客户端按照Rowkey的范围单点进行扫描&＃xff0c;然后统计的方式&＃xff0c;换成了由所有Region所在RegionServer同时计算的过程。

2.使用了在RegionServer内部执行使用了InternalScanner。这是距离实际存储最近的Scanner接口&＃xff0c;存取更加快捷。

public void rowCountByCoprocessor(String tablename){
try {
//提前创建connection和conf
Admin admin &＃61; connection.getAdmin();
TableName name&＃61;TableName.valueOf(tablename);
//先disable表&＃xff0c;添加协处理器后再enable表
admin.disableTable(name);
HTableDescriptor descriptor &＃61; admin.getTableDescriptor(name);
String coprocessorClass &＃61; "org.apache.hadoop.hbase.coprocessor.AggregateImplementation";
if (! descriptor.hasCoprocessor(coprocessorClass)) {
descriptor.addCoprocessor(coprocessorClass);
}
admin.modifyTable(name, descriptor);
admin.enableTable(name);
//计时
StopWatch stopWatch &＃61; new StopWatch();
stopWatch.start();
Scan scan &＃61; new Scan();
AggregationClient aggregationClient &＃61; new AggregationClient(conf);
System.out.println("RowCount: " &＃43; aggregationClient.rowCount(name, new LongColumnInterpreter(), scan));
stopWatch.stop();
System.out.println("统计耗时&＃xff1a;" &＃43;stopWatch.getTotalTimeMillis());
} catch (Throwable e) {
e.printStackTrace();
}
}


6、参考资料

• 参考1