0
点赞
收藏
分享

微信扫一扫

Hadoop学习---Hadoop的HBase的学习

云岭逸人 2022-02-21 阅读 162

大数据学习---Hadoop的HBase的学习


Hbase

Hbase的特点:


Hbase是bigtable的开源的仿制版本

建立在HDFS之上

可靠性,靠性能

大:一个表可以有上亿行,上百万列

面向列:面向列(族)的存储和权限控制,列(族)独立检索。

稀疏:对于为空(null)的列,并不占用空间,因此,表可以设计的非常稀疏。

列存储

可伸缩

时间戳

不可修改数据


Hbase的检索:


Row Key访问:

      通过单个row key访问

      通过row key的range

      全表扫描

Row key行健(Row key)可以是任意字符串(最大长度是63KB,实际应用中长度一般为10-100bytes),在hbase内部,row key保存为字节数组。

存储时,数据按照Row key的字典序(byte order)排序村存储。


Hbase列族


Hbase表中的每个列,都归属与某个列族

列族是表的一部分(而列不是),必须在使用表之前定义

列名都以列族作为前缀。例如:course:history , course:math

都属于courses这个列族

Hbase的数据单元cell由{row key,column( =<family> + <label> ),version}唯一确定的单元

cell中的数据是没有类型的,全部是字节码形式存贮。


Hbase的数据存储


每个cell都保存同一份数据的多个版本。版本通过时间戳来索引。

时间戳可以有hbase(在数据写入时自动)赋值,此时时间戳是精确到毫秒的当前系统时间。

时间戳也可以由客户显示赋值。如果应用程序要避免数据版本冲突,就必须自己生成唯一性的时间戳。每个cell中,不同版本的数据按照时间倒序排序,及最新的数据排在最前面。

hbase提供了两种数据版本回收方式,一是保存数据的最后n个版本,二是保存最近一段时间内的版本(比如最近十天)。用户可以针对每个列族进行设置。


Hbase的物理存储


Table中的所有行都按照row key的字典序进行排列。

Table在行的方向上分割为多个Hregion


Hbase的存储


Region按大小分割的,每个表一开始只有一个region,随着数据不断插入表,region不断增大,当增大到一个阈值的时候,Hregion就会等分为两个新的Hregion。当table中的行不断增多,就会有越来越多的Hregion。


Hbase的特点详解


Hregion是Hbase中分布式存储和负载均衡的最小单元。最小单元就表示不同的Hregion可以分布在不同的HRegion server上,但一个Hregion是不会拆分到多个server上。

HRegion虽然是分布式存储的最小单元,单并不是存储的最小单元。

事实上,HRegion由一个或者多个Store组成,每个store保存一个columns family。

每个Store又由memStore和0至多个StoreFile组成。

StoreFile以HFile格式存储在HDFS上。


Hadoop学习---Hadoop的HBase的学习_Hadoop​​

Zookeeper作用


保证任何时候,集群中只有一个master。

存贮所有Region的寻址入口。

实时监控Region Server的状态,将Region server的上线和下线信息实时通知给Master。

存储Hbase的schema,包括有哪些table,每个table有哪些column family。


Master的作用


Master为Region server分配region

负责region server的负载均衡

发现失效的region server并重新分配其上的region

GFS上的垃圾文件回收

处理schema更新请求


Region Server的作用


Region Server维护Master分配给它的region,处理对这些region的IO请求

Region server负责切分在运行过程中变得过大的region

可以看到,client访问hbase上数据的过程并不需要master参与(寻址访问zookeeper和region server,数据读写访问region server),master仅仅维护着table和region的元数据信息,负载很低。


访问hbase接口


HBase Shell

Java API

Thrift Gateway

REST Gateway

Pig

Hive


Hbase配置

【更多参考】

  大数据学习---Zookeeper+Hbase配置学习

Hbase shell

HBase为用户提供了一个非常方便的使用方式,我们称之为“HBase Shell”。HBase Shell提供了大多数的HBase命令,通过HBase Shell用户可以方便的创建、删除及修改表,还可以向表中添加数据、列出表中的相关信息等。

在启动HBase之后,用户可以通过下面的命令进入HBase Shell之中,命令./hbase shell

Hadoop学习---Hadoop的HBase的学习_数据_02​​

HBase Shell命令:


hbase shell命令



描述



alter



修改列族(column family)模式



count



统计表中行的数量



create



创建表



describe



显示表相关的详细信息



delete



删除指定对象的值(可以为表,行,列对应的值,另外也可以指定时间戳的值)



deleteall



删除指定行的所有元素值



disable



使表无效



drop



删除表



enable



使表有效



exists



测试表是否存在



exit



退出hbase shell



get



获取行或单元(cell)的值



incr



增加指定表,行或列的值



list



列出hbase中存在的所有表



put



向指向的表单元添加值



tools



列出hbase所支持的工具



scan



通过对表的扫描来获取对用的值



status



返回hbase集群的状态信息



shutdown



关闭hbase集群(与exit不同)



truncate



重新创建指定表



version



返回hbase版本信息


下面我们将以“一个学生成绩表”的例子详细介绍常用HBase命令及其使用方法。

Hadoop学习---Hadoop的HBase的学习_数据_03​​

这里grad对于表来说是一个列,course对于表来说是一个列族,这个列族由三个列组成china、math和english,当然我们可以根据我们的需要在course中建立更多的列族,如computer,physics等相应的列添加入course列族。(备注:列族下面的列也是可以没有名字的。)

1、create命令

# 创建一个具有两个列族“grad”和“course”的表“scores”。其中表名、行和列都要用单引号括起来,并以逗号隔开。
create ‘scores’,’name’,’grad’,’course’

2、list命令

# 查看当前HBase中具有哪些表。
list ‘scores’

3、put命令

put ‘scores','xiapi','grade:','1’ 
put ‘scores','xiapi','course:china','97’
put ‘scores','xiapi','course:math','128’
put ‘scores','xiapi','course:english','85’
put ‘scores','xiaoxue','grade:','2’
put ‘scores','xiaoxue','course:china','90’
put ‘scores','xiaoxue','course:math',120’
put ‘scores','xiaoxue','course:english','90’

4、get命令

get 'scores','xiapi’
get 'scores','xiaoxue’

# 查询学生xiapi的数学成绩
get 'scores','xiapi’,’course:math’

5、scan命令

scan 'scores'


作者:​​小a玖拾柒​​​ ​

-------------------------------------------

个性签名: 所有的事情到最後都是好的,如果不好,那說明事情還沒有到最後~

本文版权归作者【​​小a玖拾柒​​​】,欢迎转载,但未经作者同意必须保留此段声明,且在文章页面明显位置给出原文连接,否则保留追究法律责任的权利!



举报

相关推荐

0 条评论