栏目分类:
子分类:
返回
名师互学网用户登录
快速导航关闭
当前搜索
当前分类
子分类
实用工具
热门搜索
名师互学网 > IT > 前沿技术 > 大数据 > 大数据系统

【Hive】第四章 DDL

【Hive】第四章 DDL

DDL就是建库建表、删库删表修改的语句;

库 1. 创建数据库

1.1 语法格式

CREATE DATAbase [IF NOT EXISTS] database_name
[COMMENT database_comment]
[LOCATION hdfs_path]
[WITH DBPROPERTIES (property_name=property_value, ...)];

(1)[LOCATION hdfs_path]指定库数据存放在hdfs上的路径
(2)[IF NOT EXISTS] (标准写法)避免要创建的数据库已经存在错误,增加if not exists判断。
(3)创建一个数据库,指定数据库在HDFS上存放的位置

hive> create database if not exists db_hive2 location '/db_hive2';
2. 查询库 show

1)显示所有库

hive> show databases;

2)过滤显示查询的数据库

hive> show databases like 'db_hive*';
OK
db_hive
db_hive_1
3.查看数据库详情 desc

可以查看数据库所在的hdfs目录

1)显示数据库信息
hive> desc database db_hive;
OK
db_hive		hdfs://hadoop102:9000/user/hive/warehouse/db_hive.db	user1USER	
2)显示数据库详细信息,extended
hive> desc database extended db_hive;
OK
db_hive		hdfs://hadoop102:9000/user/hive/warehouse/db_hive.db	user1USER	
4.修改数据库 alter

用户只能为某个数据库的DBPROPERTIES设置键-值对属性值,来描述这个数据库的属性信息。其他元数据信息都是不可更改的,包括数据库名和数据库所在的目录位置。

hive (default)> alter database db_hive set 
dbproperties('createtime'='20170830');
5.删除数据库 1)删除空数据库
hive>drop database db_hive2;

如果删除的数据库不存在,最好采用 if exists判断数据库是否存在:

hive> drop database db_hive;
FAILED: SemanticException [Error 10072]: Database does not exist: db_hive
hive> drop database if exists db_hive2;
2)删除非空库

如果数据库不为空,可以采用cascade命令,强制删除

hive> drop database db_hive;
FAILED: Execution Error, return code 1 from org.apache.hadoop.hive.ql.exec.DDLTask. InvalidOperationException(message:Database db_hive is not empty. One or more tables exist.)
hive> drop database db_hive cascade;
表 1.创建表
CREATE [EXTERNAL] TABLE [IF NOT EXISTS] table_name 
[(col_name data_type [COMMENT col_comment], ...)] 
[COMMENT table_comment] 
[PARTITIonED BY (col_name data_type [COMMENT col_comment], ...)] 
[CLUSTERED BY (col_name, col_name, ...) 
[SORTED BY (col_name [ASC|DESC], ...)] INTO num_buckets BUCKETS] 
[ROW FORMAT row_format] 
[STORED AS file_format] 
[LOCATION hdfs_path]
[TBLPROPERTIES (property_name=property_value, ...)]
[AS select_statement]
[LIKE table_name]

1.[EXTERNAL] 外部表
2.[IF NOT EXISTS]
3.[COMMENT col_comment] 跟在每个字段后面,字段描述信息
4.[COMMENT table_comment] 跟在表后面,表描述信息
5.[PARTITIonED BY] 按照某些字段分区
6.[CLUSTERED BY (col_name, col_name, ...) [SORTED BY (col_name [ASC|DESC], ...)] INTO num_buckets BUCKETS]

  • 按照某些字段分桶
  • SORTED BY不常用,对桶中的一个或多个列另外排序

7.[ROW FORMAT row_format]

ROW FORMAT 
DELIMITED [FIELDS TERMINATED BY char] [COLLECTION ITEMS TERMINATED BY char]
        [MAP KEYS TERMINATED BY char] [LINES TERMINATED BY char] 
   | SERDE serde_name [WITH SERDEPROPERTIES (property_name=property_value, property_name=property_value, ...)]

8.STORED AS 指定存储文件类型

  • 常用的存储文件类型:SEQUENCEFILE(二进制序列文件)、TEXTFILE(文本)、RCFILE(列式存储格式文件)
  • 如果文件数据是纯文本,可以使用STORED AS TEXTFILE。如果数据需要压缩,使用 STORED AS SEQUENCEFILE。

9.LOCATION :指定表在HDFS上的存储位置。
10.AS:后跟查询语句,根据查询结果创建表。
11.LIKE:允许用户复制现有的表结构,但是不复制数据

2.内部表和外部表 2.1 管理表(内部表)
  • 默认创建的表都是所谓的管理表,有时也被称为内部表。
  • 这种表,Hive会(或多或少地)控制着数据的生命周期。Hive默认情况下会将这些表的数据存储在由配置项hive.metastore.warehouse.dir(例如,/user/hive/warehouse)所定义的目录的子目录下。
  • 当我们删除一个管理表时,Hive也会删除这个表中数据。管理表不适合和其他工具共享数据。
2.2 外部表
  • 外部表,Hive并非认为其完全拥有这份数据。删除该表并不会删除掉这份数据,不过描述表的元数据信息会被删除掉。
2.3 管理表和外部表的使用场景

每天将收集到的网站日志定期流入HDFS文本文件,在外部表(原始日志表)的基础上做大量的统计分析,用到的中间表、结果表使用内部表存储,数据通过SELECT+INSERT进入内部表。

在外部表做数据分析,将中间结果和结果表存入内部表

2.4 管理表与外部表的互相转换

(1)查询表的类型

hive (default)> desc formatted student;
Table Type:             MANAGED_TABLE

(2)修改内部表student为外部表

alter table student set tblproperties('EXTERNAL'='TRUE');

(3)查询表的类型

hive (default)> desc formatted student;
Table Type:             EXTERNAL_TABLE

(4)修改外部表student为内部表

alter table student set tblproperties('EXTERNAL'='FALSE');

(5)查询表的类型

hive (default)> desc formatted student;
Table Type:             MANAGED_TABLE

注意:(‘EXTERNAL’=‘TRUE’)和(‘EXTERNAL’=‘FALSE’)为固定写法,区分大小写!

3. 修改表 3.1 重命名表

1)语法

ALTER TABLE table_name RENAME TO new_table_name
3.2 增加、修改和删除表分区

分区表的操作

3.3 增加/修改/替换列信息

(1)更新列

  • 列名可以随意修改
  • 列的类型只能小改大,不能大改小(遵循自动转换规则)
ALTER TABLE table_name CHANGE [COLUMN] col_old_name col_new_name column_type 
[COMMENT col_comment] [FIRST|AFTER column_name]

(2)增加和替换列

ALTER TABLE table_name ADD|REPLACE COLUMNS (col_name data_type [COMMENT col_comment], ...) 

注:

  • ADD是代表新增一字段,字段位置在所有列后面(partition列前)
  • REPLACE则是表示替换表中所有字段,REPLACE使用的时候,字段的类型要跟之前的类型对应上,数量可以减少或者增加,其实就是包含了更新列,增加列,删除列的功能。
4. 删除表
hive (default)> drop table dept;
5. 清除表

注意:Truncate只能删除管理表,不能删除外部表中数据
hive (default)> truncate table student;

转载请注明:文章转载自 www.mshxw.com
本文地址:https://www.mshxw.com/it/389528.html
我们一直用心在做
关于我们 文章归档 网站地图 联系我们

版权所有 (c)2021-2022 MSHXW.COM

ICP备案号:晋ICP备2021003244-6号