栏目分类:
子分类:
返回
名师互学网用户登录
快速导航关闭
当前搜索
当前分类
子分类
实用工具
热门搜索
名师互学网 > IT > 前沿技术 > 大数据 > 大数据系统

阿里云MaxComputer SQL学习之DDL

阿里云MaxComputer SQL学习之DDL

今天我们介绍一下大数据引擎MaxComputer的一些特点,以及MaxComputer SQL的一些特点。有对hive sql 感兴趣的同学可以查看下面的内容:

第一篇: Hadoop之Hive数据的导入与导出(DML).第二篇: Hadoop之Hive查询语句.第三篇:Hadoop之Hive的7种Join语句.第四篇: Hadoop之Hive的排序.第五篇: Hadoop之Hive的分区表.第六篇: Hadoop之Hive的分桶表.

MaxComputer是企业级的大数据引擎,那他在实际生产过程有哪些规则需要注意的呢?MaxComputer SQL有哪些需要注意的地方呢?接下来将进行细致的讲解。

目录

1.MaxComputer介绍

1.1 MaxComputer的架构1.2 MaxComputer的使用流程 2. MaxComputer SQL

2.1 MaxComputer的数据类型2.2 MaxComputer SQL介绍2.2 MaxComputer SQL DDL

2.2.1 建表语句2.2.2 删除表2.2.3 修改表2.2.4 分区操作 Partition2.2.5 修改生命周期2.2.6 视图操作 3. 总结4. 参考资料

1.MaxComputer介绍

MaxComputer是阿里云设计的一种快速的、完全托管的EB级数据仓库解决方案。主要作用是:

致力于批量结构话数据的存储和计算,提供海量数据数据仓库的解决方案及分析建模服务。适用于100GB以上规模的存储和计算需求,最大可达EB级别。支持SQL、MapReduce、 UDF (Java/Python)、Graph、基于DAG的处理、交互式、内存计算、机器学习等计算类型及MP!迭代类算法。简化了企业大数据平台的应用架构。 1.1 MaxComputer的架构

MaxComputer的架构主要为4层:

其中我们说一下计算层:计算层用的是飞天内核,实现用户数据存储和计算任务,仔细看一下,是不是和hadoop的生态很像!

1.2 MaxComputer的使用流程

本文我们主要讲述数据处理的部分。

2. MaxComputer SQL

MaxCompute SQL是个数据仓库工具,采用的是淡似于SQL的语法,是标准语法ANSISQL92的一个子集,并有自己的扩展支持常用的 SQL 语法,包括窗口函数,适用于海量数据(TB/PB级别)的数据运算。特征如下:

不等同于关系数据库,不支持事务、主外键约束、索引等语法。Query 解析后,计算和存储交由底层的飞天实现。任务准备、提交等阶段要花费较长时间,实时性不高。SQL 长度有限制,目前是不能超过 2MB 2.1 MaxComputer的数据类型

下面的数据类型请大家牢记在心!!!

2.2 MaxComputer SQL介绍

MaxComputer SQL是什么?

是一个数据仓库的工具(hive类似)类似sql的语法,但有不同,并有自己拓展支持常用的SQL语法,和窗口函数适用于海量数据(TP/BP级别)的运算

MaxComputer SQL 特征

不等同于关系数据库,不支持事务、主外键约束、索引等语法。Query解析后,计算和存储教由底层的飞天实现(相当于hive和MapReduce、HDFS的关系。)任务准备、提交阶段花费时间多SQL时间有限。没有delete和update语句。 2.2 MaxComputer SQL DDL

DDL是指数据定义语言,主要是包括一下几个部分的操作

    表操作:创建、修改、删除、查看分区和列操作: 添加、修改、删除生命周期操作:创建、修改、禁止/恢复视图操作:创建、删除
2.2.1 建表语句

普通建表

--创建表
CREATE TABLE [IF NOT EXISTS] table_name
[(col name data type (COMMENT col comment],...) ]
[COMMENT table_comment]
[PARTITIonED BY (col_name data_type [COMMENT col_comment],...)]
[LIFECYCLE days]
[AS select statement];

快捷建表

--as 建表
CREATE TABLE  AS SELECT  FROM ‹table_name> WHERe ...;
--like建表
CREATE TABLE  LIKE ‹table name>;

AS和LIKE:

数据:
AS可以带入数据,可以依赖于多张表。
LIKE只能复制单张表的结构,不能代入数据。属性:
AS不能带入生命周期、分区键等信息、注释。
LIKE不能带入生命周期、可以带入分区键、注释等信息。 2.2.2 删除表

--删除表
DROP TABLE [IF EXISTS] table_name;
2.2.3 修改表
--添加列:
ALTER TABLE  ADD COLUMNS ( ‹type1>, ‹col_name2> ‹type2>
...]) ;
--改列名:
ALTER TABLE  CHANGE COLUMN  RENAME TO  ;
--该列注释:
ALTER TABLE  CHANGE COLUMN  COMMENT "‹col_comment>"
:
2.2.4 分区操作 Partition
--添加分区
ALTER TABLE  ADD [IF NOT EXISTS] PARTITION ‹pt spec> [PARTITION 
PARTITION ...];
--删除分区
ALTER TABLE  DROP [IF EXISTS] PARTITION ;
2.2.5 修改生命周期
--创建表时指定表的生命周期
CREATE TABLE  () LIFECYCLE days ;
--修改表的生命周期
ALTER TABLE  SET LIFECYCLE days
--禁止或恢复生命周期。
ALTER TABLE  DISABLE LIFECYCLE
ALTER TABLE  ENABLE LIFECYCLE
--修改更新时间
ALTER TABLE  TOUCH PARTITION ();
2.2.6 视图操作
--创建视图:
CREATE [OR REPLACE] VIEW [IF NOT EXISTS] view_name
[ (col name [COMMENT col comment], ...)]
[COMMENT view_comment]
[AS select_statement]
--删除视图
DROP VIEW [IF NOT EXISTS] view_name;
--重命名视图
ALTER VIEW view_name RENAME TO new_view_name;
3. 总结

本来这里应该给大家演示一下利用MaxComputer处理数据表的步骤,但是发现DDL语句较多,演示起来每个部分会很乱,就不做展示了,但是可以给大家看一下阿里云的客户端:

这是自己安装的odps客户端:
这是DataWorks

这里需要注意的点主要有两个:MaxComputer SQL的数据类型没有delete和update语句 4. 参考资料

《阿里云全球培训中心MaxComputer》

转载请注明:文章转载自 www.mshxw.com
本文地址:https://www.mshxw.com/it/710169.html
我们一直用心在做
关于我们 文章归档 网站地图 联系我们

版权所有 (c)2021-2022 MSHXW.COM

ICP备案号:晋ICP备2021003244-6号