栏目分类:
子分类:
返回
名师互学网用户登录
快速导航关闭
当前搜索
当前分类
子分类
实用工具
热门搜索
名师互学网 > IT > 前沿技术 > 大数据 > 大数据系统

用SQOOP抽取Oracle到HIVE

用SQOOP抽取Oracle到HIVE

# 定义变量名字
hive='/usr/bin/hive'
hive_database=''
field_segmentation='01'
external_storage_path='/user/hive/warehouse/HDFS文件路径'
source_database=''
source_username=''
source_pwd=''
source_ip=''
source_port='1521'



if [ -n "$1" ] ;then
    do_day=$1
else
    do_day=`date -d "-1 day" +%F`
fi


/usr/bin/sqoop import 
--connect "jdbc:oracle:thin:@//$source_ip:$source_port/$source_database" 
--username $source_username 
--password $source_pwd 
--query "select 每个字段都要写上 from 表哥表姐表叔 where $ConDITIONS " 
--hive-delims-replacement '
' --num-mappers 1 --fields-terminated-by $field_segmentation --target-dir $external_storage_path/表名_tmp --delete-target-dir --null-string '\N' --null-non-string '\N' --hive-import --hive-database $hive_database --hive-table HIVE表名  --hive-overwrite --hive-partition-key dt --hive-partition-value $do_day if [ $? -eq 0 ];then     echo "========================" else     echo "============<失败, 时间为[`date "+%Y-%m-%d %H:%M:%S"`]>============"     exit 1 fi

转载请注明:文章转载自 www.mshxw.com
本文地址:https://www.mshxw.com/it/457217.html
我们一直用心在做
关于我们 文章归档 网站地图 联系我们

版权所有 (c)2021-2022 MSHXW.COM

ICP备案号:晋ICP备2021003244-6号