栏目分类:
子分类:
返回
名师互学网用户登录
快速导航关闭
当前搜索
当前分类
子分类
实用工具
热门搜索
名师互学网 > IT > 前沿技术 > 大数据 > 大数据系统

Sqoop实现mysql与hive数据表互相导入

Sqoop实现mysql与hive数据表互相导入

文章目录
    • 1. 上传解压搭建sqoop
      • 1.1 解压后改名
      • 1.2 修改配置文件
      • 1.3 重命名
      • 1.4修改配置文件
      • 1.5拷贝mysql驱动包到/usr/sqoop/lib库下
      • 1.6 sqoop version查看版本
      • 1.7 测试连接
    • 2.将mysql中学生表导入到hive中
      • 2.1 先清空hive中的student表
      • 2.2 MysqlToHive.opt 文件内容
      • 2.3 执行命令
    • 3. 将hive中student表导出到mysql的学生表中
      • 3.1 先清空mysql中的学生表
      • 3.2 HiveToMysql.opt 文件内容
      • 3.3 执行命令

1. 上传解压搭建sqoop

1.1 解压后改名

1.2 修改配置文件
vim /etc/profile    
source /etc/profile

1.3 重命名
mv sqoop-env-template.sh sqoop-env.sh

1.4修改配置文件

1.5拷贝mysql驱动包到/usr/sqoop/lib库下
cp ~/mysql-connector-java-5.1.48.jar /usr/sqoop/lib/

1.6 sqoop version查看版本

1.7 测试连接
sqoop list-databases --connect jdbc:mysql://master1:3306/ --username root --password 123456

2.将mysql中学生表导入到hive中 2.1 先清空hive中的student表

2.2 MysqlToHive.opt 文件内容

2.3 执行命令
sqoop --options-file  MysqlToHive.opt 


3. 将hive中student表导出到mysql的学生表中 3.1 先清空mysql中的学生表


3.2 HiveToMysql.opt 文件内容

3.3 执行命令
sqoop --options-file  HiveToMysql.opt 

转载请注明:文章转载自 www.mshxw.com
本文地址:https://www.mshxw.com/it/350546.html
我们一直用心在做
关于我们 文章归档 网站地图 联系我们

版权所有 (c)2021-2022 MSHXW.COM

ICP备案号:晋ICP备2021003244-6号