栏目分类:
子分类:
返回
名师互学网用户登录
快速导航关闭
当前搜索
当前分类
子分类
实用工具
热门搜索
名师互学网 > IT > 软件开发 > 后端开发 > Java

centos7安装Scala+Spark+hadoop

Java 更新时间: 发布时间: IT归档 最新发布 模块sitemap 名妆网 法律咨询 聚返吧 英语巴士网 伯小乐 网商动力

centos7安装Scala+Spark+hadoop

spark是由Scala写的,可以把Scala看做加强化的java语言
我选择的是Scala2.13.8+spark3.2.1+Hadoop2.10.1+hadoop2.10.1
在安装之前在opt目录下创建packages和programs文件夹,分别放压缩包和解压缩后的文件。
1.安装Scala
在安装Scala之前需要jdk8环境,自行百度配置。
官网下载链接https://downloads.lightbend.com/scala/2.13.8/scala-2.13.8.tgz
下载好之后用Finashell连接centos7上传到/opt/packages文件夹下
Finashell下载及使用

进入压缩包所在的文件夹

cd /opt/packages

解压缩到programs文件夹

tar -zxvf scala-2.13.8.tgz -C /opt/programs

配置Scala的环境变量

vim /etc/profile

点击“i”键编辑,在文件末尾加上

export PATH=$PATH:/opt/programs/scala-2.13.8/bin

然后点击Esc,然后“:wq”保存并退出
执行source /etc/profile刷新环境配置
执行scala出现以下内容说明安装成功

Ctrl+c退出scala

2.安装spark
官方下载链接https://dlcdn.apache.org/spark/spark-3.2.1/spark-3.2.1-bin-hadoop2.7.tgz
下载好之后用Finashell连接centos7上传到/opt/packages文件夹下
进入压缩包所在的文件夹

cd /opt/packages

解压缩到programs文件夹

tar -zxvf spark-3.2.1-bin-hadoop2.7.tgz -C /opt/programs

配置Spark的环境变量

vim /etc/profile

点击“i”键编辑,在文件末尾加上

export PATH=$PATH:/opt/programs/spark-3.2.1-bin-hadoop2.7/bin

然后点击Esc,然后“:wq”保存并退出
执行source /etc/profile刷新环境配置
执行spark-shell出现以下内容说明安装成功

3.安装hadoop
官方下载链接https://mirrors.bfsu.edu.cn/apache/hadoop/common/hadoop-2.10.1/hadoop-2.10.1.tar.gz
下载好之后用Finashell连接centos7上传到/opt/packages文件夹下
进入压缩包所在的文件夹

cd /opt/packages

解压缩到programs文件夹

tar -zxvf hadoop-2.10.1.tar.gz -C /opt/programs

配置Hadoop的环境变量

vim /etc/profile

点击“i”键编辑,在文件末尾加上

export PATH=$PATH:/opt/programs/hadoop-2.10.1/bin

然后点击Esc,然后“:wq”保存并退出
执行source /etc/profile刷新环境配置
执行hadoop version出现以下内容说明安装成功

转载请注明:文章转载自 www.mshxw.com
本文地址:https://www.mshxw.com/it/762895.html
我们一直用心在做
关于我们 文章归档 网站地图 联系我们

版权所有 (c)2021-2022 MSHXW.COM

ICP备案号:晋ICP备2021003244-6号