栏目分类:
子分类:
返回
名师互学网用户登录
快速导航关闭
当前搜索
当前分类
子分类
实用工具
热门搜索
名师互学网 > IT > 前沿技术 > 大数据 > 大数据系统

Spark源码学习之IDEA源码阅读环境搭建

Spark源码学习之IDEA源码阅读环境搭建

软件准备

(1)Java 1.8
(2)Scala 2.11.12(需要在IDEA中安装)
(3)Maven 3.8.2(需要在IDEA中配置)
(4)Git 2.33
以上软件需要安装好,并进行环境配置。


(5)spark 2.4.3 源码(官网可下载)

编译源码

(1)修改MAVEN_OPTS,增加Maven编译时内存的大小:

在Maven安装目录下找到bin/mvn.cmd文件,打开在文件中添加

MAVEN_OPTS="-Xmx2g -XX:metaspaceSize=2G -XX:ReservedCodeCacheSize=2G"

(2)运行Git中的git-bash.exe,然后在相应的spark目录下直接执行如下命令,进行源码编译:(耗时较长)

$ > mvn -Pyarn -Phadoop-2.7 -Pspark-ganglia-lgpl -Pkinesis-asl -Phive -DskipTests clean package


源码编译的结果如下:

搭建IDEA阅读环境

(1)在IDEA界面直接open刚刚编译的源码文件

(2)点击build开始构建(耗时较长)


(3)使用IDEA进行编译

①为Maven工具设置JVM参数,命令如下:

-XX:PermSize=2G


②在Maven面板中进行编译(耗时较长)

编译完成后的目标Jar文件存放在assembly/target/scala-2.11/jars目录下,将其添加到项目Example Module。添加步骤如下:

(4)运行Master和Worker(方便调试)
①点击IDEA的“Run -> Edit Confgurations”菜单,在弹出的界面中单击左上角的加号,先添加Master的运行环境配置如下:

添加完成后点击运行Master进程。

出现上图说明运行成功了,然后从上面蓝色的框可以看出Master启动于spark://172.18.224.1:7077地址,而它的WebUI启动于http://windows10.microdone.cn:8080地址。(windows10.microdone.cn即为172.18.224.1)
②点击IDEA的“Run -> Edit Confgurations”菜单,在弹出的界面中单击左上角的加号,先添加Worker的运行环境配置如下:

添加完成后点击运行Worker进程。
至此,已经完成了IDEA源码阅读环境的搭建

③查看Mater和Worker的WebUI界面

Mater的WebUI界面

Worker的WebUI界面

转载请注明:文章转载自 www.mshxw.com
本文地址:https://www.mshxw.com/it/302870.html
我们一直用心在做
关于我们 文章归档 网站地图 联系我们

版权所有 (c)2021-2022 MSHXW.COM

ICP备案号:晋ICP备2021003244-6号