栏目分类:
子分类:
返回
名师互学网用户登录
快速导航关闭
当前搜索
当前分类
子分类
实用工具
热门搜索
名师互学网 > IT > 前沿技术 > 云计算 > 云平台

spark执行start-master.sh 报错java.lang.NoClassDefFoundError: org/apache/log4j/spi/Filter

云平台 更新时间: 发布时间: IT归档 最新发布 模块sitemap 名妆网 法律咨询 聚返吧 英语巴士网 伯小乐 网商动力

spark执行start-master.sh 报错java.lang.NoClassDefFoundError: org/apache/log4j/spi/Filter

错误原因:

没找到log4j相关类

导致没找到log4j的原因:

1、hadoop中含有log4j的JAR包

2、使用的是spark-3.1.3-bin-without-hadoop.tgz版本,需要手动指定hadoop的classpath。

解决方法:

打开$(SPARK_HOME)/ect/spark-env.sh。在文档的合适位置(如开始几行)添加如下变量(其中hadoop换成自己的路径)

export SPARK_DIST_CLASSPATH=$(/usr/soft/hadoop-3.2.3/bin/hadoop classpath)

参考资料Using Spark's "Hadoop Free" Build - Spark 3.2.1 Documentationhttps://spark.apache.org/docs/latest/hadoop-provided.html

转载请注明:文章转载自 www.mshxw.com
本文地址:https://www.mshxw.com/it/895790.html
我们一直用心在做
关于我们 文章归档 网站地图 联系我们

版权所有 (c)2021-2022 MSHXW.COM

ICP备案号:晋ICP备2021003244-6号