栏目分类:
子分类:
返回
名师互学网用户登录
快速导航关闭
当前搜索
当前分类
子分类
实用工具
热门搜索
名师互学网 > IT > 前沿技术 > 云计算 > 云平台

hadoop核心配置文件

云平台 更新时间: 发布时间: IT归档 最新发布 模块sitemap 名妆网 法律咨询 聚返吧 英语巴士网 伯小乐 网商动力

hadoop核心配置文件

集群部署规划

配置 core-site.xml
cd $HADOOP_HOME/etc/hadoop
vim core-site.xml
添加内容


 
 fs.defaultFS
 hdfs://hadoop102:8020
 
 
 
 hadoop.tmp.dir
 /opt/module/hadoop-3.1.3/data
 
 
 
 hadoop.http.staticuser.user
 atguigu
 
 
配置 hdfs-site.xml
vim hdfs-site.xml
添加内容



 dfs.namenode.http-address
 hadoop102:9870
 

 
 dfs.namenode.secondary.http-address
 hadoop104:9868
 
 
配置 yarn-site.xml
vim yarn-site.xml

 
 
 yarn.nodemanager.aux-services
 mapreduce_shuffle
 
 
 
 yarn.resourcemanager.hostname
 hadoop103
 
 
 
 yarn.nodemanager.env-whitelist
 
JAVA_HOME,HADOOP_COMMON_HOME,HADOOP_HDFS_HOME,HADOOP_CO
NF_DIR,CLASSPATH_PREPEND_DISTCACHE,HADOOP_YARN_HOME,HADOOP_MAP
RED_HOME
 

配置 mapred-site.xml
vim mapred-site.xml


 
 mapreduce.framework.name
 yarn
 

在集群上分发配置好的 Hadoop 配置文件
xsync /opt/module/hadoop-3.1.3/etc/hadoop/
配置 workers
vim workers
hadoop102
hadoop103
hadoop104

注意:该文件中添加的内容结尾不允许有空格,文件中不允许有空行。

同步所有节点配置文件
xsync /opt/module/hadoop-3.1.3/etc
启动集群

如果集群是第一次启动,需要在 hadoop102 节点格式化 NameNode,在hadoop-3.1.3文件下运行

hdfs namenode -format
启动 HDFS
sbin/start-dfs.sh
在配置了 ResourceManager 的节点(hadoop103)启动 YARN
sbin/start-yarn.sh
Web 端查看 HDFS 的 NameNode

浏览器中输入:http://hadoop102:9870

Web 端查看 YARN 的 ResourceManager

浏览器中输入:http://hadoop103:8088

配置历史服务器
vim mapred-site.xml


 mapreduce.jobhistory.address
 hadoop102:10020



 mapreduce.jobhistory.webapp.address
 hadoop102:19888

分发配置
xsync mapred-site.xml
在 hadoop102 启动历史服务器
mapred --daemon start historyserver
查看 JobHistory

http://hadoop102:19888/jobhistory

配置日志的聚集

开启日志聚集功能,需要重新启动 NodeManager 、ResourceManager 和
HistoryServer。

配置 yarn-site.xml
vim yarn-site.xml


 yarn.log-aggregation-enable
 true


 
 yarn.log.server.url 
 http://hadoop102:19888/jobhistory/logs



 yarn.log-aggregation.retain-seconds
 604800

分发配置
xsync yarn-site.xml
关闭 NodeManager 、ResourceManager 和 HistoryServer
sbin/stop-yarn.sh
mapred --daemon stop historyserver
启动 NodeManager 、ResourceManage 和 HistoryServer
start-yarn.sh
mapred --daemon start historyserver
删除 HDFS 上已经存在的输出文件
hadoop fs -rm -r /output
执行 WordCount 程序
hadoop jar share/hadoop/mapreduce/hadoop-mapreduce-examples-3.1.3.jar wordcount /input /output
查看日志

http://hadoop102:19888/jobhistory

参考尚硅谷教程

转载请注明:文章转载自 www.mshxw.com
本文地址:https://www.mshxw.com/it/897989.html
我们一直用心在做
关于我们 文章归档 网站地图 联系我们

版权所有 (c)2021-2022 MSHXW.COM

ICP备案号:晋ICP备2021003244-6号