栏目分类:
子分类:
返回
名师互学网用户登录
快速导航关闭
当前搜索
当前分类
子分类
实用工具
热门搜索
名师互学网 > IT > 前沿技术 > 大数据 > 其他 > Hadoop

Cloudera实现Hadoop过程中Hadoop设置揭秘

Hadoop 更新时间: 发布时间: IT归档 最新发布 模块sitemap 名妆网 法律咨询 聚返吧 英语巴士网 伯小乐 网商动力

Cloudera实现Hadoop过程中Hadoop设置揭秘

本节接着上节介绍Cloudera 实现Hadoop 的方法,本节主要介绍一下对Hadoop的相关设置,相信通过本节的介绍大家对Cloudera 实现Hadoop 方法有一定的了解。

设置主节点的Hadoop

设置JAVA_HOME

Hadoop的JAVA_HOME是在文件/etc/conf/hadoop-env.sh中设置,具体设置如下:
sudo vi /etc/conf/hadoop-env.shexport JAVA_HOME="/usr/lib/jvm/java-6-sun"

Hadoop的核心配置

Hadoop的核心配置文件是/etc/hadoop/conf/core-site.xml,具体配置如下:
fs.default.namehdfs://hadoop-01:8020hadoop.tmp.dir/var/lib/hadoop-0.20/cache/${user.name}

设置Hadoop的分布式存储环境

Cloudera 实现Hadoop 过程中Hadoop的分布式环境设置主要是通过文件/etc/hadoop/conf/hdfs-site.xml来实现的,具体配置如下:
dfs.replication3dfs.permissionsfalsedfs.name.dir/var/lib/hadoop-0.20/cache/hadoop/dfs/name

设置Hapoop的分布式计算环境

Cloudera 实现Hadoop 过程中Hadoop的分布式计算是采用了Map/Reduce算法,该算法环境的设置主要是通过文件/etc/hadoop/conf/mapred-site.xml来实现的,具体配置如下:
mapred.job.trackerhadoop-01:8021

设置Hadoop的主从节点

首先设置主节点,编辑/etc/hadoop/conf/masters文件,如下所示:
hadoop-01然后是设置从节点,编辑/etc/hadoop/conf/slaves文件,如下所示:
hadoop-02hadoop-03hadoop-04firehare-303

设置从节点上的Hadoop

从节点上的Hadoop设置很简单,只需要将主节点上的Hadoop设置,复制一份到从节点上即可。
scp -r /etc/hadoop/conf hadoop-02:/etc/hadoopscp -r /etc/hadoop/conf hadoop-03:/etc/hadoopscp -r /etc/hadoop/conf hadoop-04:/etc/hadoopscp -r /etc/hadoop/conf firehare-303:/etc/hadoop。Cloudera 实现Hadoop过程中对Hadoop配置完以后需要启动Hadoop服务。

启动Hadoop

格式化分布式文件系统
在启动Hadoop之前还要做***一个准备工作,那就是格式化分布式文件系统,这个只需要在主节点做就行了,具体如下:
/usr/lib/hadoop-0.20/bin/hadoop namenode -format

启动Hadoop服务

启动Hadoop可以通过以下命令来实现:
/usr/lib/hadoop-0.20/bin/start-all.sh注意:该命令是没有加sudo的,如果加了sudo就会提示出错信息的,因为root用户并没有做无验证ssh设置。以下是输出信息,注意hadoop-03是故意没接的,所以出现No route to host信息。 这样Hadoop就正常启动了!

测试Hadoop

Hadoop架设好了,接下来就是要对其进行测试,看看它是否能正常工作,如果测试已经成功,这说明Hadoop部署成功,能够在上面进行Map/Reduce分布性计算了。 本节关于Cloudera 实现Hadoop的相关内容到这里就结束了,谢谢关注。

【编辑推荐】

    Cloudera实现Hadoop步骤详解 Cloudera下实现Hadoop方案规划 专家讲解 Hadoop:Hbase松散数据存储设计 两种模式运行Hadoop分布式并行程序 Hadoop应用之Hadoop安装篇
转载请注明:文章转载自 www.mshxw.com
本文地址:https://www.mshxw.com/it/796524.html
我们一直用心在做
关于我们 文章归档 网站地图 联系我们

版权所有 (c)2021-2022 MSHXW.COM

ICP备案号:晋ICP备2021003244-6号