栏目分类:
子分类:
返回
名师互学网用户登录
快速导航关闭
当前搜索
当前分类
子分类
实用工具
热门搜索
名师互学网 > IT > 前沿技术 > 大数据 > 大数据系统

Hadoop完全分布

Hadoop完全分布

一、核心文件配置

 1、从Linux中获取jdk路径

echo $JAVA_HOME

 配置hadoop-env.sh

cd /opt/module/hadoop-3.1.3/etc/hadoop/
vi hadoop-env.sh

 将配置文件修改如下保存并退出

 配置core-site.xml
vi core-site.xml

将下列命令粘贴进去 



 

    
        fs.defaultFS
        hdfs://hadoop100:9820

 

    
        hadoop.data.dir
        /opt/module/hadoop-3.1.3/data
    
二、HDFS文件配置

1、配置hdfs-site.xml

vi hdfs-site.xml

 将下列文件复制粘贴上去保存并退出



 

  

    dfs.namenode.name.dir
    file://${hadoop.data.dir}/name
  
 
  
  
    dfs.datanode.data.dir
    file://${hadoop.data.dir}/data
  
 
  
    
    dfs.namenode.checkpoint.dir
    file://${hadoop.data.dir}/namesecondary
  
 
  
  
    dfs.client.datanode-restart.timeout
    30
  
 
  

    dfs.namenode.http-address
    hadoop100:9870

 
  
  
    dfs.namenode.secondary.http-address
    hadoop102:9868
  
三、YARN文件配置

1、配置yarn-site.xml

vi yarn-site.xml

将下列代码复制粘贴进去保存并退出



 

  
    mapreduce.framework.name
    yarn
  
五 、分布式集群格式化
1、格式化之前要把要把三个服务器上的hadoop安装目录下的 data目录和logs目录都删掉。
hdfs namenode -format
六、启动集群(单起)

Hadoop100启动namendo、datanode、nodemanager

Hadoop101启动resourcemanager、datanode、nodemanager

Hadoop102启动resourcemanager、datanode、nodemanager

hdfs --daemon start  namenode
hdfs --daemon start  datanode
yarn--daemon start   resourcemanager
yarn --daemon start  nodemanager
七、群起

Hadoop100

start-all.sh

转载请注明:文章转载自 www.mshxw.com
本文地址:https://www.mshxw.com/it/662964.html
我们一直用心在做
关于我们 文章归档 网站地图 联系我们

版权所有 (c)2021-2022 MSHXW.COM

ICP备案号:晋ICP备2021003244-6号