栏目分类:
子分类:
返回
名师互学网用户登录
快速导航关闭
当前搜索
当前分类
子分类
实用工具
热门搜索
名师互学网 > IT > 软件开发 > 后端开发 > Java

window环境安装Hadoop 3.0.0

Java 更新时间: 发布时间: IT归档 最新发布 模块sitemap 名妆网 法律咨询 聚返吧 英语巴士网 伯小乐 网商动力

window环境安装Hadoop 3.0.0

1. 从官网下载Hadoop 3.0.0

https://hadoop.apache.org/releases.html

2. 将下载hadoop-3.0.0.tar.gz 解压至指定文件夹 D:BigData

3. 配置hadoop 涉及环境变量:

HADOOP_HOME:

PATH :

4. 修改Hadoop配置 : 4.1 修改D:/BigData/hadoop-3.0.0/etc/hadoop/core-site.xml配置:

    
        fs.default.name
        hdfs://localhost:9000
    

4.2 修改D:/BigData/hadoop-3.0.0/etc/hadoop/mapred-site.xml配置:

    
        mapreduce.framework.name
        yarn
    

4.3 在D:/BigData/hadoop-3.0.0目录下创建data目录,作为数据存储路径:

在D:/BigData/hadoop-3.0.0/data目录下创建datanode目录;
在D:/BigData/hadoop-3.0.0/data目录下创建namenode目录;

4.4 修改D:/BigData/hadoop-3.0.0/etc/hadoop/hdfs-site.xml配置:

    
    
        dfs.replication
        1
    
     
     dfs.permissions 
     false 
  
   
       dfs.namenode.name.dir
       /D:/hadoop-3.0.0/data/namenode
   
   
        fs.checkpoint.dir
        /D:/hadoop-3.0.0/data/snn
    
    
        fs.checkpoint.edits.dir
        /D:/hadoop-3.0.0/data/snn
    
       
       dfs.datanode.data.dir
       /D:/hadoop-3.0.0/data/datanode
   

4.5 修改D:/BigData/hadoop-3.0.0/etc/hadoop/yarn-site.xml配置:


    
        yarn.nodemanager.aux-services
        mapreduce_shuffle
    
    
        yarn.nodemanager.auxservices.mapreduce.shuffle.class
        org.apache.hadoop.mapred.ShuffleHandler
    

4.6 修改D:/BigData/hadoop-3.0.0/etc/hadoop/hadoop-env.cmd配置

(如果已经在系统环境中配置 JAVA_HOM则忽略此项)
找到 “set JAVA_HOME=%JAVA_HOME%”
替换为 set JAVA_HOME=set JAVA_HOME=C:javajdk1.8.0 <-- 此处为JDK路径

4.7 bin目录替换,至https://github.com/steveloughran/winutils下载解压

找到对应的版本后完整替换bin目录即可

至此配置完成.

5. 启动Hadoop 服务 5.1 启动Hadoop 格式化

cmd进入命令行工具

 hadoop namenode -format

进入D:BigDatahadoop-3.0.0sbin 文件夹,以管理员身份运行 start-all.cmd
此时同时启动了如下4个服务:

Hadoop Namenode
Hadoop datanode
YARN Resourc Manager
YARN Node Manager

6. Hadoop涉及应用

1、通过http://127.0.0.1:8088/即可查看集群所有节点状态
2、访问http://localhost:9870/即可查看文件管理页面

转载请注明:文章转载自 www.mshxw.com
本文地址:https://www.mshxw.com/it/841495.html
我们一直用心在做
关于我们 文章归档 网站地图 联系我们

版权所有 (c)2021-2022 MSHXW.COM

ICP备案号:晋ICP备2021003244-6号