Hadoop完全分布式搭建

集群配置

一、核心配置文件

1.配置：hadoop-env.sh

Linux系统中获取JDK的安装路径：

[soft863@ hadoop100 ~]# echo $JAVA_HOME

/opt/module/jdk1.8.0_212

在hadoop-env.sh文件中修改JAVA_HOME 路径：

（在第54行修改）

export JAVA_HOME=/opt/module/jdk1.8.0_212

2.配置core-site.xml

 cd /opt/module/hadoop-3.1.3/etc/hadoop

vi core-site.xml

文件内容如下：

        fs.defaultFS

        hdfs://hadoop100:9820

        hadoop.data.dir

        /opt/module/hadoop-3.1.3/data

二、HDFS配置文件

配置hdfs-site.xml

vi hdfs-site.xml

文件内容如下：

    dfs.namenode.name.dir

    file://${hadoop.data.dir}/name

    dfs.datanode.data.dir

    file://${hadoop.data.dir}/data

    dfs.namenode.checkpoint.dir

    file://${hadoop.data.dir}/namesecondary

    dfs.client.datanode-restart.timeout

    30

    dfs.namenode.http-address

    hadoop100:9870

    dfs.namenode.secondary.http-address

    hadoop102:9868

三、YARN配置文件

配置yarn-site.xml

vi yarn-site.xml

文件内容如下：

        yarn.nodemanager.aux-services

        mapreduce_shuffle

        yarn.resourcemanager.hostname

        hadoop101

        yarn.nodemanager.env-whitelist

       JAVA_HOME,HADOOP_COMMON_HOME,HADOOP_HDFS_HOME,HADOOP_CONF_DIR,CLASSPATH_PREPEND_DISTCACHE,HADOOP_YARN_HOME,HADOOP_MAPRED_HOME

四、MapReduce配置文件

配置mapred-site.xml

vi mapred-site.xml

文件内容如下：

    mapreduce.framework.name

    yarn

配置完成后，按照上面的表格进行启动

Hadoop100：

hdfs --daemon start namenode

hdfs --daemon start datanode

yarn --daemon start nodemanager

hadoop101：

yarn --daemon start resourcemanager

hdfs --daemon start datanode

yarn --daemon start nodemanager

hadoop102：

hdfs --daemon start secondarynamenode

hdfs --daemon start datanode

yarn --daemon start nodemanager

1）启动hdfs相关

                hdfs --daemon start namenode

                hdfs --daemon start datanode

2）启动yarn相关

                yarn --daemon start resourcemanager

                yarn --daemon start nodemanager

启动完成后用 jps 进行查看进程