搭建Hadoop高可用集群（HA）

系列文章：
第一章 Hadoop集群搭建的准备
第二章 Hadoop集群搭建
第三章 Zookeeper分布式集群部署（2n+1台虚拟机）
第四章 Hadoop高可用集群搭建（HA）
待更新
第九章 spark独立模式部署（Standalone）
第十章 spark配置历史服务
第十一章 搭建Spark高可用（HA）
待更新

---

文章目录

前言一、搭建普通Hadoop集群，设三台主机名为node1，node2，node3。二、Hadoop集群配置

1.配置Hadoop集群的配置文件（配置文件都保存在/export/servers/hadoop-2.7.4/etc/hadoop目录下）

（1）配置Hadoop集群主节点（这里将node1作为主节点）

 1）配置hadoop-env.sh文件 2）配置core-site.xml文件 3）配置hdfs-site.xml文件 4）配置mapred-site.xml文件 5）配置yarn-site.xml文件 6）修改slaves文件 （2）启动Hadoop高可用集群

 1）启动各节点的Zookeeper服务 2）启动各节点监控NameNode的管理日志的JournalNode 3）将集群主节点（node1）的配置文件分发给其他子节点。 4）在node1节点格式化NameNode，并将格式化后的目录复制到node2中。 5）在node1节点上格式化ZKFC。 6）在node1上开启HDFS和YARN。 ==datanode节点无法全部开启问题的解决办法==

---

前言

---

一、搭建普通Hadoop集群，设三台主机名为node1，node2，node3。

    参考第二章 Hadoop集群搭建，配置文件按照本文配置。

二、Hadoop集群配置

   配置完后，请仔细检查配置文件的内容是否正确。

1.配置Hadoop集群的配置文件（配置文件都保存在/export/servers/hadoop-2.7.4/etc/hadoop目录下） （1）配置Hadoop集群主节点（这里将node1作为主节点）

   进入/export/servers/hadoop-2.7.4/etc/hadoop目录下，代码如下：

cd /export/servers/hadoop-2.7.4/etc/hadoop

 1）配置hadoop-env.sh文件

vim hadoop-env.sh

  找到export JAVA_HOME参数，去掉开头的注释符“＃”，并给它赋值，如下：

export JAVA_HOME＝/export/servers/jdk1.8.0_291

 2）配置core-site.xml文件

  打开core-site.xml文件，代码如下：

vim core-site.xml

  将文件的标签替换成以下内容：

	
	
		fs.defaultFS
		hdfs://ns1
	
	
	
		hadoop.tmp.dir
		/export/servers/hadoop-2.7.4/tmp
	
	
	
		ha.zookeeper.quorum
		node1:2181,node2:2181,node3:2181
	

 3）配置hdfs-site.xml文件

  打开hdfs-site.xml文件，代码如下：

vim hdfs-site.xml

  将文件的标签替换成以下内容：

	
	
		dfs.replication
		3
	
	
	
		dfs.namenode.name.dir
		file:/export/data/hadoop/name
	
	
	
		dfs.datanode.data.dir
		file:/export/data/hadoop/data
	
	
	
		dfs.webhdfs.enabled
		true
		
	
	
	
		dfs.nameservices
		ns1
	
	
	
		dfs.ha.namenodes.ns1
		nn1,nn2
	
	
	
		dfs.namenode.rpc-address.ns1.nn1
		node1:9000
	
	
	
		dfs.namenode.http-address.ns1.nn1
		node1:50070
	
	
	
		dfs.namenode.rpc-address.ns1.nn2
		node2:9000
	
	
	
		dfs.namenode.http-address.ns1.nn2
		node2:50070
	
	
	
		dfs.journalnode.shared.edits.dir
		qjournal://node1:8485;node2:8485;node3:8485/ns1
	
	
	
		dfs.journalnode.edits.dir
		/export/data/hadoop/journaldata
	
	
	
		dfs.ha.automatic-failover.enabled
		true
	
	
	
		dfs.client.failover.proxy.provider.ns1
		org.apache.hadoop.hdfs.server.namenode.ha.ConfiguredFailoverProxyProvider
	
	
	
		dfs.ha.fencing.methods
		
			sshfence
			shell(/bin/true)
		
	
	
	
		dfs.ha.fencing.ssh.private-key-files
		/root/.ssh/id_rsa
	
	
	
		dfs.ha.fencing.ssh.connect-timeout
		30000
	

 4）配置mapred-site.xml文件

  该文件的文件名为mapred-site.xml.template，需执行以下命令更改文件名为mapred-site.xml：

mv mapred-site.xml.template mapred-site.xml

  打开mapred-site.xml文件，代码如下：

vim mapred-site.xml

  将文件的标签替换成以下内容：

	
	
		mapreduce.framework.name
		yarn
	

 5）配置yarn-site.xml文件

  打开yarn-site.xml文件，代码如下：

vim yarn-site.xml

  将文件的标签替换成以下内容：

	
		yarn.nodemanager.resource.memory-mb
		2048
	
	
		yarn.scheduler.maximum-allocation-mb
		2048
	
	
		yarn.nodemanager.resource.cpu-vcores
		1
	
	
	
		yarn.resourcemanager.ha.enabled
		true
	
	
	
		yarn.resourcemanager.cluster-id
		yrc
	
	
	
		yarn.resourcemanager.ha.rm-ids
		rm1,rm2
	
	
	
		yarn.resourcemanager.hostname.rm1
		node1
	
	
		yarn.resourcemanager.hostname.rm2
		node2
	
	
	
		yarn.resourcemanager.zk-address
		node1:2181,node2:2181,node3:2181
	
	
		yarn.nodemanager.aux-services
		mapreduce_shuffle
	

 6）修改slaves文件

  打开slaves文件，代码如下：

vim slaves

  先清空原文件内容，然后添加整个集群的从节点，内容如下：

node1
node2
node3

（2）启动Hadoop高可用集群  1）启动各节点的Zookeeper服务

   启动服务前关闭三台虚拟机的防火墙，使三台虚拟机能够通讯。否则服务无法启动成功。虚拟机(文章以CentOS为例)均执行以下命令：

service iptables stop

   先进入zookeeper的bin目录。
   启动：每台虚拟机均执行以下命令

./zkServer.sh start

 2）启动各节点监控NameNode的管理日志的JournalNode

hadoop-daemon.sh start journalnode

 3）将集群主节点（node1）的配置文件分发给其他子节点。

  在node1下执行依次以下命令：

scp -r /export/servers/hadoop-2.7.4 node2:/export/servers/hadoop-2.7.4
scp -r /export/servers/hadoop-2.7.4 node3:/export/servers/hadoop-2.7.4

 4）在node1节点格式化NameNode，并将格式化后的目录复制到node2中。

  在node1下执行依次以下命令：

hadoop namenode -format
scp -r /export/data node2:/export/data

 5）在node1节点上格式化ZKFC。

hdfs zkfc -formatZK

 6）在node1上开启HDFS和YARN。

start-all.sh

datanode节点无法全部开启问题的解决办法

  打开Hadoop的安装路径，进入安装路径下的Hadoop-2.7.4/tmp/dfs/data目录，将所有节点（所有虚拟机）的current文件夹删除。这里Hadoop的安装路径是/export/servers，命令如下（所有虚拟机均执行）：

cd /export/servers/hadoop-2.7.4/tmp/dfs/data
rm -rf current

  完成后，重启Hadoop集群即可。
  成功后如下所示：