~
在VMware上登录 Linux系统并查看IP地址
~
~
选择并登录Xftp应用把Windows上的压缩包拖到 Linux系统上
~
~
使用命令解压压缩包:
tar -zxvf 压缩包名字
~
~
1.修改主机名称
vi /etc/hostname
#名字按照集群顺序来 hadoop1
2.在文档内添加主机映射(IP地址根据自己的配置来)
vi /etc/hosts
#不要删除文档内的东西 #我这里准备三台机器作为集群规划 192.168.52.101 hadoop1 192.168.52.102 hadoop2 192.168.52.103 hadoop3
3.关闭防火墙
#关闭 systemctl stop firewalld #永久关闭 systemctl disable firewalld
4.在 /opt 目录下创建soft文件夹和tmp文件夹
(一个放安装包,一个放临时文件)
mkdir soft #zookeeper下的conf/zoo_sample.cfg的数据文件位置需要自己创建 mkdir -p temp/zookeeper/data #并且在data这个目录里面添加**myid文档** vi myid #里面填写1就可以了 1
- 修改IP地址参数
vi /etc/sysconfig/network-scripts/ifcfg-ens33
~
~
来到这个目录下开始配置
cd /opt/soft/hadoop-2.7.3/etc/hadoop
#配置core文档 vi core-site.xml
在中间
fs.defaultFS hdfs://hadoop1 hadoop.tmp.dir /opt/tmp/hadoop/data ha.zookeeper.quorum hadoop1:2181,hadoop2:2181,hadoop3:2181 hadoop.proxyuser.bigdata.hosts * hadoop.proxyuser.bigdata.groups *
#配置jdk路径 vi hadoop-env.sh
找到这行并修改jdk路径 export JAVA_HOME=/opt/soft/jdk1.8.0_112
#配置hdfs vi hdfs-site.xml
在中间
fs.replication 2 dfs.nameservices hadoop1 dfs.ha.namenodes.hadoop1 nn1,nn2 dfs.namenode.rpc-address.hadoop1.nn1 hadoop1:9000 dfs.namenode.http-address.hadoop1.nn1 hadoop1:50070 dfs.namenode.rpc-address.hadoop1.nn2 hadoop2:9000 dfs.namenode.http-address.hadoop1.nn2 hadoop2:50070 dfs.namenode.chared.edits.dir qjournal://hadoop1:8485;hadoop2:8485;hadoop3:8485/hadoop1 dfs.journalnode.edits.dir /opt/tmp/hadoop/journaldata dfs.ha.automatic-failover.enabled true dfs.client.failover.proxy.provider.hadoop1 org.apache.hadoop.hdfs.server.namenode.ha.ConfiguredFailoverProxyProvider dfs.ha.fencing.methods sshfence shell(/bin/true) dfs.ha.fencing.ssh.private-key-files /root/.ssh/id_rsa dfs.ha.fencing.ssh.connect-timeout 30000 dfs.webhdfs.enabled true
#拷贝并修改文件名字 cp mapred-site.xml.template mapred-site.xml #然后编辑 vi mapred-site.xml
在中间
mapreduce.framework.name yarn mapreduce.jobhistory.address hadoop1:10020 mapreduce.jobhistory.webapp.address hadoop1:19888
#配置jdk路径 vi yarn-env.sh
找到这行并修改jdk路径,删除前面的'#'号 export JAVA_HOME=/opt/soft/jdk1.8.0_112
#配置yarn vi yarn-site.xml
yarn.resourcemanager.ha.enabled true yarn.resourcemanager.cluster-id yrc yarn.resourcemanager.ha.rm-ids rm1,rm2 yarn.resourcemanager.hostname.rm1 hadoop1 yarn.resourcemanager.hostname.rm2 hadoop2 yarn.resourcemanager.zk-address hadoop1:2181,hadoop2:2181,hadoop3:2181 yarn.nodemanager.aux-services mapreduce_shuffle yarn.log-aggregation.retain-seconds 86400 yarn.resourcemanager.recovery.enabled true yarn.resourcemanager.store.class org.apache.hadoop.yarn.server.resourcemanager.recovery.ZKRMStateStore
注意:一共要修改6个文件
五. 编写zookeeper的配置找到zookeeper的目录,然后去到cd /opt/soft/zookeeper-3.4.6/conf/下面
拷贝并且重命名 cp zoo_sample.cfg zoo.cfg
修改文档 vi zoo.cfg六. 克隆机器(奇数)
打开VMware
最后打开三台机器,准备启动集群
启动三台机器修改
按顺序修改,例如:
主机名称:
hadoop1 hadoop2 hadoop3
IP地址
192.168.52.128 192.168.52.128 192.168.52.128
myid
1 2 3
1.主机名称
vi /etc/hostname
2.IP地址
vi /etc/sysconfig/network-scripts/ifcfg-ens33
这个是我的 hosts 文件
3.myid
找到自己的myid文档,按顺序改为1、2、3...(有多少台机器就按顺序写下去)(不能有空格或空行)
4.重启
确认无误后
然后就可以打开 Xshell 新建三台会话
**
**
如下
ssh-copy-id root@hadoop1 ssh-copy-id root@hadoop2 ssh-copy-id root@hadoop3
重点!
重点!
重点!(在下面这里)(一定要按顺序来)
1、分别每个机器上启动zookeeper集群(jps看到QuorumPeerMain进程)
bin/zkServer.sh start
2、每个机器上启动 journalnode(最好是奇数台机器)
(hadoop-daemon.sh start journalnode)启动完毕后jps能看到JournalNode进程
3、在一个namenode节点上进行格式化
hadoop namenode -format
注释:路径在core-site.xml中配置过
(格式化成功后在配置的data目录下,有个dfs,里面有name和data,因为没有启动集群,data是空的因为
格式化后暂时没有内容)
(name中存储元数据,data存真数据)
(name下有current,下面有4个文件,就是元数据信息)
4、注意,在格式化后namenode的机器上找到存放数据的data目录,然后拷贝到另外一个备份的data目录下,
保持初始元数据一致。下面是例子,具体目录自己决定。
scp -r data hadoop02:/opt/tmp/hadoop
scp -r data hadoop03:/opt/tmp/hadoop
5、在第任何一个namenode上(#格式化zookeeper),命令如下:
hdfs zkfc -formatZK
6、启动hdfs:start-dfs.sh
7、启动yarn:start-yarn.sh
8、测试
1)分别在每个机器上jps查看状态
2)分别访问两个namenode机器上的50070界面,查看状态是否一个是Active,另外一个是Standby
3)也可以测试访问一下yarn集群
4)高可用测试,测试主备切换
(将active状态的namenode进程干掉,kill -9 xxxxid)
(可以再使用单节点启动方式启动namenode:hadoop-daemon.sh start namenode)
配图
第一步:
bin/zkServer.sh start
第二步:
hadoop-daemon.sh start journalnode
第三步:格式化namenode
hadoop namenode -format
第四步:把格式化后产生的data拷贝到其他机器
#具体的data路径看core-site.xml 配置文件 scp -r data hadoop02:/opt/tmp/hadoop scp -r data hadoop03:/opt/tmp/hadoop
data的路径在core-site.xml
第五步:格式化zookeeper
hdfs zkfc -formatZK
第6、7步:
start-dfs.sh start-yarn.sh
第八步:测试
自己可以测试一下
8、测试 1)分别在每个机器上jps查看状态 2)分别访问两个namenode机器上的50070界面,查看状态是否一个是Active,另外一个是Standby 3)也可以测试访问一下yarn集群 4)高可用测试,测试主备切换 (将active状态的namenode进程干掉,kill -9 xxxxid) (可以再使用单节点启动方式启动namenode:hadoop-daemon.sh start namenode)
~~~ 完 ~~~



