栏目分类:
子分类:
返回
名师互学网用户登录
快速导航关闭
当前搜索
当前分类
子分类
实用工具
热门搜索
名师互学网 > IT > 前沿技术 > 大数据 > 大数据系统

Hadoop Hase zookeeper 集群搭建

Hadoop Hase zookeeper 集群搭建

所需软件:CentOS-7-x86_64   Hadoop 2.7.2  Zookeeper 3.4.10  Hbase 1.3.3

 jdk-7u79-linux-x64.gz

1.安装前环境配置

新建虚拟机   

选择操作系统

开机配置网卡

 

 

 

 安装最小系统

 设置密码

 ① 修改主机名 

[root@master ~]# vi /etc/sysconfig/network
# Created by anaconda
NETWORKING=yes
HOSTNAME=master

② 修改IP地址

[root@master ~]# vi /etc/sysconfig/network-scripts/ ifcfg-e
IPADDR=192.168.226.130
NETMASK=255.255.255.0
GATEWAY=192.168.226.1
DNS1=192.168.226.1
[root@msater ~]# vi /etc/hosts
192.168.226.130 slave0


2.安装软件

   挂载

[root@master ~]# mkdir /mnt/cdrom
[root@master ~]# mount /dev/cdrom /mnt/cdrom
[root@master ~]# yum insatll -y vim zip openssh-server openssh-clients
 安装java
[root@master ~]#rpm -ivh jdk..
[root@master ~]#java -version

安装Hadoop zookeeper hbase

[root@master ~]# tar -zxf hadoop-2.7.2.tar.gz -C /usr/local/
[root@master ~]# tar -zxf zookeeper-3.4.10.tar.gz -C /opt/module/
[root@master ~]# tar -zxf hbase-1.3.3.gz -C /opt/module/

   配置Hadoop Zookeeper Hbase环境变量

[root@master ~]#vim /etc/profile

添加以下内容:(千万不错哟)

#Hbase_HOME

export Hbase_HOME=/opt/module/hbase-1.3.3

export PATH=$PATH:$Hbase_HOME/bin

#ZOOKEEPER

export ZOOKEEPER_HOME=/opt/module/zookeeper-3.4.10

export PATH=$PATH:$ZOOKEEPER_HOME/bin

#HADOOP_HOME

export HADOOP_HOME=/usr/local/hadoop-2.7.2

export PATH=$HADOOP_HOME/bin:$PATH:/usr/java/jdk1.7.0_80/bin

[root@master ~]#source /etc/profie


  配置文件

core-site

[root@master hadoop-2.7.2]# vim core-site.xml

    
       fs.defaultFS 
    hdfs://master:8020
  

  
    hadoop.tmp.dir 
    file:/root/hadoop-2.7.2./tmp
  

[root@master hadoop-2.7.2]# vim etc/hadoop/hadoop-env.sh
export JAVA_HOME=/usr/java/jdk1.7.0_80

还要配置hdfs-site.xml mapred-site.xm yarn-site.xml slaves自己去找吧累了


3.克隆虚拟机

关闭防火墙

关闭防火墙

[root@master ~]# systemctl stop firewalld.service

[root@master ~]# systemctl disable firewalld.service

查看防火墙状态:

[root@master ~]# systemctl status firewalld.service

把slave1,slave2两台机器配置好静态IP地址。

启动ntp 服务器

安装ntp
[root@master ~]# yum install -y ntp
[root@master ~]# vim /etc/ntp.conf


[root@master ~]# systemctl start  ntpd

或者

[root@slave0 ~]# service ntpd start

查看服务器状态:systemctl status ntpd

    SSH设置和密钥生成(可按照centos6)

SSH设置需要在集群上执行不同的操作。如启动、停止和分布式守护Shell操作。进行身份验证不同的Hadoop用户,需要一种用于Hadoop的用户提供的公钥/私钥对,并用不同的用户共享。以下的命令被用于生成使用SSH密钥值对。复制公钥从id_rsa.pub为authorized_keys,并提供所有者,读写权限到authorized_keys文件。

$ ssh-keygen -t rsa

$ cat ~/.ssh/id_rsa.pub >> ~/.ssh/authorized_keys

$ chmod 0600 ~/.ssh/authorized_keys

验证SSH。

ssh localhost

 免密登录法二:

$ ssh-keygen  -t  rsa

$cat ~/.ssh/id_rsa.pub >>  ~/.ssh/authorized_keys

$ssh-copy-id node1

$ssh-copy-id node2

Hadoop集群启动

① 需要格式化NameNode。

[root@master hadoop-2.7.2]# bin/hdfs namenode -format

② 启动HDFS。

[root@smaster hadoop-2.7.2]# sbin/start-dfs.sh

③ 启动Yarn。

[root@slave1 hadoop-2.7.2]# sbin/ sbin/start-yarn.sh

[root@slave1 hadoop-2.7.2]# jps



四、zookeeper安装
    命名/opt/module/zookeeper-3.4.10/conf这个目录下的zoo_sample.cfg为zoo.cfg
[root@masterconf]# cp  zoo_sample.cfg zoo.cfg
[root@masterconf]#vim zoo.cfg
添加这个
dataDir=/opt/module/zookeeper-3.4.10/data/zkData

在/opt/module/zookeeper-3.4.10/ 这个目录下创建data/zkData(slave1 slave2 一样)

[root@master zkData]#  touch myid

添加
server.1=master:2888:3888
server.2=slave1:2888:3888
server.3=slave2:2888:3888

启动zookeeper

[root@master zookeeper-3.4.10]# bin/zkServer.sh start
[root@slave1 zookeeper-3.4.10]# bin/zkServer.sh start
[root@slave2 zookeeper-3.4.10]# bin/zkServer.sh start


五、hbase安装
  1. 修改Hbase的配置文件(在hbase/conf下) hbase-site.xml文件  hbase-env.sh  regionservers (自己找去)

将Hadoop配置文件拷贝到Hbase的conf目录下

将Hadoop的配置文件core-site.xml和hdfs-site.xml拷贝到Hbase的conf目录下,接下来,在集群上分发以上所有文件。

scp -r 。。。。。。

(5)启动与停止Hbase集群

启动
$ bin/start-hbase.sh

对应的停止命令:

$ bin/stop-hbase.sh

总结

革命尚未成功 同志仍需努力 

转载请注明:文章转载自 www.mshxw.com
本文地址:https://www.mshxw.com/it/775138.html
我们一直用心在做
关于我们 文章归档 网站地图 联系我们

版权所有 (c)2021-2022 MSHXW.COM

ICP备案号:晋ICP备2021003244-6号