Hadoop全分布（防火墙全部关闭）
systenctl stop firewalld
firewall-cmd --state
修改三台虚拟机主机名，分别为master、slave1、slave2
[root@localhost ~]# hostnamectl set-hostname master
[root@localhost ~]# bash
[root@localhost ~]# hostnamectl set-hostname slave1
[root@localhost ~]# bash
[root@localhost ~]# hostnamectl set-hostname slave2
[root@localhost ~]# bash
查看IP，修改hosts文件
[root@master ~]# ifconfig
[root@slave1 ~]# ifconfig
[root@slave2 ~]# ifconfig
[root@master ~]# vi /etc/hosts （IP+master ip+slave1 ip+slave2）
分发hosts文件
[root@master ~]# scp /etc/hosts slave1:/etc/
[root@master ~]# scp /etc/hosts slave2:/etc/
ssh无密登录
创建密钥对
[root@master ~]# ssh-keygen -t rsa -P ''
[root@slave1 ~]# ssh-keygen -t rsa -P ''
[root@slave2 ~]# ssh-keygen -t rsa -P ''
复制公钥
[root@master ~]# ssh-copy-id master
[root@master ~]# ssh-copy-id slave1
[root@master ~]# ssh-copy-id slave2
测试登录
[root@master ~]# ssh slave1
java的安装配置
解压缩
[root@master ~]# tar -zxvf /h3cu/jdk-8u144-linux-x64.tar.gz -C /usr/local/src
配置环境变量
[root@master ~]# vi /root/.bash_profile
添加配置：
export JAVA_HOME=/usr/local/src/jdk1.8.0_144
export JRE_HOME=/usr/local/src/jdk1.8.0_144/jre
export CLASSPATH=.:$CLASSPATH:$JAVA_HOME/lib:$JRE_HOME/lib
export PATH=$JAVA_HOME/bin:$JRE_HOME/bin:$PATH
[root@master ~]# source /root/.bash_profile
[root@master ~]# java -version
安装配置hadoop
解压缩
[root@master ~]# tar -zxvf /h3cu/hadoop-2.7.1.tar.gz -C /usr/local/src
重命名hadoop
[root@master ~]# mv /usr/local/src/hadoop-2.7.1/ /usr/local/src/hadoop
配置环境变量
[root@master ~]# vi /root/.bash_profile
添加配置：
export HADOOP_HOME=/usr/local/src/hadoop
export PATH=$HADOOP_HOME/bin:$HADOOP_HOME/sbin:$PATH
[root@master ~]# source /root/.bash_profile
[root@master ~]# hadoop version
修改hadoop-env.sh配置文件
[root@master ~]# cd /usr/local/src/hadoop/etc/hadoop/
[root@master hadoop]# vi hadoop-env.sh
修改java路径
export JAVA_HOME=/usr/local/src/jdk1.8.0_144
修改core-site.xml配置文件
[root@master hadoop]# vi core-site.xml
添加配置：
[root@master hadoop]# vi hdfs-site.xml
添加配置：
[root@master hadoop]# vi yarn-site.xml
添加配置：
[root@master hadoop]# cp mapred-site.xml.template mapred-site.xml
[root@master hadoop]# vi mapred-site.xml
添加配置：
[root@master hadoop]# vi masters
添加配置：
master
[root@master hadoop]# vi slaves
添加配置：
slave1
slave2
新建目录
[root@master hadoop]# mkdir /usr/local/src/hadoop/tmp
[root@master hadoop]# mkdir /usr/local/src/hadoop/dfs/name -p
[root@master hadoop]# mkdir /usr/local/src/hadoop/dfs/data -p
分发环境变量文件
[root@master hadoop]# scp /root/.bash_profile slave1:/root
[root@master hadoop]# scp /root/.bash_profile slave2:/root
分发java文件和hadoop
[root@master hadoop]# scp -r /usr/local/src/* slave1:/usr/local/src
[root@master hadoop]# scp -r /usr/local/src/* slave2:/usr/local/src
格式化
[root@master hadoop]# hdfs namenode -format
启动集群
[root@master hadoop]# start-all.sh
[root@master hadoop]# jps
Hadoop伪分布（防火墙全部关闭）systemctl status firewalld
修改主机名
[root@localhost ~]# hostnamectl set-hostname master
[root@localhost ~]# bash
查看IP
[root@localhost ~]# ifconfig
修改hosts文件
[root@master ~]# vi /etc/hosts
在文件末尾添加IP与主机名映射
SSH无密登录
生成密钥对
[root@master ~]# ssh-keygen -t rsa -P ''
复制公钥
[root@master ~]# ssh-copy-id master
测试登录
[root@master ~]# ssh master
JDK的安装和配置
查看本机是否自带openjdk
[root@master ~]# rpm -qa | grep openjdk
如果有，使用命令卸载
rpm -e --nodeps +软件包
解压jdk包
[root@master ~]# tar -zxvf /h3cu/jdk-8u144-linux-x64.tar.gz -C /usr/local/src
配置环境变量
[root@master ~]# vi /root/.bash_profile
添加以下环境变量
export JAVA_HOME=/usr/local/src/jdk1.8.0_144
export JRE_HOME=/usr/local/src/jdk1.8.0_144/jre
export CLASSPATH=.:$CLASSPATH:$JAVA_HOME/lib:$JRE_HOME/lib
export PATH=$JAVA_HOME/bin:$JRE_HOME/bin:$PATH
使环境变量生效 如果没有生效export PATH=/usr/bin
[root@master ~]# source /root/.bash_profile
[root@master ~]# java -version
安装配置hadoop
解压缩hadoop安装包
[root@master ~]# tar -zxvf /h3cu/hadoop-2.7.1.tar.gz -C /usr/local/src
重命名hadoop目录
[root@master ~]# mv /usr/local/src/hadoop-2.7.1/ /usr/local/src/hadoop
配置hadoop环境变量
[root@master ~]# vi /root/.bash_profile
添加环境变量
export HADOOP_HOME=/usr/local/src/hadoop
export PATH=$HADOOP_HOME/bin:$HADOOP_HOME/sbin:$PATH
[root@master ~]# source /root/.bash_profile
修改hadoop-env.sh文件
[root@master ~]# cd /usr/local/src/hadoop/etc/hadoop/
[root@master hadoop]# vi hadoop-env.sh
修改java路径
export JAVA_HOME=/usr/local/src/jdk1.8.0_144
修改core-site.xml文件
添加配置：
创建临时目录
root@master hadoop]# mkdir /usr/local/src/hadoop/tmp
修改hdfs-site.xml文件
[root@master hadoop]# vi hdfs-site.xml
添加配置：
修改yarn-site.xml文件
[root@master hadoop]# vi yarn-site.xml
添加配置：
修改mapred-site.xml文件
[root@master hadoop]# cp mapred-site.xml.template mapred-site.xml
[root@master hadoop]# vi mapred-site.xml
添加配置：
修改masters文件
[root@master hadoop]# vi masters
添加配置：
master
修改slaves文件
[root@master hadoop]# vi slaves
master
格式化
[root@master hadoop]# hdfs namenode -format
[root@master hadoop]# start-all.sh
[root@master hadoop]# jps
Hive配置
基于hadoop集群+mysql5.7
解压缩
[root@master ~]# tar -zxvf /h3cu/apache-hive-1.1.0-bin.tar.gz -C /usr/local/src
重命名Hive目录
[root@master ~]# mv /usr/local/src/apache-hive-1.1.0-bin/ /usr/local/src/hive
设置环境变量
[root@master ~]# vi /root/.bash_profile
添加：
export HIVE_HOME=/usr/local/src/hive
export PATH=$HIVE_HOME/bin:$PATH
[root@master ~]# source /root/.bash_profile
修改配置文件
[root@master ~]# cd /usr/local/src/hive/conf/
[root@master conf]# cp hive-default.xml.template hive-site.xml
[root@master conf]# vi hive-site.xml
通过vi编辑器修改hive-site.xml文件实现Hive连接MySQL数据库，并设定Hive临时文件存储路径。
[root@master ~]# vi /usr/local/src/hive/conf/hive-site.xml
1）设置MySQL数据库连接。
2）配置MySQL数据库root的密码。
3）配置数据库驱动。
4）配置数据库用户名javax.jdo.option.ConnectionUserName为root。
5）将以下位置的${system:java.io.tmpdir}/${system:user.name}替换为“/usr/local/src/hive/tmp”目录及其子目录。
需要替换以下4处配置内容：
6）在Hive安装目录中创建临时文件夹tmp。
[root@master ~]# mkdir /usr/local/src/hive/tmp
至此，Hive组件安装和配置完成。
初始化hive元数据
将mysql驱动拷贝到hive目录下的lib
[root@master ~]# cp /h3cu/mysql-connector-java-5.1.46.jar /usr/local/src/hive/lib/
[root@master ~]# schematool -initSchema -dbType mysql
进入hive终端
Sqoop配置
基于hadoop集群和mysql数据库start-all.sh
解压缩安装包
[root@master ~]# tar -zxvf /h3cu/sqoop-1.4.7.bin__hadoop-2.6.0.tar.gz -C /usr/local/src
重命名sqoop目录
[root@master ~]# mv /usr/local/src/sqoop-1.4.7.bin__hadoop-2.6.0/ /usr/local/src/sqoop
配置sqoop环境变量
[root@master ~]# vi /root/.bash_profile
添加配置：
export SQOOP_HOME=/usr/local/src/sqoop
export PATH=$SQOOP_HOME/bin:$PATH
[root@master ~]# source /root/.bash_profile
[root@master ~]# cd /usr/local/src/sqoop/conf/
[root@master conf]# cp sqoop-env-template.sh sqoop-env.sh
[root@master conf]# vi sqoop-env.sh
添加配置：
export HADOOP_COMMON_HOME=/usr/local/src/hadoop
export HADOOP_MAPRED_HOME=/usr/local/src/hadoop
export Hbase_HOME=/usr/local/src/hbase
export HIVE_HOME=/usr/local/src/hive
[root@master conf]# cp /h3cu/mysql-connector-java-5.1.46.jar /usr/local/src/sqoop/lib/
[root@master conf]# sqoop list-databases --connect jdbc:mysql://127.0.0.1:3306/ --username root -P
