单节点Hadoop安装(详细操作和问题处理)

Purpose

本篇介绍了如何设置和配置单节点Hadoop安装，一个简单的伪分布式环境，可以使用HadoopMapReduce和Hadoop分布式文件系统(HDFS)快速执行简单的操作。操作详细，和一些异常的解决方法。

Prerequisites 1.支持的平台

支持GNU/Linux作为一个开发和生产平台。Hadoop已经在具有2000个节点的GNU/Linux集群上进行了演示。
Windows也是一个受支持的平台，但以下步骤仅适用于Linux。要在窗口上设置Hadoop，请参阅wiki页面

2.所需软件

linux所需的软件包括：

安装Java,jdk1.8版本下载linux下载安装jdk对应liunx的tar包
jdk-8u281-linux-x64.tar.gz
hadoop-3.2.2 下载对应的tar包 hadoop-3.2.2.tar.gz
VMware 和 Xshell(远程连接，方便操作)
如果要使用可选的启动和停止脚本，则必须安装ssh并运行sshd才能使用管理远程Hadoop守护进程的Hadoop脚本。此外，建议还应安装pdsh，以更好地进行ssh资源管理。(本文没有用脚本安装jdk)

3.安装软件

如果您的集群没有必要的软件，那么您就需要安装它。把 jdk-8u281-linux-x64.tar.gz hadoop-3.2.2.tar.gz 的tar包上传到搭建的集群中
(可以通过xshell或者linux命令rz)。
先关闭集群节点的防火墙

#查看防火状态
systemctl status firewalld
#暂时关闭防火墙
systemctl stop firewalld
#永久性关闭防火墙（用这个）
systemctl disable firewalld

修改yum源

#安装wget
yum install wget -y
#修改yum源
mv /etc/yum.repos.d/CentOS-Base.repo /etc/yum.repos.d/CentOS-Base-repo.backup
wget -O /etc/yum.repos.d/CentOS-Base.repo  http://mirrors.aliyun.com/repo/Centos-7.repo
yum clean all
yum makecache
#安装常用软件
yum install man man-pages ntp vim lrzsz zip unzip -y

修改hosts的主机名和IP配置文件（根据自己的虚拟机子网地址如192.168.100. xxx，每台都不一样，也可以自己设置）

vim /etc/hosts
#在最后添加自己主机名和IP配置文件

设置无密码ssh

#生成密钥
ssh-keygen -t rsa -P '' -f ~/.ssh/id_rsa
#把密钥发放到自己本节点的ip地址（发给自己）“root@192.168.100.200”
ssh-copy-id root@192.168.100.200 ~/.ssh/id_rsa.pub
#测试
ssh root@localhost
ssh root@127.0.0.1

把文件上传集群，解压

ll
#解压缩到当前节点
tar -zxvf hadoop-3.2.2.tar.gz 
tar -zxvf jdk-8u281-linux-x64.tar.gz

ll
#删除压缩包文件
rm -rf hadoop-3.2.2.tar.gz
rm -rf jdk-8u281-linux-x64.tar.gz

解压缩的文件到/opt/apps 并且修改jdk1.8.0_281的文件名为jdk , 也可以修改hadoop方便下面配置。

mv hadoop-3.2.2 /opt/apps/ 
mv jdk1.8.0_281 /opt/apps/ jdk
cd /opt/apps/
ll

修改配置文件
输入i插入，把配置信息复制，按esc 并且输入冒号:wq(保存退出)

cd hadoop-3.2.2/etc/hadoop/
vim care-site.xml
#输入i插入，把配置信息复制，按esc 并且输入冒号:wq(保存退出)



    fs.defaultFS
    hdfs://cwnode00:9000



    hadoop.tmp.dir
    /opt/apps/hadoop-3.2.2/data/tmp




#配置 hdfs-site.xml
vim hdfs-site.xml
输入i插入，把配置信息复制，按esc 并且输入冒号:wq(保存退出)



        dfs.replication
        1

 
        dfs.http.address
        0.0.0.0:50070

修改JAVA_HOME的配置信息

cd /opt/apps/hadoop-3.2.2/etc/hadoop/
vim hadoop-env.sh
vim mapred-env.sh
vim yarn-env.sh
#分别插入配置信息
export JAVA_HOME=/opt/apps/jdk  #jdk对应的文件目录

配置环境变量

vim /etc/profile
#在文件的最下面添加
export JAVA_HOME=/opt/apps/jdk
export PATH=$JAVA_HOME/bin:$PATH
export HADOOP_HOME=/opt/apps/hadoop-3.2.2/
export PATH=$PATH:$HADOOP_HOME/bin:$HADOOP_HOME/sbin
#重新读取环境变量
source /etc/profile

最后就是启动了，启动之前先进行格式化
hdfs namenode -format

表示格式化成功
接下来就可以用命令启动集群了
start-dfs.sh

4.异常的解决办法

问题1
hadoop环境搭建完成后，访问hdfs网址：xx.xxx.xxx.xx:50070不能访问，试试：9870
如果不可以的话要在次查看hosts配置文件，
还有查看虚拟网络配置器中的 NAT模式下的子网。
问题2
格式化失败

1.格式化失败解决方法
2.重新格式化需要注意的问题

单节点Hadoop安装(详细操作和问题处理)

Java相关栏目本月热门文章