栏目分类:
子分类:
返回
名师互学网用户登录
快速导航关闭
当前搜索
当前分类
子分类
实用工具
热门搜索
名师互学网 > IT > 前沿技术 > 大数据 > 大数据系统

hadoop集群规划与环境搭配

hadoop集群规划与环境搭配

  • 角色规划的准则
    根据软件工作特性和服务器硬件资源情况合理分配
    比如依赖内存工作的NameNode是不是部署在大内存机器上?
  • 集群配置注意:NameNode和SecondaryNameNode不要安装在同一台服务器 (2NN备份元数据的,如果放在一台机器上,机器宕机元数据就拿不到)
  • 注意:ResourceManager也很消耗内存,不要和NameNode、SecondaryNameNode配置在同一台机器上。

  • 服务器基础环境准备
     主机名(3台机器)
    vi /etc/hostname(修改主机名)
    hadoop100
    hadoop101
    hadoop102
     Hosts映射(3台机器)
    vi /etc/hosts
    修改ip地址与主机名的映射命令:
    vi /etc/hosts 添加对应的ip和相对应的主机名

  • 防火墙关闭(3台机器)
    systemctl stop firewalld.service #关闭防火墙
    systemctl disable firewalld.service #禁止防火墙开启自启

  • ssh免密登录

  • (hadoop100执行->hadoop100|hadoop101|hadoop102)
    ssh-keygen #4个回车 生成公钥、私钥
    ssh-copy-id hadoop100、ssh-copy-id hadoop101、ssh-copy-id hadoop102
    创建统一工作目录(3台机器都需要创建)
    在/opt文件下分别创建两个文件夹
    (software和module)
    命令: mkdir /opt/software
    mkdir /opt/module
    注:software里面存放我们解压前的文件
    module里面存放我们解压后的文件
    解压jdk到module文件夹中需要切换到software 文件夹下
    命令:cd /opt/software
    解压文件命令:tar -zxvf jdk-8u212-linux-x64.tar.gz -C /opt/module/
    解压hadoop到module文件夹中需要切换到software 文件夹下
    命令:cd /opt/software
    解压文件tar -zxvf hadoop-3.1.3.tar.gz -C /opt/module/

    配置JDK的环境变量
    (1)命令输入:vi /etc/profile
    保存并退出esc-----》:wq
    (2)启动这个文件让其生效
    命令:source /etc/profile
    验证jdk安装成功
    

    命令: java -version

转载请注明:文章转载自 www.mshxw.com
本文地址:https://www.mshxw.com/it/663744.html
我们一直用心在做
关于我们 文章归档 网站地图 联系我们

版权所有 (c)2021-2022 MSHXW.COM

ICP备案号:晋ICP备2021003244-6号