栏目分类:
子分类:
返回
名师互学网用户登录
快速导航关闭
当前搜索
当前分类
子分类
实用工具
热门搜索
名师互学网 > IT > 前沿技术 > 大数据 > 大数据系统

Hadoop技术集群安装

Hadoop技术集群安装

Hadoop技术集群安装

参考文档:

python基础操作以及hdfs操作 - Simon92 - 博客园

https://blog.csdn.net/qq_23043541/article/details/82120089?spm=1001.2101.3001.6650.1&utm_medium=distribute.pc_relevant.none-task-blog-2%7Edefault%7ECTRLIST%7Edefault-1.no_search_link&depth_1-utm_source=distribute.pc_relevant.none-task-blog-2%7Edefault%7ECTRLIST%7Edefault-1.no_search_link

python使用hdfs库操作Hadoop的HDFS_名狱的博客-CSDN博客_pyhdfs库

https://blog.csdn.net/lp895876294/article/details/114232807

https://www.cnblogs.com/jstarseven/p/7682221.html

Hadoop安装-超详细 - 知乎

1. 在三台机器上面添加组件安装账号: 也可以直接root安装
用户名:user1   分组:DataGroup1  密码: *****

2.关闭防火墙(这三台机器没有开,所以不需要操作)
  603   root 2021-05-24 13:18:13 systemctl stop firewalld
  604   root 2021-05-24 13:18:17 systemctl status firewalld
3.配置 /etc/ssh/sshd_config  允许适当的登录方式
  (base) [root@29-DT/]#vim /etc/ssh/sshd_config
  (base) [root@229-DT/]#service sshd restart
4.更改机器名 配置对用的ip
  参考命令:hostnamectl set-hostname slave1
    vim /etc/hosts
    10.182.*****  master
    10.182.*****   slave1
    10.182.*****   slave2
5.master slave1 slave2 三台机器间的免密登录(slave1-slave2-master)  
    在master上操作:
    ssh-keygen -t rsa -P '' -f ~/.ssh/id_rsa   #生成 id_rsa  id_rsa.pub
    cp id_rsa.pub authorized_keys     #将公钥拷到一个特定文件authorized_keys中
    [root@master~/.ssh]#scp authorized_keys  root@slave1:/root/.ssh/   #拷贝到slave1

    在slave1上操作:
    ssh-keygen -t rsa -P '' -f ~/.ssh/id_rsa   #生成 id_rsa  id_rsa.pub
   [root@slave1~/.ssh]#cat id_rsa.pub >> authorized_keys
   #scp authorized_keys  root@slave2:/root/.ssh/

    在slave2上操作:
    ssh-keygen -t rsa -P '' -f ~/.ssh/id_rsa   #生成 id_rsa  id_rsa.pub
   cat id_rsa.pub >> authorized_keys
   scp authorized_keys  root@slave1:/root/.ssh/
   scp authorized_keys  root@master:/root/.ssh/

    验证免密登录功能(略)
6.JDK 安装(注意版本选择,1.8几乎适合所以大数据软件,此次安装使用版本jdk1.8.0_271)
   tar zxvf jdk-****.tar.gz   #下载解压对应的版本
   修改 /etc/profile 
    export JAVA_HOME=/run/software/jdk1.8.0_271
    export JRE_HOME=/run/software/jdk1.8.0_271/jre
   
    执行source /etc/profile
    java -version  #查看版本号是否正确
  
    
 7.hadoop 安装
    1. 修改系统名字,及三个系统的ip和名字的映射(参考上面第四项)
    2. ping  连通性测试    
    3.SSH实现三台机子免密码登录 (参考上面第5项)
    4.安装jdk (参考上面第六项)
    5.hadoop安装包先上传到master,在master安装hadoop最后将安装好的文件传给其他机子
    6.后续工作参考:https://blog.csdn.net/qazwsxpcm/article/details/78637874
            https://zhuanlan.zhihu.com/p/32561305


 

转载请注明:文章转载自 www.mshxw.com
本文地址:https://www.mshxw.com/it/676845.html
我们一直用心在做
关于我们 文章归档 网站地图 联系我们

版权所有 (c)2021-2022 MSHXW.COM

ICP备案号:晋ICP备2021003244-6号