栏目分类:
子分类:
返回
名师互学网用户登录
快速导航关闭
当前搜索
当前分类
子分类
实用工具
热门搜索
名师互学网 > IT > 前沿技术 > 云计算 > 云平台

CDH6.3.2的安装注意事项

云平台 更新时间: 发布时间: IT归档 最新发布 模块sitemap 名妆网 法律咨询 聚返吧 英语巴士网 伯小乐 网商动力

CDH6.3.2的安装注意事项

文章目录
  • CDH搭建
      • 前期要求(都是坑)
      • 1、硬件要求(自己的本地物理机)
      • 2、java相关要求
        • 重要!
      • 3、数据库相关配置
      • 4、其他注意事项
    • END

CDH搭建 前期要求(都是坑)

多看官网,官网上有详细介绍配置要求

网址https://docs.cloudera.com/documentation/enterprise/6/release-notes/topics/rg_requirements_supported_versions.html

自己尝试过重要的点:

CDH6.3.2版本的搭建,对java版本、数据库版本、虚拟机(服务器)配置等都有影响

1、硬件要求(自己的本地物理机)
  • 三台虚拟机(lion、tiger、fish),其中lion是server机,三台都装上了agent

  • lion分配了3G内存空间,tiger和fish都为2G的内存空间,后续发现三台机器的内存全挤满…内存还是要尽量多留存

  • lion分配了30G磁盘空间,tiger和fish都是20G磁盘空间,在装上HDFS、ZK、Yarn后磁盘剩余还很多,但考虑到后续还要使用许多服务,还是分配大一点好

  • Java堆分配和jvm配置尽量调高,否则会出现jvm内存小没法完成任务而导致某一个步骤卡住的情况

  • 总之,搞CDH还是对硬件要求比较高,有能力还是上服务器比较好

2、java相关要求
  • 对于CDH6.3.x,均不支持jdk1.7,需要安装1.8版本以上的jdk

  • java版本,需要区分openjdk和oracle版本jdk
  • 对于oracle版本jdk,最好使用推荐的1.8u181版本

  • 对于openjdk,可以根据下图安装

重要!

Java最好安装在/usr/java/下,java文件夹使用mkdir /usr/java自行安装

  • 如果不安装在此目录下,会导致在CDH安装时报错,提示找不到java,这就需要使用下面的命令进行解决,用于创建一个软链接

  • ln -s [你的java安装目录] /usr/java/
    
  • 使用vim /etc/profile进行配置,加入java环境,并且千万记住使用source /etc/profile更新配置

3、数据库相关配置
  • 自己使用的MySQL,版本选择5.7版本,不要用8.0版本

  • 当然在安装MySQL之前,需要先把原本的mariaDB删除

    • 先用查询语句查询出你的安装包名

    • rpm -qa|grep maria*
      
    • 使用下面语句进行删除

    • rpm -e --nodeps [你的maria安装包名称]
      
  • 对所有自定义数据库使用 UTF8 编码。MySQL 和 MariaDB 必须使用 MySQLutf8编码,不是utf8mb4.

  • 对于 MySQL 5.7,必须安装MySQL-shared-compatMySQL-shared软件包。这是 Cloudera Manager Agent 安装所必需的。

在官网中还有更多对其他数据库的参数配置要求。

4、其他注意事项
  • 以下操作在所有主机上都需要进行

  • 在开始安装前,需要保证

    • (非必须)使用yum install vim安装vim,不安装的话使用vi命令也可

    • 先对网络进行配置,一定保证主机间互相ping通,网站可以ping通,使用vim /etc/sysconfig/network-scripts/ifcfg-ens33进行网络配置修改,需要保证以下内容正确

      • BOOTPROTO=static
      • ONBOOT=yes
    • 再使用vim /etc/hostname将hostname改为你自定义的名字,在此例中我使用的是lion(简单好记)

    • 使用vim /etc/hosts进行主机名和ip配置,在文件中添加如下的内容:

      • [主机1的ip地址] [配置好的主机1名]
        [主机2的ip地址] [配置好的主机2名]
        [主机3的ip地址] [配置好的主机3名]
        ...
        
    • 多台机器都已做好了ssh免密登录,使用ssh-keygen -t rsa生成密钥,再使用ssh-copy-id [免密登录主机名]将ssh配置到对应其他的主机

  • 在安装cloudera-scm-agent之前,需要先安装一些前置脚本

  • yum install bind-utils psmisc cyrus-sasl-plain cyrus-sasl-gssapi fuse portmap fuse-libs /lib/lsb/init-functions httpd mod_ssl openssl-devel python-psycopg2 MySQL-python libxslt
    
END
转载请注明:文章转载自 www.mshxw.com
本文地址:https://www.mshxw.com/it/895716.html
我们一直用心在做
关于我们 文章归档 网站地图 联系我们

版权所有 (c)2021-2022 MSHXW.COM

ICP备案号:晋ICP备2021003244-6号