链接:https://pan.baidu.com/s/1G6V9u5PDyxlixZ2PwGWdJA 提取码:q8mb
注:以上安装包是一个zip包,内包含安装CDH6.1所有的包,下载后解压即可
二、上传安装包到master节点注意:这里的安装目录最好以本文为主,这样后面的指令直接可以粘贴复制即可,不用修改
1、在root目录下新建cloudera目录,并将下载的安装包放于里面指令:
#在root目录下创建cloudera目录 cd /root mkdir cloudera
截图:
2、上传安装包于cloudera目录下,并解压上传安装包后截图:
指令:
#解压指令 unzip cloudera.zip #这里解决一下一个bug,文件名命名不对,我懒得去更新压缩包内的内容了,所有搭建者看到这就自己辛苦下 cd /root/cloudera/cloudera-manager mv allkeys.asc.txt allkeys.asc
解压后截图:
3、查看所有安装包目录信息指令:
#如果没有tree指令,则先下载安装指令 yum install tree #查看root目录下cloudera目录的目录树 tree -C /root/cloudera
截图:(这图可以清晰看到我们安装CDH所需要的安装包信息)
三、前期服务器环境准备 1、安装常用工具(每一个节点都需要执行)指令:
yum install -y vim wget ntp net-tools
截图:
2、设置主机名(每一个节点都需要执行)指令:
#此处为例子,根据实际情况自行设定名称,此处将服务器名称改为master hostnamectl set-hostname master #设置第二个节点服务器的名称为slave-1 hostnamectl set-hostname slave-1 #设置第三个节点服务器的名称为slave-2 hostnamectl set-hostname slave-2
截图:(因为之前我就设置了服务器名称,所以此处截图名称已经修改为了master)
3、修改hosts文件(每一个节点都需要执行)指令:
#编辑hosts文件 vim /etc/hosts #在hosts文件尾部追加如下内容 192.168.127.117 master 192.168.127.118 slave-1 192.168.127.119 slave-2
截图:
4、修改每台主机的/etc/sysconfig/network文件(每一个节点都需要执行)指令:
#打开文件 vim /etc/sysconfig/network #写入对应的服务器 HOSTNAME=master 注:其余节点服务器分别写入各自服务器名称
截图:
5、查看主机名是否生效(每一个节点都需要执行)指令:
hostname
截图:
6、关闭防火墙(每一个节点都需要执行)指令:
#直接全部粘贴复制执行就好 systemctl stop firewalld && systemctl disable firewalld && systemctl status firewalld
截图:
7、关闭Selinux(每一个节点都需要执行)指令:
#编辑selinux文件 vim /etc/sysconfig/selinux #修改如下内容,将enforcing换成permissive SELINUX=permissive ###注意:此处需要重启服务器,不然不生效,会导致后面搭建本地yum源的时候报403的错误
截图:
8、配置SSH免密登陆(每一个节点都需要执行)参考如下文章:
https://blog.csdn.net/Alan3344/article/details/841316619、设置NTP服务
9.1、在主节点上
指令:
#编辑ntp.conf文件
vim /etc/ntp.conf
#注释掉如下内容
server 0.centos.pool.ntp.org iburst
server 1.centos.pool.ntp.org iburst
server 2.centos.pool.ntp.org iburst
server 3.centos.pool.ntp.org iburst
#添加如下内容
server 127.127.1.0
Fudge 127.127.1.0 stratum 10
#修改如下信息
restrict ${当前节点ip} nomodify notrap nopeer noquery
restrict ${集群所在网段的网关} mask ${子网掩码} nomodify notrap
截图:
9.2、其余节点上(其余节点都需要执行)
指令:
#编辑ntp.conf文件
vim /etc/ntp.conf
#注释掉如下内容
server 0.centos.pool.ntp.org iburst
server 1.centos.pool.ntp.org iburst
server 2.centos.pool.ntp.org iburst
server 3.centos.pool.ntp.org iburst
#添加如下内容
server ${主节点ip}
Fudge ${主节点ip} stratum 10
#修改如下信息
restrict ${当前节点ip} nomodify notrap nopeer noquery
restrict ${集群所在网段的网关} mask ${子网掩码} nomodify notrap
截图:
9.3、启动时间同步服务器(每一个节点都要执行)
指令:
#直接全部粘贴复制运行即可 systemctl start ntpd && systemctl enable ntpd && ntpdate -u 0.cn.pool.ntp.org && hwclock --systohc && date #查看是否链接上主节点时间服务器 ntpstat
截图:
10、在主节点安装本地yum源(只需要在主节点,也就是安装CM的节点)指令:
#前面强调了把下载的安装包放于/root/cloudera下面,此处下面指令就全部粘贴复制运行即可,否则需要更改路径信息 yum -y install httpd createrepo && systemctl start httpd && systemctl enable httpd && cd /root/cloudera/cloudera-manager/ && createrepo . && mv /root/cloudera/cloudera-manager/ /var/www/html/
截图:
11、安装JDK(只需要在主节点,也就是安装CM的节点)指令:
#进入到安装路径下,(安装前面所示安装包路径,则直接粘贴使用) cd /var/www/html/cloudera-manager/ rpm -ivh oracle-j2sdk1.8-1.8.0+update141-1.x86_64.rpm
截图:
12、安装Mysql(只需要在主节点,也就是安装CM的节点)12.1、卸载mariadb
指令:
#以下指令全部粘贴复制就行 #卸载自带的mariadb yum -y remove mariadb-libs
截图:
12.2、解压下载MySQL的安装包
指令:
#解压下载的MySQL包 cd /root/cloudera/mysql/ tar -xvf mysql-5.7.27-1.el7.x86_64.rpm-bundle.tar
截图:
12.3、安装MySQL
指令:
#直接全部粘贴复制运行 yum install -y libaio && rpm -ivh mysql-community-common-5.7.27-1.el7.x86_64.rpm && rpm -ivh mysql-community-libs-5.7.27-1.el7.x86_64.rpm && rpm -ivh mysql-community-client-5.7.27-1.el7.x86_64.rpm && rpm -ivh mysql-community-server-5.7.27-1.el7.x86_64.rpm && rpm -ivh mysql-community-libs-compat-5.7.27-1.el7.x86_64.rpm
截图:
12.4、配置 my.cnf
指令:
#粘贴复制运行即可 echo character-set-server=utf8 >> /etc/my.cnf
截图:
12.5、创建数据库以及授权
指令:
#这只是一个创建数据库的SQL脚本文件,里面涉及到数据库的密码,根据个人进行修改即可,修改后全部粘贴复制运行就好 ( cat <> /root/c.sql
截图:
12.6、启动MySQL服务
指令:
#直接粘贴复制运行即可 systemctl enable mysqld && systemctl start mysqld && grep password /var/log/mysqld.log | sed 's/.*(............)$/1/'
截图:
12.7、登陆MySQL并运行之前写好的SQL脚本
指令:
#登陆MySQL mysql -uroot -p #密码就输入上面打印出的初始化密码就好 #运行SQL文件(注意你的sql是否放在该目录下,建议以文档为主,懒得修改那么多) source /root/c.sql
截图:
12.8、配置MySQL JDBC驱动
指令:
#直接粘贴复制执行 mkdir -p /usr/share/java/ && cd /root/cloudera/mysql-jdbc/;tar -zxvf mysql-connector-java-5.1.47.tar.gz && cp /root/cloudera/mysql-jdbc/mysql-connector-java-5.1.47/mysql-connector-java-5.1.47-bin.jar /usr/share/java/mysql-connector-java.jar
截图:
四、CM搭建 1、在主节点上配置本地yum源指令:
#配置本地yum源,记得要修改ip,修改后直接粘贴复制执行即可 ( cat <> /etc/yum.repos.d/cloudera-manager.repo && yum clean all && yum makecache
截图:
2、安装 Cloudera Manager指令:
yum install -y cloudera-manager-daemons cloudera-manager-agent cloudera-manager-server
截图:
3、配置本地Parcel存储库指令:
#以下指令依次粘贴执行就好,第一条指令
mv /root/cloudera/parcel/* /opt/cloudera/parcel-repo
#第二条指令
cd /opt/cloudera/parcel-repo/
#第三条指令
sha1sum CDH-6.1.0-1.cdh6.1.0.p0.770702-el7.parcel | awk '{ print $1 }' > CDH-6.1.0-1.cdh6.1.0.p0.770702-el7.parcel.sha
#第四条指令
chown -R cloudera-scm:cloudera-scm /opt/cloudera/parcel-repo/*
截图:
4、初始化scm库指令:
#注意修改你所配置的mysql对应scm库的密码,如果按照本文所设置,则直接粘贴复制执行 /opt/cloudera/cm/schema/scm_prepare_database.sh mysql scm scm 123456Aa.
截图:
5、启动CM指令:
#直接粘贴复制执行 systemctl start cloudera-scm-server && sleep 2 && tail -f /var/log/cloudera-scm-server/cloudera-scm-server.log | grep "INFO WebServerImpl:com.cloudera.server.cmf.WebServerImpl: Started Jetty server"
截图:
6、登陆CM界面指令:
http://${CM所在节点的IP}:7180
账号/密码:admin/admin
截图:
五、初始化CM以及组件安装 1、欢迎界面,下一步 2、用户许可,同意,下一步 3、选择试用版60天到期 4、欢迎界面,下一步 5、选择网络中的主机,下一步 6、输入本地 yum 源地址,下一步 7、同意 jdk 使用许可,下一步 8、输入其他主机密码,下一步 9、每台主机安装 agent和parcels,安装完毕,下一步 10、主机健康检查,下一步 11、选择安装的服务 12、自行分配角色至主机 13、 测试数据库链接 14、配置实例的安装位置,数据目录尽量安装在大的分区下 15、安装服务,下一步 16、安装完成


