栏目分类:
子分类:
返回
名师互学网用户登录
快速导航关闭
当前搜索
当前分类
子分类
实用工具
热门搜索
名师互学网 > IT > 前沿技术 > 大数据 > 大数据系统

大数据 HDFS-集群扩容及缩容

大数据 HDFS-集群扩容及缩容

目录

1.添加白名单

配置白名单步骤:

1)在NameNode节点的/opt/module/hadoop-3.1.3/etc/hadoop目录下分别创建whitelist 和blacklist文件

2)在hdfs-site.xml配置文件中增加dfs.hosts配置参数

3)分发配置文件whitelist,hdfs-site.xml

4)第一次添加白名单必须重启集群,不是第一次,只需要刷新NameNode节点即可

5)在web浏览器上查看DN,http://hadoop102:9870/dfshealth.html#tab-datanode

6)二次修改白名单,增加hadoop104

7)刷新NameNode

8)在web浏览器上查看DN,http://hadoop102:9870/dfshealth.html#tab-datanode

2.服役新服务器 (扩容)

1)需求

2)环境准备

3)服役新节点具体步骤

4)在白名单中增加新服役的服务器

3.服务期间的数据均衡

1)经验

2)开启数据均衡命令

3)停止数据均衡命令

4.黑名单退役服务器(卖服务器)

黑明单配置如下:

1)编辑/opt/module/hadoop-3.1.3/etc/hadoop目录下的blacklist文件

2)分发配置文件blacklist,hdfs-site.xml

3)第一次添加黑名单必须重启集群,不是第一次,只需要刷新NameNode节点即可

4)检查Web浏览器,退役节点的状态为decommission in progress(退役中),说明数据节点正在复制块到其他节点

5)等待退役节点状态为decommissioned(所有块已经复制完成),停止该节点及节点资源管理器。

6)如果数据不均衡,可以用命令实现集群的再平衡


1.添加白名单

白名单:表示在白名单的主机IP地址可以用来存储数据

企业中:配置白名单,可以尽量防止黑客恶意访问攻击

配置白名单步骤:

1)在NameNode节点的/opt/module/hadoop-3.1.3/etc/hadoop目录下分别创建whitelist 和blacklist文件

(1)创建白名单

[atguigu@hadoop102 hadoop]$ vim whitelist

在whitelist中添加如下主机名称,假如集群正常工作的节点为102 103

hadoop102

hadoop103

(2)创建黑名单

[atguigu@hadoop102 hadoop]$ touch blacklist

保持空的就可以

2)在hdfs-site.xml配置文件中增加dfs.hosts配置参数

     dfs.hosts

     /opt/module/hadoop-3.1.3/etc/hadoop/whitelist

 

     dfs.hosts.exclude

     /opt/module/hadoop-3.1.3/etc/hadoop/blacklist

3)分发配置文件whitelist,hdfs-site.xml

[atguigu@hadoop104 hadoop]$ xsync hdfs-site.xml whitelist

4)第一次添加白名单必须重启集群,不是第一次,只需要刷新NameNode节点即可

[atguigu@hadoop102 hadoop-3.1.3]$ myhadoop.sh stop

[atguigu@hadoop102 hadoop-3.1.3]$ myhadoop.sh start

5)在web浏览器上查看DN,http://hadoop102:9870/dfshealth.html#tab-datanode

6)二次修改白名单,增加hadoop104

[atguigu@hadoop102 hadoop]$ vim whitelist

修改为如下内容

hadoop102

hadoop103

hadoop104

7)刷新NameNode

[atguigu@hadoop102 hadoop-3.1.3]$ hdfs dfsadmin -refreshNodes

Refresh nodes successful

8)在web浏览器上查看DN,http://hadoop102:9870/dfshealth.html#tab-datanode

h3 

2.服役新服务器 (扩容)

1)需求

随着公司业务的增长,数据量越来越大,原有的数据节点的容量已经不能满足存储数据的需求,需要在原有集群基础上动态添加新的数据节点。

2)环境准备

(1)在hadoop100主机上再克隆一台hadoop105主机

(2)修改IP地址和主机名称

[root@hadoop105 ~]# vim /etc/sysconfig/network-scripts/ifcfg-ens33

[root@hadoop105 ~]# vim /etc/hostname

(3)拷贝hadoop102的/opt/module目录和/etc/profile.d/my_env.sh到hadoop105

[xx@hadoop102 opt]$ scp -r module/* atguigu@hadoop105:/opt/module/

 

[xx@hadoop102 opt]$ sudo scp /etc/profile.d/my_env.sh root@hadoop105:/etc/profile.d/my_env.sh

 

[xx@hadoop105 hadoop-3.1.3]$ source /etc/profile

(4)删除hadoop105上Hadoop的历史数据,data和log数据

[xx@hadoop105 hadoop-3.1.3]$ rm -rf data/ logs/

(5)配置hadoop102和hadoop103到hadoop105的ssh无密登录

[xx@hadoop102 .ssh]$ ssh-copy-id hadoop105

 

[xx@hadoop103 .ssh]$ ssh-copy-id hadoop105

3)服役新节点具体步骤

(1)直接启动DataNode,即可关联到集群

[xx@hadoop105 hadoop-3.1.3]$ hdfs --daemon start datanode

[xx@hadoop105 hadoop-3.1.3]$ yarn --daemon start nodemanager

4)在白名单中增加新服役的服务器

(1)在白名单whitelist中增加hadoop104、hadoop105,并重启集群

[xx@hadoop102 hadoop]$ vim whitelist

修改为如下内容

hadoop102

hadoop103

hadoop104

hadoop105

(2)分发

[xx@hadoop102 hadoop]$ xsync whitelist

(3)刷新NameNode

[xx@hadoop102 hadoop-3.1.3]$ hdfs dfsadmin -refreshNodes

Refresh nodes successful

5)在hadoop105上上传文件

[xx@hadoop105 hadoop-3.1.3]$ hadoop fs -put /opt/module/hadoop-3.1.3/LICENSE.txt /

3.服务期间的数据均衡

1)经验

在企业开发中,如果经常在hadoop102和hadoop104上提交任务,且副本数为2,由于数据本地原则,就会导致hadoop102和hadoop104数据过多的,hadoop103存储的数据量小。

另一种情况,就是新服役服役的服务器数量比较少,需要执行集群均衡命令

2)开启数据均衡命令

[xx@hadoop105 hadoop-3.1.3]$ sbin/start-balancer.sh -threshold 10

对于参数10,代表的是集群中各个节点的磁盘空间利用率相差不超过10%,可根据实际情况进行调整。()

3)停止数据均衡命令

[xx@hadoop105 hadoop-3.1.3]$ sbin/stop-balancer.sh

注意:由于HDFS需要启动单独的Rebalance Server来执行Rebalance操作,所以尽量不要在NameNode上执行start-balancer.sh,而是找一台比较空闲的机器。

4.黑名单退役服务器(卖服务器)

黑名单:表示在黑名单的主机IP地址不可以用来存储数据

企业中:配置黑名单,用来退役服务器

黑明单配置如下:

1)编辑/opt/module/hadoop-3.1.3/etc/hadoop目录下的blacklist文件

[xx@hadoop102 hadoop] vim blacklist

添加如下主机名称(要退役的节点)

hadoop105

注意:如果白名单中没有配置,需要在hdfs-site.xml配置文件中增加dfs.hosts配置参数

     dfs.hosts.exclude

     /opt/module/hadoop-3.1.3/etc/hadoop/blacklist

2)分发配置文件blacklist,hdfs-site.xml

[xx@hadoop104 hadoop]$ xsync hdfs-site.xml blacklist

3)第一次添加黑名单必须重启集群,不是第一次,只需要刷新NameNode节点即可

[xx@hadoop102 hadoop-3.1.3]$ hdfs dfsadmin -refreshNodes

Refresh nodes successful

4)检查Web浏览器,退役节点的状态为decommission in progress(退役中),说明数据节点正在复制块到其他节点

 

 

5)等待退役节点状态为decommissioned(所有块已经复制完成),停止该节点及节点资源管理器。

注意:如果副本数是3,服役的节点小于等于3,是不能退役成功的,需要修改副本数后才能退役

[xx@hadoop105 hadoop-3.1.3]$ hdfs --daemon stop datanode

stopping datanode

[xx@hadoop105 hadoop-3.1.3]$ yarn --daemon stop nodemanager

stopping nodemanager

6)如果数据不均衡,可以用命令实现集群的再平衡

[xx@hadoop102 hadoop-3.1.3]$ sbin/start-balancer.sh -threshold 10

转载请注明:文章转载自 www.mshxw.com
本文地址:https://www.mshxw.com/it/344267.html
我们一直用心在做
关于我们 文章归档 网站地图 联系我们

版权所有 (c)2021-2022 MSHXW.COM

ICP备案号:晋ICP备2021003244-6号