栏目分类:
子分类:
返回
名师互学网用户登录
快速导航关闭
当前搜索
当前分类
子分类
实用工具
热门搜索
名师互学网 > IT > 前沿技术 > 大数据 > 大数据系统

HDFS参数调优

HDFS参数调优

  • 情景描述:开启Hadoop时候DN要向NN注册,那么NN开启多少个接客线程比较合适?
  • NameNode有一个工作线程池,用来处理不同DataNode的并发心跳以及客户端并发的元数据操作,对于打击群或者有大量客户端的集群来说,通常需要增大参数
  • dfs.namenode.handler.count的默认值是10
  • 有一个公式用来计算开启多少工作线程
dfs.namenode.handler.count=20 * log以e为底 集群台数

  • e.g.比如集群规模为8台,此参数设置为41,可以通过简单的python代码计算,代码如下:
import math
print int(20*math.log(8))
  • 这个参数在hdfs-site.xml里面设置

	dfs.namenode.handler.count
	10

转载请注明:文章转载自 www.mshxw.com
本文地址:https://www.mshxw.com/it/654508.html
我们一直用心在做
关于我们 文章归档 网站地图 联系我们

版权所有 (c)2021-2022 MSHXW.COM

ICP备案号:晋ICP备2021003244-6号