栏目分类:
子分类:
返回
名师互学网用户登录
快速导航关闭
当前搜索
当前分类
子分类
实用工具
热门搜索
名师互学网 > IT > 前沿技术 > 大数据 > 大数据系统

HDFS成员的工作机制

HDFS成员的工作机制

Python微信订餐小程序课程视频

https://edu.csdn.net/course/detail/36074

Python实战量化交易理财系统

https://edu.csdn.net/course/detail/35475

1|0NameNode工作机制

nn负责管理块的元数据信息,元数据信息为fsimage和edits预写日志,通过edits预写日志来更新fsimage中的元数据信息,每次namenode启动时,都会将磁盘中的fsimage读入到内存当达到snn的checkpoint标准时(一小时或100W次操作),由scc辅助nn进行edits和fsimage的合并

2|0SecondaryNameNode的工作机制

scc向nn询问是否需要执行checkpoint,并且直接带回询问结果。scc请求执行checkpointnn滚动正在写的edits日志,将checkpoint以前的edits和fsimage拷贝给snnsnn将edits和fsimage加载到内存中并且合并,生成新的文件fsimage.checkpointsnn将新生成的fsimage.checkpoint拷贝给nn,nn将文件改名为fsimage

2|1***** Fsimage介绍 *****

FSImage 是 NameNode 自最后一次 CheckPoint 之前的全部元数据,并不是实时的数据FSImage 保存了 NameNode 管理下的所有 DataNode 的文件和目录信息(对文件来说:包括文件的 block、各个 block 所在的 DataNode,以及它们的修改时间、访问时间等对目录来说:包括修改时间、访问权限控制信息(权限、属组)等。)FSImage 默认会保存2个,由属性 dfs.namenode.num.checkpoints.retained 控制。

3|0DateNode工作流程

dn在启动后会向nn进行注册,汇报块信息,在注册成功后,默认每隔6小时向nn汇报一次块信息,每三秒与nn进行一次心跳,心跳会带回nn对dn的命令,如删除某数据块(如果超过10分钟+30秒没有与nn进行心跳则会认为次dn已经挂掉)集群运行中可以安全的加入和退出一些机器

__EOF__

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-IL2xn5dh-1646327457860)(https://blog.csdn.net/MMarshall/p/15962581.html)]Marshall 本文链接:https://blog.csdn.net/MMarshall/p/15962581.html关于博主:评论和私信会在第一时间回复。或者直接私信我。版权声明:本博客所有文章除特别声明外,均采用 BY-NC-SA 许可协议。转载请注明出处!声援博主:如果您觉得文章对您有帮助,可以点击文章右下角**【[推荐](javascript:void(0)】**一下。您的鼓励是博主的最大动力!

转载请注明:文章转载自 www.mshxw.com
本文地址:https://www.mshxw.com/it/753371.html
我们一直用心在做
关于我们 文章归档 网站地图 联系我们

版权所有 (c)2021-2022 MSHXW.COM

ICP备案号:晋ICP备2021003244-6号