栏目分类:
子分类:
返回
名师互学网用户登录
快速导航关闭
当前搜索
当前分类
子分类
实用工具
热门搜索
名师互学网 > IT > 前沿技术 > 大数据 > 大数据系统

HDFS写数据流

HDFS写数据流

1、跟NameNode通信请求上传文件,NameNode检查目标文件是否已经存在,父目录是否已经存在

2、NameNode返回是否可以上传

3、Client先对文件进行切分,请求第一个block该传输到哪些DataNode服务器上

4、NameNode返回3个DataNode服务器DataNode 1,DataNode 2,DataNode 3

5、Client请求3台中的一台DataNode 1上传数据,DataNode 1收到请求会继续调用DataNode 2,然后DataNode 2调用DataNode 3,将整个pipeline建立完成,然后逐级返回客户端

6、Client开始往DataNode 1上传第一个block,以pocket为单位。写入的时候DataNode会进行数据校验,它并不是通过一个packet进行一次校验而是以chunk为单位进行校验。DataNode 1收到一个packet就会传给DataNode 2,DataNode 2传给DataNode 3,DataNode 1每传一个pocket会放入一个应答队列等待应答

7、当一个block传输完成之后,Client再次请求NameNode上传第二个block的服务器.
21大数据一班于泽

转载请注明:文章转载自 www.mshxw.com
本文地址:https://www.mshxw.com/it/350091.html
我们一直用心在做
关于我们 文章归档 网站地图 联系我们

版权所有 (c)2021-2022 MSHXW.COM

ICP备案号:晋ICP备2021003244-6号