Hadoop生态圈之HDFS学习笔记

HDFS（Hadoop Distributed File System），它是一个文件系统，用于存储文件，通过目录树来定位。其次，它是分布式的，由很多服务器联合起来实现其功能，集群中的服务器中各自的角色HDFS的使用场景：适合一次写入，多次读出的场景。一个文件经过创建、写入和关闭之后就不需要改变了 2.HDFS的优缺点

优点：

高容错性：

数据自动保存多个副本。它通过增加副本的形式，提高容错性某一个副本丢失以后，它会自动恢复 适合处理大数据

数据规模：能够处理数据规模达到GB、TB、甚至PB级别的数据文件规模：能够处理百万规模以上的文件数量。 可构建在廉价机器上，通过多个副本机制，提高可靠性。 缺点：

不适合低延迟数据访问，比如毫秒级的储存数据，是做不到的无法高效的对大量小文件进行存储

存储大量小文件的话，它会占用NameNode大量的内存来储存文件目录和块信息。这样是不可取的，因为NameNode的内存总是有限的小文件储存的寻址时间会超过读取时间，它违反了HDFS的设计目标 不支持并发写入、文件随机修改

一个文件只能有一个写入，不允许多个线程同时写仅支持数据append（追加），不支持文件的随机修改 3.HDFS组成架

NameNode（nn）：就是Master，它是一个主管、管理者。

管理HDFS的名称空间；配置副本策略；管理数据块（Block）映射信息；处理客户端读写请求。

DataNode：就是Slave。NameNode下达命令，DataNode执行实际的操作。

存储实际的数据块；执行数据块的读/写操作。

Client：就是客户端。

文件切分。文件上传HDFS的时候，Client将文件切分成一个一个的Block，然后进行上传与NameNode交互，获取文件的位置信息；与DataNode交互，读取或者写入数据；Client提供一些命令来管理HDFS，比如NameNode格式化；Client可以通过一些命令来访问HDFS，比如对HDFS增删查改操作；

Secondary NameNode：并非NameNode的热备。当NameNode挂掉的时候，它并不能马上替换NameNode并提供服务。

辅助NameNode，分担其工作量，比如定期合并Fsimage和Edits，并推送给NameNode在紧急情况下，可辅助恢复NameNode。 4.HDFS文件块大小（面试重点）

HDFS的文件在物理上是分块储存的（Block),块的大小可以通过配置参数（dfs.blocksize）来规定，默认大小在Hadoop2.x/3.x版本中是128M，1.x版本中是64M

思考：为什么块的大小不能设置太小，也不能设置太大？

HDFS的块设置太小，会增加寻址时间，程序一直在找块的开始位置；如果块设置的太大，从磁盘传输数据时间会明显大于定位这个块开始位置所需的时间。导致程序在处理这块数据时，会非常慢。HDFS块的大小设置主要取决于磁盘传输数率。 5.HDFS的读取流程（面试重点） 5.1文件写入流程

客户端通过DistributedFileSystem模块向NameNode请求上传文件，NameNode检查目标文件是否已经存在，父目录是否存在

NameNode返回是否可以上传。

客户端请求第一个Block上传到那几个DataNode服务器。

NameNode返回3个DataNode节点，分别为dn1，dn2，dn3

客户端通过FSDataOutputStream模块请求dn1上传数据，dn1收到请求会继续调用dn2，然后dn2调用dn3，将这个通信管道建立完成

dn1，dn2，dn3逐级应答客户端

客户端开始往dn1上传第一个Block（先从磁盘读取数据放到一个本地内存缓存）。以Packet为单位，dn1收到一个Packet就会传给dn2，dn2会传给dn3。dn1每传一个Packet会放入一个应答队列等待应答

当一个Block传输完成之后，客户端再次请求NameNode上传第二个Block的服务器（重复执行3-7的步骤）

客户端通过DistributedFileSystem向NameNode请求下载文件，NameNode判断客户端是否有权限读取数据，如果有则通过查询元数据，找到文件块所在的DataNode地址。挑选一台DataNode服务器（就近原则，然后随机），请求读取数据DataNode开始传输数据给客户端（从磁盘里面读取数据输入流，以Packet为单位来做校验）客户端以Packet为单位接受，先在本地缓存，然后写入目标数据文件。在传输客户端时会考虑DataNode的负载均衡

​ 在HDFS写数据的过程中，NameNode会选择距离待数据最近距离的DataNode接受数据。那么这个最近距离怎么计算呢？

节点距离：两个节点到达最近的共同祖先的距离总和。

第一阶段：NameNode启动

第一次启动NameNode格式化后，创建Fsimage和Edits文件。如果不是第一次启动，直接加载编辑日志和镜像文件到内存。客户端对元数据进行增删改查的请求。NameNode记录操作日志，更新滚动日志NameNode在内存中对元数据进行增删改查。 第二阶段：Secondary NameNode工作

Secondary NameNode询问NameNode是否需要CheckPoint。直接带回NameNode检查结果Secondary NameNode请求执行CheckPointNameNode滚动正在写的Edits日志。将滚动前的日志和镜像文件拷贝到Secondary NameNode。Secondary NaneNode加载编辑日志和镜像文件到内存中，并合并生成新的镜像文件fsimage.chekpoint。拷贝fsimage.chekpoint到NameNode。NameNode将fsimage.chekpoint重命名为fsimage Fsimage和Edits概念

Fsimage文件：HDFS文件系统元数据的一个永久性的检查点，其中包含HDFS文件系统的所有目录和文件index的序列化信息。Edits文件：存放HDFS文件系统的所以更新操作的路径，文件系统客户端执行的所有写操作首先会被记录到Edits文件中。每次NameNode启动时候都将Fsimage文件读入内存，加载Edits里面更新的操作，保证内存中的元数据信息是最新的、同步的，可以看成NameNode启动的时候将Fsimage和Edits文件进行了合并

（1）一个数据块在 DataNode 上以文件形式存储在磁盘上，包括两个文件，一个是数据
本身，一个是元数据包括数据块的长度，块数据的校验和，以及时间戳。
（2）DataNode 启动后向 NameNode 注册，通过后，周期性（6 小时）的向 NameNode 上
报所有的块信息。

（3）心跳是每 3 秒一次，心跳返回结果带有 NameNode 给该 DataNode 的命令如复制块
数据到另一台机器，或删除某个数据块。如果超过 10 分钟没有收到某个 DataNode 的心跳，
则认为该节点不可用。
（4）集群运行中可以安全加入和退出一些机器。