MapReduce和Yarn技术原理
一、MapReduce概述
- MapReduce基于Google---MapReduce论文设计开发基于函数式（mapper和reducer）编程的思想，用于大规模数据集(大于1TB) 的并行计算和离线计算， 特点：
（1）函数式编程：程序员仅需描述做什么，具体怎么做交由系统的执行框架处理。
（2）良好的扩展性：可通过添加节点以扩展集群能力。
（3）高容错性：通过计算迁移或数据迁移等策略提高集群的可用性与容错性
二、MapReduce工作原理：分而治之
举例：（评选校级优秀学生------每个学院先评选出优秀学生-----汇总）
Map阶段和Reduce阶段
1、单词汇总为例
2、Map和Reduce的过程
4.Shuffle机制
Shuffle的定义：Map阶段和Reduce阶段之间传递中间数据的过程
三、Yarn组件架构
YARN是一个资源管理、任务调度的框架，主要包含三大模块：ResourceManager（RM）、NodeManager（NM）、ApplicationMaster（AM）。
ResourceManager负责所有资源的监控、分配和管理，一个集群只有一个
NodeManager负责每一个节点的维护，一个集群有多个
ApplicationMaster负责每一个具体应用程序的调度和协调，一个集群有多个
1、ResourceManager负责整个集群的资源管理和分配。
NodeManager以心跳的方式向ResourceManager汇报资源使用情况（目前主要是CPU和内存的使用情况）。RM只接受NM的资源回报信息，对于具体的资源处理则交给NM自己处理。
YARN Scheduler根据application的请求为其分配资源，不负责application job的监控、追踪、运行状态反馈、启动等工作
2、NodeManager是每个节点上的资源和任务管理器
（1）YARN集群每个节点都运行一个NodeManager
（2）NodeManager定时向ResourceManager汇报本节点资源（CPU、内存）的使用情况和Container的运行状态。当ResourceManager宕机时NodeManager自动连接RM备用节点。
（3）NodeManager接收并处理来自ApplicationMaster的Container启动、停止等各种请求
3、每个应用程序均包含一个ApplicationMaste
（1）负责与RM调度器协商以获取资源（用Container表示）。
（2）与NM通信以启动/停止任务。
（3）监控所有任务运行状态，并在任务运行失败时重新为任务申请资源以重启任务。
