栏目分类:
子分类:
返回
名师互学网用户登录
快速导航关闭
当前搜索
当前分类
子分类
实用工具
热门搜索
名师互学网 > IT > 前沿技术 > 大数据 > 大数据系统

Flink 学习(一)

Flink 学习(一)

了解数据处理过程的基本模式?

数据输入(Source)
数据处理(Transformation)
数据输出(Sink)

大数据处理计算模式


流计算与批计算对比

Flink核心特性
1、统一数据处理组件栈,处理不同类型的数据需求(Batch、Stream、Machine Learning Graph)
2、支持事件时间(Event Time)、接入时间(Ingestion Time) 、处理时间(Processing Time)等概念
3、基于轻量级分布式快照实现的容错
4、支持有状态计算(Support for very large state 等
5、支持高度灵活的窗口(window)操作
6、带反压的连续流模型
7、基于JVM实现独立内存管理(Flink 在JVM 中实现自己的内存管理
8、应用可以超出主内存的大小限制,并且承受更少的垃圾收集开销
9、对象序列化二进制存储,类似于C对内存的管理

Flink 集群架构

JobManager

1、Checkpoint Coordinator
2、JobGraph -> Execution Graph
3、Task 部署与调度
4、RPC 通信(Actor System)
5、Job 接收 (Job Dispatch)
6、集群资源管理 (ResourceManager)
7、TaskManager 注册与管理

TaskManager

Client


JobGraph

转载请注明:文章转载自 www.mshxw.com
本文地址:https://www.mshxw.com/it/687860.html
我们一直用心在做
关于我们 文章归档 网站地图 联系我们

版权所有 (c)2021-2022 MSHXW.COM

ICP备案号:晋ICP备2021003244-6号