栏目分类:
子分类:
返回
名师互学网用户登录
快速导航关闭
当前搜索
当前分类
子分类
实用工具
热门搜索
名师互学网 > IT > 软件开发 > 后端开发 > Java

Flink 学习(一)

Java 更新时间: 发布时间: IT归档 最新发布 模块sitemap 名妆网 法律咨询 聚返吧 英语巴士网 伯小乐 网商动力

Flink 学习(一)

了解数据处理过程的基本模式?

数据输入(Source)
数据处理(Transformation)
数据输出(Sink)

大数据处理计算模式


流计算与批计算对比

Flink核心特性
1、统一数据处理组件栈,处理不同类型的数据需求(Batch、Stream、Machine Learning Graph)
2、支持事件时间(Event Time)、接入时间(Ingestion Time) 、处理时间(Processing Time)等概念
3、基于轻量级分布式快照实现的容错
4、支持有状态计算(Support for very large state 等
5、支持高度灵活的窗口(window)操作
6、带反压的连续流模型
7、基于JVM实现独立内存管理(Flink 在JVM 中实现自己的内存管理
8、应用可以超出主内存的大小限制,并且承受更少的垃圾收集开销
9、对象序列化二进制存储,类似于C对内存的管理

Flink 集群架构

JobManager

1、Checkpoint Coordinator
2、JobGraph -> Execution Graph
3、Task 部署与调度
4、RPC 通信(Actor System)
5、Job 接收 (Job Dispatch)
6、集群资源管理 (ResourceManager)
7、TaskManager 注册与管理

TaskManager

Client


JobGraph

转载请注明:文章转载自 www.mshxw.com
本文地址:https://www.mshxw.com/it/692940.html
我们一直用心在做
关于我们 文章归档 网站地图 联系我们

版权所有 (c)2021-2022 MSHXW.COM

ICP备案号:晋ICP备2021003244-6号