栏目分类:
子分类:
返回
名师互学网用户登录
快速导航关闭
当前搜索
当前分类
子分类
实用工具
热门搜索
名师互学网 > IT > 软件开发 > 后端开发 > Java

Flink专题六:Flink 中并行度的概念及使用

Java 更新时间: 发布时间: IT归档 最新发布 模块sitemap 名妆网 法律咨询 聚返吧 英语巴士网 伯小乐 网商动力

Flink专题六:Flink 中并行度的概念及使用

由于工作需要最近学习flink
现记录下Flink介绍和实际使用过程
这是flink系列的第六篇文章

Flink 中并行度的概念及使用

并行度Slots

Slots概念slot共享 并行度的使用方法并行度优先级

并行度

一个任务(Source、Transformation、Sink)的并行实例(线程〉数目称为该任务的并行度

Slots Slots概念

在flink中,把对资源的最小抽象称作slot,可以理解为是资源的最小管理单位,它是TaskManager资源的一个子集。通过slot,flink将资源进行有效的划分和管理。注意,CPU资源并不是每个slot所独享的,而是共享的。
每个TaskManager拥有几个slot,就代表这个TaskManager能够提供的并发能力就是几,但实际的并行度也有可能小于这个数字。

slot共享

flink中允许一个任务的不同子任务共享同一个slot,也允许不同任务的不同子任务共享同一个slot,前提是这些子任务不属于同一种操作类型的任务。通过slot共享,能够让资源密集型子任务(Source,Map)和资源密集型子任务(KeyBy/Window/Apply)能够充分利用资源,避免闲的闲死,忙的忙死。

并行度的使用方法

Operator Level (算子层面〉

Execution Environment Level (执行环境层面〉

Client Level (客户层面〉
客户端提交 Job到Flink时-p参数设置:

./bin/flink run -p 10 WordCount- java . jar

System Level (系统层面)

flink-conf. yaml文件
使用parallelism.default属性来设置所有执行环境的默认并行度。

并行度优先级

一个任务的并行度设置包含下面4个层面:

    Operator Level (算子层面〉Execution Environment Level (执行环境层面〉Client Level (客户 层面〉System Level (系统层面)

优先级为 Operator Level> Execution Environment Level>Client Level>System Level

转载请注明:文章转载自 www.mshxw.com
本文地址:https://www.mshxw.com/it/777314.html
我们一直用心在做
关于我们 文章归档 网站地图 联系我们

版权所有 (c)2021-2022 MSHXW.COM

ICP备案号:晋ICP备2021003244-6号