栏目分类:
子分类:
返回
名师互学网用户登录
快速导航关闭
当前搜索
当前分类
子分类
实用工具
热门搜索
名师互学网 > IT > 软件开发 > 后端开发 > Java

【Flink】FLink checkpoint 某个 subtask 特别耗时 DisconnectException: null

Java 更新时间: 发布时间: IT归档 最新发布 模块sitemap 名妆网 法律咨询 聚返吧 英语巴士网 伯小乐 网商动力

【Flink】FLink checkpoint 某个 subtask 特别耗时 DisconnectException: null

文章目录
  • 1.概述

1.概述

遇到有遇到过这种情况的么?某个subtask的ck时间总是比其他的subtask久很多,检查各个subtask的消费,也没有数据倾斜,好几次ck超时都是被这个subtask拖垮的


日志开始报org.apache.kafka.common.errors.DisconnectException: null,调整request.timeout.ms后就不怎么报了。

TM的PS_Scavenge次数较大,但是3个TM都较大,唯独每次都是同一个subtask的ck时间较突出。

作业背压在kafka source端,下游数据处理也没有背压啊。

我觉得调大request.timeout,虽然kafka不超时了,但是拖得时间

转载请注明:文章转载自 www.mshxw.com
本文地址:https://www.mshxw.com/it/686208.html
我们一直用心在做
关于我们 文章归档 网站地图 联系我们

版权所有 (c)2021-2022 MSHXW.COM

ICP备案号:晋ICP备2021003244-6号