栏目分类:
子分类:
返回
名师互学网用户登录
快速导航关闭
当前搜索
当前分类
子分类
实用工具
热门搜索
名师互学网 > IT > 前沿技术 > 大数据 > 大数据系统

【Flink】FLink checkpoint 某个 subtask 特别耗时 DisconnectException: null

【Flink】FLink checkpoint 某个 subtask 特别耗时 DisconnectException: null

文章目录
  • 1.概述

1.概述

遇到有遇到过这种情况的么?某个subtask的ck时间总是比其他的subtask久很多,检查各个subtask的消费,也没有数据倾斜,好几次ck超时都是被这个subtask拖垮的


日志开始报org.apache.kafka.common.errors.DisconnectException: null,调整request.timeout.ms后就不怎么报了。

TM的PS_Scavenge次数较大,但是3个TM都较大,唯独每次都是同一个subtask的ck时间较突出。

作业背压在kafka source端,下游数据处理也没有背压啊。

我觉得调大request.timeout,虽然kafka不超时了,但是拖得时间

转载请注明:文章转载自 www.mshxw.com
本文地址:https://www.mshxw.com/it/687670.html
我们一直用心在做
关于我们 文章归档 网站地图 联系我们

版权所有 (c)2021-2022 MSHXW.COM

ICP备案号:晋ICP备2021003244-6号