栏目分类:
子分类:
返回
名师互学网用户登录
快速导航关闭
当前搜索
当前分类
子分类
实用工具
热门搜索
名师互学网 > IT > 前沿技术 > 大数据 > 大数据系统

系统运维系列 之Kafka查询不到正在消费的的消费组信息

系统运维系列 之Kafka查询不到正在消费的的消费组信息

1 问题背景
【怪怪怪】
目前消费者组正常消费,但是通过kafka manager监测不到consumer组的消费信息;前期出现的问题是一台Kafka的服务器down掉,连接不上集群,是不是和这个现象有关系呢?

2 排查思路
【期待解决】
2.1 详细解析 kafka manager 的使用
在添加Clusters时需要注意几个参数问题:
Enable JMX Polling:
是否开启 JMX 轮训,该部分直接影响部分 kafka broker 和 topic 监控指标指标的获取,例如每秒流入的消息数,每秒流入的字节数等。
Poll consumer information:
是否开启获取消费信息,直接影响能够在消费者页面和 topic 页面查看消费信息。
Enable Active OffsetCache:
是否开启 offset 缓存,决定 kafka-manager 是否缓存住 topic 的相关偏移量。

2.2 kafka 从zookeeper查询不到要的消费组信息原因解答
查看消费组信息使用如下命令:

./kafka-consumer-groups.sh --zookeeper ip:2181 --list

问题:查询不到消费组的信息;原因分析:从kafka-0.9版本及以后,kafka的消费者组和offset信息就不存zookeeper了,而是存到broker服务器上。
使用下面的命令查询消费组的信息:

/bin/kafka-consumer-groups.sh --bootstrap-server ip:9092 --list

参考资料:
https://www.cnblogs.com/kebibuluan/p/13857895.html 详细解析 kafka manager 的使用
https://blog.csdn.net/yuzuyi2006/article/details/80819104?utm_medium=distribute.pc_relevant.none-task-blog-2defaultbaidujs_baidulandingword~default-0.essearch_pc_relevant&spm=1001.2101.3001.4242.1 kafka 从zookeeper查询不到要的消费组信息原因解答

转载请注明:文章转载自 www.mshxw.com
本文地址:https://www.mshxw.com/it/582844.html
我们一直用心在做
关于我们 文章归档 网站地图 联系我们

版权所有 (c)2021-2022 MSHXW.COM

ICP备案号:晋ICP备2021003244-6号