栏目分类:
子分类:
返回
名师互学网用户登录
快速导航关闭
当前搜索
当前分类
子分类
实用工具
热门搜索
名师互学网 > IT > 软件开发 > 后端开发 > Java

kafka常用命令总结

Java 更新时间: 发布时间: IT归档 最新发布 模块sitemap 名妆网 法律咨询 聚返吧 英语巴士网 伯小乐 网商动力

kafka常用命令总结

一、前言

最近生产遇到一个类似kafka消息丢失的问题,不太好排查,可能是以下几种情况:

1.生产者把消息发送给kafka前就失败了
2.生产者把消息发送给kafka的途中消息丢失,kafka没有收到消息
3.生产者把消息发送给了kafka,但是kafka把消息放入队列失败,导致消息丢失
4.kafka收到了消息,也放入了队列,但是消费者没有读取到
5.消费者从kafka读取到了消息,但是处理失败了

下方总结下排查过程与相关的kafka常用命令

二、kafka常用命令(2.12-2.2.0版本)

首先找到kafka的bin目录,其中有很多sh文件可供使用。
1.查看kafka的group列表

./kafka-consumer-groups.sh --bootstrap-server 10.123.123.123:9092 --list

2.选择一个group(例如test),查看其中的topic列表

./kafka-consumer-groups.sh --bootstrap-server 10.123.123.123:9092 --group test --desribe

其中,topic是topic名称,
partition是分区id,
current-offset是当前已消费条数,
log-end-offset是总条数,
lag是未消费条数,
consumer-id是消费者的id,
host是消费者的ip,
client-id,是消费者的client-id(与consumer-id类似)

//如果发现lag是0,说明kafka没有未消费条数。

3.选择一个topic,查看是否包含某个字段(用来查看kafka是否收到某条消息)

./kafka-consumer-groups.sh --bootstrap-server 10.123.123.123:9092 --topic test-topic --from-beginning | grep '1234'

这样可以查看kafka是否收到了消息,但是没有收到消息的时间。

4.找到topic对应的日志位置,然后从日志中搜索是否包含某个字段(由于kafka是二进制保存日志文件的,因此需要下方命令才能查看)

./kafka-run-class.sh kafka.tools.DumpLogSegments -- files /data/kafka/kafka-logs/test-topic-0/00000000000000141.log --print-data-log | grep '1234'

这样既可以查看kafka是否收到了消息,也能查看收到消息的时间。

5.把kafka日志从二进制文件转存到txt中

./kafka-run-class.sh kafka.tools.DumpLogSegments -- files /data/kafka/kafka-logs/test-topic-0/00000000000000141.log --print-data-log > /data/kafka-test-topic.txt
转载请注明:文章转载自 www.mshxw.com
本文地址:https://www.mshxw.com/it/351148.html
我们一直用心在做
关于我们 文章归档 网站地图 联系我们

版权所有 (c)2021-2022 MSHXW.COM

ICP备案号:晋ICP备2021003244-6号