栏目分类:
子分类:
返回
名师互学网用户登录
快速导航关闭
当前搜索
当前分类
子分类
实用工具
热门搜索
名师互学网 > IT > 前沿技术 > 大数据 > 大数据系统

Kafka03——Kafka 工作流程及文件存储机制

Kafka03——Kafka 工作流程及文件存储机制


 Kafka 中消息是以 topic 进行分类的,生产者生产消息、消费者消费消息,都是面向 topic 的。
 topic 是逻辑上的概念,而 partition 是物理上的概念,每个 partition 对应于一个文件夹,该文件夹中存储的就是 producer 生产的数据,但是是分段存储在不同的xxx.log文件中的。Producer 生产的数据会被不断追加到该 log 文件末端,且每条数据都有自己的 offset。消费者组中的每个消费者,都会实时记录自己消费到了哪个 offset,以便出错恢复时,从上次的位置继续消费。
 该文件可以在server.properties中配置的log.dirs的路径下找到

log.dirs=/opt/kafka/kafka_2.12-3.0.0/logs


 一个分区对应一个文件夹,在文件夹下是对应的xxx.log文件等:

 xxx.log文件中存放的就是生产者生产的消息了,不过已经被压缩或加密。xxx.index中存放的是索引信息。

 由于生产者生产的消息会不断追加到 log 文件末尾,为防止 log 文件过大导致数据定位效率低下,Kafka 采取了分段和索引机制,将每个 partition 分为多个 segment。每个 segment 对应两个文件——“.index”文件和“.log”文件。这些文件位于一个文件夹下,该文件夹的命名规则为:topic 名称+分区序号。例如,first 这个 topic 有三个分区,则其对应的文件夹为 first-0、first-1、first-2。

00000000000000000000.index
00000000000000000000.log
00000000000000170410.index
00000000000000170410.log
00000000000000239430.index
00000000000000239430.log

 index 和 log 文件以当前 segment 的第一条消息的 offset 命名,以便快速定位消息的分段。下图为 index 文件和 log文件的结构示意图:

 “.index”文件存储大量的索引信息,“.log”文件存储大量的数据,索引文件中的元数据指向对应数据文件中 message 的物理偏移地址。

转载请注明:文章转载自 www.mshxw.com
本文地址:https://www.mshxw.com/it/670970.html
我们一直用心在做
关于我们 文章归档 网站地图 联系我们

版权所有 (c)2021-2022 MSHXW.COM

ICP备案号:晋ICP备2021003244-6号