栏目分类:
子分类:
返回
名师互学网用户登录
快速导航关闭
当前搜索
当前分类
子分类
实用工具
热门搜索
名师互学网 > IT > 前沿技术 > 大数据 > 大数据系统

java创建kafka的topic

java创建kafka的topic

kafka 0.10及其以下版本创建topic

这个版本创建topic必须使用zookeeper,一般可以使用如下命令手动创建topic:

bin/kafka-topics.sh --create --zookeeper 127.0.0.1:2181 --replication-factor 3 --partitions 3 --topic test

那如何使用代码自动创建topic呢,可以使用AdminZkClient,示例如下:

KafkaZkClient zkClient = KafkaZkClient.apply("127.0.0.1:2181", false, 60000, 60000, 10, Time.SYSTEM, "metricGroup", "create topic", scala.Option.apply(null), scala.Option.apply(null));
if (zkClient == null) {
    throw new UnsupportedOperationException("KafkaZkClient null");
}

try {
    // 创建topic
    AdminZkClient adminZkClient = new AdminZkClient(zkClient);
    adminZkClient.createTopic("topic-name", 3, 1, new Properties(), RackAwareMode.Disabled$.MODULE$);
} finally {
    zkClient.close();
}

由于AdminZkClient是scala代码,所以使用kafka的依赖必须使用kafka_2.12,依赖引入如下:


	org.apache.kafka
	kafka_2.12

kafka 0.11及其以上版本创建topic

从kafka 0.11版本开始,就不再强制使用zookeeper创建topic,可以直接使用kafka的地址操作topic,并且提供了更简单的操作类AdminClient,使用如下:

Properties properties = new Properties();
properties.put(CommonClientConfigs.BOOTSTRAP_SERVERS_CONFIG, kafkaUrl);

// 创建管理者
AdminClient adminClient = AdminClient.create(properties);
try {
    // 创建topic前,可以先检查topic是否存在,如果已经存在,则不用再创建了
    Set topics = adminClient.listTopics().names().get();
    if (topics.contains(topicName)) {
        return;
    }

    // 创建topic
    NewTopic newTopic = new NewTopic("topic-name", 3, (short) 1);
    CreateTopicsResult result = adminClient.createTopics(Collections.singletonList(newTopic));
    result.all().get();
} finally {
    adminClient.close();
}

AdminClient是kafka客户端自带的,所以使用kafka只需要引入kafka-clients就行了,例如:


      org.apache.kafka
      kafka-clients
      2.5.1
      compile

转载请注明:文章转载自 www.mshxw.com
本文地址:https://www.mshxw.com/it/751268.html
我们一直用心在做
关于我们 文章归档 网站地图 联系我们

版权所有 (c)2021-2022 MSHXW.COM

ICP备案号:晋ICP备2021003244-6号