栏目分类:
子分类:
返回
名师互学网用户登录
快速导航关闭
当前搜索
当前分类
子分类
实用工具
热门搜索
名师互学网 > IT > 软件开发 > 后端开发 > Java

Druid Kafka indexing service (Druid 导入 Kafka 数据)

Java 更新时间: 发布时间: IT归档 最新发布 模块sitemap 名妆网 法律咨询 聚返吧 英语巴士网 伯小乐 网商动力

Druid Kafka indexing service (Druid 导入 Kafka 数据)

1、默认已经安装 Druid, 如未安装请参见上篇文章 2、安装 Kafka 环境。(单机测试)(Druid 与 Kafka 在同一台机器上)

     2.1 下载 kafka

    curl -O http://www.us.apache.org/dist/kafka/0.9.0.0/kafka_2.11-0.9.0.0.tgz
    tar -xzf kafka_2.11-0.9.0.0.tgz
    cd kafka_2.11-0.9.0.0

    2.2 启动(由于 kafka 与 zookeeper 在一台机器上未修改配置)

     nohup ./bin/kafka-server-start.sh config/server.properties &

   2.3 创建 topic

   ./bin/kafka-topics.sh --create --zookeeper localhost:2181 --replication-factor 1 --partitions 1 --topic wikiticker

3.Enable Druid Kafka ingestion(启用 Druid Kafka 摄入)(自己看着翻译吧 ๑乛◡乛๑)

imply 默认提供了一个 demo  wikiticker-kafka-supervisor.json, 是一个 kafka 的 配置
curl -XPOST -H'Content-Type: application/json' -d @quickstart/wikiticker-kafka-supervisor.json http://localhost:8090/druid/indexer/v1/supervisor

返回值:{"id":"wikiticker-kafka"}

4、发送数据

 ./bin/kafka-console-producer.sh --broker-list localhost:9092 --topic wikiticker

发送以下内容:
{"isRobot":false,"channel":"#en.wikipedia","timestamp":"2016-06-27T20:41:29.625Z","flags":"","isUnpatrolled":false,"page":"Indonesian future capital proposal","diffUrl":"https://en.wikipedia.org/w/index.php?diff=727266238&oldid=727256901","added":1467,"comment":" add Balikpapan and Palembang plus ref","commentLength":60,"isNew":false,"isMinor":false,"delta":1467,"isAnonymous":false,"user":"Gunkarta","deltaBucket":1400.0,"deleted":0,"namespace":"Main"}


5、查看 http://Ip:9095 (选择创建的数据源)

参考文章:https://docs.imply.io/on-premise/tutorial-kafka-indexing-service

                 http://druid.io/docs/latest/ingestion/stream-pull.html

 

转载请注明:文章转载自 www.mshxw.com
本文地址:https://www.mshxw.com/it/946928.html
我们一直用心在做
关于我们 文章归档 网站地图 联系我们

版权所有 (c)2021-2022 MSHXW.COM

ICP备案号:晋ICP备2021003244-6号