栏目分类:
子分类:
返回
名师互学网用户登录
快速导航关闭
当前搜索
当前分类
子分类
实用工具
热门搜索
名师互学网 > IT > 前沿技术 > 大数据 > 大数据系统

clickhouse缺点(clickhouse使用)

clickhouse缺点(clickhouse使用)

作者:陈宇

现任爱可生南区项目经理,负责项目整体质量、安全、进度、成本管理的责任保证体系。对开源技术执着,为客户负责,喜欢极限运动,足球。

本文来源:原创投稿

*爱可生开源社区出品,原创内容未经授权不得随意使用,转载请联系小编并注明来源。


一、ClickHouse-Keeper 是什么:

ClickHouse 社区在 21.8 版本中开始引入了 ClickHouse-Keeper ,直至 ClickHouse 21.12 发布公告提到 ClickHouse Keeper 功能基本完成。

ClickHouse Keeper 是 ZooKeeper 的替代品,与 ZooKeeper 不同,ClickHouse Keeper 是用 C++ 编写的,并使用 RAFT 算法实现,该算法允许对读写具有线性化能力,具有多种不同语言的开源实现。

二、Zookeeper与ClickHouse-Keeper一些场景对比

为什么要引入 ClickHouse-Keeper 呢?主要是 ClickHouse 使用 Zookeeper 有着众多痛点:

使用java开发运维不便要求独立部署zxid overflow 问题snapshot 和 log 没有经过压缩不支持读的线性一致性

而 ClickHouse-Keeper 存在着以下优点:

使用 C++ 开发,技术栈与 ClickHouse 统一即可独立部署,又可集成到 ClickHouse 中没有 zxid overflow 问题读性能更好,写性能相当支持对 snapshot 和 log 的压缩和校验支持读写的线性一致性 三、配置方式

相较之前的集群配置,没有太大区别,而 ClickHouse-Keeper 仅当标签存在于配置中时才会运行,配置模板如下:

四、启动命令
clickhouse-keeper --config /etc/your_path_to_config/config.xml
五、参数说明

tcp_port:客户端连接的端口(ZooKeeper 的默认值为2181)tcp_port_secure:用于客户端和 keeper-server 之间 SSL 连接的安全端口server_id:Keeper集群的每个节点唯一IDlog_storage_path:日志路径,最好将日志存储在IO性能强设备snapshot_storage_path:快照路径

.部分

operation_timeout_ms:单个客户端操作超时配置min_session_timeout_ms:客户端会话最小超时session_timeout_ms:客户端会话的最大超时dead_session_check_period_ms:检查过期会话并将其删除的频率heart_beat_interval_ms:leader 向 follower 发送心跳的频率election_timeout_lower_bound_ms:如果 follower 在此时间间隔内没有收到 leader 的心跳,则可以发起 leader 选举rotate_log_storage_interval:在单个文件中存储多少日志记录reserved_log_items:压缩前要存储多少日志记录snapshot_distance:创建快照的频率snapshots_to_keep:快照保留份数max_requests_batch_size:在将请求发送到 RAFT 之前,请求中的最大批处理请求大小raft_logs_level:raft日志记录级别auto_forwarding:允许将follower的写请求转发给leadershutdown_timeout:等待完成内部连接并关闭的时间

.部分

Id:集群的每个节点IDHostname:服务器的主机名Port:服务器监听端口 六、状态检查 6.1、ruok 主要用于诊断 Keeper 的客户端/服务器

命令如下:

echo ruok | nc 127.0.0.1 9181

成功则返回 imok

6.2、确保 ClickHouse-Server 知道 keeper 集群,我们可以查询 system.zookeeper 表

注:输出以上信息代表安装成功

七、如何迁移 Zookeeper 至ClicHouse-Keeper

既然 ClickHouse-Keeper 优势这么明显,那么如何将 Zookeeper 中的数据迁移到 ClickHouse-Keeper 中呢?官方提供了迁移工具 ClickHouse-Keeper-Converter, 它能够将 Zookeeper 中的数据 dump 成 ClicHouse-Keeper 能够加载的 snapshot 。

迁移步骤如下

停止所有 Zookeeper 节点找到 Zookeeper-leader 节点并再次停止(这一步是为了让 leader 节点生成一份 snapshot )运行 ClickHouse-Keeper-Converter ,生成 Keeper 的 snapshot 文件

命令参考:

clickhouse-keeper-converter --zookeeper-logs-dir /var/lib/zookeeper/version-2 --zookeeper-snapshots-dir /var/lib/zookeeper/version-2 --output-dir /path/to/clickhouse/keeper/snapshots

启动 ClickHouse-Keeper ,使其加载上一步中的 snapshot

参考文献:https://clickhouse.com/docs/en/operations/clickhouse-keeper/

转载请注明:文章转载自 www.mshxw.com
本文地址:https://www.mshxw.com/it/772207.html
我们一直用心在做
关于我们 文章归档 网站地图 联系我们

版权所有 (c)2021-2022 MSHXW.COM

ICP备案号:晋ICP备2021003244-6号