栏目分类:
子分类:
返回
名师互学网用户登录
快速导航关闭
当前搜索
当前分类
子分类
实用工具
热门搜索
名师互学网 > IT > 前沿技术 > 大数据 > 大数据系统

DBSyncer是一款开源的数据同步中间件

DBSyncer是一款开源的数据同步中间件

DBSyncer是一款开源的数据同步中间件,提供Mysql、Oracle、SqlServer、Elasticsearch(ES)、Kafka、SQL(Mysql/Oracle/SqlServer)等同步场景。支持上传插件自定义同步转换业务,提供监控全量和增量数据统计图、应用性能预警等。

特点

组合驱动,自定义库同步到库组合,关系型数据库与非关系型之间组合,任意搭配表同步映射关系实时监控,驱动全量或增量实时同步运行状态、结果、同步日志和系统日志开发插件,自定义转化同步逻辑 应用场景

连接器数据源目标源支持版本(包含以下)
Mysql5.7.19以上
Oracle10g以上
SqlServer2008以上
ES6.X以上
Kafka开发中2.10-0.9.0.0以上
SQL
安装配置

步骤

    安装JDK 1.8(省略详细)下载安装包dbsyncer.zip(也可手动编译)解压安装包,Window执行bin/startup.bat,Linux执行bin/startup.sh打开浏览器访问:http://127.0.0.1:18686账号和密码:admin/admin

增量同步配置(源库)

Mysql

Dump Binlog二进制日志。Master同步Slave, 创建IO线程读取数据,写入relaylog,基于消息订阅捕获增量数据。配置

修改my.ini文件

#服务唯一ID
server_id=1
log-bin=mysql_bin
binlog-format=ROW
max_binlog_cache_size = 256M
max_binlog_size = 512M
expire_logs_days = 7
#监听同步的库, 多个库使用英文逗号“,”拼接
replicate-do-db=test

Oracle

CDN注册订阅。监听增删改事件,得到rowid,根据rowid执行SQL查询,得到变化数据。配置

授予账号监听权限, 同时要求目标源表必须定义一个长度为18的varchar字段,通过接收rowid值实现增删改操作。

grant change notification to 你的账号

SqlServer

SQL Server 2008提供了内建的方法变更数据捕获(Change Data Capture 即CDC)以实现异步跟踪用户表的数据修改。配置

要求2008版本以上, 启动代理服务(Agent服务), 连接账号具有 sysadmin 固定服务器角色或 db_owner 固定数据库角色的成员身份。对于所有其他用户,具有源表SELECT 权限;如果已定义捕获实例的访问控制角色,则还要求具有该数据库角色的成员身份。

ES

定时获取增量数据。配置

账号具有访问权限。

日志

建议Mysql和SqlServer都使用日志

转载请注明:文章转载自 www.mshxw.com
本文地址:https://www.mshxw.com/it/745431.html
我们一直用心在做
关于我们 文章归档 网站地图 联系我们

版权所有 (c)2021-2022 MSHXW.COM

ICP备案号:晋ICP备2021003244-6号