DBSyncer是一款开源的数据同步中间件,提供MySQLOracleSqlServerPostgreSQLElasticsearch(ES)KafkaFileSQL等同步场景。

支持上传插件自定义同步转换业务,提供监控全量和增量数据统计图、应用性能预警等。

特点

  • 组合驱动,自定义库同步到库组合,关系型数据库与非关系型之间组合,任意搭配表同步映射关系

  • 实时监控,驱动全量或增量实时同步运行状态、结果、同步日志和系统日志

  • 开发插件,自定义转化同步逻辑

设计

架构图

04fb80ba9a4af30456bdd8b39e7f3b3d.png

应用场景

457031d12213b09fe1fdf0b91803d2c1.png

使用教程

1.启动 代理 和 数据库 服务

049020bfd065c977d4d307112fb74e50.png

2.准备测试账号,test

ce8e3f3c6f4108035ae8c42389e92bca.png

3.分配sysadmin角色

0627d0fc342a6c3b26c3ccac22720139.png

4.分配指定数据库权限

abb4bd334864649273f9da288e6483b4.png

PostgreSQL

通过复制流技术监听增量事件,基于内置插件pgoutputtest_decoding实现解析wal日志

1、修改postgresql.conf文件,重启服务

wal_level=logical

2、授予账号权限LOGINREPLICATION

File

监听文件修改时间得到变化文件,通过文件偏移量读取最新数据

  • https://gitee.com/ghi/dbsyncer/issues/I55EP5

ES

  • 定时获取增量数据。

  • 账号具有访问权限。

日志

建议MySQL、SqlServer、PostgreSQL都使用日志

2624e2e89b1af7c6b411edd87ba006db.png

定时

假设源表数据格式

139c449a82f7535f1006522bbdcb4c51.png 3f2daf3e43475c7495fd6f95b8750603.png

预览

驱动管理

4083b886fea5ef600c42d1092f88a02b.png

驱动详情

cda1d84f462498366cf1732b8c2d3a1f.png

驱动表字段关系配置

f803fca9e31c9042d13451f86577ba17.png

监控

1ad60f37b6f0036ab6c0324e2fa1ac37.png

上传插件

c8ff70aa2f74fe6b4561828dc4e84a4d.png

开源地址

  • https://gitee.com/ghi/dbsyncer

后端专属技术群

构建高质量的技术交流社群,欢迎从事编程开发、技术招聘HR进群,也欢迎大家分享自己公司的内推信息,相互帮助,一起进步!

文明发言,以交流技术职位内推行业探讨为主

广告人士勿入,切勿轻信私聊,防止被骗

fdc23804d8e95cd6b8231012fd15ba04.jpeg
加我好友,拉你进群  
Logo

瓜分20万奖金 获得内推名额 丰厚实物奖励 易参与易上手

更多推荐