sqlserver模式逻辑复制支持ddl


难度 中等

背景现状

当前数据库使用babelfish插件(bbf)来支持sqlserver模式,bbf采用双端口的设计:
即数据库在启动时会监听多个端口,一般是pg原生的端口和tsql端口,比如5432和1433.

sqlserver模式的sql就走1433端口,pg模式的sql就走5432端口。

对于ddl、dml这样的语句比较容易区分,且sqlserver模式和pg模式都有对应的语法。

但是对于一些pg内核特有的语法,sqlserver没有对应的语法,比如postgresql的逻辑复制和物理复制。

对于逻辑复制来说,连接tsql端口无法创建逻辑复制,无法识别postgresql的逻辑复制语句或者无法使用等价的tsql语句来创建逻辑复制。

对于逻辑复制来说,sqlserver模式有两种解决方法:

1.创建逻辑复制连接pg端口,创建成功后再连接tsql端口执行tsql语句;(所有逻辑复制相关的语句都走pg端口)—— 2个端口 –》不需要开发
2. 所有操作都连接tsql端口执行;– 1 个端口 –》需要开发,tsql端口需要适配识别postgresql逻辑复制语句

postgresql逻辑复制语句

类型 SQL
发布 CREATE PUBLICATION
订阅 CREATE SUBSCRIPTION
修改发布 ALTER PUBLICATION
修改订阅 ALTER SUBSCRIPTION
删除发布 DROP PUBLICATION
删除订阅 DROP SUBSCRIPTION
复制槽 pg_create_logical_replication_slot
查看复制 pg_stat_subscription
查看slot pg_replication_slots

若选择只使用一个端口的方式,则上述的语句都需要适配到sqlserver模式。

主要问题就是:如何定义用户的使用方式,是使用一个端口可以完成完整的逻辑复制功能,还是两个端口(一个用于执行逻辑复制语句,另外一个用于执行ddl、dml等)。

sqlserver模式下支持ddl自动同步

对于逻辑复制支持ddl来说,主要涉及如下三个问题:

  1. 捕获ddl;
  2. ddl 插入pg_publication_sync表;
  3. ddl发送到订阅端;
  4. 订阅端apply ddl;

由于bbf的实现机制,前三步与原生pg模式均一致,唯一的区别主要在第4步。

订阅端如何apply ddl又会受到前面描述的使用一个端口还是两个端口来完成完整逻辑复制的功能。

  1. 使用一个端口可以完成完整的逻辑复制功能,那创建逻辑复制使用的就是tsql的端口,订阅端的连接本身就在tsql的上下文里,直接就可以执行;(适配工作量较小,只需要区分数据库模式)
  2. 当使用两个端口(一个用于执行逻辑复制语句,另外一个用于执行ddl、dml等)的时候,就需要订阅端在接收到ddl后,初始化一个tsql的上下文,在worker内部调用bbf来解析执行ddl;(适配工作量较大,需要适配ddl到tsql再到pg存储引擎的流程);

因而ddl的实现也会受限于当前sqlserver模式下对用户使用逻辑复制的预期行为(ddl同步和当前逻辑复制共用同一套端口)。


文章作者: growdu
版权声明: 本博客所有文章除特別声明外,均采用 CC BY 4.0 许可协议。转载请注明来源 growdu !
  目录
分类导航
随笔3 AI29 计算机基础13 算法1 博客搭建7 ChatGPT2 集群63 计算机通信1 数据库59 数据库深入93 数据库93 Docker11 DPDK26 编辑工具4 Elasticsearch4 FAQ1 Go Web1 hometown2 编程语言16 人生11 网络9 Linux38 OPC1 openGauss4 页面12 PostgreSQL54 程序员自我修养1 协议11 stock1 存储5 成长之路1 工具20 视频作品1 VPP18 Vue13 Web1 代码示例11 BenchmarkSQL1 PostgreSQL 源码修炼之路14
最热文章
1
PostgreSQL 逻辑复制全链路:以一个真实事务为例,从 `INSERT` 到 `apply` 的源码级旅程
数据库🔥 2162
2
PostgreSQL 逻辑复制 Stream 执行逻辑源码级拆解:从 reorderbuffer 触发到订阅端落盘回放
数据库🔥 1765
3
PostgreSQL 行锁机制源码级深度拆解:4 种锁模式 + xmax + MultiXact 的完整链路
数据库🔥 1656
4
PostgreSQL reorderbuffer.c 函数级源码全集:5615 行 / 95 个函数的逐函数解析
数据库深入🔥 1650
5
PostgreSQL 目录快照源码级深度拆解:系统表读取的 MVCC 真相与失效机制
数据库🔥 1604
6
13 逻辑复制深入
数据库深入🔥 1570
7
0 Postgresql存储、索引及系统优化、主备切换
PostgreSQL🔥 1495
8
PostgreSQL 读一行数据源码级深度拆解:MVCC 在每个环节的落点
数据库🔥 1464
9
PostgreSQL WAL 记录类型完全指南:21 个 RMGR × 80+ 种记录的源码级拆解
数据库🔥 1431
10
一文读懂openguass dcf网络模块
集群🔥 1420
11
PostgreSQL 元数据存储机制:从磁盘文件到内存缓存,`pg_class` 撑起的整个系统表体系
数据库🔥 1411
12
openGauss 并行解码设计原理深度拆解:reader + 多 worker + CSN 三层架构的源码级剖析
数据库深入🔥 1344
13
逻辑复制源码分析
数据库深入🔥 1327
14
PostgreSQL 逻辑复制:catalog 改动、可见性判定与 xmin/xmax 推进全景
数据库深入🔥 1317
15
自托管服务全家桶:从原文方案到可复制实操手册
人生🔥 1278
16
PostgreSQL CREATE_REPLICATION_SLOT 端到端源码分析:从 SQL 到 snapbuild 状态机的完整链路(每个函数每个参数)
数据库深入🔥 1277
17
PostgreSQL syscache 模块源码深度拆解:CatCache 数据结构、LRU 哈希表、cache invalidation 全链路
数据库深入🔥 1216
18
PostgreSQL 18 内核数据结构全景:RangeVar 与 20+ 个核心数据结构源码级拆解
数据库🔥 1158
19
PostgreSQL 逻辑复制里 `RUNNING_XACTS` 写入机制与快照 `xmin / xmax / xip` 的演化:源码级深度拆解
数据库🔥 1119
20
PostgreSQL 分区表:从一行 `PARTITION BY` 到路由热路径的全链路拆解
数据库🔥 1094