指定列同步对逻辑复制支持DDL的影响


难度 中等

背景分析

在逻辑复制支持DDL的需求分析中,需要考虑如下场景:

逻辑复制支持同步指定列,当配置了同步指定列,又开启了ddl=table的时候,其行为预期可能有如下情况:
1.订阅端的ddl是同步完整的表结构,还是只同步指定的列;
2.订阅端的ddl如果同步完整的表结构,那么数据保持只同步指定列的数据,还是同步所有的列的数据;

参考mysql的实现,发布和订阅的表结构不用完全一致。当前的pg的逻辑复制也不要求表结构完全一致。

下面针对以上场景进行详细分析。

逻辑复制支持指定列同步

当前的逻辑复制并不要求发布端和订阅端的表结构完全相同,而且对于一张表的逻辑同步,可以只指定某个列或者某几个列的同步,即支持列级同步。其语法如下所示:

CREATE PUBLICATION pub FOR TABLE my_table (col1, col2);
  • 只有 col1 和 col2 的变更会被发送
  • update 只会发送涉及的列
  • INSERT 只发送指定列的值

列级复制有如下优势:

  • 发布端表可以有额外列,订阅端未同步
  • 只要订阅端有发布端发送的列,逻辑复制就能应用变更
  • 使用列列表(FOR TABLE (col1, col2))时:
    • 发布端 WAL 只发送这些列
    • 订阅端表无需额外列

逻辑复制支持DDL的实现

逻辑复制表级同步支持自动DDL

在逻辑复制支持DDL的需求实现中,指定的语法格式如下:

CREATE PUBLICATION pub FOR ALL TABLES WITH (ddl='table,others');

或者对于单表:

CREATE PUBLICATION pub FOR TABLE my_table WITH (ddl='table,others');

通过ddl参数来指定是否开启ddl自动同步。

表级同步支持自动DDL分为两种情况:

  1. 订阅端表已经存在;
  2. 订阅端表不存在;

表级同步订阅端表已经存在

若发布端的表是订阅端的子集,且列名匹配,则可以正常复制。

比如发布端有a,b,c列,订阅端有a,b,c,d列(d列可以为空或者有默认值)。

且对于后续的列变更均可以自动同步,比如:

ALTER TABLE t ADD COLUMN c int;
ALTER TABLE t DROP COLUMN c;

若订阅端列少或者列名不匹配,则无法正常复制。

表级同步订阅端表不存在

通过重新执行捕获的客户端sql语句,在订阅端创建表,两端的表结构最终一致。

逻辑复制列级同步支持自动DDL

如果订阅端表已经存在,将不同步第一次创建表的DDL,只同步后续DDL。如add/drop column。

结合上面的列级复制,可能会出现如下语法:

CREATE PUBLICATION pub FOR TABLE my_table (col1, col2) WITH (ddl='table,others');

按照上面的语法,创建了一个发布者,指定要同步my_table的列col1,col2,但因为开启了ddl自动同步的功能,所以就可能出现如下几种情况:

ddl同步完整的表结构

同步my_table的完整表结构到订阅端,这个时候订阅端的my_table的表结构和发布端完全一致。

  1. 方式一:由于有完整的表结构,可以选择同步所有的列数据,但此时订阅端存储空间会增长,且会对更改列级同步的语意;
  2. 方式二:虽然有完整的表结构,但只同步指定的列,此时没有改变列级同步的语意,但表结构里有多余的表字段;

同步完整的表结构时,当发布端表结构发生变更,比如新增列时会再次出发同步。

ddl仅同步指定的列

ddl同步的时候,仅同步my_table里的col1, col2列,dml同步的时候也仅同步对应列的数据。

需要对ddl同步做特殊处理,需要重写用户输入的ddl。

在后续发布端表结构发生表更时,比如新增列时,无需再同步DDL。

结论

对于逻辑复制列级同步时的ddl如何同步的本质是:是否允许发布端和订阅端的表结构不一致。

  • 如果要保持允许发布端和订阅端表结构可以不一致,那就需要保证ddl同步的时候构造新的指定列的sql同步;
  • 如果要限制逻辑同步支持DDL的场景,发布端和订阅端表结构完全一致,那就需要ddl同步时同步完整的表结构;同时为了减少数据的存储,DML可以考虑只同步指定的列。

由于当前的逻辑复制支持ddl设计实现采用把客户端的sql保存下来传到订阅端重新执行,因而无法做到对sql重写,订阅端将会是完整的表结构。同步DML数据时还是按照指定的列来同步。


文章作者: growdu
版权声明: 本博客所有文章除特別声明外,均采用 CC BY 4.0 许可协议。转载请注明来源 growdu !
  目录
分类导航
随笔3 AI29 计算机基础13 算法1 博客搭建7 ChatGPT2 集群63 计算机通信1 数据库59 数据库深入93 数据库93 Docker11 DPDK26 编辑工具4 Elasticsearch4 FAQ1 Go Web1 hometown2 编程语言16 人生11 网络9 Linux38 OPC1 openGauss4 页面12 PostgreSQL54 程序员自我修养1 协议11 stock1 存储5 成长之路1 工具20 视频作品1 VPP18 Vue13 Web1 代码示例11 BenchmarkSQL1 PostgreSQL 源码修炼之路14
最热文章
1
PostgreSQL 逻辑复制全链路:以一个真实事务为例,从 `INSERT` 到 `apply` 的源码级旅程
数据库🔥 2162
2
PostgreSQL 逻辑复制 Stream 执行逻辑源码级拆解:从 reorderbuffer 触发到订阅端落盘回放
数据库🔥 1765
3
PostgreSQL 行锁机制源码级深度拆解:4 种锁模式 + xmax + MultiXact 的完整链路
数据库🔥 1656
4
PostgreSQL reorderbuffer.c 函数级源码全集:5615 行 / 95 个函数的逐函数解析
数据库深入🔥 1650
5
PostgreSQL 目录快照源码级深度拆解:系统表读取的 MVCC 真相与失效机制
数据库🔥 1604
6
13 逻辑复制深入
数据库深入🔥 1570
7
0 Postgresql存储、索引及系统优化、主备切换
PostgreSQL🔥 1495
8
PostgreSQL 读一行数据源码级深度拆解:MVCC 在每个环节的落点
数据库🔥 1464
9
PostgreSQL WAL 记录类型完全指南:21 个 RMGR × 80+ 种记录的源码级拆解
数据库🔥 1431
10
一文读懂openguass dcf网络模块
集群🔥 1420
11
PostgreSQL 元数据存储机制:从磁盘文件到内存缓存,`pg_class` 撑起的整个系统表体系
数据库🔥 1411
12
openGauss 并行解码设计原理深度拆解:reader + 多 worker + CSN 三层架构的源码级剖析
数据库深入🔥 1344
13
逻辑复制源码分析
数据库深入🔥 1327
14
PostgreSQL 逻辑复制:catalog 改动、可见性判定与 xmin/xmax 推进全景
数据库深入🔥 1317
15
自托管服务全家桶:从原文方案到可复制实操手册
人生🔥 1278
16
PostgreSQL CREATE_REPLICATION_SLOT 端到端源码分析:从 SQL 到 snapbuild 状态机的完整链路(每个函数每个参数)
数据库深入🔥 1277
17
PostgreSQL syscache 模块源码深度拆解:CatCache 数据结构、LRU 哈希表、cache invalidation 全链路
数据库深入🔥 1216
18
PostgreSQL 18 内核数据结构全景:RangeVar 与 20+ 个核心数据结构源码级拆解
数据库🔥 1158
19
PostgreSQL 逻辑复制里 `RUNNING_XACTS` 写入机制与快照 `xmin / xmax / xip` 的演化:源码级深度拆解
数据库🔥 1119
20
PostgreSQL 分区表:从一行 `PARTITION BY` 到路由热路径的全链路拆解
数据库🔥 1094