polardb逻辑解码


难度 中等

结论

  1. 对于同构数据库,由于polardb采用共享存储实现,其会把DDL写入wal,因为只有一份物理数据,采用DDL锁同步DDL;
  2. 对于异构数据库,polardb没有提供现成方案,仍需要借助事件触发器、自定义逻辑解码插件来实现,比如pglogical;

逻辑解码

在原生的pg中,逻辑复制只会解析wal日志,而DDL语句是不会生成可解析的逻辑WAL。

这就导致在使用逻辑复制时,用户需要手动同步DDL。

而在polardb中,DDL虽然会写入WAL,但主要用于共享存储架构下的节点同步(所有数据库节点仅有一份物理数据)。
且写入到WAL中的数据是DDL锁信息。

因而polardb逻辑复制支持DDL根据同构还是异构数据库同步有所区别。

同构数据库逻辑同步支持DDL

在polardb的集群架构中,数据库节点之间使用共享存储保存数据(仅有一份物理数据)。

alt text

在PolarDB一写多读共享存储架构中:

  • 数据文件只有一份,RO节点共享同一存储
  • MVCC机制保证元组级别读写隔离,但文件操作(创建、删除)立即可见
  • DDL操作涉及文件变更,需要集群级同步

PolarDB采用AccessExclusiveLock(DDL锁) 实现RW/RO节点间的DDL操作同步:

// standby.c: 记录DDL锁到WAL
void LogAccessExclusiveLock(Oid dbOid, Oid relOid)
{
    xl_standby_lock xlrec;
    xlrec.xid = GetCurrentTransactionId();
    xlrec.dbOid = dbOid;
    xlrec.relOid = relOid;

    polar_ddl_lock_lsn = LogAccessExclusiveLocks(1, &xlrec);
    MyXactFlags |= XACT_FLAGS_ACQUIREDACCESSEXCLUSIVELOCK;

    if (polar_enable_sync_ddl_legacy)
        polar_wait_ddl_lock();
}

同步流程:

  1. RW获取本地DDL锁并写入WAL(polar_ddl_lock_lsn)
  2. 等待所有RO回放到该LSN,在RO本地获取相同锁
  3. RW获取全局DDL锁(所有RO都已获取)
  4. 执行DDL文件操作(此时RW/RO均无查询访问)
  5. 释放锁,WAL记录锁释放

异构数据库逻辑同步

PolarDB 中 DDL 会写入 WAL,但主要用于共享存储架构下的节点同步,不会通过逻辑复制自动发送到异构数据库。

要实现到MySQL 的 DDL 同步需要借助事件触发器、自定义逻辑解码插件或第三方 CDC 工具。比如pglogical。

待处理问题:

  1. DDL是如何保存的
  2. polardb对DDL做了哪些特殊处理
  3. 逻辑复制消息格式
  4. walsender是如何发送逻辑复制的
  5. walsender是如何发送DDL的(怎么区分DDL和WAL日志)

关键函数:

```
执行流程

```shell
ProcessUtility()
   ↓
standard_ProcessUtility()
   ↓
EventTriggerDDLCommandStart
   ↓
执行DDL
   ↓
EventTriggerDDLCommandEnd

alt text


文章作者: growdu
版权声明: 本博客所有文章除特別声明外,均采用 CC BY 4.0 许可协议。转载请注明来源 growdu !
  目录
分类导航
随笔3 AI29 计算机基础13 算法1 博客搭建7 ChatGPT2 集群63 计算机通信1 数据库59 数据库深入93 数据库93 Docker11 DPDK26 编辑工具4 Elasticsearch4 FAQ1 Go Web1 hometown2 编程语言16 人生11 网络9 Linux38 OPC1 openGauss4 页面12 PostgreSQL54 程序员自我修养1 协议11 stock1 存储5 成长之路1 工具20 视频作品1 VPP18 Vue13 Web1 代码示例11 BenchmarkSQL1 PostgreSQL 源码修炼之路14
最热文章
1
PostgreSQL 逻辑复制全链路:以一个真实事务为例,从 `INSERT` 到 `apply` 的源码级旅程
数据库🔥 2162
2
PostgreSQL 逻辑复制 Stream 执行逻辑源码级拆解:从 reorderbuffer 触发到订阅端落盘回放
数据库🔥 1765
3
PostgreSQL 行锁机制源码级深度拆解:4 种锁模式 + xmax + MultiXact 的完整链路
数据库🔥 1656
4
PostgreSQL reorderbuffer.c 函数级源码全集:5615 行 / 95 个函数的逐函数解析
数据库深入🔥 1650
5
PostgreSQL 目录快照源码级深度拆解:系统表读取的 MVCC 真相与失效机制
数据库🔥 1604
6
13 逻辑复制深入
数据库深入🔥 1570
7
0 Postgresql存储、索引及系统优化、主备切换
PostgreSQL🔥 1495
8
PostgreSQL 读一行数据源码级深度拆解:MVCC 在每个环节的落点
数据库🔥 1464
9
PostgreSQL WAL 记录类型完全指南:21 个 RMGR × 80+ 种记录的源码级拆解
数据库🔥 1431
10
一文读懂openguass dcf网络模块
集群🔥 1420
11
PostgreSQL 元数据存储机制:从磁盘文件到内存缓存,`pg_class` 撑起的整个系统表体系
数据库🔥 1411
12
openGauss 并行解码设计原理深度拆解:reader + 多 worker + CSN 三层架构的源码级剖析
数据库深入🔥 1344
13
逻辑复制源码分析
数据库深入🔥 1327
14
PostgreSQL 逻辑复制:catalog 改动、可见性判定与 xmin/xmax 推进全景
数据库深入🔥 1317
15
自托管服务全家桶:从原文方案到可复制实操手册
人生🔥 1278
16
PostgreSQL CREATE_REPLICATION_SLOT 端到端源码分析:从 SQL 到 snapbuild 状态机的完整链路(每个函数每个参数)
数据库深入🔥 1277
17
PostgreSQL syscache 模块源码深度拆解:CatCache 数据结构、LRU 哈希表、cache invalidation 全链路
数据库深入🔥 1216
18
PostgreSQL 18 内核数据结构全景:RangeVar 与 20+ 个核心数据结构源码级拆解
数据库🔥 1158
19
PostgreSQL 逻辑复制里 `RUNNING_XACTS` 写入机制与快照 `xmin / xmax / xip` 的演化:源码级深度拆解
数据库🔥 1119
20
PostgreSQL 分区表:从一行 `PARTITION BY` 到路由热路径的全链路拆解
数据库🔥 1094