逻辑解码ddl replay支持sqlserver模式


难度 中等

1. 设计背景

当前 PostgreSQL Logical Replication 仅支持 DML 同步。

对于 Babelfish 场景:

CREATE TABLE dbo.t1
(
    id INT IDENTITY(1,1)
)

DDL 不仅修改 PostgreSQL Catalog:

pg_class
pg_attribute
pg_namespace

同时还维护:

sys.objects
sys.tables
sys.columns
object_id
schema mapping

等 SQL Server 兼容元数据。

如果订阅端直接执行 PostgreSQL DDL:

ProcessUtility()

则无法保持 TSQL 语义。

因此需要在逻辑复制框架中引入:

Babelfish DDL Replay Adapter

实现 TSQL DDL 回放。

2. 设计目标

2.1 功能目标

支持:

CREATE TABLE
ALTER TABLE
DROP TABLE

CREATE INDEX
DROP INDEX

CREATE VIEW
DROP VIEW

CREATE FUNCTION
DROP FUNCTION

CREATE PROCEDURE
DROP PROCEDURE

同步。

2.2 非目标

不处理:

INSERT
UPDATE
DELETE
COPY
MERGE

DML继续使用 PostgreSQL Logical Replication。

2.3 核心目标

保证订阅端:

sys.objects

sys.tables

sys.columns

object_id

schema mapping

与发布端保持一致。

3. 总体架构

3.1 DDL同步架构

Publisher
     │
     ▼

DDL Capture

     │
     ▼

DDL Message

     │
     ▼

Replay Framework

     │
     ▼

Babelfish Adapter

     │
     ▼

Babelfish Context

     │
     ▼

Babelfish Parser

     │
     ▼

TSQL Parse Tree

     │
     ▼

Babelfish Utility

     │
     ▼

PostgreSQL Utility

4. DDL消息设计

4.1 消息类型

新增:

LOGICAL_REP_MSG_DDL

4.2 消息结构

typedef struct LogicalRepDDL
{
    char       *ddl_sql;

    char       *dbname;

    char       *schema_name;

    char       *owner_name;

    XLogRecPtr commit_lsn;
} LogicalRepDDL;

5. Replay Framework

5.1 Adapter接口

typedef struct DDLReplayAdapter
{
    const char *name;

    bool (*replay_ddl)
    (
        ReplayExecContext *ctx,
        LogicalRepDDL *ddlmsg
    );

} DDLReplayAdapter;

5.2 DDL分发

switch(msgtype)
{
    case LOGICAL_REP_MSG_DDL:

        ddl_adapter->replay_ddl(
                ctx,
                ddlmsg);

        break;
}

6. Babelfish Adapter设计

6.1 Adapter注册

RegisterDDLReplayAdapter(
        REPLAY_DIALECT_TSQL,
        &babelfish_adapter);

6.2 Replay入口

bool
bbf_replay_ddl(
        ReplayExecContext *ctx,
        LogicalRepDDL *ddlmsg);

6.3 执行流程

bbf_replay_ddl()
       ↓
bbf_context_init()
       ↓
bbf_context_activate()
       ↓
bbf_parse_and_replay()
       ↓
bbf_context_deactivate()

7. Babelfish Context设计

7.1 Context结构

typedef struct BabelfishExecContext
{
    bool        is_bbf_context;

    char       *database_name;

    char       *schema_name;

    Oid         user_oid;

    bool        tsql_mode;
} BabelfishExecContext;

7.2 初始化

恢复:

Current Database

Current User

Search Path

Database Mapping

7.3 激活

bbf_context_activate();

进入:

TSQL Semantic Context

8. Parser Replay设计

8.1 设计原则

禁止:

SPI_execute(sql);

禁止:

ProcessUtility(sql);

禁止:

raw_parser(sql);

直接进入 PostgreSQL Parser。

8.2 Replay入口

新增:

bool
bbf_parse_and_replay(
        LogicalRepDDL *ddlmsg);

8.3 Parse流程

DDL SQL
      ↓
babelfishpg_tsql_raw_parser()
      ↓
TSQL Parse Tree

生成:

tsql_parse_tree

8.4 Analyze流程

TSQL Parse Tree
        ↓
Babelfish Analyzer
        ↓
TSQL Utility Node

8.5 Utility执行

TSQL Utility Node
        ↓
Babelfish Utility Hook
        ↓
standard_ProcessUtility()

9. DDL Replay执行路径

CREATE TABLE

DDL Message
      ↓
Babelfish Adapter
      ↓
babelfishpg_tsql_raw_parser
      ↓
CreateStmt(TSQL)
      ↓
Babelfish Catalog Update
      ↓
PG Catalog Update

ALTER TABLE

DDL Message
      ↓
Babelfish Parser
      ↓
AlterTableStmt
      ↓
Babelfish Utility
      ↓
PG Utility

DROP TABLE

DDL Message
      ↓
Babelfish Parser
      ↓
DropStmt
      ↓
Babelfish Utility
      ↓
PG Utility

10. Catalog一致性维护

Replay过程中自动维护:

sys.objects

sys.tables

sys.columns

sys.indexes

以及:

object_id

database mapping

schema mapping

无需额外同步逻辑。

11. 事务一致性

发布端:

BEGIN TRAN

CREATE TABLE t1

ALTER TABLE t1 ADD c1

COMMIT

订阅端:

BEGIN

Replay CREATE

Replay ALTER

COMMIT

保持事务边界一致。

12. 错误处理

分类:

Context Error

Parse Error

Analyze Error

Utility Error

Catalog Error

返回:

REPLAY_SUCCESS

REPLAY_RETRYABLE_ERROR

REPLAY_FATAL_ERROR

由 Replay Framework 统一处理。

13. 涉及模块

PostgreSQL Core

新增:

logicalddl.c

logicalddl.h

replay_framework.c

replay_framework.h

replay_adapter.c

replay_adapter.h

Babelfish

新增:

bbf_context.c

bbf_context.h

bbf_adapter.c

bbf_adapter.h

bbf_replay.c

bbf_replay.h

修改:

hooks.c

session.c

pl_handler.c

parser_entry.c

15. 预期收益

  1. 完整复用Babelfish Parser。
  2. 完整保持TSQL语义。
  3. 自动维护sys Catalog。
  4. 不依赖TDS连接。
  5. 不修改现有DML复制路径。
  6. PostgreSQL Core不依赖Babelfish。
  7. 为未来Oracle/MySQL Adapter提供统一Replay Framework。

文章作者: growdu
版权声明: 本博客所有文章除特別声明外,均采用 CC BY 4.0 许可协议。转载请注明来源 growdu !
  目录
分类导航
随笔3 AI29 计算机基础13 算法1 博客搭建7 ChatGPT2 集群63 计算机通信1 数据库59 数据库深入93 数据库93 Docker11 DPDK26 编辑工具4 Elasticsearch4 FAQ1 Go Web1 hometown2 编程语言16 人生11 网络9 Linux38 OPC1 openGauss4 页面12 PostgreSQL54 程序员自我修养1 协议11 stock1 存储5 成长之路1 工具20 视频作品1 VPP18 Vue13 Web1 代码示例11 BenchmarkSQL1 PostgreSQL 源码修炼之路14
最热文章
1
PostgreSQL 逻辑复制全链路:以一个真实事务为例,从 `INSERT` 到 `apply` 的源码级旅程
数据库🔥 2162
2
PostgreSQL 逻辑复制 Stream 执行逻辑源码级拆解:从 reorderbuffer 触发到订阅端落盘回放
数据库🔥 1765
3
PostgreSQL 行锁机制源码级深度拆解:4 种锁模式 + xmax + MultiXact 的完整链路
数据库🔥 1656
4
PostgreSQL reorderbuffer.c 函数级源码全集:5615 行 / 95 个函数的逐函数解析
数据库深入🔥 1650
5
PostgreSQL 目录快照源码级深度拆解:系统表读取的 MVCC 真相与失效机制
数据库🔥 1604
6
13 逻辑复制深入
数据库深入🔥 1570
7
0 Postgresql存储、索引及系统优化、主备切换
PostgreSQL🔥 1495
8
PostgreSQL 读一行数据源码级深度拆解:MVCC 在每个环节的落点
数据库🔥 1464
9
PostgreSQL WAL 记录类型完全指南:21 个 RMGR × 80+ 种记录的源码级拆解
数据库🔥 1431
10
一文读懂openguass dcf网络模块
集群🔥 1420
11
PostgreSQL 元数据存储机制:从磁盘文件到内存缓存,`pg_class` 撑起的整个系统表体系
数据库🔥 1411
12
openGauss 并行解码设计原理深度拆解:reader + 多 worker + CSN 三层架构的源码级剖析
数据库深入🔥 1344
13
逻辑复制源码分析
数据库深入🔥 1327
14
PostgreSQL 逻辑复制:catalog 改动、可见性判定与 xmin/xmax 推进全景
数据库深入🔥 1317
15
自托管服务全家桶:从原文方案到可复制实操手册
人生🔥 1278
16
PostgreSQL CREATE_REPLICATION_SLOT 端到端源码分析:从 SQL 到 snapbuild 状态机的完整链路(每个函数每个参数)
数据库深入🔥 1277
17
PostgreSQL syscache 模块源码深度拆解:CatCache 数据结构、LRU 哈希表、cache invalidation 全链路
数据库深入🔥 1216
18
PostgreSQL 18 内核数据结构全景:RangeVar 与 20+ 个核心数据结构源码级拆解
数据库🔥 1158
19
PostgreSQL 逻辑复制里 `RUNNING_XACTS` 写入机制与快照 `xmin / xmax / xip` 的演化:源码级深度拆解
数据库🔥 1119
20
PostgreSQL 分区表:从一行 `PARTITION BY` 到路由热路径的全链路拆解
数据库🔥 1094