逻辑解码DDL Replay框架设计


难度 中等

1. 背景

当前逻辑复制支持DDL同步功能已适配PG模式,其整体流程如下:

  1. 后端进程捕获客户端的原始ddl存入系统表(相当于队列);
  2. 通过逻辑复制协议将ddl同步到订阅端;
  3. 订阅端识别到ddl后,对ddl进行replay(使用原始的ddl sql走parse再execute执行);

这里面的replay最重要的就是apply worker需要有对应数据库模式的上下文。
对于PG模式来说,由于sql解析引擎是PG,天生就具有对应的ddl执行上下文,可以直接调用pg_parse_query执行。
但对于sqlserver模式来说,由于sqlserver模式使用bbf插件实现,并采用tcp端口来进行区分,
这对于replay的apply worker来说,worker进程没有数据库连接,当前机制无法构造完整的sqlserver执行上下文,因而需要进行单独适配。
同时考虑到后续可能会有其他数据库模式需要进行适配,比如mysql、oracle、db2等,因而需要考虑一种通用的replay 框架,方便后续扩展和完善。

整体架构

alt text

replay 架构

alt text

接口定义

  • 数据库模式定义
typedef enum ReplayDialect {
        REPLAY_DIALECT_PG = 0,
        REPLAY_DIALECT_TSQL,
        REPLAY_DIALECT_ORACLE,
        REPLAY_DIALECT MYSQL,
        REPLAY_DIALECT_DB2,
        REPLAY_DIALECT_MAX
} ReplayDialect;
  • replay上下文定义
typedef struct ReplayExecContext
{
        ReplayDialect dialect; // 数据库模式
        char *dbname; // 逻辑数据库名称
        char *search_path;
        oid user_oid;
        bool switched_user;
        UserContext ucxt;
        void *adpater_private; // 扩展数据
} ReplayExecContext;
  • replay回调函数接口
typedef struct ReplayDialectAdapter {
        const char *name;
        bool (*init_context)(ReplayExecContext *ctx);
        bool (*execute_ddl)(ReplayExecContext *ctx,const char *sql);
        void (*cleanup_context)(ReplayExecContext *ctx);
} ReplayDialectAdapter;
  • replay框架注册初始化
void ReplayFrameworkInit(void);

bool RegisterReplayDialectAdapter(ReplayDialect dialect,ReplayDialectAdapter *adapter);

ReplayDialectAdapter *GetReplayAdapter(ReplayDialect dialect);

replay

pg replay

对于pg repaly来说,只是封装一下replay ddl函数即可,不需要初始化和清理上下文。

static ReplayDialectAdapter pg_adapter = {
        .name = "postgres",
        .init_context = pg_replay_init_context,
        .execute_ddl = pg_replay_execute_ddl,
        .cleanup_context = pg_replay_cleanup_context,
};

sqlserver replay

对于sqlserver来说,由于worker没有和后端进程的TDS端口建立连接,因而需要在worker进程启动的时候构建一个sqlserver parse的上下文。
而这个构建上下文又分为两种情况:

  1. 简单上下文,仅修改worker进程内的sql_dialect,让捕获到tsql可以走bbf的parse;
  2. 完整上下文,完整上下文需要在bbf内部设置逻辑数据库;

sqlserver replay同样需要实现接口定义中的如下三个函数:

  • init_context
  • execute_ddl
  • cleanup_context

对于构建上下文的两种情况,共有两种replay实现方式:

  1. simple方式,支持的ddl有限,但仅仅需要修改内核,不需要修改bbf插件
  2. full方式,支持的ddl种类更多,但需要更改bbf的代码,实现上面提到的接口,并在bbf插件初始化时同步初始化sqlserver上下文;

sqlserver simple replay

static ReplayDialectAdapter tsql_simple_adapter =
{
        .name = "tsql-simple",
        .init_context = tsql_simple_init_context,
        .execute_ddl = tsql_simple_execute_ddl,
        .cleanup_context = tsql_simple_cleanup_context,
}

simple方式实现基本和PG的实现一致,区别主要在init_context,sqlserver模式需要显示设置sql_dialect,

(void) set_config_option("babelfishpg_tsql.sql_dialect","tsql",
                        PGC_USERSET, PGC_S_SESSION,
                        GUC_ACTION_SET, true, 0, false);

sqlserver custom replay

完整的sqlserver上下文构建需要在bbf插件内部注册对应的回调函数,并在bbf插件初始化时注册到replay 框架中。

在babelfishpg_tsql插件注册的_PG_init_函数中注册tsql replay的回调。

bbf插件源码需要引入replay的头文件,并实现对应的回调函数。

void
bbf_register_tsql_replay_adapter(void)
{
        RegisterReplayDialectAdapter(REPLAY_DIALECT_TSQL, &bbf_tsql_adapter);
        get_current_dbname_hook = bbf_get_current_dbname;
}
static ReplayDialectAdapter pbf_tsql_adapter =
{
        .name = "tsql",
        .init_context = bbf_replay_init_context, 
        .execute_ddl = bbf_replay_execute_ddl,
        .cleanup_context = bbf_replay_cleanup_context,
};

最终目标为:通过注册回调函数需要内核的worker进程能够拥有完整的sqlserver上下文,使worker进程执行ddl sql和客户端连接到TDS端口执行一致。

运行机制

simple replay因为只需要修改内核源码,因而默认在内核里实现。
如果bbf插件没有实现对应的replay回调函数,就会注册simple replay,采用simple replay的方式来回放执行ddl。
如果bbf插件实现了对应的回调函数并注册到replay框架,将不会注册simple replay。


文章作者: growdu
版权声明: 本博客所有文章除特別声明外,均采用 CC BY 4.0 许可协议。转载请注明来源 growdu !
  目录
分类导航
随笔3 AI29 计算机基础13 算法1 博客搭建7 ChatGPT2 集群63 计算机通信1 数据库59 数据库深入93 数据库93 Docker11 DPDK26 编辑工具4 Elasticsearch4 FAQ1 Go Web1 hometown2 编程语言16 人生11 网络9 Linux38 OPC1 openGauss4 页面12 PostgreSQL54 程序员自我修养1 协议11 stock1 存储5 成长之路1 工具20 视频作品1 VPP18 Vue13 Web1 代码示例11 BenchmarkSQL1 PostgreSQL 源码修炼之路14
最热文章
1
PostgreSQL 逻辑复制全链路:以一个真实事务为例,从 `INSERT` 到 `apply` 的源码级旅程
数据库🔥 2162
2
PostgreSQL 逻辑复制 Stream 执行逻辑源码级拆解:从 reorderbuffer 触发到订阅端落盘回放
数据库🔥 1765
3
PostgreSQL 行锁机制源码级深度拆解:4 种锁模式 + xmax + MultiXact 的完整链路
数据库🔥 1656
4
PostgreSQL reorderbuffer.c 函数级源码全集:5615 行 / 95 个函数的逐函数解析
数据库深入🔥 1650
5
PostgreSQL 目录快照源码级深度拆解:系统表读取的 MVCC 真相与失效机制
数据库🔥 1604
6
13 逻辑复制深入
数据库深入🔥 1570
7
0 Postgresql存储、索引及系统优化、主备切换
PostgreSQL🔥 1495
8
PostgreSQL 读一行数据源码级深度拆解:MVCC 在每个环节的落点
数据库🔥 1464
9
PostgreSQL WAL 记录类型完全指南:21 个 RMGR × 80+ 种记录的源码级拆解
数据库🔥 1431
10
一文读懂openguass dcf网络模块
集群🔥 1420
11
PostgreSQL 元数据存储机制:从磁盘文件到内存缓存,`pg_class` 撑起的整个系统表体系
数据库🔥 1411
12
openGauss 并行解码设计原理深度拆解:reader + 多 worker + CSN 三层架构的源码级剖析
数据库深入🔥 1344
13
逻辑复制源码分析
数据库深入🔥 1327
14
PostgreSQL 逻辑复制:catalog 改动、可见性判定与 xmin/xmax 推进全景
数据库深入🔥 1317
15
自托管服务全家桶:从原文方案到可复制实操手册
人生🔥 1278
16
PostgreSQL CREATE_REPLICATION_SLOT 端到端源码分析:从 SQL 到 snapbuild 状态机的完整链路(每个函数每个参数)
数据库深入🔥 1277
17
PostgreSQL syscache 模块源码深度拆解:CatCache 数据结构、LRU 哈希表、cache invalidation 全链路
数据库深入🔥 1216
18
PostgreSQL 18 内核数据结构全景:RangeVar 与 20+ 个核心数据结构源码级拆解
数据库🔥 1158
19
PostgreSQL 逻辑复制里 `RUNNING_XACTS` 写入机制与快照 `xmin / xmax / xip` 的演化:源码级深度拆解
数据库🔥 1119
20
PostgreSQL 分区表:从一行 `PARTITION BY` 到路由热路径的全链路拆解
数据库🔥 1094