reorderbuffer.c 源码深度解析:PostgreSQL 逻辑复制的"事务重组引擎
PostgreSQL 的逻辑复制链路:
applyparallelworker.c 表面上是一个 1646 行的文件,但里面同时承载了 两套截然不同的角色:
配套源码:~/cwork/postgresql(基于 PG 18 主干)
配套源码:~/cwork/postgresql(基于 PG 18 主干)
配套源码:~/cwork/postgresql(基于 PG 18 主干)
配套源码:~/cwork/postgresql(基于 PG 18 主干)配套前文:Apply Parallel Worker 运行机制解析
源码基线:PostgreSQL 18(src/backend/replication/logical/{applyparallelworker,worker,launcher}.c)
文档版本:v1.0适配版本:PostgreSQL 18源码基线:src/backend/replication/logical/{worker,applyparallelworker,launcher}.c、src/include/replication/{logicalworker,worker_internal}.h
文档版本:v1.0适配版本:PostgreSQL 18(含社区已合入的并行 Apply 增强补丁)源码基线:src/backend/replication/logical/{worker,applyparallelworker,launcher,tablesync}.c
文档版本:v1.0适配版本:PostgreSQL 18源码基线:src/backend/replication/logical/{worker,applyparallelworker}.c、src/include/replication/worker_internal.h
本文是一份性能分析入门 + 实战指南。前半段讲清楚火焰图和 perf 是什么、怎么用;后半段用 PostgreSQL 逻辑复制的 4 个真实问题,演示怎么用火焰图定位瓶颈。读完你会获得一个完整的"实战方法论"。
本文从 Linux 内核视角讲清楚共享内存 —— 为什么有它、内核是怎么实现的、用户态有哪些 API、主流开源项目怎么用。读者:内核 / 系统 / 后端 / 数据库开发者。
本文基于 PostgreSQL 18 源码(src/backend/storage/ipc/、src/backend/utils/mmgr/),从内核视角讲清楚共享内存是怎么回事 —— 为什么需要它、它分几层、内核开发者怎么用它。
本文介绍如何使用 BenchmarkSQL 对 PostgreSQL 进行 TPC-C 压测,重点覆盖配置、数据装载、运行命令、执行链路、结果分析和常见故障排查。
目标:搞清楚 OLTP 的行存与 OLAP 的列存的本质差异,了解 PG 原生为啥是行存、cstorefdw / parquetfdw / Hydra 怎么实现列存、PG 17/18 列存方向。这是面试常被问、也是存储引擎内核最常被重构的方向之一。
目标:吃透 PG 的 logical replication 全套机制——logical decoding、ReorderBuffer、output plugin、publication/subscription、initial sync、conflict handling、walsummarizer。这是 PG 实现跨大版本、跨表、跨粒度复制的核心能力。
目标:吃透 PG 的 streaming replication 全套机制——wal sender、wal receiver、replication slot、sync vs async、cascade、failover、monitoring。这是读写分离、高可用、灾备的基石。
目标:把 PG 的 crash recovery 单独成章,吃透 redo 全流程、timeline 切换、PITR 的内部细节、partial restore、recovery target 与 promote。这是"内核工程师"与"会用 PG"的关键分水岭,因为很多线上故障都靠它定位。
目标:把前面 9 章没覆盖的访问方法与执行层高级特性收口:其他 access method(hash/gist/gin/spgist/brin)、并行执行、分区、FDW、JIT、logical replication。这一章不要求每项精通,但需要知道“这些都怎么入手”。
目标:吃透 PG 的 Write-Ahead Logging 子系统——XLogRecord 结构、rmgr 注册表、redo/undo、checkpoint、recovery、流复制。这是与 InnoDB redo log 最常被拿来对照的部分。
目标:把 PG 的“事务子系统”吃透:xact 状态机、Snapshot、clog/subtrans、lmgr 的表/页/元组三级锁、lwlock、SSI 实现。这是“资深内核开发”与“会用 PG”的分水岭。
目标:从页面布局到搜索 / 插入 / 分裂 / 删除 / WAL 全流程吃透 PG 的 B-Tree 实现。PG 13+ 引入的 deduplication 是重点。
目标:理解 PostgreSQL 堆表的页面布局、HeapTuple 结构、xmin/xmax/cmin/cmax 语义、HOT 链、pruning、vacuumlazy。这是 PG 与 MySQL InnoDB 在工程上最大的差异点。
目标:掌握 PostgreSQL shared buffer pool 的实现——BufferDesc 元数据、hash 索引、clock-sweep 替换策略、AIO 集成、lock 与 pin 的差别。这一章是“存储引擎内核”最关键的章节。
目标:理解 PG 在“OS 文件系统”和“表/索引页面”之间插的一层抽象(Storage Manager),以及默认实现磁碟版(md.c)。这一层是 PG 与其它 DBMS 在工程上差异最大的一处——比 InnoDB 的 fil_system 还更“裸露”。
目标:从 backend 收到一条 query 字节那一刻起,逐函数跟踪到执行器出口。理解 解析 → 重写 → 优化 → 执行 四阶段的产物(RawStmt / Query / PlannedStmt / PlanState)。
目标:理解“一个客户端连接 = 一个 backend 进程”的进程模型,掌握 postmaster 如何 fork / signal 整个家族,以及每个子进程的工作。
目标:能在 ~/cwork/postgresql 上 30 分钟内编译成功、能 GDB 跟一条 SQL、能用 ctags / cscope 在代码里跳转。
问题原因:逻辑复制同步DDL在sqlserver模式下不支持分区表同步,根本原因为分区表创建依赖于Partition Function 、Partition Scheme,但这两个语句不走PG标准的执行流程(ProcessUtility),无法被捕获。
1.当前产品面向比亚迪现场,现场需要sqlserver模式,当前sqlserver模式下的逻辑复制能力范围边界尚不清楚;(从产品和架构层面出发评估)
{margin: 0;padding: 0;box-sizing: border-box;}body {font-family: -apple-system, BlinkMacSystemFont, "Segoe UI", Roboto, "Helvetica Neue", Arial, sans-serif;
当前数据库使用babelfish插件(bbf)来支持sqlserver模式,bbf采用双端口的设计:即数据库在启动时会监听多个端口,一般是pg原生的端口和tsql端口,比如5432和1433.
本文档汇总 Babelfish 插件在 SQL Server 模式下使用逻辑复制 DDL 自动同步时的已知限制,并按客户使用影响给出分级和建议做法。
PostgreSQL 的 searchpath 可以设置多个 schema,但其他数据库如 Oracle 的 ALTER SESSION SET CURRENTSCHEMA = ZXF 只能设置一个。这在一条 SQL 包含多个 schema 的场景下,无法进行直接转换。
PostgreSQL 当前内建逻辑复制主要覆盖表级 DML 复制。logical decoding 的本质是从 WAL 中提取持久化变更,转成更高层可理解的变更流;复制槽保证“按源端发生顺序”向客户端提供变化序列。([PostgreSQL][1])
可以,下面我直接给你一版接近 PostgreSQL patch 风格的 LogLogicalDDLMessage() 实现草稿。它的设计核心是:复用 PostgreSQL 现有 generic logical decoding message 的 WAL 记录格式与写入路径。
在初次写入数据的时候,ddl写到了系统表,dml先写入日志,然后apply成数据。当前逻辑复制的原理是根据lsn读取wal日志,将wal日志decode成sql,然后发送目标端。
一个DDL需要多个事务,比如在线建分区;2. 性能问题;(发布性能较低,流式发布)3. 用户接口跟产品确认;(用户接口清单,ddl同步范围),table和others的清单列出;
本文通过实际操作演示 PostgreSQL 15 逻辑复制的完整流程,重点展示:- WAL(Write-Ahead Logging)日志的生成与解析
本文面向需要理解 PostgreSQL 逻辑复制/逻辑解码链路的开发人员,解释 LogLogicalMessage 的定位、内部实现、设计初衷和工程使用方式。
在 PostgreSQL 扩展开发中,DefineCustom*Variable 系列函数用于 注册自定义 GUC(Grand Unified Configuration)参数。
pglogical.so是pglogical中的数据库扩展(extension),负责管理复制拓扑、节点、replication set、apply worker 等控制逻辑。
逻辑解码(Logical Decoding)是 PostgreSQL(及其扩展版本)提供的一套机制,用来将 WAL(物理日志)中的数据修改恢复成“逻辑级别”的变更事件: