pglogical详解


难度 中等

pglogical 是 PostgreSQL 的拓展模块, 为 PostgreSQL 数据库提供了逻辑流复制发布和订阅的功能。

逻辑复制是将数据重新执行一次insert、update或delete。pglogical就是逻辑复制的其中一种实现方式。

逻辑复制原理图:

alt text

逻辑复制组件关系图:

alt text

pglogical 是一个基于PostgreSQL逻辑解码框架的发布/订阅式逻辑复制扩展,支持:

  • 选择性复制(表、行、列级过滤)
  • 多主复制(多个上游服务器)
  • 版本间升级(PostgreSQL 9.4-18)
  • DDL复制(可选)
  • 冲突检测与解决
┌─────────────────┐    ┌─────────────────┐    ┌─────────────────┐
  │   发布者端      │    │   网络传输      │    │   订阅者端      │
  │   (Provider)    │    │   (Network)     │    │   (Subscriber)  │
  ├─────────────────┤    ├─────────────────┤    ├─────────────────┤
  │ 1. 逻辑解码     │    │ 3. 二进制协议   │    │ 5. 数据应用     │
  │    (WAL→Change) │───▶│    传输         │───▶│    (Apply)      │
  │                 │    │                 │    │                 │
  │ 2. 复制集过滤   │    │ 4. 接收与解析   │    │ 6. 冲突解决     │
  │    (Filtering)  │    │                 │    │ (Conflict)      │
  └─────────────────┘    └─────────────────┘    └─────────────────┘
           │                       │                       │
           └───────────────────────┼───────────────────────┘
                                   │
                      ┌────────────┴────────────┐
                      │   pglogical_output      │
                      │   (输出插件)            │
                      └─────────────────────────┘

架构模型如下:

Provider (主)
   │
   │  logical decoding
   │
WAL → pglogical_output → network
   │
   ▼
Subscriber (从)
   │
apply worker
   │
SQL apply
   ▼
table

编译运行pglogical

要编译pglogical,需要先编译pg。

git clone https://git.postgresql.org/git/postgresql.git
cd postgresql
git checkout REL_15_STABLE # 以pg15为例
./configure --prefix=`pwd`/debug
make world -j16
make install-world
git clone https://github.com/2ndQuadrant/pglogical.git
cd pglogical
export PG_CONFIG=/path/pg_config
make
make install
[root@localhost pglogical]# ls /work/cwork/postgresql/debug/lib/pglogical*
/work/cwork/postgresql/debug/lib/pglogical_output.so
/work/cwork/postgresql/debug/lib/pglogical.so
[root@localhost pglogical]# ls /work/cwork/postgresql/debug/bin/pglogical*
/work/cwork/postgresql/debug/bin/pglogical_create_subscriber
[root@localhost pglogical]# 

最终主要生成了pglogical_output.so、pglogical.so两个插件,以及pglogical_create_subscriber。

pglogical_output.so

pglogical_output.so 是 pglogical 的 Logical Decoding Output Plugin。

负责把 WAL 中解码出来的逻辑变更转换成可发送给订阅端的复制协议数据流。

它运行在 provider(主库)侧,被 PostgreSQL 的 logical decoding 框架调用。

Client SQL
   │
   ▼
PostgreSQL executor
   │
   ▼
WAL
   │
   ▼
Logical decoding
   │
   ▼
pglogical_output.so   ← 这里
   │
   ▼
walsender
   │
   ▼
network
   │
   ▼
subscriber apply worker

在walsender启动后,当收到启动逻辑复制的语句时回通过LoadOutputPlugin加载插件。

pglogical.so

pglogical.so 是 pglogical 的数据库扩展(extension),负责管理复制拓扑、节点、replication set、apply worker 等控制逻辑。

具体包括:

1️. 创建和管理复制节点
2️. 管理 replication set
3️. 创建 replication slot
4️. 启动 apply worker
5️. 维护订阅关系
6️. DDL 同步控制
7️. worker 管理

+------------------+
|  pglogical.so    |
|  (extension)     |
+------------------+
         |
         | 管理
         ↓
+------------------+
| pglogical_output |
|  (output plugin) |
+------------------+
         |
         ↓
       WAL
组件 作用
pglogical.so 复制管理
pglogical_output.so WAL 解码
PostgreSQL walsender 发送数据
apply worker 应用数据

执行如下sql语句将会加载:

CREATE EXTENSION pglogical;

pglogical_create_subscriber

pglogical_create_subscriber 主要用于 在订阅端(subscriber)初始化并建立复制关系。它是 pglogical 内部用于创建订阅者节点及其复制配置的一部分工具函数 / SQL API(不同版本实现略有差异),核心作用是 把当前数据库注册为一个 subscriber 并建立与 provider 的逻辑复制连接。

主要流程如下:

subscriber DB
     ↓
pglogical_create_subscriber
     ↓
create local node
     ↓
connect provider
     ↓
create replication slot
     ↓
create subscription metadata
     ↓
启动 apply worker

reference

  1. https://www.modb.pro/db/11333

文章作者: growdu
版权声明: 本博客所有文章除特別声明外,均采用 CC BY 4.0 许可协议。转载请注明来源 growdu !
  目录
分类导航
随笔2 AI27 算法1 计算机基础13 博客搭建7 ChatGPT2 集群63 计算机通信1 数据库34 数据库深入80 DPDK26 Docker11 Elasticsearch4 编辑工具4 FAQ1 Go Web1 hometown2 编程语言16 网络9 OPC1 Linux38 openGauss4 页面12 PostgreSQL54 程序员自我修养1 协议11 成长之路1 stock1 存储5 工具20 VPP18 视频作品1 Vue13 Web1 代码示例11 数据库15 BenchmarkSQL1 PostgreSQL 源码修炼之路14
最热文章
1
13 逻辑复制深入
数据库深入🔥 1570
2
0 Postgresql存储、索引及系统优化、主备切换
PostgreSQL🔥 1495
3
一文读懂openguass dcf网络模块
集群🔥 1420
4
逻辑复制源码分析
数据库深入🔥 1327
5
PostgreSQL 分区表:从一行 `PARTITION BY` 到路由热路径的全链路拆解
数据库🔥 1094
6
applyparallelworker.c 之 LA 端源码深度解析:Leader Apply Worker 的指挥中枢
数据库深入🔥 1082
7
PostgreSQL Background Worker 全解:从 `RegisterBackgroundWorker` 到逻辑复制 4 类 worker 的全生命周期
数据库🔥 1078
8
PostgreSQL的后台进程walsender分析 - 关系型数据库 - 亿速云
PostgreSQL🔥 1033
9
PostgreSQL 逻辑复制的监控:六张视图 + 一组可执行 SQL,把 publisher/subscriber 的速率与健康度彻底看透
数据库🔥 1032
10
PostgreSQL 逻辑复制支持 DDL 之后:DDL 与 DML 的时序难题(重点:分区表)
数据库🔥 999
11
reorderbuffer.c 源码深度解析:PostgreSQL 逻辑复制的"事务重组引擎
数据库深入🔥 953
12
PostgreSQL 内核开发:读取一张表的 9 步标准流程与缓存全景
数据库🔥 938
13
从 `postgres` 二进制到生产级守护 —— PostgreSQL 最外层模块与启动全流程拆解
数据库🔥 936
14
支持逻辑复制同步 DDL 适配 SQL Server 方案
数据库深入🔥 934
15
PostgreSQL 逻辑复制的 ReorderBuffer 与事务机制:从一行 WAL 到一致性变更流的全链路绑定
数据库🔥 913
16
DDL同步架构(美化版)
数据库深入🔥 908
17
PostgreSQL Latch 机制详解:从一行 SetLatch 到 epoll 的内核之旅
数据库🔥 871
18
pgbench 源码全解:一个 C 文件如何撑起 PostgreSQL 官方压测工具
数据库🔥 860
19
PostgreSQL libpq 机制与缓冲区详解
数据库🔥 850
20
PostgreSQL 逻辑复制 spill 文件深度剖析:从 `xid-*.spill` 到 TPC-C 的增长方程
数据库🔥 845