corosync down网卡仍处于多数派问题分析


难度 中等

问题现象

corosync三节点集群,未启用vote_quorum,没有qdevice进程。使用ifdown停掉网卡后,节点仍处于quorate状态。

corosync使用的通信方式为udpu。

使用如下命令down掉网卡,格一段时间后查看节点的quorate状态,发现仍处于quorate。实际上网络不通应处于非quorate状态。

当前的同城双中心集群数据库fence依赖于corosync的quorate状态,只有当corosync处于非quorate状态超过20秒时才会停止数据库。
当down掉网卡时,实际网络不通,但因为仍处于quorate状态未停止数据库。但本中心已无法和observer及其他中心通信,因为会触发observer执行跨中心切换,将主库切换到另一个中心。当重新up网卡,网路恢复,此时生成中心的主库未停止,灾备中心也有了新主库,导致出现脑裂双主。

问题原因

在down掉网卡时,节点的quorate状态应改变为非quorate。

这个问题是corosync的已知问题,社区在这个补丁里对这个问题进行了修复,https://github.com/corosync/corosync/pull/685,我们的corosync没合入这个补丁。但这个补丁里提到udpu会存在这个问题,knet方式不会,补丁里的修复解决方式也不是最完美的,建议使用knet。

问题解决

这个问题是corosync的已知问题,社区在这个补丁里对这个问题进行了修复,https://github.com/corosync/corosync/pull/685,我们的corosync没合入这个补丁。但这个补丁里提到udpu会存在这个问题,knet方式不会,补丁里的修复解决方式也不是最完美的,建议使用knet。

对于开发来说

  1. 合入社区相关补丁代码;
  2. 详细分析udpu和knet的通信方式的区别,并输出分析文档,给出选择那种通信方式;
  3. 对比我们当前的corosync代码与corosync社区的代码,有哪些bug是我们未合入的,并分析是否需要合入;
  4. 后续持续跟踪corosync社区的代码,并及时跟进更新;

对于测试来说

应模拟测试多种故障场景,尤其是网络故障,不能光以关机重启或者chaos-blade工具模拟,应按照实际的使用场景来模拟测试。

在原有关机、重启,chaos-blade工具模拟网络故障外,还应增加如下测试场景:

  1. 开防火墙;
  2. 停网卡服务;
  3. ifdown网卡;
  4. 拔网线;

文章作者: growdu
版权声明: 本博客所有文章除特別声明外,均采用 CC BY 4.0 许可协议。转载请注明来源 growdu !
  目录
分类导航
随笔3 AI29 计算机基础13 算法1 博客搭建7 ChatGPT2 集群63 计算机通信1 数据库59 数据库深入93 数据库93 Docker11 DPDK26 编辑工具4 Elasticsearch4 FAQ1 Go Web1 hometown2 编程语言16 人生11 网络9 Linux38 OPC1 openGauss4 页面12 PostgreSQL54 程序员自我修养1 协议11 stock1 存储5 成长之路1 工具20 视频作品1 VPP18 Vue13 Web1 代码示例11 BenchmarkSQL1 PostgreSQL 源码修炼之路14
最热文章
1
PostgreSQL 逻辑复制全链路:以一个真实事务为例,从 `INSERT` 到 `apply` 的源码级旅程
数据库🔥 2162
2
PostgreSQL 逻辑复制 Stream 执行逻辑源码级拆解:从 reorderbuffer 触发到订阅端落盘回放
数据库🔥 1765
3
PostgreSQL 行锁机制源码级深度拆解:4 种锁模式 + xmax + MultiXact 的完整链路
数据库🔥 1656
4
PostgreSQL reorderbuffer.c 函数级源码全集:5615 行 / 95 个函数的逐函数解析
数据库深入🔥 1650
5
PostgreSQL 目录快照源码级深度拆解:系统表读取的 MVCC 真相与失效机制
数据库🔥 1604
6
13 逻辑复制深入
数据库深入🔥 1570
7
0 Postgresql存储、索引及系统优化、主备切换
PostgreSQL🔥 1495
8
PostgreSQL 读一行数据源码级深度拆解:MVCC 在每个环节的落点
数据库🔥 1464
9
PostgreSQL WAL 记录类型完全指南:21 个 RMGR × 80+ 种记录的源码级拆解
数据库🔥 1431
10
一文读懂openguass dcf网络模块
集群🔥 1420
11
PostgreSQL 元数据存储机制:从磁盘文件到内存缓存,`pg_class` 撑起的整个系统表体系
数据库🔥 1411
12
openGauss 并行解码设计原理深度拆解:reader + 多 worker + CSN 三层架构的源码级剖析
数据库深入🔥 1344
13
逻辑复制源码分析
数据库深入🔥 1327
14
PostgreSQL 逻辑复制:catalog 改动、可见性判定与 xmin/xmax 推进全景
数据库深入🔥 1317
15
自托管服务全家桶:从原文方案到可复制实操手册
人生🔥 1278
16
PostgreSQL CREATE_REPLICATION_SLOT 端到端源码分析:从 SQL 到 snapbuild 状态机的完整链路(每个函数每个参数)
数据库深入🔥 1277
17
PostgreSQL syscache 模块源码深度拆解:CatCache 数据结构、LRU 哈希表、cache invalidation 全链路
数据库深入🔥 1216
18
PostgreSQL 18 内核数据结构全景:RangeVar 与 20+ 个核心数据结构源码级拆解
数据库🔥 1158
19
PostgreSQL 逻辑复制里 `RUNNING_XACTS` 写入机制与快照 `xmin / xmax / xip` 的演化:源码级深度拆解
数据库🔥 1119
20
PostgreSQL 分区表:从一行 `PARTITION BY` 到路由热路径的全链路拆解
数据库🔥 1094