栏目分类:
子分类:
返回
名师互学网用户登录
快速导航关闭
当前搜索
当前分类
子分类
实用工具
热门搜索
名师互学网 > IT > 软件开发 > 后端开发 > Java

postgresql源码学习(25)—— 事务日志⑥-等待日志写入完成

Java 更新时间: 发布时间: IT归档 最新发布 模块sitemap 名妆网 法律咨询 聚返吧 英语巴士网 伯小乐 网商动力

postgresql源码学习(25)—— 事务日志⑥-等待日志写入完成

一、 前篇的疑惑

前篇我们留下了两个问题:

  • 为什么WALInsertLock目前只设为8,不设更大?
  • 多进程并发复制数据会有什么问题?

第一个问题很直观,主要是第二个。

1. 多进程并发复制数据会有什么问题?

首先我们回顾一下日志写入的两个核心流程:

  • 预留空间,只能串行
  • 复制数据,可以并发操作

来考虑这样一种场景:

时间点

事务A

事务B

1

预留空间,获取EndPos_A

 

2

 

预留空间,获取EndPos_B

3

 

将数据全部复制入WAL Buffer

4

 

执行commit
此时应该将EndPos_B之前的日志全部刷盘

5

将数据全部复制入WAL Buffer

 

  • 事务A先于事务B预留空间,所以很显然EndPos_B > EndPos_A。
  • 紧接着事务B将XLOG复制到WAL Buffer,并执行了commit。
  • Commit应该将EndPos_B之前的所有日志都刷入此盘。
  • 但是此时,事务A还没来得及将XLOG复制到WAL Buffer。此时在EndPos_B之前的日志是不完整的,当然也就不能直接刷盘,必须等到事务A将相关的日志复制到WAL Buffer才能执行。
  • WaitXLogInsertionsToFinish的功能,就是判断指定位置之前是否还有XLOG没有复制到WAL Buffer,如果有就等待,直到这些XLOG完成复制。

所以,在调用XLogWrite进行XLOG刷盘之前,都需要调用WaitXLogInsertionsToFinish。

2. 如何判断XLOG复制是否完成

那它怎么样判断指定位置之前是否还有XLOG没有复制到WAL Buffer? 需要借助前面提到的WALInsertLocks结构体中的insertingAt属性来解决。

一个事务是否能将WAL Buffer中的数据刷入磁盘取决于两个因素:

  • 当前没有其他进程持有WALInsertLock(没有并发操作,当然就没有问题)
  • 有其他进程持有WALInsertLock,但其insertingAt大于当前事务要刷入的LSN

       回顾一下之前对insertingAt的解释:insertingAt记录当前日志写入WAL Buffer的进展,这个变量会在进程将WAL由内存刷往磁盘时读取,以确认所有对该区域的写入操作已完成。

       所以第二种情况指的就是当前事务要刷入的LSN之前的数据都已经复制完成了(因为其他事务的写入进展都已经大于当前事务了)。那如果小于怎么办,那就像上面说的,要等待,直到这些XLOG数据复制完成。

二、 WaitXLogInsertionsToFinish函数
static XLogRecPtr
WaitXLogInsertionsToFinish(XLogRecPtr upto)
{
    uint64      bytepos;
    XLogRecPtr  reservedUpto;
    XLogRecPtr  finishedUpto;
    XLogCtlInsert *Insert = &XLogCtl->Insert;
    int         i;

    if (MyProc == NULL)
        elog(PANIC, "cannot wait without a PGPROC structure");

    
    SpinLockAcquire(&Insert->insertpos_lck);
    bytepos = Insert->CurrBytePos;
    SpinLockRelease(&Insert->insertpos_lck);
    reservedUpto = XLogBytePosToEndRecPtr(bytepos);

    
    if (upto > reservedUpto)
    {
        ereport(LOG,
                (errmsg("request to flush past end of generated WAL; request %X/%X, current position %X/%X",
                        LSN_FORMAT_ARGS(upto), LSN_FORMAT_ARGS(reservedUpto))));
        upto = reservedUpto;
    }

    
    finishedUpto = reservedUpto;
    for (i = 0; i < NUM_XLOGINSERT_LOCKS; i++)
    {
        XLogRecPtr  insertingat = InvalidXLogRecPtr;

        do
        {
            
            if (LWLockWaitForVar(&WALInsertLocks[i].l.lock,
                                 &WALInsertLocks[i].l.insertingAt,
                                 insertingat, &insertingat))
            {
                
                insertingat = InvalidXLogRecPtr;
                break;
            }

            
        } while (insertingat < upto);

        if (insertingat != InvalidXLogRecPtr && insertingat < finishedUpto)
            finishedUpto = insertingat;
    }
    return finishedUpto;
}

参考

PostgreSQL重启恢复---Log Buffer_obvious__的博客-CSDN博客

https://zhuanlan.zhihu.com/p/166413747

PostgreSQL重启恢复---XLOG 2.0_obvious__的博客-CSDN博客

转载请注明:文章转载自 www.mshxw.com
本文地址:https://www.mshxw.com/it/995947.html
我们一直用心在做
关于我们 文章归档 网站地图 联系我们

版权所有 (c)2021-2022 MSHXW.COM

ICP备案号:晋ICP备2021003244-6号