暂无图片
暂无图片
暂无图片
暂无图片
暂无图片

PostgreSQL 中的并发创建索引

1311

一、初体验 Create Index Concurrently

在 PostgreSQL 11 之前,创建索引和表数据更新是互斥的,也就是说创建索引时会持有一把锁,这时候任何对表数据的增加、更新、删除操作,都将等待索引创建完成才能继续执行。

如下面的例子:

  1. 创建示例表
-- 创建测试表,并向其中插入 500w 行随机字符串数据

CREATE TABLE articles (
  id SERIAL8 NOT NULL PRIMARY KEY,
  a text,
  b text,
  c text
);

INSERT INTO articles(a, b, c)
SELECT
  md5(random()::text),
  md5(random()::text),
  md5(random()::text)
from (
  SELECT * FROM generate_series(1,5000000AS id
AS x;

  1. 打开一个 psql 客户端,执行创建索引操作
ubuntu=# create index idx_a on articles (a);
  1. 索引创建时打开另一个 psql 客户端,并向表中插入数据,此时另一个事务已经持有表锁了,所以会一直等待事务结束之后才会继续执行
ubuntu=# insert into articles(a, b, c) values ('1', '2', '3');

可以在事务执行期间,通过 pg_locks 表查看事务持有的锁,可以看到创建索引的操作占据了 ShareLock(5 号锁),插入操作需要获取 RowExclusiveLock 锁,而这两者是互斥的。

ubuntu=# select * from pg_locks where relation = 'articles'::regclass;
 locktype | database | relation | page | tuple | virtualxid | transactionid | classid | objid | objsubid | virtualtransaction |   pid   |       mode       | granted | fastpath |
         waitstart
----------+----------+----------+------+-------+------------+---------------+---------+-------+----------+--------------------+---------+------------------+---------+----------+-
-----------------------------
 relation |  2638325 |  2638341 |      |       |            |               |         |       |          | 3/22624            | 1236742 | RowExclusiveLock | f       | f        |
2023-01-13 14:08:32.54543+08
 relation |  2638325 |  2638341 |      |       |            |               |         |       |          | 4/209              | 1236951 | ShareLock        | t       | f        |
 relation |  2638325 |  2638341 |      |       |            |               |         |       |          | 6/20               | 1237182 | ShareLock        | t       | f        |
(3 rows)

索引创建和表更新操作的互斥,带来一个严重的后果,那便是如果表数据量较大,创建索引的时间可能很长,如果长时间锁表的话,会导致表无法更新,可能会对在线业务产生很大的影响

于是 PostgreSQL 在 11 版本中支持了并发创建索引,即 CREATE INDEX CONCURRENTLY,其主要功能是在创建索引的时候,不阻塞表数据的更新。

还是看上面的示例,只需要将第一个事务的 sql 修改为 create index CONCURRENTLY idx_a on articles (a);,那么其他事务的表数据更新操作将会正常执行,不会被阻塞。

然后再看其持有的锁,可以看到已经变成了 ShareUpdateExclusiveLock(4 号锁):

ubuntu=# select * from pg_locks where relation = 'articles'::regclass;
 locktype | database | relation | page | tuple | virtualxid | transactionid | classid | objid | objsubid | virtualtransaction |   pid   |           mode           | granted | fas
tpath | waitstart
----------+----------+----------+------+-------+------------+---------------+---------+-------+----------+--------------------+---------+--------------------------+---------+----
------+-----------
 relation |  2638325 |  2638341 |      |       |            |               |         |       |          | 4/214              | 1236951 | ShareUpdateExclusiveLock | t       | f
      |
(1 row)

在并发创建索引的时候,如果遇到了不符预期的错误,或者手动取消,那么这个索引将会留在表中,但是被标识为 INVALID,表示这个索引不可用,也就是说将不会使用这个索引进行索引扫描。

后续可以手动将其 DROP 掉,然后重新建立索引,也可以执行 REINDEX CONCURRENTLY 重建索引。

ubuntu=# \d articles
                            Table "public.articles"
 Column |  Type  | Collation | Nullable |               Default
--------+--------+-----------+----------+--------------------------------------
 id     | bigint |           | not null | nextval('articles_id_seq'::regclass)
 a      | text   |           |          |
 b      | text   |           |          |
 c      | text   |           |          |
Indexes:
    "articles_pkey" PRIMARY KEY, btree (id)
    "idx_body" btree (a) INVALID

注意:CREATE INDEX CONCURRENTLY 不能在事务块中执行,也就是说我们不能显式的 begin 开启事务然后执行 CREATE INDEX CONCURRENTLY。

二、CREATE INDEX CONCURRENTLY 的三个步骤

主要的代码位置在 https://github.com/postgres/postgres/blob/master/src/backend/commands/indexcmds.c#L488

DefineIndex 方法中主要是处理索引创建的逻辑,方法前面部分主要是做一系列校验和参数初始化等,然后调用 index_create 方法将索引的元信息存储到 pg_index、pg_class 等表中。

并且如果判断到不是 concurrently 创建索引的话,这里会直接返回,也就是说这之后的逻辑都是处理 CONCURRENTLY 并发索引创建的部分。

if (!concurrent)
{
    /* Close the heap and we're done, in the non-concurrent case */
    table_close(rel, NoLock);

    /* If this is the top-level index, we're done. */
    if (!OidIsValid(parentIndexId))
        pgstat_progress_end_command();

    return address;
}

接着上面的代码往下看,就是 postgres 的并发创建索引逻辑,主要分为了三个步骤,这部分代码的注释也有一些相应的说明。

  1. 开启一个事务,通过 index_create 方法,将索引的元数据信息存储到 pg_class、pg_index 表中,并且标识索引的 indisready 和 indisvalid 属性为 false,表示目前索引没有 ready 并且不可用_;_提交事务,并开启一个新的事务进入下一阶段。

此阶段相当于 DefineIndex 的前一部分,和正常的 create index 的逻辑是相同的。


  1. 1. 进入此阶段时,需要等待系统中其他正在写数据的事务提交,因为必须让新索引的定义对其他所有的事务都可见,保证 HOT 更新满足表的索引定义,调用 WaitForLockers 函数进行等待 2. 通过 index_concurrently_build 创建索引,同时持有 4 号锁,不阻塞表的增/删/改操作;获取一个 MVCC 快照,将此快照下可见的元组写入到索引中;此时如果有其他的事务有新的写入,将不会插入到索引中,只是保证 HOT 满足索引的定义;提交事务,将索引设置为 isready,后续如果有新的数据插入,将会维护这个索引,但是索引仍然是 invalid,不能用于索引扫描。并再开启一个新的事务,进入到下一阶段。

  2. 1. 又要等待当前所有写事务都提交,保证所有的事务都能看到新索引的定义 2. 在第二阶段的执行过程中,有可能又有新的元组插入到表中,所以需要再获取一个新的 MVCC 快照,并将新的元组插入到索引中,调用函数 validate_index 3. 此时还需要一次等待,将指定 xmin 的之前的事务提交,调用函数 WaitForOlderSnapshots 4. 最后将索引置为 valid,后续其他事务便可以使用该索引进行查询了

三、Reindex Concurrently

REINDEX 是一个更加复杂的命令,PostgreSQL 中也是支持对 REINDEX 进行 CONCURRENTLY 操作的,了解了 CREATE INDEX 之后,我们再来看看 Reindex Concurrently 是如何在 PostgreSQL 上执行的。

ExecReindex

PostgreSQL 的 REINDEX 的主要逻辑在方法 ExecReindex 中,对 Reindex 的处理分为了三种情况:

  • REINDEX_OBJECT_INDEX(针对索引)
  • REINDEX_OBJECT_TABLE(针对表)
  • REINDEX_OBJECT_SCHEMA、REINDEX_OBJECT_SYSTEM、REINDEX_OBJECT_DATABASE(针对 schema、系统表、整个库)

ReindexRelationConcurrently

这个方法是 Reindex Concurrently 的主要实现逻辑,首先会根据传入的 relationOid,找到所有需要进行 Reindex 的 indexId,并且跳过一些不能进行 Reindex 的索引,例如系统 catalog 表不支持 Reindex。

主要的代码位置:https://github.com/greenplum-db/gpdb/blob/main/src/backend/commands/indexcmds.c#L3575

拿到需要进行 Reindex 的索引 Oid 之后,然后进入 Reindex Concurrently 的六个阶段:

  • 创建新的索引,创建后表中有一个临时的新的索引,名称以 idx_ccnew 开头
  • build 新创建的索引,即扫描全表数据,构建索引的内容
  • validate 新创建的索引,将前一个阶段新插入的数据加入到索引中,这个和 create index concurrently 类似
  • 交换索引,将新创建的索引和它对应的需要 reindex 的索引进行交换,旧的索引标识为 invalid
  • 将旧的索引设置为 dead 状态,即 indislive、indisready、indisvalid 均为 false
  • 最后将旧的索引 drop 掉

ps. 在 Postgres 的官方文档中,也有对 Create Index/Reindex Concurrently 的描述,只是没有深入到代码细节之中,可以参考看下这两个步骤的执行步骤。

https://www.postgresql.org/docs/current/sql-createindex.htmlhttps://www.postgresql.org/docs/current/sql-reindex.html


文章转载自roseduan写字的地方,如果涉嫌侵权,请发送邮件至:contact@modb.pro进行举报,并提供相关证据,一经查实,墨天轮将立刻删除相关内容。

评论