Curve 基于 Raft 的写时延优化

网易杭研 2022-04-26 11:21:19
加精

1 背景

Curve(https://github.com/opencurve/curve )是网易数帆自主设计研发的高性能、易运维、全场景支持的云原生软件定义存储系统,旨满足Ceph本身架构难以支撑的一些场景的需求,于2020年7月正式开源。当前由CurveBS和CurveFS两个子项目构成,分别提供分布式块存储和分布式文件存储两种能力。其中CurveBS已经成为开源云原生数据库PolarDB for PostgreSQL的分布式共享存储底座,支撑其存算分离架构。

curve_logo

在CurveBS的设计中,数据服务器ChunkServer数据一致性采用基于raft的分布式一致性协议去实现的。

典型的基于raft一致性的写Op实现如下图所示:

以常见的三副本为例,其大致流程如下:

  1. 首先client 发送写op(步骤1),写op到达Leader后(如果没有Leader,先会进行Leader选举,写Op总是先发送给Leader),Leader首先会接收写Op,生成WAL(write ahead log),将WAL持久化到本地存储引擎(步骤2), 并同时并行将WAL通过日志发送rpc发送给两个Follower(步骤3)。
  2. 两个Follower在收到Leader的日志请求后,将收到的日志持久化到本地存储引擎(步骤4)后,向Leader返回日志写入成功(步骤5)。
  3. 一般来说,Leader日志总是会先完成落盘,此时再收到其他一个Follower的日志成功的回复后,即达成了大多数条件,就开始将写Op提交到状态机,并将写Op写入本地存储引擎(步骤6)。
  4. 完成上述步骤后,即表示写Op已经完成,可以向client返回写成功(步骤7)。在稍晚一些时间,两个Follower也将收到Leader日志提交的消息,将写Op应用到本地存储引擎(步骤9)。

在目前CurveBS的实现中,写Op是在raft apply 到本地存储引擎(datastore)时,使用了基于O_DSYNC打开的sync写的方式。实际上,在基于raft已经写了日志的情况下,写Op不需要sync就可以安全的向client端返回,从而降低写Op的时延,这就是本文所述的写时延的优化的原理。

其中的代码如下,在chunkfile的Open函数中使用了O_DSYNC的标志。

CSErrorCode CSChunkFile::Open(bool createFile) {
    WriteLockGuard writeGuard(rwLock_);
    string chunkFilePath = path();
    // Create a new file, if the chunk file already exists, no need to create
    // The existence of chunk files may be caused by two situations:
    // 1. getchunk succeeded, but failed in stat or load metapage last time;
    // 2. Two write requests concurrently create new chunk files
    if (createFile
        && !lfs_->FileExists(chunkFilePath)
        && metaPage_.sn > 0) {
        std::unique_ptr<char[]> buf(new char[pageSize_]);
        memset(buf.get(), 0, pageSize_);
        metaPage_.version = FORMAT_VERSION_V2;
        metaPage_.encode(buf.get());

        int rc = chunkFilePool_->GetFile(chunkFilePath, buf.get(), true);
        // When creating files concurrently, the previous thread may have been
        // created successfully, then -EEXIST will be returned here. At this
        // point, you can continue to open the generated file
        // But the current operation of the same chunk is serial, this problem
        // will not occur
        if (rc != 0  && rc != -EEXIST) {
            LOG(ERROR) << "Error occured when create file."
                       << " filepath = " << chunkFilePath;
            return CSErrorCode::InternalError;
        }
    }
    int rc = lfs_->Open(chunkFilePath, O_RDWR|O_NOATIME|O_DSYNC);
    if (rc < 0) {
        LOG(ERROR) << "Error occured when opening file."
                   << " filepath = " << chunkFilePath;
        return CSErrorCode::InternalError;
    }
...
}

2 问题分析

先前之所以使用O_DSYNC,是考虑到raft的快照场景下,数据如果没有落盘,一旦开始打快照,日志也被Truncate掉的场景下,可能会丢数据,目前修改Apply写不sync首先需要解决这个问题。
首先需要分析清楚Curve ChunkServer端打快照的过程,如下图所示:

打快照过程的几个关键点:

  1. 打快照这一过程是进StateMachine与读写Op的Apply在StateMachine排队执行的;
  2. 快照所包含的last_applied_index在调用StateMachine执行保存快照之前,就已经保存了,也就是说执行快照的时候一定可以保证保存的last_applied_index已经被StateMachine执行过Apply了;
  3. 而如果修改StatusMachine的写Op Apply去掉O_DSYNC,即不sync,那么就会存在可能快照在truncate到last_applied_index,写Op的Apply还没真正sync到磁盘,这是我们需要解决的问题;

3 解决方案

解决方案有两个:

3.1 方案一

  1. 既然打快照需要保证last_applied_index为止apply的写Op必须Sync过,那么最简单的方式,就是在执行打快照时,执行一次Sync。这里有3种方式,第一是对全盘进行一次FsSync。第二种方式,既然我们的打快照过程需要保存当前copyset中的所有chunk文件到快照元数据中,那么我们天然就有当前快照的所有文件名列表,那么我们可以在打快照时,对所有文件进行一次逐一Sync。第三种方式,鉴于一个复制组的chunk数量可能很多,而写过的chunk数量可能不会很多,那么可以在datastore执行写op时,保存需要sync的chunkid列表,那么在打快照时,只要sync上述列表中的chunk就可以了。
  2. 鉴于上述3种sync方式可能比较耗时,而且我们的打快照过程目前在状态机中是“同步”的执行的,即打快照过程会阻塞IO,那么可以考虑将打快照过程改为异步执行,同时这一修改也可减少打快照时对IO抖动的影响。

3.2 方案二

方案二则更为复杂,既然去掉O_DSYNC写之后,我们目前不能保证last_applied_index为止的写Op都被Sync了,那么考虑将ApplyIndex拆分称为两个,即last_applied_index和last_synced_index。具体做法如下:

  1. 将last_applied_index拆分成两个last_applied_index和last_synced_index,其中last_applied_index意义不变,增加last_synced_index,在执行一次全盘FsSync之后,将last_applied_index赋值给last_synced_index;
  2. 在前述打快照步骤中,将打快照前保存last_applied_index到快照元数据变更为last_synced_index,这样即可保证在打快照时,快照包含的数据一定被sync过了;
  3. 我们需要一个后台线程定期去执行FsSync,通过定时器,定期执行Sync Task。执行过程可能是这样的: 首先后台sync线程遍历所有的状态机,拿到当前的所有last_applied_index,执行FsSync,然后将上述last_applied_index赋值给对于状态机的last_synced_index;

3.3 两种方案的优缺点:

  1. 方案一改动较为简单,只需要改动Curve代码,不需要动braft的代码,对braft框架是非侵入式的;方案二则较为复杂,需要改动braft代码;
  2. 从快照执行性能来看,方案一会使得原有快照变慢,由于原有快照时同步的,因此最好在这次修改中改成异步执行快照;当然方案二也可以优化原有快照为异步,从而减少对IO的影响;

3.4 采取的方案:

  1. 采用方案一实现方式,原因是对braft的非侵入式修改,对于代码的稳定性和对后续的兼容性都有好处。
  2. 至于对chunk的sync方式,采用方案一的第3种方式,即在datastore执行写op时,保存需要sync的chunkid列表,同时在打快照时,sync上述列表中的chunkid,从而保证chunk全部落盘。这一做法避免频繁的FsSync对全部所有chunkserver的造成IO的影响。此外,在执行上述sync时,采用批量sync的方式,并对sync的chunkid进行去重,进而减少实际sync的次数,从而减少对前台IO造成的影响。

4 POC

以下进行poc测试,测试在直接去掉O_DSYNC情况下,针对各种场景对IOPS,时延等是否有优化,每组测试至少测试两次,取其中一组。

测试所用fio测试参数如下:

  • 4K随机写测试单卷IOPS:
[global]
rw=randwrite
direct=1
iodepth=128
ioengine=libaio
bsrange=4k-4k
runtime=300
group_reporting
size=100G

[disk01]
filename=/dev/nbd0
  • 512K顺序写测单卷带宽:
[global]
rw=write
direct=1
iodepth=128
ioengine=libaio
bsrange=512k-512k
runtime=300
group_reporting
size=100G
 
 
[disk01]
filename=/dev/nbd0
  • 4K单深度随机写测试时延:
[global]
rw=randwrite
direct=1
iodepth=1
ioengine=libaio
bsrange=4k-4k
runtime=300
group_reporting
size=100G

[disk01]
filename=/dev/nbd0

集群配置:

机器rolesdisk
server1client,mds,chunkserverssd/hdd * 18
server2mds,chunkserverssd/hdd * 18
server3mds,chunkserverssd/hdd * 18

4.1 HDD对比测试结果

场景优化前优化后
单卷4K 随机写IOPS=5928, BW=23.2MiB/s, lat=21587.15usecIOPS=6253, BW=24.4MiB/s, lat=20465.94usec
单卷512K顺序写IOPS=550, BW=275MiB/s,lat=232.30msecIOPS=472, BW=236MiB/s,lat=271.14msec
单卷4K单深度随机写IOPS=928, BW=3713KiB/s, lat=1074.32usecIOPS=936, BW=3745KiB/s, lat=1065.45usec

上述测试在RAID卡cache策略writeback下性能有略微提高,但是提升效果并不明显,512K顺序写场景下甚至略有下降,并且还发现在去掉O_DSYNC后存在IO剧烈抖动的现象。

我们怀疑由于RAID卡缓存的关系,使得性能提升不太明显,因此,我们又将RAID卡cache策略设置为writethough模式,继续进行测试:

场景优化前优化后
单卷4K随机写IOPS=993, BW=3974KiB/s,lat=128827.93usecIOPS=1202, BW=4811KiB/s, lat=106426.74usec
单卷单深度4K随机写IOPS=21, BW=85.8KiB/s,lat=46.63msecIOPS=38, BW=154KiB/s,lat=26021.48usec

在RAID卡cache策略writethough模式下,性能提升较为明显,单卷4K随机写大约有20%左右的提升。

4.2 SSD对比测试结果

SSD的测试在RAID直通模式(JBOD)下测试,性能对比如下:

场景优化前优化后
单卷4k随机写bw=83571KB/s, iops=20892,lat=6124.95usecbw=178920KB/s, iops=44729,lat=2860.37usec
单卷512k顺序写bw=140847KB/s, iops=275,lat=465.08msecbw=193975KB/s, iops=378,lat=337.72msec
单卷单深度4k随机写bw=3247.3KB/s, iops=811,lat=1228.62usecbw=4308.8KB/s, iops=1077,lat=925.48usec

可以看到在上述场景下,测试效果有较大提升,4K随机写场景下IOPS几乎提升了100%,512K顺序写也有较大提升,时延也有较大降低。

5 总结

上述优化适用于Curve块存储,基于RAFT分布式一致性协议,可以减少RAFT状态机应用到本地存储引擎的一次立即落盘,从而减少Curve块存储的写时延,提高Curve块存储的写性能。在SSD场景下测试,性能有较大提升。对于HDD场景,由于通常启用了RAID卡缓存的存在,效果并不明显,因此我们提供了开关,在HDD场景可以选择不启用该优化。

本文作者:许超杰,网易数帆资深系统开发工程师

...全文
865 回复 打赏 收藏 举报
写回复
回复
切换为时间正序
请发表友善的回复…
发表回复
相关推荐
发帖
网易数帆开源技术
加入

66

社区成员

专注数字化转型基础软件,包括云原生、低代码、大数据、AI等。已开源项目:Curve高性能分布式存储,Slime智能网格管理器,Kyuubi企业级数据湖探索平台……
社区管理员
  • 网易杭研
帖子事件
创建了帖子
2022-04-26 11:21
社区公告
暂无公告