Redis的新特性懒惰删除Lazy Free详解
前言
Redis4.0新增了非常实用的lazyfree特性，从根本上解决BigKey(主要指定元素较多集合类型Key)删除的风险。笔者在redis运维中也遇过几次BigKey删除带来可用性和性能故障。
本文分为以下几节说明redislazyfree：
- lazyfree的定义
- 我们为什么需要lazyfree
- lazyfree的使用
- lazyfree的监控
- lazyfree实现的简单分析
lazyfree的定义
lazyfree可译为惰性删除或延迟释放；当删除键的时候,redis提供异步延时释放key内存的功能，把key释放操作放在bio(BackgroundI/O)单独的子线程处理中，减少删除bigkey对redis主线程的阻塞。有效地避免删除bigkey带来的性能和可用性问题。
我们为什么需要lazyfree
Redis是single-thread程序(除少量的bio任务),当运行一个耗时较大的请求时，会导致所有请求排队等待redis不能响应其他请求，引起性能问题,甚至集群发生故障切换。
而redis删除大的集合键时，就属于这类比较耗时的请求。通过测试来看，删除一个100万个元素的集合键，耗时约1000ms左右。
以下测试，删除一个100万个字段的hash键，耗时1360ms；处理此DEL请求期间，其他请求完全被阻塞。
删除一个100万字段的hash键 127.0.0.1:6379>HLENhlazykey (integer)1000000 127.0.0.1:6379>delhlazykey (integer)1 (1.36s) 127.0.0.1:6379>SLOWLOGget 1)1)(integer)0 2)(integer)1501314385 3)(integer)1360908 4)1)"del" 2)"hlazykey" 5)"127.0.0.1:35595" 6)“"
测试估算，可参考；和硬件环境、Redis版本和负载等因素有关
| Key类型 | Item数量 | 耗时 |
|---|---|---|
| Hash | ~100万 | ~1000ms |
| List | ~100万 | ~1000ms |
| Set | ~100万 | ~1000ms |
| SortedSet | ~100万 | ~1000ms |
在redis4.0前，没有lazyfree功能；DBA只能通过取巧的方法，类似scanbigkey,每次删除100个元素；但在面对“被动”删除键的场景，这种取巧的删除就无能为力。
例如：我们生产RedisCluster大集群，业务缓慢地写入一个带有TTL的2000多万个字段的Hash键，当这个键过期时，redis开始被动清理它时，导致redis被阻塞20多秒，当前分片主节点因20多秒不能处理请求，并发生主库故障切换。
redis4.0有lazyfree功能后，这类主动或被动的删除bigkey时，和一个O(1)指令的耗时一样,亚毫秒级返回；把真正释放redis元素耗时动作交由bio后台任务执行。
lazyfree的使用
lazyfree的使用分为2类：第一类是与DEL命令对应的主动删除，第二类是过期key删除、maxmemorykey驱逐淘汰删除。
主动删除键使用lazyfree
UNLINK命令
UNLINK命令是与DEL一样删除key功能的lazyfree实现。
唯一不同时，UNLINK在删除集合类键时，如果集合键的元素个数大于64个(详细后文），会把真正的内存释放操作，给单独的bio来操作。
示例如下：使用UNLINK命令删除一个大键mylist,它包含200万个元素，但用时只有0.03毫秒
127.0.0.1:7000>LLENmylist (integer)2000000 127.0.0.1:7000>UNLINKmylist (integer)1 127.0.0.1:7000>SLOWLOGget 1)1)(integer)1 2)(integer)1505465188 3)(integer)30 4)1)"UNLINK" 2)"mylist" 5)"127.0.0.1:17015" 6)""
注意：DEL命令，还是并发阻塞的删除操作
FLUSHALL/FLUSHDBASYNC
通过对FLUSHALL/FLUSHDB添加ASYNC异步清理选项，redis在清理整个实例或DB时，操作都是异步的。
127.0.0.1:7000>DBSIZE (integer)1812295 127.0.0.1:7000>flushall//同步清理实例数据，180万个key耗时1020毫秒 OK (1.02s) 127.0.0.1:7000>DBSIZE (integer)1812637 127.0.0.1:7000>flushallasync//异步清理实例数据，180万个key耗时约9毫秒 OK 127.0.0.1:7000>SLOWLOGget 1)1)(integer)2996109 2)(integer)1505465989 3)(integer)9274//指令运行耗时9.2毫秒 4)1)"flushall" 2)"async" 5)"127.0.0.1:20110" 6)""
被动删除键使用lazyfree
lazyfree应用于被动删除中，目前有4种场景，每种场景对应一个配置参数；默认都是关闭。
lazyfree-lazy-evictionno lazyfree-lazy-expireno lazyfree-lazy-server-delno slave-lazy-flushno
注意：从测试来看lazyfree回收内存效率还是比较高的；但在生产环境请结合实际情况，开启被动删除的
lazyfree观察redis内存使用情况。
lazyfree-lazy-eviction
针对redis内存使用达到maxmeory，并设置有淘汰策略时；在被动淘汰键时，是否采用lazyfree机制；
因为此场景开启lazyfree,可能使用淘汰键的内存释放不及时，导致redis内存超用，超过maxmemory的限制。此场景使用时，请结合业务测试。
lazyfree-lazy-expire--todo验证这类操作同步到从库的是DEL还是UNLINK.
针对设置有TTL的键，达到过期后，被redis清理删除时是否采用lazyfree机制；
此场景建议开启，因TTL本身是自适应调整的速度。
lazyfree-lazy-server-del
针对有些指令在处理已存在的键时，会带有一个隐式的DEL键的操作。如rename命令，当目标键已存在,redis会先删除目标键，如果这些目标键是一个bigkey,那就会引入阻塞删除的性能问题。此参数设置就是解决这类问题，建议可开启。
slave-lazy-flush
针对slave进行全量数据同步，slave在加载master的RDB文件前，会运行flushall来清理自己的数据场景，
参数设置决定是否采用异常flush机制。如果内存变动不大，建议可开启。可减少全量同步耗时，从而减少主库因输出缓冲区爆涨引起的内存使用增长。
lazyfree的监控
lazyfree能监控的数据指标，只有一个值：lazyfree_pending_objects，表示redis执行lazyfree操作，在等待被实际回收内容的键个数。并不能体现单个大键的元素个数或等待lazyfree回收的内存大小。
所以此值有一定参考值，可监测redislazyfree的效率或堆积键数量；比如在flushallasync场景下会有少量的堆积。
lazyfree实现的简单分析
antirez为实现lazyfree功能，对很多底层结构和关键函数都做了修改；该小节只介绍lazyfree的功能实现逻辑；代码主要在源文件lazyfree.c和bio.c中。
UNLINK命令
unlink命令入口函数unlinkCommand()和del调用相同函数delGenericCommand()进行删除KEY操作，使用lazy标识是否为lazyfree调用。如果是lazyfree,则调用dbAsyncDelete()函数。
但并非每次unlink命令就一定启用lazyfree，redis会先判断释放KEY的代价(cost),当cost大于LAZYFREE_THRESHOLD才进行lazyfree.
释放key代价计算函数lazyfreeGetFreeEffort()，集合类型键，且满足对应编码，cost就是集合键的元数个数，否则cost就是1.
举例：
- 一个包含100元素的listkey,它的freecost就是100
- 一个512MB的stringkey,它的freecost是1
所以可以看出，redis的lazyfree的cost计算主要时间复杂度相关。
lazyfreeGetFreeEffort()函数代码
size_tlazyfreeGetFreeEffort(robj*obj){
if(obj->type==OBJ_LIST){
quicklist*ql=obj->ptr;
returnql->len;
}elseif(obj->type==OBJ_SET&&obj->encoding==OBJ_ENCODING_HT){
dict*ht=obj->ptr;
returndictSize(ht);
}elseif(obj->type==OBJ_ZSET&&obj->encoding==OBJ_ENCODING_SKIPLIST){
zset*zs=obj->ptr;
returnzs->zsl->length;
}elseif(obj->type==OBJ_HASH&&obj->encoding==OBJ_ENCODING_HT){
dict*ht=obj->ptr;
returndictSize(ht);
}else{
return1;/*Everythingelseisasingleallocation.*/
}
}
dbAsyncDelete()函数的部分代码
#defineLAZYFREE_THRESHOLD64//根据FREE一个key的cost是否大于64，用于判断是否进行lazyfree调用
intdbAsyncDelete(redisDb*db,robj*key){
/*Deletinganentryfromtheexpiresdictwillnotfreethesdsof
*thekey,becauseitissharedwiththemaindictionary.*/
if(dictSize(db->expires)>0)dictDelete(db->expires,key->ptr);//从expires中直接删除key
dictEntry*de=dictUnlink(db->dict,key->ptr);//进行unlink处理，但不进行实际free操作
if(de){
robj*val=dictGetVal(de);
size_tfree_effort=lazyfreeGetFreeEffort(val);//评估free当前key的代价
/*Ifreleasingtheobjectistoomuchwork,let'sputitintothe
*lazyfreelist.*/
if(free_effort>LAZYFREE_THRESHOLD){//如果free当前keycost>64,则把它放在lazyfree的list,使用bio子线程进行实际free操作，不通过主线程运行
atomicIncr(lazyfree_objects,1);//待处理的lazyfree对象个数加1，通过info命令可查看
bioCreateBackgroundJob(BIO_LAZY_FREE,val,NULL,NULL);
dictSetVal(db->dict,de,NULL);
}
}
}
在bio中实际调用lazyfreeFreeObjectFromBioThread()函数释放key
voidlazyfreeFreeObjectFromBioThread(robj*o){
decrRefCount(o);//更新对应引用，根据不同类型，调用不同的free函数
atomicDecr(lazyfree_objects,1);//完成key的free,更新待处理lazyfree的键个数
}
flushall/flushdbasync命令
当flushall/flushdb带上async,函数emptyDb()调用emptyDbAsync()来进行整个实例或DB的lazyfree逻辑处理。
emptyDbAsync处理逻辑如下：
/*EmptyaRedisDBasynchronously.Whatthefunctiondoesactuallyisto
*createanewemptysetofhashtablesandschedulingtheoldonesfor
*lazyfreeing.*/
voidemptyDbAsync(redisDb*db){
dict*oldht1=db->dict,*oldht2=db->expires;//把db的两个hashtables暂存起来
db->dict=dictCreate(&dbDictType,NULL);//为db创建两个空的hashtables
db->expires=dictCreate(&keyptrDictType,NULL);
atomicIncr(lazyfree_objects,dictSize(oldht1));//更新待处理lazyfree的键个数，加上db的key个数
bioCreateBackgroundJob(BIO_LAZY_FREE,NULL,oldht1,oldht2);//加入到biolist
}
在bio中实际调用lazyfreeFreeDatabaseFromBioThread函数释放db
voidlazyfreeFreeDatabaseFromBioThread(dict*ht1,dict*ht2){
size_tnumkeys=dictSize(ht1);
dictRelease(ht1);
dictRelease(ht2);
atomicDecr(lazyfree_objects,numkeys);//完成整个DB的free,更新待处理lazyfree的键个数
}
被动删除键使用lazyfree
被动删除4个场景，redis在每个场景调用时，都会判断对应的参数是否开启，如果参数开启，则调用以上对应的lazyfree函数处理逻辑实现。
总结
因为Redis是单个主线程处理，antirez一直强调"LazyRedisisbetterRedis".
而lazyfree的本质就是把某些cost(主要时间复制度，占用主线程cpu时间片)较高删除操作，从redis主线程剥离，让bio子线程来处理，极大地减少主线阻塞时间。从而减少删除导致性能和稳定性问题。
以上就是本文的全部内容，希望对大家的学习有所帮助，也希望大家多多支持毛票票。