栏目分类:
子分类:
返回
名师互学网用户登录
快速导航关闭
当前搜索
当前分类
子分类
实用工具
热门搜索
名师互学网 > IT > 软件开发 > 后端开发 > Java

Redis系列之删除策略

Java 更新时间: 发布时间: IT归档 最新发布 模块sitemap 名妆网 法律咨询 聚返吧 英语巴士网 伯小乐 网商动力

Redis系列之删除策略

删除策略 过期数据

redis是一种内存级数据库,所有数据均存放在内存中,内存中的数据可以通过TTL指令获取其状态

  • XX :具有时效性的数据
  • -1:永久有效的数据
  • -2:已经过期的数据或被删除的数据或未定义的数据

问题:过期的数据真的删除了吗?

不是,redis数据过期后只是客户端无法访问该数据,而该数据其实还在内存中,什么时候删除取决于删除策略

数据删除策略

时效性存储结构

当我们在redis中存储一个key并设置其过期时间是redis是怎么做处理的?如下图:

设置了过期时间时,redis会维护hash结构的expires,值为过期时间,然后根据时间去判断是否过期

删除策略的目标

在内存占用与CPU占用之间寻找一种平衡,通俗来说就是当CPU繁忙时可暂时将删除操作搁置,只是表面上redis客户端无法访问超时数据,但实际数据还在内存中并没有彻底删除,优先处理其他操作,等CUP利用率低的时候再去做删除

定时删除

创建一个定时器,如果key超时了,由定时器任务立即执行对key的删除操作

优点:节约内存,超时就删除,快速释放不必要内存

**缺点:**CPU压力大,无论CPU是否负载过高,均占用CPU,会影响redis服务器的响应时间和吞吐量

总结:处理器性能换取存储空间

惰性删除

数据到达过期时间,不作处理,等下次访问该数据时

  • 如果未过期,返回数据
  • 如果过期则删除,返回不存在

内部调用expirelfNeeded()方法判断

优点:节约CPU性能,发现必须删除时才删除

缺点:内存压力很大,会出现长期占用内存的数据

总结:存储空间换取处理器性能

定期删除

定期删除流程

  • redis启动服务器初始化时,读取配合server.hz的值,默认为10
  • 每秒钟执行server.hz次serverCron()定时轮询,进而调用databasesCron()对各个库进行轮询,再执行activeExpireCycle()进行检查当个库
  • activeExpireCycle()对每个expire[*]逐一进行检测,每次执行250ms/server.hz
  • 对某个expires[*]检测时,随机挑选W个key检测
    • 如果key阐释,则删除
    • 如果一轮删除的key数量> W*25%,循环该过程(说明过期的数据比较多,需要继续删除)
    • 如果一轮删除的key数量<=W*25%,检查下一个库,0-15之间轮询
    • W取值=ACTIVE_EXPIRE_CYCLE_LOOKUPS_PER_LOOP属性值(redis.conf中设置)
  • 参数current_db用于记录activeExpireCycle()进入哪个expires[*]执行
  • 如果activeExpireCycle()执行时间到期即对某个库扫描结束,下次从current_db继续向下执行

定期删除总结

定期删除:周期性轮询redis库中的时效性数据,采用随机抽取的策略,利用过期数据占比的方式控制删除频度

特点:

  • CPU性能占用设置有峰值,检测频度可自定义设置
  • 内存压力不是很大,长期占用内存的冷数据会被持续清理
  • 周期性抽查存储空间(随机抽查、重点抽查)
删除策略内存占用CPU
定时删除节约内存,无占用不分时段占用CPU,频度高
惰性删除内存占用严重延时执行,CPU利用率高
定期删除内存定期随机清理每秒花费固定的CPU资源维护内存
逐出算法

问题:当新数据进入redis时,内存不足怎么办?

Redis使用内存存储数据,在执行每一个命令前,会调用freeMemorylfNeeded()检测内存是否充足。如果内存不满足新加入数据的最低存储要求,redis要临时删除一些数据为当前指令清理存储空间,清理数据的策略称为逐出算法

注意:逐出数据的过程不是100%能够清理出足够的可使用空间,如果不成功则反复执行。当对所有数据尝试完毕后,如果不能达到内存清理的要求,则出现如下错误

(error) OOM command not allowed when used memory > 'maxmemory'
  • 最大可使用内存

    maxmemory

    占用物理内存的比例,默认值为0,表示不限制。生产坏境根据需求设定,通常设置在50%以上

  • 每次选取待删除数据的个数

    maxmemory-samples

    选取数据时并不会全库扫描,导致严重的性能消耗,降低读写性能。因此采用随机获取数据的方式作为待检测删除数据

  • 删除策略

    maxmemory-policy

    达到最大内存后的删除策略,对被随机挑选的数据进行删除的策略

影响数据逐出的相关配置

检测易失数据(可能会过期的数据集server.db[i].expires)

  • volatile-lru:挑选最近最少使用的数据淘汰
  • volatile-lfu:挑选最近使用次数最少的数据淘汰
  • volatile-ttl:挑选将要过期的数据淘汰
  • volatile-random:任意随机选择数据淘汰

LRU:least recently used

LFU:least frequencly used

检测全库数据(所有数据集server.db[i].dict)

  • allkeys-lru:挑选最近最少使用的数据淘汰
  • allkeys-lfu:挑选最近使用次数最少的数据淘汰
  • allkeys-random:任意随机选择数据淘汰

放弃数据驱逐

  • no-enviction(驱逐):禁止驱逐数据(redis4.0默认策略),会引发错误OOM(out of memory)

配置方式(redis.conf):maxmemory-policy volatile-lru

逐出策略配置依据

使用INFO命令输出监控信息,查询缓存hit(命中)和miss(丢失)的次数,根据业务需求调优redis配置

转载请注明:文章转载自 www.mshxw.com
本文地址:https://www.mshxw.com/it/284609.html
我们一直用心在做
关于我们 文章归档 网站地图 联系我们

版权所有 (c)2021-2022 MSHXW.COM

ICP备案号:晋ICP备2021003244-6号