Redis的虚拟内存(VM)

网友投稿 1352 2022-11-22

Redis的虚拟内存(VM)

Redis的虚拟内存(VM)

Redis提高数据库容量的办法有两种:

一种是可以将数据分割到多个Redis Server上;

另一种是使用虚拟内存把那些不经常访问的数据交换到磁盘上。需要特别注意的是Redis并没有使用OS提供的Swap,而是自己实现。

Redis为了保证查找的速度,只会将value交换出去,而在内存中保留所有的Key。所以它非常适合Key很小,Value很大的存储结构。如果Key很大,valu很小,这种场景就不是非常适合使用虚拟内存。

(1)VM相关配置

通过在redis的redis.conf文件里,设置VM的相关参数来实现数据在内存和磁盘之间换入和换出操作。 相关配置如下:

#开启vm功能vm-enabled yes#交换出来的value保存的文件路径vm-swap-file /tmp/redis.swap#设置当内存消耗达到上限时开始将value交换出来vm-max-memory 1000000#设置单个页面的大小,单位是字节vm-page-size 32#设置最多能交换保存多少个页到磁盘vm-pages 13417728#设置完成交换动作的工作线程数,设置为0表示不使用工作线程而使用主线程,这会以阻塞的方式来运行。建议设置成CPU核个数vm-max-threads 4

redis规定同一个数据页面只能保存一个对象,但一个对象可以保存在多个数据页面中。在redis使用的内存没超过vm-max-memory时,是不会交换任何value到磁盘上的。当超过最大内存限制后,redis会选择较老的对象(如果两个对象一样老会优先交换比较大的对象)将它从内存中移除,这样会更加节约内存。

对于Redis来说,一个数据页面只会保存一个对象,也就是一个Value值,所以应该将vm-page-size设置成大多数value可以保存进去。如果设置太小,一个value对象就会占用几个数据页面,如果设置太大,就会造成页面空闲空间浪费。

(2)VM的工作机制

redis的VM的工作机制分为两种:一种是vm-max-threads=0,一种是vm-max-threads>0。

第一种:vm-max-threads = 0

数据换出:主线程定期检查使用的内存大小,如果发现内存超出最大上限,会直接以阻塞的方式,将选中的对象换出到磁盘上(保存到文件中),并释放对象占用的内存,此过程会一直重复直到下面条件满足任意一条才结束:

1.内存使用降到最大限制以下。

2.设置的交换文件数量达到上限。

3.几乎全部的对象都被交换到磁盘了。

数据换入:当有client请求key对应的value已被换出到磁盘中时,主线程会以阻塞的方式从换出文件中加载对应的value对象,加载时此时会阻塞所有client,然后再处理client的请求。这种方式会阻塞所有的client。

第二种:vm-max-threads > 0

数据换出:当主线程检测到使用内存超过最大上限,会将选中的要交换的数据放到一个队列中交由工作线程后台处理,主线程会继续处理client请求。

数据换入:当有client请求key的对应的value已被换出到磁盘中时,主线程先阻塞当前client,然后将加载对象的信息放到一个队列中,让工作线程去加载,此时进主线程继续处理其他client请求。加载完毕后工作线程通知主线程,主线程再执行被阻塞的client的命令。这种方式只阻塞单个client。

总的来说blocking vm的方式总的性能会好一些,因为不需要线程同步,创建线程和恢复被阻塞的client等开销。但是也相应的牺牲了响应性。threaded vm的方式主线程不会阻塞在磁盘io上,所以响应性更好。如果我们的应用不太经常发生换入换出,而且也不太在意有点延迟的话则推荐使用blocking vm的方式。关于redis vm的更详细介绍可以参考下面链接

总结:Redis直接自己构建了VM 机制 ,不会像一般的系统会调用系统函数处理,会浪费一定的时间去移动和请求,而Redis不存在。这也是Redis能够那么快的一个原因。

redis没有使用os提供的虚拟内存机制而是自己在用户态实现了自己的虚拟内存机制的原因有如下:1.os 的虚拟内存是以4k页面为最小单位进行交换的。而redis的大多数对象都远小于4k,所以一个os页面上可能有多个redis对象。另外redis的集合对象类型如list,set可能存在与多个os页面上。最终可能造成只有10%key被经常访问,但是所有os页面都会被os认为是活跃的,这样只有内存真正耗尽时os才会交换页面。 2.相比于os的交换方式。redis可以将被交换到磁盘的对象进行压缩,保存到磁盘的对象可以去除指针和对象元数据信息。一般压缩后的对象会比内存中的对象小10倍。这样redis的vm会比os vm能少做很多io操作。

————————————————

版权声明:本文内容由网络用户投稿,版权归原作者所有,本站不拥有其著作权,亦不承担相应法律责任。如果您发现本站中有涉嫌抄袭或描述失实的内容,请联系我们jiasou666@gmail.com 处理,核实后本网站将在24小时内删除侵权内容。

上一篇:redis为什么这么快?
下一篇:redis的持久化机制
相关文章

 发表评论

暂时没有评论,来抢沙发吧~