背景:最近在准备面试相关的题目,发现redis基本一片空白,有必要好好总结下。
转自:https://www.cnblogs.com/Survivalist/p/8119891.html
1.什么是redis?
Redis 是一个基于内存的高性能key-value数据库。
2.Reids的特点
Redis本质上是一个Key-Value类型的内存数据库,很像memcached,整个数据库统统加载在内存当中进行操作,定期通过异步操作把数据库数据flush到硬盘上进行保存。因为是纯内存操作,Redis的性能非常出色,每秒可以处理超过 10万次读写操作,是已知性
能最快的Key-Value DB。
Redis的出色之处不仅仅是性能,Redis最大的魅力是支持保存多种数据结构,此外单个value的最大限制是1GB,不像 memcached只能保存1MB的数据,因此Redis可以用来实现很多有用的功能,比方说用他的List来做FIFO双向链表,实现一个轻量级的高性 能消
息队列服务,用他的Set可以做高性能的tag系统等等。另外Redis也可以对存入的Key-Value设置expire时间,因此也可以被当作一 个功能加强版的memcached来用。
Redis的主要缺点是数据库容量受到物理内存的限制,不能用作海量数据的高性能读写,因此Redis适合的场景主要局限在较小数据量的高性能操作和运算上。
3.使用redis有哪些好处?
(1) 速度快,因为数据存在内存中,类似于HashMap,HashMap的优势就是查找和操作的时间复杂度都是O(1)
(2) 支持丰富数据类型,支持string,list,set,sorted set,hash
(3) 支持事务,操作都是原子性,所谓的原子性就是对数据的更改要么全部执行,要么全部不执行
(4) 丰富的特性:可用于缓存,消息,按key设置过期时间,过期后将会自动删除
4.redis相比memcached有哪些优势?
(1) memcached所有的值均是简单的字符串,redis作为其替代者,支持更为丰富的数据类型
(2) redis的速度比memcached快很多
(3) redis可以持久化其数据
5.Memcache与Redis的区别都有哪些?
1)、存储方式 Memecache把数据全部存在内存之中,断电后会挂掉,数据不能超过内存大小。 Redis有部份存在硬盘上,这样能保证数据的持久性。
2)、数据支持类型 Memcache对数据类型支持相对简单。 Redis有复杂的数据类型。
3)、使用底层模型不同 它们之间底层实现方式 以及与客户端之间通信的应用协议不一样。 Redis直接自己构建了VM 机制 ,因为一般的系统调用系统函数的话,会浪费一定的时间去移动和请求。
6.redis常见性能问题和解决方案:
1).Master写内存快照,save命令调度rdbSave函数,会阻塞主线程的工作,当快照比较大时对性能影响是非常大的,会间断性暂停服务,所以Master最好不要写内存快照。
2).Master AOF持久化,如果不重写AOF文件,这个持久化方式对性能的影响是最小的,但是AOF文件会不断增大,AOF文件过大会影响Master重启的恢复速度。Master最好不要做任何持久化工作,包括内存快照和AOF日志文件,特别是不要启用内存快照做持久
化,如果数据比较关键,某个Slave开启AOF备份数据,策略为每秒同步一次。
3).Master调用BGREWRITEAOF重写AOF文件,AOF在重写的时候会占大量的CPU和内存资源,导致服务load过高,出现短暂服务暂停现象。
4). Redis主从复制的性能问题,为了主从复制的速度和连接的稳定性,Slave和Master最好在同一个局域网内
7. mySQL里有2000w数据,redis中只存20w的数据,如何保证redis中的数据都是热点数据
相关知识:redis 内存数据集大小上升到一定大小的时候,就会施行数据淘汰策略(回收策略)。redis 提供 6种数据淘汰策略:
- volatile-lru:从已设置过期时间的数据集(server.db[i].expires)中挑选最近最少使用的数据淘汰
- volatile-ttl:从已设置过期时间的数据集(server.db[i].expires)中挑选将要过期的数据淘汰
- volatile-random:从已设置过期时间的数据集(server.db[i].expires)中任意选择数据淘汰
- allkeys-lru:从数据集(server.db[i].dict)中挑选最近最少使用的数据淘汰
- allkeys-random:从数据集(server.db[i].dict)中任意选择数据淘汰
- no-enviction(驱逐):禁止驱逐数据
8.请用Redis和任意语言实现一段恶意登录保护的代码,限制1小时内每用户Id最多只能登录5次。具体登录函数或功能用空函数即可,不用详细写出。
用列表实现:列表中每个元素代表登陆时间,只要最后的第5次登陆时间和现在时间差不超过1小时就禁止登陆.用Python写的代码如下:
#!/usr/bin/env python3
import redis
import sys
import time r = redis.StrictRedis(host=’127.0.0.1′, port=6379, db=0)
try: id = sys.argv[1]
except: print(‘input argument error’) sys.exit(0)
if r.llen(id) >&#61; 5 and time.time() – float(r.lindex(id, 4)) <&#61; 3600: print(“you are forbidden logining”)
else: print(‘you are allowed to login’) r.lpush(id, time.time()) # login_func()
9.为什么redis需要把所有数据放到内存中?
Redis为了达到最快的读写速度将数据都读到内存中&#xff0c;并通过异步的方式将数据写入磁盘。所以redis具有快速和数据持久化的特征。如果不将数据放在内存中&#xff0c;磁盘I/O速度为严重影响redis的性能。在内存越来越便宜的今天&#xff0c;redis将会越来越受欢迎。
如果设置了最大使用的内存&#xff0c;则数据已有记录数达到内存限值后不能继续插入新值。
10.Redis是单进程单线程的
redis利用队列技术将并发访问变为串行访问&#xff0c;消除了传统数据库串行控制的开销
11.redis的并发竞争问题如何解决?
Redis为单进程单线程模式&#xff0c;采用队列模式将并发访问变为串行访问。Redis本身没有锁的概念&#xff0c;Redis对于多个客户端连接并不存在竞争&#xff0c;但是在Jedis客户端对Redis进行并发访问时会发生连接超时、数据转换错误、阻塞、客户端关闭连接等问题&#xff0c;这些问题均是
由于客户端连接混乱造成。对此有2种解决方法&#xff1a;
1.客户端角度&#xff0c;为保证每个客户端间正常有序与Redis进行通信&#xff0c;对连接进行池化&#xff0c;同时对客户端读写Redis操作采用内部锁synchronized。
2.服务器角度&#xff0c;利用setnx实现锁。
注&#xff1a;对于第一种&#xff0c;需要应用程序自己处理资源的同步&#xff0c;可以使用的方法比较通俗&#xff0c;可以使用synchronized也可以使用lock&#xff1b;第二种需要用到Redis的setnx命令&#xff0c;但是需要注意一些问题。
12.redis事物的了解CAS(check-and-set 操作实现乐观锁 )?
和众多其它数据库一样&#xff0c;Redis作为NoSQL数据库也同样提供了事务机制。在Redis中&#xff0c;MULTI/EXEC/DISCARD/WATCH这四个命令是我们实现事务的基石。相信对有关系型数据库开发经验的开发者而言这一概念并不陌生&#xff0c;即便如此&#xff0c;我们还是会简要的列出
Redis中
事务的实现特征&#xff1a;
1). 在事务中的所有命令都将会被串行化的顺序执行&#xff0c;事务执行期间&#xff0c;Redis不会再为其它客户端的请求提供任何服务&#xff0c;从而保证了事物中的所有命令被原子的执行。
2). 和关系型数据库中的事务相比&#xff0c;在Redis事务中如果有某一条命令执行失败&#xff0c;其后的命令仍然会被继续执行。
3). 我们可以通过MULTI命令开启一个事务&#xff0c;有关系型数据库开发经验的人可以将其理解为"BEGIN TRANSACTION"语句。在该语句之后执行的命令都将被视为事务之内的操作&#xff0c;最后我们可以通过执行EXEC/DISCARD命令来提交/回滚该事务内的所有操作。这两
个Redis命令可被视为等同于关系型数据库中的COMMIT/ROLLBACK语句。
4). 在事务开启之前&#xff0c;如果客户端与服务器之间出现通讯故障并导致网络断开&#xff0c;其后所有待执行的语句都将不会被服务器执行。然而如果网络中断事件是发生在客户端执行EXEC命令之后&#xff0c;那么该事务中的所有命令都会被服务器执行。
5). 当使用Append-Only模式时&#xff0c;Redis会通过调用系统函数write将该事务内的所有写操作在本次调用中全部写入磁盘。然而如果在写入的过程中出现系统崩溃&#xff0c;如电源故障导致的宕机&#xff0c;那么此时也许只有部分数据被写入到磁盘&#xff0c;而另外一部分数据却已经丢失。
Redis服务器会在重新启动时执行一系列必要的一致性检测&#xff0c;一旦发现类似问题&#xff0c;就会立即退出并给出相应的错误提示。此时&#xff0c;我们就要充分利用Redis工具包中提供的redis-check-aof工具&#xff0c;该工具可以帮助我们定位到数据不一致的错误&#xff0c;并将已经写入的部
分数据进行回滚。修复之后我们就可以再次重新启动Redis服务器了。
13.WATCH命令和基于CAS的乐观锁&#xff1a;
在Redis的事务中&#xff0c;WATCH命令可用于提供CAS(check-and-set)功能。假设我们通过WATCH命令在事务执行之前监控了多个Keys&#xff0c;倘若在WATCH之后有任何Key的值发生了变化&#xff0c;EXEC命令执行的事务都将被放弃&#xff0c;同时返回Null multi-bulk应答以通知调用者事务
执行失败。例如&#xff0c;我们再次假设Redis中并未提供incr命令来完成键值的原子性递增&#xff0c;如果要实现该功能&#xff0c;我们只能自行编写相应的代码。其伪码如下&#xff1a;
val &#61; GET mykey
val &#61; val &#43; 1
SET mykey $val
以上代码只有在单连接的情况下才可以保证执行结果是正确的&#xff0c;因为如果在同一时刻有多个客户端在同时执行该段代码&#xff0c;那么就会出现多线程程序中经常出现的一种错误场景--竞态争用(race condition)。比如&#xff0c;客户端A和B都在同一时刻读取了mykey的原有值&#xff0c;假设该值为10&#xff0c;此后两个客户端又均将该值加一后set回Redis服务器&#xff0c;这样就会导致mykey的结果为11&#xff0c;而不是我们认为的12。为了解决类似的问题&#xff0c;我们需要借助WATCH命令的帮助&#xff0c;见如下代码&#xff1a;
WATCH mykey
val &#61; GET mykey
val &#61; val &#43; 1
MULTI
SET mykey $val
EXEC
和此前代码不同的是&#xff0c;新代码在获取mykey的值之前先通过WATCH命令监控了该键&#xff0c;此后又将set命令包围在事务中&#xff0c;这样就可以有效的保证每个连接在执行EXEC之前&#xff0c;如果当前连接获取的mykey的值被其它连接的客户端修改&#xff0c;那么当前连接的EXEC命令将执行失败。这样调用者在判断返回值后就可以获悉val是否被重新设置成功。
14.redis持久化的几种方式
1、快照&#xff08;snapshots&#xff09;
缺省情况情况下&#xff0c;Redis把数据快照存放在磁盘上的二进制文件中&#xff0c;文件名为dump.rdb。你可以配置Redis的持久化策略&#xff0c;例如数据集中每N秒钟有超过M次更新&#xff0c;就将数据写入磁盘&#xff1b;或者你可以手工调用命令SAVE或BGSAVE。
工作原理
&#xff0e; Redis forks.
&#xff0e; 子进程开始将数据写到临时RDB文件中。
&#xff0e; 当子进程完成写RDB文件&#xff0c;用新文件替换老文件。
&#xff0e; 这种方式可以使Redis使用copy-on-write技术。
2、AOF
快照模式并不十分健壮&#xff0c;当系统停止&#xff0c;或者无意中Redis被kill掉&#xff0c;最后写入Redis的数据就会丢失。这对某些应用也许不是大问题&#xff0c;但对于要求高可靠性的应用来说&#xff0c;
Redis就不是一个合适的选择。
Append-only文件模式是另一种选择。
你可以在配置文件中打开AOF模式
3、虚拟内存方式
当你的key很小而value很大时,使用VM的效果会比较好.因为这样节约的内存比较大.
当你的key不小时,可以考虑使用一些非常方法将很大的key变成很大的value,比如你可以考虑将key,value组合成一个新的value.
vm-max-threads这个参数,可以设置访问swap文件的线程数,设置最好不要超过机器的核数,如果设置为0,那么所有对swap文件的操作都是串行的.可能会造成比较长时间的延迟,但是对数据完整性有很好的保证.
自己测试的时候发现用虚拟内存性能也不错。如果数据量很大&#xff0c;可以考虑分布式或者其他数据库
15.redis的缓存失效策略和主键失效机制
作为缓存系统都要定期清理无效数据&#xff0c;就需要一个主键失效和淘汰策略.
在Redis当中&#xff0c;有生存期的key被称为volatile。在创建缓存时&#xff0c;要为给定的key设置生存期&#xff0c;当key过期的时候&#xff08;生存期为0&#xff09;&#xff0c;它可能会被删除。
1、影响生存时间的一些操作
生存时间可以通过使用 DEL 命令来删除整个 key 来移除&#xff0c;或者被 SET 和 GETSET 命令覆盖原来的数据&#xff0c;也就是说&#xff0c;修改key对应的value和使用另外相同的key和value来覆盖以后&#xff0c;当前数据的生存时间不同。
比如说&#xff0c;对一个 key 执行INCR命令&#xff0c;对一个列表进行LPUSH命令&#xff0c;或者对一个哈希表执行HSET命令&#xff0c;这类操作都不会修改 key 本身的生存时间。另一方面&#xff0c;如果使用RENAME对一个 key 进行改名&#xff0c;那么改名后的 key的生存时间和改名前一样。
RENAME命令的另一种可能是&#xff0c;尝试将一个带生存时间的 key 改名成另一个带生存时间的 another_key &#xff0c;这时旧的 another_key (以及它的生存时间)会被删除&#xff0c;然后旧的 key 会改名为 another_key &#xff0c;因此&#xff0c;新的 another_key 的生存时间也和原本的 key 一样。使用PERSIST命令可以在不删除 key 的情况下&#xff0c;移除 key 的生存时间&#xff0c;让 key 重新成为一个persistent key 。
2、如何更新生存时间
可以对一个已经带有生存时间的 key 执行EXPIRE命令&#xff0c;新指定的生存时间会取代旧的生存时间。过期时间的精度已经被控制在1ms之内&#xff0c;主键失效的时间复杂度是O&#xff08;1&#xff09;&#xff0c;
EXPIRE和TTL命令搭配使用&#xff0c;TTL可以查看key的当前生存时间。设置成功返回 1&#xff1b;当 key 不存在或者不能为 key 设置生存时间时&#xff0c;返回 0 。
最大缓存配置
在 redis 中&#xff0c;允许用户设置最大使用内存大小
server.maxmemory
默认为0&#xff0c;没有指定最大缓存&#xff0c;如果有新的数据添加&#xff0c;超过最大内存&#xff0c;则会使redis崩溃&#xff0c;所以一定要设置。redis 内存数据集大小上升到一定大小的时候&#xff0c;就会实行数据淘汰策略。
redis 提供 6种数据淘汰策略&#xff1a;
&#xff0e; volatile-lru&#xff1a;从已设置过期时间的数据集&#xff08;server.db[i].expires&#xff09;中挑选最近最少使用的数据淘汰
&#xff0e; volatile-ttl&#xff1a;从已设置过期时间的数据集&#xff08;server.db[i].expires&#xff09;中挑选将要过期的数据淘汰
&#xff0e; volatile-random&#xff1a;从已设置过期时间的数据集&#xff08;server.db[i].expires&#xff09;中任意选择数据淘汰
&#xff0e; allkeys-lru&#xff1a;从数据集&#xff08;server.db[i].dict&#xff09;中挑选最近最少使用的数据淘汰
&#xff0e; allkeys-random&#xff1a;从数据集&#xff08;server.db[i].dict&#xff09;中任意选择数据淘汰
&#xff0e; no-enviction&#xff08;驱逐&#xff09;&#xff1a;禁止驱逐数据
注意这里的6种机制&#xff0c;volatile和allkeys规定了是对已设置过期时间的数据集淘汰数据还是从全部数据集淘汰数据&#xff0c;后面的lru、ttl以及random是三种不同的淘汰策略&#xff0c;再加上一种no-enviction永不回收的策略。
使用策略规则&#xff1a;
1、如果数据呈现幂律分布&#xff0c;也就是一部分数据访问频率高&#xff0c;一部分数据访问频率低&#xff0c;则使用allkeys-lru
2、如果数据呈现平等分布&#xff0c;也就是所有的数据访问频率都相同&#xff0c;则使用allkeys-random
三种数据淘汰策略&#xff1a;
ttl和random比较容易理解&#xff0c;实现也会比较简单。主要是Lru最近最少使用淘汰策略&#xff0c;设计上会对key 按失效时间排序&#xff0c;然后取最先失效的key进行淘汰
16.redis 最适合的场景
Redis最适合所有数据in-momory的场景&#xff0c;虽然Redis也提供持久化功能&#xff0c;但实际更多的是一个disk-backed的功能&#xff0c;跟传统意义上的持久化有比较大的差别&#xff0c;那么可能大家就会有疑问&#xff0c;似乎Redis更像一个加强版的Memcached&#xff0c;那么何时使用Memcached,何时使用Redis呢?
如果简单地比较Redis与Memcached的区别&#xff0c;大多数都会得到以下观点&#xff1a;
1 、Redis不仅仅支持简单的k/v类型的数据&#xff0c;同时还提供list&#xff0c;set&#xff0c;zset&#xff0c;hash等数据结构的存储。
2 、Redis支持数据的备份&#xff0c;即master-slave模式的数据备份。
3 、Redis支持数据的持久化&#xff0c;可以将内存中的数据保持在磁盘中&#xff0c;重启的时候可以再次加载进行使用。
&#xff08;1&#xff09;、会话缓存&#xff08;Session Cache&#xff09;
最常用的一种使用Redis的情景是会话缓存&#xff08;session cache&#xff09;。用Redis缓存会话比其他存储&#xff08;如Memcached&#xff09;的优势在于&#xff1a;Redis提供持久化。当维护一个不是严格要求一致性的缓存时&#xff0c;如果用户的购物车信息全部丢失&#xff0c;大部分人都会不高兴的&#xff0c;现在&#xff0c;
他们还会这样吗&#xff1f;
幸运的是&#xff0c;随着 Redis 这些年的改进&#xff0c;很容易找到怎么恰当的使用Redis来缓存会话的文档。甚至广为人知的商业平台Magento也提供Redis的插件。
&#xff08;2&#xff09;、全页缓存&#xff08;FPC&#xff09;
除基本的会话token之外&#xff0c;Redis还提供很简便的FPC平台。回到一致性问题&#xff0c;即使重启了Redis实例&#xff0c;因为有磁盘的持久化&#xff0c;用户也不会看到页面加载速度的下降&#xff0c;这是一个极大改进&#xff0c;类似PHP本地FPC。
再次以Magento为例&#xff0c;Magento提供一个插件来使用Redis作为全页缓存后端。
此外&#xff0c;对WordPress的用户来说&#xff0c;Pantheon有一个非常好的插件 wp-redis&#xff0c;这个插件能帮助你以最快速度加载你曾浏览过的页面。
&#xff08;3&#xff09;、队列
Reids在内存存储引擎领域的一大优点是提供 list 和 set 操作&#xff0c;这使得Redis能作为一个很好的消息队列平台来使用。Redis作为队列使用的操作&#xff0c;就类似于本地程序语言&#xff08;如Python&#xff09;对 list 的 push/pop 操作。
如果你快速的在Google中搜索“Redis queues”&#xff0c;你马上就能找到大量的开源项目&#xff0c;这些项目的目的就是利用Redis创建非常好的后端工具&#xff0c;以满足各种队列需求。例如&#xff0c;Celery有一个后台就是使用Redis作为broker&#xff0c;你可以从这里去查看。
&#xff08;4&#xff09;&#xff0c;排行榜/计数器
Redis在内存中对数字进行递增或递减的操作实现的非常好。集合&#xff08;Set&#xff09;和有序集合&#xff08;Sorted Set&#xff09;也使得我们在执行这些操作的时候变的非常简单&#xff0c;Redis只是正好提供了这两种数据结构。所以&#xff0c;我们要从排序集合中获取到排名最靠前的10个用户–我们
称之为“user_scores”&#xff0c;我们只需要像下面一样执行即可&#xff1a;
当然&#xff0c;这是假定你是根据你用户的分数做递增的排序。如果你想返回用户及用户的分数&#xff0c;你需要这样执行&#xff1a;
ZRANGE user_scores 0 10 WITHSCORES
Agora Games就是一个很好的例子&#xff0c;用Ruby实现的&#xff0c;它的排行榜就是使用Redis来存储数据的&#xff0c;你可以在这里看到。
&#xff08;5&#xff09;、发布/订阅
最后&#xff08;但肯定不是最不重要的&#xff09;是Redis的发布/订阅功能。发布/订阅的使用场景确实非常多。我已看见人们在社交网络连接中使用&#xff0c;还可作为基于发布/订阅的脚本触发器&#xff0c;甚至用Redis的发布/订阅功能来建立聊天系统&#xff01;&#xff08;不&#xff0c;这是真的&#xff0c;你可以去核
实&#xff09;。
Redis提供的所有特性中&#xff0c;我感觉这个是喜欢的人最少的一个&#xff0c;虽然它为用户提供如果此多功能。