Redis6(上)
- NoSQL 数据库简介
- Redis 概述
-
- Redis 安装
- Redis相关知识
- 常用五大数据类型
-
- Redis 键(key)
- Redis 字符串(String)
- Redis 列表(List)
- Redis 集合(Set)
- Redis 哈希(Hash)
- Redis 有序集合 Zset(sorted set)
- Redis 配置文件介绍
-
- Units 单位
- INCLUDES 包含
- 网络相关配置
- GENERAL 通用
- SECURITY 安全
- LIMITS 限制
- Redis 的发布和订阅
-
- Redis 的发布和订阅
- 发布订阅命令行实现
- Redis 新数据类型
-
- Bitmaps
- HyperLogLog
- Geospatial
- Redis_Jedis_测试
-
- 连接 Redis 注意事项
- 测试相关数据类型
-
- Jedis-API: Key
- Jedis-API: String
- Jedis-API: List
- Jedis-API: set
- Jedis-API: hash
- Jedis-API: zset
- 完成一个手机验证码功能
- end
NoSQL 数据库简介
NoSQL 数据库概述
NoSQL(NoSQL = Not Only SQL ),意即“不仅仅是 SQL”,泛指非关系型的数据库。 NoSQL 不依赖业务逻辑方式存储,而以简单的 key-value 模式存储。因此大大的增加 了数据库的扩展能力。
- 不遵循 SQL 标准。
- 不支持 ACID。
- 远超于 SQL 的性能。
NoSQL 适用场景
- 对数据高并发的读写
- 海量数据的读写
- 对数据高可扩展性的
NoSQL 不适用场景
- 需要事务支持
- 基于 sql 的结构化查询存储,处理复杂的关系,需要即席查询。
- 用不着 sql的和用了 sql也不行的情况,请考虑用 NoSql
Redis 概述
- Redis 是一个开源的 key-value 存储系统。
- 和 Memcache 类似,它支持存储的 value 类型相对更多,包括 string(字符串)、 list(链表)、set(集合)、zset(sorted set --有序集合)和 hash(哈希类型)。
- 这些数据类型都支持 push/pop、add/remove 及取交集并集和差集及更丰富的操作, 而且这些操作都是原子性的。
- 在此基础上,Redis 支持各种不同方式的排序。
- 与 memcached 一样,为了保证效率,数据都是缓存在内存中。
- 区别的是 Redis 会周期性的把更新的数据写入磁盘或者把修改操作写入追加的记 录文件。
- 并且在此基础上实现了 master-slave(主从)同步。
应用场景
- 配合关系型数据库做高速缓存
- 高频次,热门访问的数据,降低数据库 IO
- 分布式架构,做 session 共享
Redis 安装
在docker中安装
Redis相关知识
- 默认 16 个数据库,类似数组下标从 0 开始,初始默认使 用 0 号库
- 使用命令 select id 来切换数据库。如: select 8
- 统一密码管理,所有库同样密码。
Redis 是单线程+多路 IO 复用技术.
多路复用是指使用一个线程来检查多个文件描述符(Socket)的就绪状态,比如调用 select 和 poll 函数,传入多个文件描述符,如果有一个文件描述符就绪,则返回,否则 阻塞直到超时。得到就绪状态后进行真正的操作可以在同一个线程里执行,也可以启 动线程执行(比如使用线程池)
memcache是 多线程+锁
(与 Memcache 三点不同: 支持多数据类型,支持持久化,单线程+多路 IO 复用)
常用五大数据类型
- 字符串 String
- 列表 List
- 集合 Set
- 哈希 Hash
- 有序集合 Zset
Redis 键(key)
- keys *查看当前库所有 key (匹配:keys *1)
- exists key 判断某个 key 是否存在
- type key 查看你的 key 是什么类型
- del key 删除指定的 key 数据
- unlink key 根据 value 选择非阻塞删除(异步删除)
- expire key 10 10 秒钟:为给定的 key 设置过期时间
- ttl key 查看还有多少秒过期,-1 表示永不过期,-2 表示已过期
- dbsize 查看当前数据库的 key 的数量
- flushdb 清空当前库
- flushall 通杀全部库
Redis 字符串(String)
简介
String 是 Redis 最基本的类型,你可以理解成与 Memcached 一模一样的类型,一个 key 对应一个 value。
String 类型是二进制安全的。意味着 Redis 的 string 可以包含任何数据。比如 jpg 图 片或者序列化的对象。
String 类型是 Redis 最基本的数据类型,一个 Redis 中字符串 value 最多可以是 512M
常用命令
-
set <key> <value>
添加键值对 -
get <key>
查询对应键值 -
append <key> <value>
将给定的<value>
追加到原值的末尾 -
strlen <key>
获得值的长度 -
setnx <key> <value>
只有在 key 不存在时 设置 key 的值 -
incr <key>
将 key 中储存的数字值增 1
只能对数字值操作,如果为空,新增值为 1 -
decr <key>
将 key 中储存的数字值减 1
只能对数字值操作,如果为空,新增值为-1 -
incrby / decrby <key> <步长>
将 key 中储存的数字值增减。自定义步长。
注意 incr <key>
具有原子性
所谓原子操作是指不会被线程调度机制打断的操作;
这种操作一旦开始,就一直运行到结束,中间不会有任何 context switch (切换到另 一个线程)。
(1)在单线程中, 能够在单条指令中完成的操作都可以认为是"原子操作",因为中 断只能发生于指令之间。
(2)在多线程中,不能被其它进程(线程)打断的操作就叫原子操作。
Redis 单命令的原子性主要得益于 Redis 的单线程。
-
mset <key1> <value1> <key2> <value2>
同时设置一个或多个 key-value 对 -
mget <key1> <key2> <key3> .....
同时获取一个或多个 value -
msetnx <key1><value1><key2><value2> .....
同时设置一个或多个 key-value 对,当且仅当所有给定 key 都不存在。
原子性,有一个失败则都失败
-
getrange <key> <起始位置> <结束位置>
获得值的范围,类似 java 中的 substring,前包,后包 -
setrange <key> <起始位置> <value>
用 覆写所储存的字符串值,从<起始位置>开始(索引从 0开始)。 -
setex <key><过期时间><value>
设置键值的同时,设置过期时间,单位秒。 -
getset <key><value>
以新换旧,设置了新值同时获得旧值。
数据结构
String 的数据结构为简单动态字符串(Simple Dynamic String,缩写 SDS)。是可以 修改的字符串,内部结构实现上类似于 Java 的 ArrayList,采用预分配冗余空间的方 式来减少内存的频繁分配.
如图中所示,内部为当前字符串实际分配的空间 capacity 一般要高于实际字符串长度 len。当字符串长度小于 1M 时,扩容都是加倍现有的空间,如果超过 1M,扩容时一 次只会多扩 1M 的空间。需要注意的是字符串最大长度为 512M。
Redis 列表(List)
简介
单键多值
Redis 列表是简单的字符串列表,按照插入顺序排序。你可以添加一个元素到列表的头 部(左边)或者尾部(右边)。
它的底层实际是个双向链表
,对两端的操作性能很高,通过索引下标的操作中间的节 点性能会较差。
常用命令
-
lpush/rpush <key><value1><value2><value3> ....
从左边/右边插入一个或多个值。 -
lpop/rpop <key>
从左边/右边吐出一个值。值在键在,值光键亡。 -
rpoplpush <key1><key2>
从<key1>
列表右边吐出一个值,插到<key2>
列表左边。 -
lrange <key><start><stop>
按照索引下标获得元素(从左到右) -
lrange mylist 0 -1
0 左边第一个,-1 右边第一个,(lrange k1 0 -1
表示获取所有) -
lindex <key><index>
按照索引下标获得元素(从左到右) -
llen <key>
获得列表长度 -
linsert <key> before <value><newvalue>
在<value>
的后面插入<newvalue>
插入值 -
lrem <key><n><value>
从左边删除 n 个 value(从左到右) -
lset<key><index><value>
将列表 key 下标为 index 的值替换成 value
数据结构
List 的数据结构为快速链表 quickList。
首先在列表元素较少的情况下会使用一块连续的内存存储,这个结构是 ziplist,也即 是压缩列表。 它将所有的元素紧挨着一起存储,分配的是一块连续的内存。 当数据量比较多的时候才会改成 quicklist。
因为普通的链表需要的附加指针空间太大,会比较浪费空间。比如这个列表里存的只 是 int 类型的数据,结构上还需要两个额外的指针 prev 和 next。
Redis 将链表和 ziplist 结合起来组成了 quicklist。也就是将多个 ziplist 使用双向 指针串起来使用。这样既满足了快速的插入删除性能,又不会出现太大的空间冗余。
Redis 集合(Set)
简介
Redis set 对外提供的功能与 list 类似是一个列表的功能,特殊之处在于 set 是可以自 动排重
的,当你需要存储一个列表数据,又不希望出现重复数据时,set 是一个很好的 选择,并且 set 提供了判断某个成员是否在一个 set 集合内的重要接口,这个也是 list 所不能提供的。
Redis 的 Set 是 string 类型的无序集合
。它底层其实是一个 value 为 null 的 hash 表
, 所以添加,删除,查找的复杂度都是 O(1)。
一个算法,随着数据的增加,执行时间的长短,如果是 O(1),数据增加,查找数据的 时间不变
常用命令
-
sadd <key><value1><value2> .....
将一个或多个 member 元素加入到集合 key 中,已经存在的 member 元素将被忽略 -
smembers <key>
取出该集合的所有值。 -
sismember <key><value>
判断集合<key>
是否为含有该<value>
值,有 1,没有 0 -
scard<key>
返回该集合的元素个数。 -
srem <key><value1><value2> ....
删除集合中的某个元素。 -
spop <key>
随机从该集合中吐出一个值。 -
srandmember <key><n>
随机从该集合中取出 n 个值。不会从集合中删除 。 -
smove <source><destination>value
把集合中一个值从一个集合移动到另一个集合 -
sinter <key1><key2>
返回两个集合的交集元素。 -
sunion <key1><key2>
返回两个集合的并集元素。 -
sdiff <key1><key2>
返回两个集合的差集元素(key1 中的,不包含 key2 中的)
数据结构
Set 数据结构是 dict 字典,字典是用哈希表实现的。
Java 中 HashSet 的内部实现使用的是 HashMap,只不过所有的 value 都指向同一个对 象。Redis 的 set 结构也是一样,它的内部也使用 hash 结构,所有的 value 都指向同一 个内部值。
Redis 哈希(Hash)
简介
Redis hash 是一个键值对集合。
Redis hash 是一个 string 类型的 field 和 value 的映射表,hash 特别适合用于存储对 象。
类似 Java 里面的 Map<String,Object>
用户 ID 为查找的 key,存储的 value 用户对象包含姓名,年龄,生日等信息,如果用 普通的 key/value 结构来存储
hash的存储特点
存储对象有三种方法
第一种,使用json字符串来存储,这样带来的问题是修改对象中的熟悉变得繁琐,需要取到json字符串,转换成对象,更改属性值,转换成json再存储
第二种,将数据以key-value对分开存储,这样修改能方便,但带来的问题是数据变得分散,一个对象原本一次的存储操作变成超多操作,结构也变得混乱
第二种,hash的存储方式存储和取值都变得方便
常用命令
hset <key><field><value>
给<key>
集合中的<field>
键赋值<value>
hget <key1><field>
从<key1>
集合<field>
取出 valuehmset <key1><field1><value1><field2><value2>...
批量设置 hash 的值hexists<key1><field>
查看哈希表 key 中,给定域 field 是否存在。hkeys <key>
列出该 hash 集合的所有 fieldhvals <key>
列出该 hash 集合的所有 valuehincrby <key><field><increment>
为哈希表 key 中的域 field 的值加上增量 1 -1hsetnx <key><field><value>
将哈希表 key 中的域 field 的值设置为 value ,当且仅当域 field 不 存在 .
数据结构
Hash 类型对应的数据结构是两种:ziplist(压缩列表),hashtable(哈希表)。当 field-value 长度较短且个数较少时,使用 ziplist,否则使用 hashtable。
Redis 有序集合 Zset(sorted set)
简介
Redis 有序集合 zset 与普通集合 set 非常相似,是一个没有重复元素
的字符串集合。
不同之处是有序集合的每个成员都关联了一个评分(score)
,这个评分(score)被用 来按照从最低分到最高分的方式排序集合中的成员。集合的成员是唯一的,但是评分 可以是重复的
。
因为元素是有序的, 所以你也可以很快的根据评分(score)或者次序(position)来获 取一个范围的元素。
访问有序集合的中间元素也是非常快的,因此你能够使用有序集合作为一个没有重复成 员的智能列表。
常用命令
-
zadd <key><score1><value1><score2><value2>…
将一个或多个 member 元素及其 score 值加入到有序集 key 当中。 -
zrange <key><start><stop> [WITHSCORES]
返回有序集 key 中,下标在<start><stop>
之间的元素,带 WITHSCORES,可以让分数一起和值返回到结果集。 -
zrangebyscore key minmax [withscores] [limit offset count]
返回有序集 key 中,所有 score 值介于 min 和 max 之间(包括等于 min 或 max )的成员。 有序集成员按 score 值递增(从小到大)次序排列。 -
zrevrangebyscore key maxmin [withscores] [limit offset count]
同上,改为从大到小排列。 -
zincrby <key><increment><value>
为元素的 score 加上增量 -
zrem <key><value>
删除该集合下,指定值的元素 -
zcount <key><min><max>
统计该集合,分数区间内的元素个数 -
zrank <key><value>
返回该值在集合中的排名,从 0 开始。
数据结构
SortedSet(zset)是 Redis 提供的一个非常特别的数据结构,一方面它等价于 Java 的 数据结构 Map<String, Double>,可以给每一个元素 value 赋予一个权重 score,另一方 面它又类似于 TreeSet,内部的元素会按照权重 score 进行排序,可以得到每个元素的 名次,还可以通过 score 的范围来获取元素的列表。
zset 底层使用了两个数据结构
(1)hash,hash 的作用就是关联元素 value 和权重 score,保障元素 value 的唯 一性,可以通过元素 value 找到相应的 score 值。
(2)跳跃表,跳跃表的目的在于给元素 value 排序,根据 score 的范围获取元素 列表。
Redis 配置文件介绍
Units 单位
配置大小单位,开头定义了一些基本的度量单位,只支持 bytes,不支持 bit 大小写不敏感
INCLUDES 包含
类似 jsp 中的 include,多实例的情况可以把公用的配置文件提取出来
网络相关配置
bind
默认情况 bind=127.0.0.1 只能接受本机的访问请求
不写的情况下,无限制接受任何 ip 地址的访问
生产环境肯定要写你应用服务器的地址;服务器是需要远程访问的,所以需要将其注 释掉
如果开启了 protected-mode,那么在没有设定 bind ip 且没有设密码的情况下,Redis 只允许接受本机的响应
注释bind
protected-mode
将本机访问保护模式设置 no
Port
端口号,默认 6379
tcp-backlog
设置 tcp 的 backlog,backlog 其实是一个连接队列,backlog 队列总和=未完成三次握 手队列 + 已经完成三次握手队列。
在高并发环境下你需要一个高 backlog 值来避免慢客户端连接问题。
注意 Linux 内核会将这个值减小到/proc/sys/net/core/somaxconn 的值(128),所以需要 确认增大/proc/sys/net/core/somaxconn 和/proc/sys/net/ipv4/tcp_max_syn_backlog(128) 两个值来达到想要的效果
timeout
一个空闲的客户端维持多少秒会关闭,0 表示关闭该功能。即永不关闭。
tcp-keepalive
对访问客户端的一种心跳检测
,每个 n 秒检测一次。
单位为秒,如果设置为 0,则不会进行 Keepalive 检测,建议设置成 60
GENERAL 通用
daemonize
是否为后台进程,设置为 yes 守护进程,后台启动
pidfile
存放 pid 文件的位置,每个实例会产生一个不同的 pid 文件
loglevel
指定日志记录级别,Redis 总共支持四个级别:debug、verbose、notice、warning,默 认为 notice
logfile
日志文件名称
databases 16
设定库的数量, 默认 16,默认数据库为 0,可以使用 SELECT 命令在连接上指 定数据库 id
SECURITY 安全
设置密码 requirepass foobared
LIMITS 限制
maxclients
设置 redis 同时可以与多少个客户端进行连接。
默认情况下为 10000 个客户端。
如果达到了此限制,redis 则会拒绝新的连接请求,并且向这些连接请求方发出 “max number of clients reached”以作回应。
maxmemory
建议必须设置
,否则,将内存占满,造成服务器宕机
设置 redis 可以使用的内存量。一旦到达内存使用上限,redis 将会试图移除内部 数据,移除规则可以通过 maxmemory-policy
来指定。
如果 redis 无法根据移除规则来移除内存中的数据,或者设置了“不允许移除”, 那么 redis 则会针对那些需要申请内存的指令返回错误信息,比如 SET、LPUSH 等。
但是对于无内存申请的指令,仍然会正常响应,比如 GET 等。如果你的 redis 是 主 redis(说明你的 redis 有从 redis),那么在设置内存使用上限时,需要在系统 中留出一些内存空间给同步队列缓存,只有在你设置的是“不移除”的情况下, 才不用考虑这个因素。
maxmemory-policy
volatile-lru:使用 LRU 算法移除 key,只对设置了过期时间的键;(最近最少使 用)
allkeys-lru:在所有集合 key 中,使用 LRU 算法移除 key
volatile-random:在过期集合中移除随机的 key,只对设置了过期时间的键
allkeys-random:在所有集合 key 中,移除随机的 key
volatile-ttl:移除那些 TTL 值最小的 key,即那些最近要过期的 key
noeviction:不进行移除。针对写操作,只是返回错误信息
maxmemory-samples
设置样本数量,LRU 算法和最小 TTL 算法都并非是精确的算法,而是估算值,所 以你可以设置样本的大小,redis 默认会检查这么多个 key 并选择其中 LRU 的那 个。
一般设置 3 到 7 的数字,数值越小样本越不准确,但性能消耗越小。
Redis 的发布和订阅
Redis 发布订阅 (pub/sub) 是一种消息通信模式:发送者 (pub) 发送消息,订阅者 (sub) 接收消息。
Redis 客户端可以订阅任意数量的频道。
Redis 的发布和订阅
客户端可以订阅频道如下图
当给这个频道发布消息后,消息就会发送给订阅的客户端
发布订阅命令行实现
-
打开一个客户端订阅 channel1
SUBSCRIBE channel1 -
打开另一个客户端,给 channel1 发布消息 hello
publish channel1 hello
返回的 1 是订阅者数量 -
打开第一个客户端可以看到发送的消息
Redis 新数据类型
Bitmaps
Redis 提供了 Bitmaps 这个“数据类型”可以实现对位的操作:
(1) Bitmaps 本身不是一种数据类型, 实际上它就是字符串(key-value) , 但是它可以对字符串的位进行操作。
(2) Bitmaps 单独提供了一套命令, 所以在 Redis 中使用 Bitmaps 和使用 字符串的方法不太相同。 可以把 Bitmaps 想象成一个以位为单位的数 组, 数组的每个单元只能存储 0 和 1, 数组的下标在 Bitmaps 中叫做 偏移量。
HyperLogLog
在工作当中,我们经常会遇到与统计相关的功能需求,比如统计网站 PV (PageView 页面访问量),可以使用 Redis 的 incr、incrby 轻松实现。
但像 UV(UniqueVisitor,独立访客)、独立 IP 数、搜索记录数等需要去重和 计数的问题如何解决?这种求集合中不重复元素个数的问题称为基数问题。
解决基数问题有很多种方案: (1)数据存储在 MySQL 表中,使用 distinct count 计算不重复个数
(2)使用 Redis 提供的 hash、set、bitmaps 等数据结构来处理 以上的方案结果精确,但随着数据不断增加,导致占用空间越来越大,对于非 常大的数据集是不切实际的。 能否能够降低一定的精度来平衡存储空间?
Redis 推出了 HyperLogLog Redis HyperLogLog 是用来做基数统计的算法,HyperLogLog 的优点是,在输 入元素的数量或者体积非常非常大时,计算基数所需的空间总是固定的、并且是很小 的。 在 Redis 里面,每个 HyperLogLog 键只需要花费 12 KB 内存,就可以计算接 近 2^64 个不同元素的基数。这和计算基数时,元素越多耗费内存就越多的集合形成 鲜明对比。
但是,因为 HyperLogLog 只会根据输入元素来计算基数,而不会储存输入元素 本身,所以 HyperLogLog 不能像集合那样,返回输入的各个元素。
什么是基数? 比如数据集 {1, 3, 5, 7, 5, 7, 8}, 那么这个数据集的基数集为 {1, 3, 5 ,7, 8}, 基数(不重复元素)为 5。 基数估计就是在误差可接受的范围内,快速计算基数。
Geospatial
Redis 3.2 中增加了对 GEO 类型的支持。GEO,Geographic,地理信息的缩写。 该类型,就是元素的 2 维坐标,在地图上就是经纬度。redis 基于该类型,提供了经纬 度设置,查询,范围查询,距离查询,经纬度 Hash 等常见操作。
Redis_Jedis_测试
1 、引入依赖
<dependency><groupId>redis.clients</groupId><artifactId>jedis</artifactId><version>3.2.0</version>
</dependency>
连接 Redis 注意事项
禁用 Linux 的防火墙:
Linux(CentOS7)里执行命令
systemctl stop/disable firewalld.service
redis.conf 中注释掉 bind 127.0.0.1
,然后 protected-mode no
测试相关数据类型
Jedis-API: Key
Set<String> keys = jedis.keys("*");
System.out.println(keys.size());
for (String key : keys) {
System.out.println(key);
}
Jedis-API: String
jedis.set("k1", "v1");
jedis.set("k2", "v2");
jedis.set("k3", "v3");
jedis.mset("str1", "v1", "str2", "v2", "str3", "v3");
System.out.println(jedis.mget("str1", "str2", "str3"));
Jedis-API: List
jedis.lpush("mylist","v1","v2","v3");
List<String> list = jedis.lrange("mylist", 0, -1);
for (String element : list) {
System.out.println(element);
}
Jedis-API: set
jedis.sadd("orders", "order01");
jedis.sadd("orders", "order02");
jedis.sadd("orders", "order03");
jedis.sadd("orders", "order04");
Set<String> smembers = jedis.smembers("orders");
for (String order : smembers) {
System.out.println(order);
}
jedis.srem("orders", "order02");
Jedis-API: hash
jedis.hset("hash1", "userName", "lisi");
System.out.println(jedis.hget("hash1", "userName"));
Map<String, String> map = new HashMap<String, String>();
map.put("telphone", "13810169999");
map.put("address", "atguigu");
map.put("email", "abc@163.com");
jedis.hmset("hash2", map);
List<String> result = jedis.hmget("hash2", "telphone", "email");
for (String element : result) {
System.out.println(element);
}
Jedis-API: zset
jedis.zadd("zset01", 100d, "z3");
jedis.zadd("zset01", 90d, "l4");
jedis.zadd("zset01", 80d, "w5");
jedis.zadd("zset01", 70d, "z6");
Set<String> zrange = jedis.zrange("zset01", 0, -1);
for (String e : zrange) {
System.out.println(e);
}
总结,和命令行的命令差不多
完成一个手机验证码功能
//连接redis
Jedis jedis = new Jedis("192.168.44.168",6379);//拼接key
//手机发送次数key
String countKey = "VerifyCode:"+phone+":count";
//验证码key
String codeKey = "VerifyCode:"+phone+":code";//每个手机每天只能发送三次
String count = jedis.get(countKey);
if(count == null) {
//没有发送次数,第一次发送//设置发送次数是1jedis.setex(countKey,24*60*60,"1");
} else if(Integer.parseInt(count)<=2) {
//发送次数+1jedis.incr(countKey);
} else if(Integer.parseInt(count)>2) {
//发送三次,不能再发送System.out.println("今天发送次数已经超过三次");jedis.close();
}//发送验证码放到redis里面
String vcode = getCode();
jedis.setex(codeKey,120,vcode);//设置三分钟过期时间
jedis.close();