作者:施自扬
微信号:sszzyy123aabbcc
RedisTemplate批量添加操作教程,利用pipeline批量操作;multiSet()批量操作;for循环批量操作 的性能对比
一.使用pipeline的好处
了解redis的小伙伴都知道,redis是一个高性能的单线程的key-value数据库。它的执行过程为:
(1)发送命令-〉(2)命令排队-〉(3)命令执行-〉(4)返回结果
如果我们使用redis进行批量插入数据,正常情况下相当于将以上四个步骤批量执行N次。(1)和(4)称为Round Trip Time(RTT,往返时间)。在一条简单指令中,往往(1)(4)步骤之和大过于(2)(3)步骤之和,如何进行优化?Redis提供了pipeline管道机制,它能将一组Redis命令进行组装,通过一次RTT传输给Redis,并将这组Redis命令的执行结果按顺序返回给客户端。
优缺点总结:
1.性能对比:multiSet()>pipeline管道>普通for循环set
2.扩展性强,可以支持设置失效时间。multiSet()不支持失效时间的设置
二、批量操作的工具类
package com.demo.util;import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.dao.DataAccessException;
import org.springframework.data.redis.connection.RedisConnection;
import org.springframework.data.redis.connection.RedisStringCommands;
import org.springframework.data.redis.core.RedisCallback;
import org.springframework.data.redis.core.RedisTemplate;
import org.springframework.data.redis.core.types.Expiration;
import org.springframework.data.redis.serializer.RedisSerializer;
import org.springframework.stereotype.Component;import java.util.List;
import java.util.Map;@Component
public class BatchRunRedisUtil {
@Autowiredprivate RedisTemplate<String, Object> stringRedisTemplate;//批量添加public void batchSet(Map<String, String> map) {
stringRedisTemplate.opsForValue().multiSet(map);}//批量添加 并且设置失效时间public void batchSetOrExpire(Map<String, String> map, Long seconds) {
RedisSerializer<String> serializer = stringRedisTemplate.getStringSerializer();stringRedisTemplate.executePipelined(new RedisCallback<String>() {
@Overridepublic String doInRedis(RedisConnection connection) throws DataAccessException {
map.forEach((key, value) -> {
connection.set(serializer.serialize(key), serializer.serialize(value), Expiration.seconds(seconds), RedisStringCommands.SetOption.UPSERT);});return null;}}, serializer);}//批量获取public List<Object> batchGet(List<String> list) {
List<Object> objectList = stringRedisTemplate.opsForValue().multiGet(list);return objectList;}// Redis批量Deletepublic void batchDelete(List<String> list) {
stringRedisTemplate.delete(list);}}
三.性能测试
通过for循环来向redis插入数据,通过pipeline插入数据,通过使用redisTemplate.opsForValue().multiSet(map)插入数据查看执行时间。
演示代码
package com.demo;import com.demo.util.BatchRunRedisUtil;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.boot.CommandLineRunner;
import org.springframework.boot.SpringApplication;
import org.springframework.boot.autoconfigure.SpringBootApplication;
import org.springframework.data.redis.core.RedisTemplate;import java.util.HashMap;
import java.util.Map;@SpringBootApplication
public class DemoApplication implements CommandLineRunner {
public static void main(String[] args) {
SpringApplication.run(DemoApplication.class, args);}@Autowiredprivate RedisTemplate<String, Object> stringRedisTemplate;@Autowiredprivate BatchRunRedisUtil batchRunRedisUtil;@Overridepublic void run(String... args) throws Exception {
long startTime = System.currentTimeMillis();for (int i = 0; i < 100000; i++) {
stringRedisTemplate.opsForValue().set("aaa" + i, "a", 60);}long endTime = System.currentTimeMillis();System.out.println("普通set消耗" + (endTime - startTime) + "毫秒");long startTime2 = System.currentTimeMillis();Map map = new HashMap(100000);for (int i = 0; i < 100000; i++) {
map.put("bbb" + i, "b");}batchRunRedisUtil.batchSetOrExpire(map, 60l);long endTime2 = System.currentTimeMillis();System.out.println("管道set消耗" + (endTime2 - startTime2) + "毫秒");long startTime3 = System.currentTimeMillis();Map map2 = new HashMap(100000);for (int i = 0; i < 100000; i++) {
map2.put("ccc" + i, "b");}batchRunRedisUtil.batchSet(map2);long endTime3 = System.currentTimeMillis();System.out.println("批量set消耗" + (endTime3 - startTime3) + "毫秒");}}
在本机分别执行了三次结果:
普通set消耗9010毫秒
管道set消耗1606毫秒
批量set消耗18毫秒
普通set消耗8228毫秒
管道set消耗1059毫秒
批量set消耗14毫秒
普通set消耗8365毫秒
管道set消耗1092毫秒
批量set消耗13毫秒
通过比较发现,逐条执行时间是pipeline执行平均时间的8倍!这是在本机测试的结果,理论上,客户端与服务端的网络延迟越大,性能体能越明显。
当然,pipeline性能提升虽然明显,但是每次管道里命令个数太多的话,也会造成客户端响应时间变久,网络传输阻塞。最好还是根据业务情况,将大的pipeline拆分成多个小的pipeline来执行。
如果不用设置失效时间的话最好使用redisTemplate.opsForValue().multiSet(map)方法来添加