当前位置: 代码迷 >> 综合 >> RedisTemplate批量添加操作教程,利用pipeline批量操作;multiSet()批量操作;for循环批量操作 的性能对比
  详细解决方案

RedisTemplate批量添加操作教程,利用pipeline批量操作;multiSet()批量操作;for循环批量操作 的性能对比

热度:94   发布时间:2024-02-19 11:21:27.0

作者:施自扬
微信号:sszzyy123aabbcc

RedisTemplate批量添加操作教程,利用pipeline批量操作;multiSet()批量操作;for循环批量操作 的性能对比

一.使用pipeline的好处

了解redis的小伙伴都知道,redis是一个高性能的单线程的key-value数据库。它的执行过程为:

(1)发送命令-〉(2)命令排队-〉(3)命令执行-〉(4)返回结果

如果我们使用redis进行批量插入数据,正常情况下相当于将以上四个步骤批量执行N次。(1)和(4)称为Round Trip Time(RTT,往返时间)。在一条简单指令中,往往(1)(4)步骤之和大过于(2)(3)步骤之和,如何进行优化?Redis提供了pipeline管道机制,它能将一组Redis命令进行组装,通过一次RTT传输给Redis,并将这组Redis命令的执行结果按顺序返回给客户端。

优缺点总结:
1.性能对比:multiSet()>pipeline管道>普通for循环set
2.扩展性强,可以支持设置失效时间。multiSet()不支持失效时间的设置

二、批量操作的工具类

package com.demo.util;import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.dao.DataAccessException;
import org.springframework.data.redis.connection.RedisConnection;
import org.springframework.data.redis.connection.RedisStringCommands;
import org.springframework.data.redis.core.RedisCallback;
import org.springframework.data.redis.core.RedisTemplate;
import org.springframework.data.redis.core.types.Expiration;
import org.springframework.data.redis.serializer.RedisSerializer;
import org.springframework.stereotype.Component;import java.util.List;
import java.util.Map;@Component
public class BatchRunRedisUtil {
    @Autowiredprivate RedisTemplate<String, Object> stringRedisTemplate;//批量添加public void batchSet(Map<String, String> map) {
    stringRedisTemplate.opsForValue().multiSet(map);}//批量添加 并且设置失效时间public void batchSetOrExpire(Map<String, String> map, Long seconds) {
    RedisSerializer<String> serializer = stringRedisTemplate.getStringSerializer();stringRedisTemplate.executePipelined(new RedisCallback<String>() {
    @Overridepublic String doInRedis(RedisConnection connection) throws DataAccessException {
    map.forEach((key, value) -> {
    connection.set(serializer.serialize(key), serializer.serialize(value), Expiration.seconds(seconds), RedisStringCommands.SetOption.UPSERT);});return null;}}, serializer);}//批量获取public List<Object> batchGet(List<String> list) {
    List<Object> objectList = stringRedisTemplate.opsForValue().multiGet(list);return objectList;}// Redis批量Deletepublic void batchDelete(List<String> list) {
    stringRedisTemplate.delete(list);}}

三.性能测试

通过for循环来向redis插入数据,通过pipeline插入数据,通过使用redisTemplate.opsForValue().multiSet(map)插入数据查看执行时间。

演示代码

package com.demo;import com.demo.util.BatchRunRedisUtil;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.boot.CommandLineRunner;
import org.springframework.boot.SpringApplication;
import org.springframework.boot.autoconfigure.SpringBootApplication;
import org.springframework.data.redis.core.RedisTemplate;import java.util.HashMap;
import java.util.Map;@SpringBootApplication
public class DemoApplication implements CommandLineRunner {
    public static void main(String[] args) {
    SpringApplication.run(DemoApplication.class, args);}@Autowiredprivate RedisTemplate<String, Object> stringRedisTemplate;@Autowiredprivate BatchRunRedisUtil batchRunRedisUtil;@Overridepublic void run(String... args) throws Exception {
    long startTime = System.currentTimeMillis();for (int i = 0; i < 100000; i++) {
    stringRedisTemplate.opsForValue().set("aaa" + i, "a", 60);}long endTime = System.currentTimeMillis();System.out.println("普通set消耗" + (endTime - startTime) + "毫秒");long startTime2 = System.currentTimeMillis();Map map = new HashMap(100000);for (int i = 0; i < 100000; i++) {
    map.put("bbb" + i, "b");}batchRunRedisUtil.batchSetOrExpire(map, 60l);long endTime2 = System.currentTimeMillis();System.out.println("管道set消耗" + (endTime2 - startTime2) + "毫秒");long startTime3 = System.currentTimeMillis();Map map2 = new HashMap(100000);for (int i = 0; i < 100000; i++) {
    map2.put("ccc" + i, "b");}batchRunRedisUtil.batchSet(map2);long endTime3 = System.currentTimeMillis();System.out.println("批量set消耗" + (endTime3 - startTime3) + "毫秒");}}

在本机分别执行了三次结果:

普通set消耗9010毫秒
管道set消耗1606毫秒
批量set消耗18毫秒

普通set消耗8228毫秒
管道set消耗1059毫秒
批量set消耗14毫秒

普通set消耗8365毫秒
管道set消耗1092毫秒
批量set消耗13毫秒

通过比较发现,逐条执行时间是pipeline执行平均时间的8倍!这是在本机测试的结果,理论上,客户端与服务端的网络延迟越大,性能体能越明显。
当然,pipeline性能提升虽然明显,但是每次管道里命令个数太多的话,也会造成客户端响应时间变久,网络传输阻塞。最好还是根据业务情况,将大的pipeline拆分成多个小的pipeline来执行。
如果不用设置失效时间的话最好使用redisTemplate.opsForValue().multiSet(map)方法来添加

  相关解决方案