栏目分类:
子分类:
返回
名师互学网用户登录
快速导航关闭
当前搜索
当前分类
子分类
实用工具
热门搜索
名师互学网 > IT > 软件开发 > 后端开发 > Java

一个User表的增删改查,我写了近200行代码

Java 更新时间: 发布时间: IT归档 最新发布 模块sitemap 名妆网 法律咨询 聚返吧 英语巴士网 伯小乐 网商动力

一个User表的增删改查,我写了近200行代码

Redis多级缓存架构的升级之路

一、基础版(包含基础操作)二、升级版1.1(处理缓存数据一致性问题)三、升级版1.2(处理缓存数据一致性问题)四、优化版(优化多级缓存架构)





一、基础版(包含基础操作)

这是我们工作中最常见的书写方式

RedisUtil:封装的Redis相关API的操作RedisKeyPreConst:Redis缓存中涉及的key前缀UserMapper:操作数据库


代码实现细节如下:

public class UserServiceImpl implements UserService {

	
	@Autowired
	UserMapper userMapper;

	@Override
	public User insetUser(User user) {
		User insertRet = userMapper.insetUser(user);
		RedisUtil.add(RedisKeyPreConst.USER_CACHE + user.getUserId(), JSON.toJSONString(user));
		return insertRet;
	}

	@Override
	public Integer deleteUser(Integer userId) {
		Integer num = userMapper.deleteUser(userId);
		RedisUtil.delete(RedisKeyPreConst.USER_CACHE + userId);
		return num;
	}

	@Override
	public User updateUser(User user) {
		User updateRet = userMapper.updateUser(user);
		RedisUtil.update(RedisKeyPreConst.USER_CACHE + user.getUserId(), JSON.toJSONString(user));
		return updateRet;
	}

	@Override
	public User findUser(Integer userId) {
		User user = null;

		// 1、redis缓存中查询
		String userCacheKey = RedisKeyPreConst.USER_CACHE + userId;
		String jsonUser = RedisUtil.get(userCacheKey);
		if (!StringUtils.isEmpty(jsonUser)) {
			user = JSON.parseObject(jsonUser, User.class);
			return user;
		}
		
		// 2、数据库中查询
		user = userMapper.findUser(userId);
		if (user != null) {
			RedisUtil.add(userCacheKey, JSON.toJSONString(user));
		}
		return user;
	}
}






二、升级版1.1(处理缓存数据一致性问题)

基础版本是一种常见的处理方式,但却会有如下的问题:

    缓存中的数据太多:由于请求的数据都会加载到缓存中,会导致缓存中的数据过多,可以给数据设置相应的过期时间请求的key刚好过期(缓存击穿):设置缓存时在基础的失效时间基础上,再延长一个随机失效的时间大量请求一个不存在的key(缓存穿透):查询不存在需要缓存空对象,用来避免缓存击穿大量请求多个不存在的key,即生成的空对象过多:给空对象也设置相应的过期时间,并且每访问一次空对象,就延长空对象的失效时间分布式场景下缓存的数据一致性问题:可以使用一把分布式锁,并且结合类似DCL的模式,加锁后再增加一次缓存查由于双写不一致改动的代码比较多,为了降低理解成本,所以在1.2中展示。



补充知识点(重要):

缓存击穿(失效):redis数据集中失效,请求直接穿过缓存到达数据库。设置不同失效时间。缓存穿透:查询一个根本不存在的数据,就会出现不仅在redis缓存中没有找到,在数据库中也没有找到。缓存空对象,布隆过滤器。缓存雪崩:缓存击穿会引发后续的一系列对整个系统造成的影响。限流,数据预热。



代码实现细节如下:

public class UserServiceImpl2 implements UserService {

	@Autowired
	private Redisson redisson;

	private String nullUser = JSON.toJSONString(new User());

	private static final String HOT_USER_LOCK = "HOT_USER_LOCK_PRE";
	@Autowired
	UserMapper userMapper;

	@Override
	public User insetUser(User user) {
		User insertRet = userMapper.insetUser(user);
		RedisUtil.add(RedisKeyPreConst.USER_CACHE + user.getUserId(), JSON.toJSONString(user));
		return insertRet;
	}

	@Override
	public Integer deleteUser(Integer userId) {
		Integer num = userMapper.deleteUser(userId);
		RedisUtil.delete(RedisKeyPreConst.USER_CACHE + userId);
		return num;
	}

	@Override
	public User updateUser(User user) {
		User updateRet = userMapper.updateUser(user);
		RedisUtil.update(RedisKeyPreConst.USER_CACHE + user.getUserId(), JSON.toJSONString(user));
		return updateRet;
	}

	@Override
	public User findUser(Integer userId) {
		User user = null;
		String userCacheKey = RedisKeyPreConst.USER_CACHE + userId;

		// 解决问题五:第一次redis缓存中查询
		user = getUserAndSetExpire(userCacheKey);
		if (user != null) {
			return user;
		}

		// 解决问题五:添加分布式锁,解决热点数据并发数据安全问题
		RLock lock = redisson.getLock(HOT_USER_LOCK + userId);
		lock.lock();
		try {
			// 解决问题五:第二次redis缓存中查询
			user = getUserAndSetExpire(userCacheKey);
			if (user != null) {
				return user;
			}

			// 数据库中查询数据
			user = userMapper.findUser(userId);
			if (user != null) {
				RedisUtil.add(userCacheKey, JSON.toJSONString(user));
			} else {
				// 解决问题三:缓存一个空对象 给空对象设置过期时间,避免空间浪费
				RedisUtil.add(userCacheKey, nullUser, getExpireTime(60), TimeUnit.SECONDS);
			}
		} catch (Exception e) {
			throw new RuntimeException(e);
		} finally {
			lock.unlock();
		}
		return user;
	}

	private int getExpireTime(int time) {
		// 解决问题二:在基础过期时间上增加一个随机数,用来防止数据集中过期,出现缓存击穿。
		return time + new Random().nextInt(30);
	}

	// redis缓存中查询数据
	private User getUserAndSetExpire(String userCacheKey) {
		User user = null;

		String jsonUser = RedisUtil.get(userCacheKey);
		if (!StringUtils.isEmpty(jsonUser)) {
			if (nullUser.equals(jsonUser)) {
				// 解决问题四:如果是缓存过的空对象,则延长空对象的过期时间
				RedisUtil.expire(userCacheKey, getExpireTime(60), TimeUnit.SECONDS);
				return new User();
			}
			user = JSON.parseObject(jsonUser, User.class);
			// 解决问题一:每访问一次数据,就重新设置过期时间。不活跃的数据就会失效
			RedisUtil.expire(userCacheKey, getExpireTime(60 * 60 * 24), TimeUnit.SECONDS);
		}
		return user;
	}
}






三、升级版1.2(处理缓存数据一致性问题)

具体什么是双写不一致这里就不再赘述。不了解的小伙伴可以参考我之前的博客:Redis核心知识点总结(一万五千字,请耐心读完)

    双写不一致:在已有的DCL结构的基础上,在第二次缓存查和数据库查之间再增加一个分布式锁

代码实现细节如下:

public class UserServiceImpl3 implements UserService {

	@Autowired
	private Redisson redisson;

	private String nullUser = JSON.toJSONString(new User());

	private static final String HOT_USER_LOCK = "HOT_USER_LOCK_PRE";
	private static final String UPDATE_USER_LOCK = "UPDATE_USER_LOCK";
	@Autowired
	UserMapper userMapper;

	@Override
	public User insetUser(User user) {
		User insertRet = new User();

		// 解决问题六:在新增数据的时候也添加锁,用来解决双写不一致问题
		RLock updateLock = redisson.getLock(UPDATE_USER_LOCK + user.getUserId());
		updateLock.lock();
		try {
			insertRet = userMapper.insetUser(user);
			RedisUtil.add(RedisKeyPreConst.USER_CACHE + user.getUserId(), JSON.toJSONString(user));
		} catch (Exception e) {
			throw new RuntimeException(e);
		} finally {
			updateLock.unlock();
		}
		return insertRet;
	}

	@Override
	public Integer deleteUser(Integer userId) {
		Integer num;
		// 解决问题六:在删除数据的时候也添加锁,用来解决双写不一致问题
		RLock updateLock = redisson.getLock(UPDATE_USER_LOCK + userId);
		updateLock.lock();
		try {
			num = userMapper.deleteUser(userId);
		} catch (Exception e) {
			throw new RuntimeException(e);
		} finally {
			updateLock.unlock();
		}
		return num;
	}

	@Override
	public User updateUser(User user) {
		// 解决问题六:在修改数据的时候也添加锁,用来解决双写不一致问题
		User updateRet = new User();
		RLock updateLock = redisson.getLock(UPDATE_USER_LOCK + user.getUserId());
		updateLock.lock();
		try {
			updateRet = userMapper.updateUser(user);
			RedisUtil.update(RedisKeyPreConst.USER_CACHE + user.getUserId(), JSON.toJSONString(user));

		} catch (Exception e) {
			throw new RuntimeException(e);
		} finally {
			updateLock.unlock();
		}

		return updateRet;
	}

	@Override
	public User findUser(Integer userId) {
		User user = null;
		String userCacheKey = RedisKeyPreConst.USER_CACHE + userId;

		// 解决问题五:第一次redis缓存中查询
		user = getUserAndSetExpire(userCacheKey);
		if (user != null) {
			return user;
		}

		// 解决问题五:添加分布式锁,解决热点数据并发数据安全问题
		RLock lock = redisson.getLock(HOT_USER_LOCK + userId);
		lock.lock();
		try {
			// 解决问题五:第二次redis缓存中查询
			user = getUserAndSetExpire(userCacheKey);
			if (user != null) {
				return user;
			}


			// 解决问题六:添加第二把分布式锁,用来处理双写不一致问题
			RLock updateLock = redisson.getLock(UPDATE_USER_LOCK + userId);
			updateLock.lock();
			try {
				//  数据库中查询数据
				user = userMapper.findUser(userId);
				if (user != null) {
					RedisUtil.add(userCacheKey, JSON.toJSONString(user));
				} else {
					// 解决问题三:缓存一个空对象 给空对象设置过期时间,避免空间浪费
					RedisUtil.add(userCacheKey, nullUser, getExpireTime(60), TimeUnit.SECONDS);
				}
			} catch (Exception e) {
				throw new RuntimeException(e);
			} finally {
				updateLock.unlock();
			}
		} catch (Exception e) {
			throw new RuntimeException(e);
		} finally {
			lock.unlock();
		}
		return user;
	}

	private int getExpireTime(int time) {
		// 解决问题二:在基础过期时间上增加一个随机数,用来防止数据集中过期,出现缓存击穿。
		return time + new Random().nextInt(30);
	}

	// redis缓存中查询数据
	private User getUserAndSetExpire(String userCacheKey) {
		User user = null;

		// 1、redis缓存中查询
		String jsonUser = RedisUtil.get(userCacheKey);
		if (!StringUtils.isEmpty(jsonUser)) {
			if (nullUser.equals(jsonUser)) {
				// 解决问题四:如果是缓存过的空对象,则延长空对象的过期时间,
				RedisUtil.expire(userCacheKey, getExpireTime(60), TimeUnit.SECONDS);
				return new User();
			}
			user = JSON.parseObject(jsonUser, User.class);
			// 解决问题一:每访问一次数据,就重新设置过期时间。不活跃的数据就会失效
			RedisUtil.expire(userCacheKey, getExpireTime(60 * 60 * 24), TimeUnit.SECONDS);
		}
		return user;
	}
}






四、优化版(优化多级缓存架构)

上面的代码基本已经可以解决很多缓存数据一致性问题了,但如果你有更高的并发量(redis都扛不住的并发),或者更快的响应速度,可以提供下面的优化方案,仅供参考:

    细化锁的粒度引入RReadWriteLock:这样读读的场景就可以提高并发量预估业务执行时间,将串行转并发:在DCL缓存架构的基础上,我们的本意是在加锁的时候阻塞线程,让线程串行执行到第二个缓存。如果我们将加锁逻辑修改为tryLock,就可以达到线程并行的效果。此操作需要预估业务代码的执行时间,个人认为比较鸡肋,但是也不失为一种优化的办法redis也扛不住的并发:方法一,使用一些限流中间件,如sential、hystrix等;方法二,使用JVM级别的内存map存放高热点数据。毕竟map是基于JVM级别的,在分布式场景下是会存在数据的一致性问题,且不利于扩展和数据过期处理,解决思路:

    可以引入EhCache、Guava等中间件,用来对过期的key进行回收处理使用zookeeper或者mq,添加对应的事件,每当redis中数据发生变化的时候,就同步给所有程序的(分布式场景下,每台服务器的JVM内存中)内存map借助第三方热点实时计算系统,当数据访问热度达到一定的频率,就触发对应的事件,同步给所有程序的内存map



代码实现细节如下:

public class UserServiceImpl4 implements UserService {
	
	@Autowired
	private Redisson redisson;

	private String nullUser = JSON.toJSONString(new User());

	private static final String HOT_USER_LOCK = "HOT_USER_LOCK_PRE";
	private static final String UPDATE_USER_LOCK = "UPDATE_USER_LOCK";

	// 优化方案三:使用JVM自带的内存Map处理更大的并发请求
	private static Map userMap = new HashMap<>();
	@Autowired
	UserMapper userMapper;

	@Override
	public User insetUser(User user) {
		User insertRet = new User();

		// 优化方案二:使用读写锁替代粒度更大的锁
		RReadWriteLock readWriteLock = redisson.getReadWriteLock(UPDATE_USER_LOCK + user.getUserId());
		RLock insertWriteLock = readWriteLock.readLock();
		insertWriteLock.lock();
		try {
			insertRet = userMapper.insetUser(user);
			RedisUtil.add(RedisKeyPreConst.USER_CACHE + user.getUserId(), JSON.toJSONString(user));
			// 优化方案三:使用JVM自带的内存Map处理更大的并发请求
			userMap.put(RedisKeyPreConst.USER_CACHE + user.getUserId(), user);
		} catch (Exception e) {
			throw new RuntimeException(e);
		} finally {
			insertWriteLock.unlock();
		}
		return insertRet;
	}

	@Override
	public Integer deleteUser(Integer userId) {
		Integer num;
		// 优化方案二:使用读写锁替代粒度更大的锁
		RReadWriteLock readWriteLock = redisson.getReadWriteLock(UPDATE_USER_LOCK + userId);
		RLock deleteWriteLock = readWriteLock.readLock();
		deleteWriteLock.lock();
		try {
			num = userMapper.deleteUser(userId);
			RedisUtil.delete(RedisKeyPreConst.USER_CACHE + userId);
			// 优化方案三:使用JVM自带的内存Map处理更大的并发请求
			userMap.remove(RedisKeyPreConst.USER_CACHE + userId);

		} catch (Exception e) {
			throw new RuntimeException(e);
		} finally {
			deleteWriteLock.unlock();
		}
		return num;
	}

	@Override
	public User updateUser(User user) {
		// 优化方案二:使用读写锁替代粒度更大的锁
		User updateRet = new User();

		RReadWriteLock readWriteLock = redisson.getReadWriteLock(UPDATE_USER_LOCK + user.getUserId());
		RLock updateWriteLock = readWriteLock.readLock();
		updateWriteLock.lock();
		try {
			updateRet = userMapper.updateUser(user);
			RedisUtil.update(RedisKeyPreConst.USER_CACHE + user.getUserId(), JSON.toJSONString(user));
			// 优化方案三:使用JVM自带的内存Map处理更大的并发请求
			userMap.put(RedisKeyPreConst.USER_CACHE + user.getUserId(), user);


		} catch (Exception e) {
			throw new RuntimeException(e);
		} finally {
			updateWriteLock.unlock();
		}

		return updateRet;
	}

	@Override
	public User findUser(Integer userId) {
		User user = null;
		String userCacheKey = RedisKeyPreConst.USER_CACHE + userId;


		// 解决问题五:第一次redis缓存中查询
		user = getUserAndSetExpire(userCacheKey);
		if (user != null) {
			return user;
		}

		// 解决问题五:添加分布式锁,解决热点数据并发数据安全问题
		RLock lock = redisson.getLock(HOT_USER_LOCK + userId);
		try {
			lock.lock();
			// 优化方案一:预估后续业务执行时间,如2秒,使用下面的加锁方式能够达到串行转并发的效果,
			// 不过该方法比较鸡肋,玩意项目出现卡顿数据就会出现一致性问题
			lock.tryLock(2, TimeUnit.SECONDS);

			user = getUserAndSetExpire(userCacheKey);
			if (user != null) {
				return user;
			}

			// 优化方案二:使用读写锁替代粒度更大的锁
			RReadWriteLock readWriteLock = redisson.getReadWriteLock(UPDATE_USER_LOCK + userId);
			RLock findReadLock = readWriteLock.readLock();
			findReadLock.lock();


			try {
				// 数据库中查询数据
				user = userMapper.findUser(userId);
				if (user != null) {
					RedisUtil.add(userCacheKey, JSON.toJSONString(user));
					// 优化方案三:使用JVM自带的内存Map处理更大的并发请求
					userMap.put(userCacheKey, user);
				} else {
					// 解决问题三:缓存一个空对象 给空对象设置过期时间,避免空间浪费
					RedisUtil.add(userCacheKey, nullUser, getExpireTime(60), TimeUnit.SECONDS);
				}
			} catch (Exception e) {
				throw new RuntimeException(e);
			} finally {
				findReadLock.unlock();
			}
		} catch (Exception e) {
			throw new RuntimeException(e);
		} finally {
			lock.unlock();
		}
		return user;
	}

	private int getExpireTime(int time) {
		// 解决问题二:在基础过期时间上增加一个随机数,用来防止数据集中过期,出现缓存击穿。
		return time + new Random().nextInt(30);
	}

	private User getUserAndSetExpire(String userCacheKey) {
		User user = null;

		// 优化方案三:使用JVM自带的内存Map处理更大的并发请求
		user = userMap.get(userCacheKey);
		if (user != null) {
			return user;
		}

		// redis缓存中查询数据
		String jsonUser = RedisUtil.get(userCacheKey);
		if (!StringUtils.isEmpty(jsonUser)) {
			if (nullUser.equals(jsonUser)) {
				// 解决问题四:如果是缓存过的空对象,则延长空对象的过期时间
				RedisUtil.expire(userCacheKey, getExpireTime(60), TimeUnit.SECONDS);
				return new User();
			}
			user = JSON.parseObject(jsonUser, User.class);
			// 解决问题一:每访问一次数据,就重新设置过期时间。不活跃的数据就会失效
			RedisUtil.expire(userCacheKey, getExpireTime(60 * 60 * 24), TimeUnit.SECONDS);
		}
		return user;
	}
}
转载请注明:文章转载自 www.mshxw.com
本文地址:https://www.mshxw.com/it/754035.html
我们一直用心在做
关于我们 文章归档 网站地图 联系我们

版权所有 (c)2021-2022 MSHXW.COM

ICP备案号:晋ICP备2021003244-6号