栏目分类:
子分类:
返回
名师互学网用户登录
快速导航关闭
当前搜索
当前分类
子分类
实用工具
热门搜索
名师互学网 > IT > 软件开发 > 后端开发 > Java

sharding sphere 4.0.0-RC1版本 按年分表(自动建表)

Java 更新时间: 发布时间: IT归档 最新发布 模块sitemap 名妆网 法律咨询 聚返吧 英语巴士网 伯小乐 网商动力

sharding sphere 4.0.0-RC1版本 按年分表(自动建表)

1. sharding sphere 4.0.0-RC1版本 按年分表(自动建表) 1.1. 概述

上篇文章留了个坑,sharding sphere本身没有提供自动建表功能,但我想了想,我们可以绕过它本身的设定,它本身的数据分片是通过分片算法实现,如下继承一些接口PreciseShardingAlgorithm、RangeShardingAlgorithm等,在范围查询的时候,原本我们需要从availableTargetNames参数去判断已存在的表,从而做到不查不存在的表,插入时也是同样的道理

但是事实上我们可以不需要使用availableTargetNames参数,在系统初始化的时候自行去查询已存在的表再缓存起来,当然过程中我也踩了些坑,因为LogShardingAlgorithm的加载过程和我读数据库的顺序不好控制,理论上我可以随时连接数据库读,但我又需要读到spring加载的配置环境再决定连哪个数据库,不断的测试后还是不好安排,最后采取了如下的方式,在第一次调用分片算法的时候读取并缓存表

这样做后实现的效果就是在做插入数据的时候,我判断日期为2020年的表是否在缓存中,在则说明数据库存在该表,否则我先创建该表,再把该表加入缓存;而做范围查询的时候,我们容易请求参数超范围,则从缓存中的表挑选,这些表才是存在的,比如你数据库存在2018,2019,2020年的表,你查询条件是2017~2021,那么也只会查18,19,20三张表

@Slf4j
public class LogShardingAlgorithm implements PreciseShardingAlgorithm, RangeShardingAlgorithm {

    
    private List tables;

    private final String systemLogHead = "system_log_";

    private Boolean isLoad = false;

    @Override
    public String doSharding(Collection availableTargetNames, PreciseShardingValue shardingValue) {
 if (!isLoad) {
     tables = DBUtil.getAllSystemLogTable();
     isLoad = true;
 }
 String target = shardingValue.getValue().toString();
 String year = target.substring(target.lastIndexOf("_") + 1, target.lastIndexOf("_") + 5);
 if (!tables.contains(systemLogHead + year)) {
     DBUtil.createLogTable(year);
     tables.add(year);
 }
 return shardingValue.getLogicTableName() + "_" + year;
    }

    @Override
    public Collection doSharding(Collection availableTargetNames, RangeShardingValue shardingValue) {
 if (!isLoad) {
     tables = DBUtil.getAllSystemLogTable();
     isLoad = true;
 }
 Collection availables = new ArrayList<>();
 Range valueRange = shardingValue.getValueRange();
 for (String target : tables) {
     Integer shardValue = Integer.parseInt(target.substring(target.lastIndexOf("_") + 1, target.lastIndexOf("_") + 5));
     if (valueRange.hasLowerBound()) {
  String lowerStr = valueRange.lowerEndpoint().toString();
  Integer start = Integer.parseInt(lowerStr.substring(0, 4));
  if (start - shardValue > 0) {
      continue;
  }
     }
     if (valueRange.hasUpperBound()) {
  String upperStr = valueRange.upperEndpoint().toString();
  Integer end = Integer.parseInt(upperStr.substring(0, 4));
  if (end - shardValue < 0) {
      continue;
  }
     }
     availables.add(target);
 }
 return availables;
    }
}

1.2. 技巧
  1. 这里要读取system_log_2019,system_log_2020表的表名只需查询mysql的information_schema.TABLES,如:
select TABLE_NAME from information_schema.`TABLES`
where TABLE_NAME like 'system_log_%'

欢迎关注公众号,回复“教学视频”一起学习进步

转载请注明:文章转载自 www.mshxw.com
本文地址:https://www.mshxw.com/it/239504.html
我们一直用心在做
关于我们 文章归档 网站地图 联系我们

版权所有 (c)2021-2022 MSHXW.COM

ICP备案号:晋ICP备2021003244-6号