Erlo

基于Shardingsphere5.x 实现数据分片 demo 案例

时间:2021-04-29   阅读:188次   来源:开源中国
页面报错
点赞

声明

  • 本文会基于 Springboot + mybatis + shardingsphere + mysql5.6 + druid 进行实战讲解

  • 本文的实战内容为分表、以及数据分片, 不涉及分库, 读写分离之类的

  • 本文不会介绍 shardingsphere 的历史、概念以及分库分表的相关理论

  • 本文采用的 shardingsphere 版本是 5.0.0-alpha, 具体见 pom 文件

  • 本文涉及的源码请参考 码云地址

  • 如果看 官方文档 时, 请选对版本 !!!

正文

实现目标

我们有一张逻辑用户表 user_info, 我们把它水平拆分成 user_info0user_info1 两张物理表 当我们往用户表插数据时, 数据会按照一定的规则(根据id取模), 写入到其中一张 user_info 表中.

准备工作

1. 数据库表

create database miaosha;

DROP TABLE IF EXISTS `user_info0`;
CREATE TABLE `user_info0` (
  `id` bigint(20) NOT NULL AUTO_INCREMENT,
  `user_label` varchar(32) COLLATE utf8_bin DEFAULT NULL,
  `username` varchar(64) COLLATE utf8_bin DEFAULT NULL,
  `email` varchar(64) COLLATE utf8_bin DEFAULT NULL,
  `phone` varchar(64) COLLATE utf8_bin DEFAULT NULL,
  `password` varchar(128) COLLATE utf8_bin NOT NULL,
  `active` tinyint(4) NOT NULL DEFAULT '1',
   PRIMARY KEY (`id`)
) ENGINE=InnoDB AUTO_INCREMENT=7 DEFAULT CHARSET=utf8 COLLATE=utf8_bin;


DROP TABLE IF EXISTS `user_info1`;
CREATE TABLE `user_info1` (
  `id` bigint(20) NOT NULL AUTO_INCREMENT,
  `user_label` varchar(32) COLLATE utf8_bin DEFAULT NULL,
  `username` varchar(64) COLLATE utf8_bin DEFAULT NULL,
  `email` varchar(64) COLLATE utf8_bin DEFAULT NULL,
  `phone` varchar(64) COLLATE utf8_bin DEFAULT NULL,
  `password` varchar(128) COLLATE utf8_bin NOT NULL,
  `active` tinyint(4) NOT NULL DEFAULT '1',
  PRIMARY KEY (`id`)
) ENGINE=InnoDB AUTO_INCREMENT=6 DEFAULT CHARSET=utf8 COLLATE=utf8_bin;

2. pom 依赖



    4.0.0
    
        org.springframework.boot
        spring-boot-starter-parent
        2.3.2.RELEASE
        
    
    com.nimo
    shardingsphere-demo
    0.0.1-SNAPSHOT
    shardingsphere-demo

    
        1.8
    
  
    
        
            org.springframework.boot
            spring-boot-starter-web
        
      
        
            org.mybatis.spring.boot
            mybatis-spring-boot-starter
            2.1.4
        

        
            mysql
            mysql-connector-java
            runtime
        
      
        
            org.projectlombok
            lombok
            true
        
      
        
            org.springframework.boot
            spring-boot-starter-test
            test
        

        
        
            org.apache.shardingsphere
            shardingsphere-jdbc-core-spring-boot-starter
            5.0.0-alpha
        

        
        
            com.alibaba
            druid
            1.2.3
        

    

    
        
            
                org.springframework.boot
                spring-boot-maven-plugin
                
                    
                        
                            org.projectlombok
                            lombok
                        
                    
                
            
        
    



3. application.yml

再次强调下, 本文采用的 shardingsphere 版本是 5.0.0-alpha. 不同版本配置会有差异.

填写配置文件时,一定要小心, 坑死了; 不信你不配置 com.alibaba.druid.pool.DruidDataSource试试,

或者你用默认的数据源替换试试 om.zaxxer.hikari.HikariDataSource

server:
  port: 8777

spring:
  shardingsphere:
 
    props:
      sql-show: true
      
    datasource:
      names: ds0
      # 注意这里的数据源配置用的是 druid
      common:
        type: com.alibaba.druid.pool.DruidDataSource
      ds0:
        url: jdbc:mysql://127.0.0.1:3306/miaosha?useUnicode=true&characterEncoding=utf-8&useSSL=false&serverTimezone=GMT%2b8
        username: root
        password: '123456'
        driver-class-name: com.mysql.cj.jdbc.Driver
    rules:
      sharding:
        key-generators:
          # 此处必须要配置,否则会导致报错,因为shardingsphere-jdbc-core-spring-boot-starter需要加载此项配置,官网的demo例子有错
          snowflake:
            type: SNOWFLAKE
            props:
              worker-id: 123
        sharding-algorithms:
          table-inline:
            type: INLINE
            props:
              # 不要漏掉 $ 或 ->
              algorithm-expression: user_info$->{id % 2}
        tables:
          user_info:
            # 配置 user_info 的分表的规则
            actual-data-nodes: ds0.user_info$->{0..1}
            table-strategy:
              standard:
                sharding-column: id
                sharding-algorithm-name: table-inline
    enabled: true

mybatis:
  typeAliasesPackage: com.nimo.shardingspheredemo.entity
  mapperLocations: classpath:mapper/*.xml


4. 主要代码

// sql 

   insert into user_info(id, username, password) values (#{id}, #{username}, #{password})

 
 // 新增一个用户信息
@PostMapping("userinfo")
public Object addUserInfo(@RequestBody UserInfo userInfo) {
   return userInfoMapper.addUser(userInfo);
}

5. 测试命令

curl -X POST --location "http://localhost:8777/userinfo" 
    -H "Content-Type: application/json" 
    -d "{
          "id": 18,
          "username": "wangbadan",
          "password": "123456"
        }"

问题

我们创建表时设置的 主键id 是自增的, 理论上是不用传的, 但是我们往表中插数据, 是根据 主键id 取模 来决定具体往哪张表中插的. 所以这个主键 id 此时必须得有.

另外, 如果我们的服务有多个, 那么这个 id 如何生成?

如何解决

首先把 sql 改写为如下方式:

// sql 

   insert into user_info(username, password)
    values ( #{username}, #{password})

然后在原有配置的基础上, 追加如下配置信息(通过雪花算法生成id)

spring:
  shardingsphere:
    rules:
      sharding: 
        tables:
          user_info:
            key-generate-strategy:
              key-generator-name: snowflake
              column: id

在这里插入图片描述

总结

本文强调的是 分表, 分片 的实战 demo 配置, 后面会逐渐更新 分库、读写分离 的实战 demo, 跟之前的 Spring Secutiry 的实战教程一样, 讲究循序渐进.

相关推荐

提交留言

评论留言

还没有评论留言,赶紧来抢楼吧~~

吐槽小黑屋()

* 这里是“吐槽小黑屋”,所有人可看,只保留当天信息。

  • Erlo吐槽

    Erlo.vip2021-09-24 23:51:52Hello、欢迎使用吐槽小黑屋,这就是个吐槽的地方。
  • 返回顶部

    给这篇文章打个标签吧~

    棒极了 糟糕透顶 好文章 PHP JAVA JS 小程序 Python SEO MySql 确认