暂无图片
暂无图片
9
暂无图片
暂无图片
暂无图片

达梦 | 记一次国产数据库适配的思考过程

原创 每天译点晓知识 2021-08-21
6332

image.png

简介:
达梦数据库适配SpringBoot+HiKari+MyBatis+tk.MyBatis+PageHelper
达梦数据库管理系统是由达梦公司推出的具有完全自主知识产权的高性能数据库管理系统,简称DM。达梦为中国电子信息产业集团(CEC)旗下基础软件企业,其可靠性、高性能、海量数据处理和安全性做了大量的研发和改进工作,极大提升了达梦数据库产品的性能、可靠性、可扩展性,能同时兼顾OLTP和OLAP请求。

image.png
思考:
1、当使用K8、Docker容器化编排技术受到限制,当Oracle、MySql数据存储等数据库软件不再向我们提供正常的服务?
2、在我们的项目工程中,若是没有了这些核心技术提供正常的服务,如何能够去及时地采取补救的措施,使得业务能够平滑过渡,做到让用户无感知体验?
3、是否能够拥有自己的数据存储解决方案,技术框架是否能够适配,能否做到更好地兼容?

场景:
推进国产数据库在现有项目产品上的适配,推进达梦数据库适配工程落地。

接下来,本文主要以达梦8-DM8适配案例->常见问答Q-A的方式阐述:
image.png
image.png

一、下载&安装
首先,需要说明的是达梦的安装包放一起的,没有像Oracle那样把客户端独立出来,跟windows的安装包是一样大的,大约1.1GB的样子,好在的一点就是,直接解压就可以使用,在云盘中附详细操作指南。

image.png

解压以后,进入\source\tool\目录,里面有一个manager.exe的应用程序,可直接打开,登录就行。
其中,达梦8-JDBC驱动版本说明:

  1. DmJdbcDriver16 对应 Jdk1.6 及以上环境

  2. DmJdbcDriver17 对应 Jdk1.7 及以上环境

  3. DmJdbcDriver18 对应 Jdk1.8 及以上环境

达梦8-hibernate方言包对应版本说明:

  1. DmDialect-for-hibernate2.0.jar 对应 Jdk1.4及以上, hibernate2.0 环境。

  2. DmDialect-for-hibernate2.1.jar 对应 Jdk1.4及以上, hibernate2.1 2.X 环境。

  3. DmDialect-for-hibernate3.0.jar 对应 Jdk1.4及以上, hibernate3.0 环境。

  4. DmDialect-for-hibernate3.1.jar 对应 Jdk1.4及以上, hibernate3.1 3.5 环境。

  5. DmDialect-for-hibernate3.6.jar 对应 Jdk1.5及以上, hibernate3.6 3.X 环境。

  6. DmDialect-for-hibernate4.0.jar 对应 Jdk1.6及以上, hibernate4.0 4.X 环境。

  7. DmDialect-for-hibernate5.0.jar 对应 Jdk1.7及以上, hibernate5.0 5.2 环境。

  8. DmDialect-for-hibernate5.3.jar 对应 Jdk1.7及以上, hibernate5.3 5.4 环境。

说明:以上的hibernate版本指的是Hibernate ORM版本,注意区分hibernate search版本。

二、DM8&Client

接下来,打开DM8客户端,可通过dm sql脚本方式去创建表,这里只是简单创建了一张crm_version表。这里尤其需要注意的是创建表名不需要带双引号,达梦默认是大写,sql方言中也不需要额外处理,若是通过DM8工具去建表建字段或者带小写加双引号创建脚本,出现双引号则在实际的sql方言中也需要加上双引号,否则执行sql会抛出视图或表不存在,字段列名不存在的异常。

image.png
若是通过Mysql或Oracle或其他数据库,文件等方式迁移导入。这里记录一下迁移过程中遇到的问题,在迁移的时候,报某些字段超长。于是,查看了MySql中那些字段的类型及长度,都是varchar(50) 。这里应该是迁移有些字段,须在DM数据库中增加位宽,在MySql中varchar是表示字符,varchar(50)表示可以存放50个字符,但是DM的默认跟Oracle是一样的,varchar(50)表示50个字节。这就意味着,50个字节,如果存中文,在utf-8的字符集下,只能存最多16个。所以,如果MySql库到DM,varchar类型,需特别留意一下。

image.png

image.png

三、DM8&DmJdbcDriver

然后,在项目工程中引入达梦数据库驱动,SpringBoot对MySql做了集成,没有get到对达梦数据库做集成,小编这里采用的jdk1.8,安装的达梦数据库也是DM8,所以这里引入:

DmJdbcDriver18,其相对于DmJdbcDriver17作出了很大的改进。

i、本地引入的方式

在pom.xml文件中,引入jar版本依赖

<dependency>    
  <groupId>com.dm</groupId>    
   <artifactId>DmJdbcDriver18</artifactId>    
    <version>1.8</version>    
     <scope>system</scope>    
      <systemPath>${project.basedir}/src/main/resources/lib/DmJdbcDriver18.jar</systemPath>
</dependency>

image.png

ii、nexus私服引入的方式

在pom.xml文件中,引入jar版本依赖

<dependency>    
  <groupId>com.dm</groupId>    
   <artifactId>DmJdbcDriver18</artifactId>    
    <version>1.8</version>
</dependency>

image.png

说明:这里的groupId坐标参数,可由使用者自行在nexus中upload创建声明,然后在pom.xml中引入相关坐标即可。

扩展:若是需要从本地deploy到nexus或是先获取本地仓库.m2的包->nexus仓库的包->aliyun maven仓库的包,为了解决开发过程中jar包拉取异常等问题,则在maven中settings.xml中可这样去配置:

<settings xmlns="http://maven.apache.org/SETTINGS/1.0.0"    
   xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"    
   xsi:schemaLocation="http://maven.apache.org/SETTINGS/1.0.0 http://maven.apache.org/xsd/settings-1.0.0.xsd">    
   <!-- 本地仓库 -->    
   <localRepository>D:/.m2</localRepository>    
   <mirrors>    
       <mirror>    
           <id>nexus</id>    
           <mirrorOf>*</mirrorOf>    
           <name>yd nexus</name>    
           <url>http://ip:port/repository/maven-public/</url>    
       </mirror>    
   </mirrors>
   <mirror>
    <id>alimaven</id>
    <mirrorOf>central</mirrorOf>
    <name>aliyun maven</name>
    <url>http://maven.aliyun.com/nexus/content/groups/public/</url>
   </mirror>   
   <profiles>    
       <profile>    
           <id>nexus</id>    
           <repositories>    
               <repository>    
                   <id>maven-snapshots</id>    
                   <url>http://ip:port/repository/maven-snapshots/</url>    
                   <releases><enabled>false</enabled></releases>    
                           <snapshots><enabled>true</enabled></snapshots>    
               </repository>    
               <repository>    
                   <id>maven-releases</id>    
                   <url>http://ip:port/repository/maven-releases/</url>    
                   <releases><enabled>true</enabled></releases>    
                           <snapshots><enabled>false</enabled></snapshots>    
               </repository>    
           </repositories>    
       </profile>    
   </profiles>    
   <servers>   
   <server>    
     <id>nexus</id>    
     <username>yxd179</username>    
     <password>yxd179</password>    
   </server>    
   <server>    
     <id>maven-releases</id>    
     <username>yxd179</username>    
     <password>yxd179</password>    
   </server>    
   <server>    
     <id>maven-snapshots</id>    
     <username>yxd179</username>    
     <password>yxd179</password>    
   </server>    
 </servers>    
 <activeProfiles>    
   <activeProfile>nexus</activeProfile>    
 </activeProfiles>    
</settings>

四、配置达梦数据库的信息

image.png

至此,达梦数据库环境安装,相关版本及其依赖的选取跟引入,配置信息完毕。

image.png
image.png

// 驱动-连接地址-账号-密码等信息
String driverClassName = "dm.jdbc.driver.DmDriver";
String url = "jdbc:dm://localhost:5236/";
String username = "yxd179";
String password = "yxd179";
// 加载驱动
Class.forName(driverClassName);
// 获取数据库连接对象
Connection con = (Connection) DriverManager.getConnection(url,username,password);
// 获取数据库操作对象
PreparesStatement ps = con.preparesStatement("SELECT COUNT(*) FROM TEST;");
// 执行sql
ResultSet rs= ps.executeQuery();
// 这里还可以获取到数据库产品名称
DatabaseMetaData metaData = (DatabaseMetaData) con.getMetaData();
// 这里为后续提到的在xml指定达梦的databaseId奠定基础
System.out.println("数据库产品名称:" + metaData.getDatabaseProductName());
最后需关闭连接close,释放资源->rs-ps-con. 
 

tk.mybatis:mybatis定制的第一大业务增强库。
pagehelper:分页控件,mybatis定制的第二大业务增强库。

image.png
image.png
其实,这都是需要我们care到的。当mybatis装配时,若是同一个方法被找到多条sql时,首先,会优先使用 databaseId 相同的 sql。若是没有 databaseId 相同的sql,其次,再使用未配置 databaseId 的 sql,而databaseId 未对应的 sql 不会使用。
image.png

image.png

image.png

(1)、当获取到的数据源信息为mysql,则执行图一中批量插入insertBatch方法;
(2)、当获取到的数据源信息为db2,则会去执行图二中批量插入insertBatch方法;
(3)、当获取到的数据源信息为oracle,则会去执行图三批量插入insertBatch方法。

这样我们就能极其简易的指定 databaseId,很多小伙伴肯定会说为什么需要这样去指定?其背后的原理又是怎样的,我们是否能够扩展并自定义 databaseId?框架这层的应用真能够提供的这么perfect吗?

在上一个Q-A中,我们已经get到了数据库产品的名称,可以从数据源连接对象中去获取,不妨从这里出发。这里先提出一点a little猜想,mybatis既然能够支持mysql,oracle,db2等等数据库,那么其他关系型数据库?肯定是提供一些这样的入口可以去扩展的,只是各种框架的适配程度不一样,都在不断兼容。

网上关于这块的资料并不全面,基于数据库产品名称这条线索,于是,小编封装了独立的适配器sdk,可作达梦等国产数据库适配。当然不同类型的数据库,后续在sdk中去扩展兼容都是可以做到的。

i、通过配置文件属性方式指定databaseId:
image.png
ii、 通过configuration配置类,往容器注入Bean方式指定databaseId:
image.png
iii、mybatis-config.xml配置方式指定databaseId:
image.png
至于小编封装的独立sdk,其主要思想结合SpringBoot-自动装配-条件配置:
image.png
image.png
image.png
image.png
image.png
image.png
image.png
记录:在适配的过程中还试出了达梦的幻读,达梦和Oracle一样默认的隔离级别都是读提交;还有特别需要注意的就是,在数据库中varchar类型的字段,比如在mysql中定义varchar(50),在写满的情况下为50个字符,到了达梦这边最多也就是varchar(150),当然可自行指定位宽,小编用的字符集是UTF-8,每个字符占三个字节,乘以三倍,就肯定是装得下的,详情请参考小编之前撰写的CSDN博文+公众号文章,目前达梦适配现有的框架为:SpringBoot+HiKari+MyBatis3.4.6+tk.MyBatis+PageHelper

https://blog.csdn.net/yxd179/article/details/115665824

Ok,Now,接入sdk适配后,启动的效果,大致如下:

image.png
image.png
image.png

protected BoundSql getPageBoundSql(Object parameterObject) {
    String tempSql = sql;
    String orderBy = PageHelper.getOrderBy();
    if (orderBy != null) {
        tempSql = OrderByParser.converToOrderBySql(sql, orderBy);
    }
    tempSql = localParser.get().getPageSql(tempSql);
    return new BoundSql(configuration, tempSql, localParser.get().getPageParameterMapping(configuration, original.getBoundSql(parameterObject)), parameterObject);
}

image.png

最后修改时间:2021-08-21 17:26:58
「喜欢这篇文章,您的关注和赞赏是给作者最好的鼓励」
关注作者
4人已赞赏
【版权声明】本文为墨天轮用户原创内容,转载时必须标注文章的来源(墨天轮),文章链接,文章作者等基本信息,否则作者和墨天轮有权追究责任。如果您发现墨天轮中有涉嫌抄袭或者侵权的内容,欢迎发送邮件至:contact@modb.pro进行举报,并提供相关证据,一经查实,墨天轮将立刻删除相关内容。

评论