暂无图片
暂无图片
暂无图片
暂无图片
暂无图片

GBase 8a 数据加载及集成

生命之源 2022-03-10
500

数据加载
集群加载具备如下特性和优点:
·与集群高度集成,无需额外部署;
·支持SQL及外部工具的加载方式,面向用户的SQL接口方式使集群加载与DML等数据操作方式统一;
·支持单表多数据源并行加载,支持多加载机对单表的并行加载,最大程度优化加载性能;
·支持从通用数据服务器远程读取数据,支持FTP/SFTP/HTTP/HTTPS/HDFS/Kafka等多种文件传输协议;
·支持普通文本、gzip压缩、snappy压缩和lzo压缩等多种格式数据文件加载;
·支持普通文本模式、定长文本模式和宽松模式加载;
·支持错误数据溯源功能,可以准确定位错误数据在源数据文件中的位置;
·支持实时查询加载进度和状态;
·加载性能可以随着集群规模的扩展而持续提升。

Kafka数据同步
数据同步系统通过Oracle Goldengate、GBase RTSync等工具复制Oracle、GBase 8s等数据库的业务数据到GBase 8a MPP Cluster,为了应对业务系统可能的峰值,在系统中加入Kafka消息队列作为缓冲区。以Oracle同步实时数据到GBase 8a集群为例,总体流程如下:


OGG发送端(GoldenGate Extract)从Oracle的在线日志和归档日志中抽取事务信息,生成Trail文件。OGG接收端(GoldenGate Replicat)收到Trail文件,抽取事务信息转换为目标格式,并生产事务消息到Kafka。集群的Consumer模块从Kafka中消费事务消息,将数据更新到GBase 8a MPP Cluster中。


Kafka consumer的主要功能就是同步Kafka数据到GBase 8a MPP Cluster:
·根据配置,可以指定需要同步的业务;
·在同步过程中,提供同步状态查询功能;
·实现数据同步的高可用性和事务数据一致性。

「喜欢这篇文章,您的关注和赞赏是给作者最好的鼓励」
关注作者
【版权声明】本文为墨天轮用户原创内容,转载时必须标注文章的来源(墨天轮),文章链接,文章作者等基本信息,否则作者和墨天轮有权追究责任。如果您发现墨天轮中有涉嫌抄袭或者侵权的内容,欢迎发送邮件至:contact@modb.pro进行举报,并提供相关证据,一经查实,墨天轮将立刻删除相关内容。

评论