暂无图片
暂无图片
暂无图片
暂无图片
暂无图片

电科金仓KFS组件介绍

原创 KFS补给站 2024-10-31
254

关键字:

金仓数据库、KingbaseFlySync、KFS、同步程序、replicator、数据同步、数据解析、增量同步、KFSMC、console、compare、组件、源端同步服务、master、目标端同步服务、salve

1.产品概述

KingbaseFlySync一种能够在异构数据平台间实现实时、增量数据同步的产品。面向异地容灾、数据集中共享与分发、数据分析平台建设、云迁移等业务场景。帮助用户实现数据在不同数据平台间可任意流转,并保证数据不丢失,状态可监控,流转数据量可统计,同步结果可校验。

2.产品组件

图片.png

KingbaseFlySync主要包含两大组件,分别为KFSMC和KFS服务端。

2.1KFSMC

基于WEB的可视化图形管理控制台,提供以下功能:
(1)实时监控
实时监控同步服务状态、收集同步数据;收集的同步数据包括:同步数据量(历史同步数据量、当日同步数据量、同步延时等)、系统故障信息、同步量变化趋势、历史表数据同步量排行等。
(2)部署管理
部署服务端同步服务(即源端以及目标端同步服务),管理安装同步程序的节点,收集、监控节点上同步程序以及同步服务的运行状态,以及部署同步服务的向导模式。
(3)数据搬迁
搬迁分为结构搬迁和数据搬迁,用于初次搭建同步服务后,为了保持源端和目标端存量数据一致,便于进行增量同步而产生;
同步服务搭建完成后,建议使用数据搬迁,保证源端目标端数据一致;
(4)数据比对
校验源端与目标端数据的一致性,支持差异数据的手动修复。
(5)数据修复
数据修复是对【数据比对】操作之后,自动修复数据校验任务校验结果有差异的数据,使其两边(源端/目标端)保持数据一致;可配置需要自动修复的任务以及自动修复的触发条件以及时间等。
(6)系统管理
管理和维护控制台登录用户以及角色权限等;
(7)告警管理
用于实现系统故障(同步服务状态异常)以及数据校验异常(结果有差异或者校验失败)后的自动告警。可配置系统故障的告警次数、触发条件等。当前系统支持两种异常告警,分别为:系统故障告警(即同步服务异常告警)、数据校验异常告警(包括校验失败和校验结果有差异两种异常);

KFSMC整体由管控服务(console)、比对服务(compare)、比对元信息库组成。管控服务提供基于图形界面的服务端(replicator)安装部署、实时监控、数据搬迁、系统管理、告警管理等功能。比对服务提供数据比对、数据修复功能。比对元信息库用于存放数据比对的结果数据。

2.2KFS服务端

实现在异构数据平台间实现实时增量数据端到端的数据同步功能。

KFS服务端整体由源端同步服务、目标端同步服务、KFS同步程序组成。

  • 同步程序(即replicator):
    作为同步服务(service)的容器,向物理机申请CPU,内存、端口等资源,其中要申请的内存大小可以通过参数进行配置。
    replicator本身没有源端和目标端的概念,只是一个容纳同步服务的容器。每个replicator都需要配置自身的环境变量。

  • KFS同步服务:
    运行在replicator容器中,通过replicator分配资源,同一个容器内的服务数量越多,单个服务获得的资源就越少。
    KFS的同步服务按角色可分为源端同步服务(master)和目标端同步服务(slave)。源端同步服务(master)负责解析的增量数据并进行落盘,目标端同步服务(salve)负责接收对应源端同步服务解析出来的增量数据并进行入库。因此一个完整链路的端到端的增量数据同步,必须要有一个源端同步服务(master)和一个目标端同步服务(slave)。
    图片.png

同一个同步链路上的源端和目标端服务通过KUFL监听通信,和所处的replicator的容器无关。同一个replicator中的同步服务,共用一份错误日志。

参考资料

参见金仓官网相关产品介绍,官网地址https://www.kingbase.com.cn

「喜欢这篇文章,您的关注和赞赏是给作者最好的鼓励」
关注作者
【版权声明】本文为墨天轮用户原创内容,转载时必须标注文章的来源(墨天轮),文章链接,文章作者等基本信息,否则作者和墨天轮有权追究责任。如果您发现墨天轮中有涉嫌抄袭或者侵权的内容,欢迎发送邮件至:contact@modb.pro进行举报,并提供相关证据,一经查实,墨天轮将立刻删除相关内容。

评论