暂无图片
暂无图片
暂无图片
暂无图片
暂无图片

海量智库第15期|VastEM使用自研采集器采集指标

海量数据 2023-07-20
378


VastEM作为企业数据库自动化运维监控平台,在监控数据库时需要实时采集数据库及运行服务器的指标信息,以便进行监控展示,同时实现风险预警、告警通知等功能。数据采集的功能由采集器具体实现,具体见如下图collector(下文统称:采集器)部分:




如下图,采集器设计上主要有两个模块构成:注册中心(Register Module)和数据采集(Collector Module)。注册中心模块需要维护注册列表,包括采集器节点的上线、续约、下线;另外注册中心需要对注册的采集器节点负载均衡其所需要采集的任务信息,以实现整体采集器的横向扩展需求。数据采集模块则根据注册中心分配的任务信息生成定时调度的采集作业,同时暴露接口供Prometheus拉取指标数据。




在实际使用场景中,用户通过VastEM平台新增所需监控的数据源信息;注册中心会根据当前在线的采集器情况,负载新增数据源的采集配置信息到指定采集器上,接着采集器更新自身的任务调度进行定时采集。为此,采集器具有以下功能特性:


1

采集器具有动态上下线能力

仅需要配置注册中心的地址信息,采集器启动后,将定时向注册中心发起心跳;注册中心根据采集器节点发送的心跳信息进行注册/续约,另外,会下线超时未续约的采集器节点,实现采集器的动态上下线能力。


2

采集器具备分布式部署的可扩展能力

注册中心会根据在线的采集器节点动态负载均衡各个节点的采集任务,在这过程中依靠特定算法避免因为采集节点变化导致的调度任务惊群效应。通过横向扩展采集器节点数量,以应对更多数据库监控的场景。


3

采集器具有智能化调度能力

采集器采用高效的调度模型并发执行批量采集作业,每个采集作业都有独立的调度配置;另外,程序运行时采集作业的相关配置也可以被动态更新。


4

采集器具有多样的采集作业模型

采集器内置了除Vastbase G100以外,多种数据库(MySQL、SQL Server和PostgreSQL等)的常见指标采集作业,也内置了获取操作系统指标的采集作业,他们通过JDBC及SSH方式连接目标执行采集。另外还内置了若干可自定义的采集作业模型供用户配置。



图文编辑|程筱淇

内容审核|市场营销部


于海量数据

北京海量数据技术股份有限公司(股票代码:603138.SH)成立于2007年,是国内首家以数据库为主营业务的主板上市企业。公司十余年来秉承“专注做好数据库”的初心,始终致力于数据库产品的研发、销售和服务。核心产品海量数据库Vastbase系列、数据库一体机Vastcube系列,全栈国产化,应用满足度高,目前广泛应用于政务、制造、金融、通信、能源、交通等多个重点行业,已成为国产企业级数据库的首选之一。


文章转载自海量数据,如果涉嫌侵权,请发送邮件至:contact@modb.pro进行举报,并提供相关证据,一经查实,墨天轮将立刻删除相关内容。

评论