暂无图片
暂无图片
暂无图片
暂无图片
暂无图片

搞清楚“数据网格”和“数据经纬” ⎪ 十万个是什么

Vertica 2023-03-24
585

#十万个是什么

数据网格/

数据经纬

4 个要点说透 ►

· 它们有什么区别

· 如何从技术上实现

· 两者择一,如何选择

· 现代数据库的答卷



 01   ●  数据网格数据经纬有什么区别?


数据网格(Data Mesh)数据经纬(Data Fabric)到底是当今最伟大的倡议之一,还是拉动销售额的最新流行语?

要准确地判断,很难。但从另一角度想,所有这些新兴的企业级举措都有共同的目标——处理多元异构数据。如果能灵活利用不同数据,且无需复制或移动数据,其将产生的宝贵价值是显而易见的。

我们知道,数据网格和数据经纬采取的方法不同,应对的数据问题也不尽相似。它们都注重元数据和语义层,以及利用多数据源进行分析,主要的区分似乎在于上下文背景:

  通俗而言,数据网格关乎向分析引擎提供各种数据源的能力。使用这一技术的前提是,您需要确保源数据文件的结构及背景坚实可靠,要明确知道是谁、何时、何地、为何以及如何创建数据,因为数据网格受到数据策略的直接影响。比如,分析您所在公司数据仓库的数据,这是一个原始元数据定义相当明确的用例。

  数据经纬的重点则在于数据协调/调度、元数据管理,以及新增额外的上下文背景。其中语义层管理是重点,您需要使用语义层来表示关键的企业数据,并围绕数据开发通用语言。因为它可以将复杂数据映射为大家所熟悉的业务术语,比如产品、客户或收入,以提供跨整个组织的、统一、综合的数据视图。生物制药试验是可以使用数据经纬的好例子,所有数据来自机器、报告及其他研究组合,几乎没有准确的元数据可以依赖。这类数据也可能非常“稀疏”,大量的行列可能都是空白的。



 02   ●  数据网格数据经纬之技术方案


可以确定的是,当前还没有打包的数据网格或数据经纬解决方案。截至本文发出时,还没有一个一站式的数据网格及数据经纬商店出现。换言之,它们并非成熟的软件商品,需要您通过多种解决方案并行推进。

不过,您可以用自己的技术,来创建专属于您企业的数据网格或数据经纬。比如:


 现代数据库 

现代数据库可以利用数据网格式的外部表。比如 Vertica 支持无缝使用 PARQUET 等文件类型,而且无需手动加载至主资源库。此外,如果您有 AVRO、JSON 或 TEXT 等半结构化数据,有一种简单的方法来利用它们,比如读中模式。如果您拥有不同数据源,并希望类似数据库中的数据一样灵活利用它们,那么这一功能对您创建数据网格是很有价值的。

 查询引擎/查询加速器 

整整一代的查询引擎(也被称作“查询加速器”)革命也使数据网格成为可能。类似 Dremio、Starburst 和 Druid 这样的解决方案,主要侧重于分析外部表格,它们有时会缺乏 ACID 兼容性和做高并发分析的能力,但对数据网格式结构的工作负载有帮助。不过,越来越多的现代数据库新增了查询引擎,允许同时在数据库和数据湖中开展无缝查询。

 可视化工具 

一些先进的可视化工具拥有自己的语义层系统。比如,微策略(MicroStrategy)就提供了抽象层,为理解多来源数据提供了一致性的方式;此外,它还能将复杂数据映射为熟悉的商业术语。这种能力不仅有利于简化数据结构,而且还能充分利用数据库的外部表功能。这是非常强大的。

 图数据库 

图数据库擅长编排与背景信息,是许多数据经纬解决方案背后的核心引擎。通过图数据库来实现数据经纬是一个困难的项目,但完成后您将得到一个真正的数据经纬架构。

 数据虚拟化 

AtScale 和 Denodo 等数据虚拟化工具,为商业智能(BI)和数据科学团队提供了一致的视图,用以消费数据。当然,现代数据库也有类似的数据虚拟化功能。

 数据目录 

数据目录是企业数据资产的组织性清单。像 Collibra 这样的公司通过收集、组织、访问和充实元数据,来提供数据发现和治理目录。

 企业内部对象存储 

将所有数据存储在中心的位置可能会有帮助。比如对象存储,让您在同一个地方集中管理数据库、数据存储库和数据湖,并具有极佳的性能、安全性和灾难恢复能力。出于此原因,Pure、Vast Data、Dell ECS 等公司的对象存储系统可以帮助您实现数据网格。

👈🏻 向左移动解锁更多 👈🏻


揭开数据网格的神秘面纱

发现数据网格新概念背后的一些原则,搞清楚可扩展、高价值、高性能的现代数据库将如何帮您提供数据网格架构 ▸▸▸



 03   ●  选哪个:数据网格还是数据经纬


数据网格是一种高效访问不同数据的方法,尤其是当数据源都不同的时候,其效果异常显著。以下是适用于数据网格的数据形式:


具备结构性

维度变化不大

没有“稀疏”数据


如果说数据网格存在任何弱点,那就是上下文背景的缺失。如果您的分析需要回应“根据谁”的问题,那么数据经纬可以更有力地解释这一点。

当数据工程师在将所有来源整合在一起时,经常会遇到数据“打架”的情况。例如新系统表示客户的年龄是 32,而传统数据则表示同一个客户的年龄是 30。数据脉络(Data lineage)是数据经纬的附加功能之一,用以帮助确定您应该更信任哪个数据源。

数据经纬解决方案倾向于利用更多工具,来解决不同数据之间的统一性问题。这些工具通常非常“优雅”,但比数据网格更为复杂。它们可能包括更大的转换能力、增强的细粒度安全性、受管理的可视化界面和前后脉络。但它同样存在局限性,那就是您需要花费更多精力来创建并管理语义层。

那些兜售数据经纬的供应商经常宣传知识图谱(knowledge graph)的功能。它用结构化和非结构化数据的语义表示,取代了数据网格的数据整合策略,通常能更好支持多个模式及其变化的维度。



 04   ●  现代数据库的“会心一击”


现在的数据,往往被打散遍布于各种数据库、数据仓库和数据湖。而云数据库在访问外部数据方面的表现,天差地别。

某些解决方案要求数据以特定格式存储于数据仓库中,并不提供对数据湖的支持;还有一些支持数据湖,但需要采购多种工具来实现。

如果您能找到一个既能处理常见格式(如 ORC、PARQUET、AVRO、JSON)又能在日常分析中优雅、快速地利用所有数据来源,同时还能整合组织中现有其他数据库的解决方案(通过数据虚拟化实现),那是再好不过了。



遍寻最佳数据分析解决方案而不着?别犹豫了,Vertica 将是您的理想之选


湖仓一体的统一分析平台 Vertica,是 OpenText 旗下核心的大数据分析平台。它具有大规模可扩展的架构,具有广泛的分析功能集,涵盖事件和时间序列、模式匹配、地理空间和端到端的数据库内机器学习等。并能将其轻松应用于苛刻的大数据分析挑战。

从飞利浦到中国电信,从萃奕到美国万通,Vertica 服务于众多全球领先的数据驱动型企业,提供市场上无与伦比的速度,以及指导业务策略的预测性洞察力。

最新 Vertica 12 版本提供基于 AWS 的 SaaS 服务,并通过 BYOL(自带许可证)模式跨企业内部数据中心、主要公共云、多云及容器化环境等,帮助您快速处理海量数据。

 分享 就是爱 ⎪ 我知道你  在看  

文章转载自Vertica,如果涉嫌侵权,请发送邮件至:contact@modb.pro进行举报,并提供相关证据,一经查实,墨天轮将立刻删除相关内容。

评论