暂无图片
暂无图片
暂无图片
暂无图片
暂无图片
首页 / 案例 | 云上高并发数据分析【架构选型篇】

案例 | 云上高并发数据分析【架构选型篇】

Kyligence 2021-09-07
185
 

摘要

1800+ 家客户，40+ 个国家，每年 80+ 亿笔交易记录，这是美国某大型 SAAS 公司云上数据分析架构探索与实践！

在 Kyligence Cloud 2020 大会上，Kyligence 首席架构师史少锋分享了某美国大型SAAS 公司在服务遍布全球 40+ 个国家的 1800+ 家客户的背后，所面临的海量数据分析挑战与日俱增。建设新的数据平台迫在眉睫，该公司新的平台如何做到高性能、高并发的同时降低总体拥有成本？详情请见下文。

客户简介



该 SAAS 公司位于硅谷，以 AI 技术见长，为企业提供自动化的报销审核服务。以前企业里报销票据需要管理者以及财务人员人工审核，效率低且容易出错，给企业带来财务风险和漏洞，造成资金的浪费；近年来，随着企业的信息化的普及，以及 AI 技术快速发展，很多的财务审计可以先由 AI 程序自动来完成，从而大幅度减少人工核对的工作量，并提高效率和准确度。

截至目前，这家公司已经为超过 1800 家的大型企业提供自动的财务审批，每年处理的审批的报销记录超过 80 亿笔，其超过 1/3 的客户是世界 500 强企业。

项目背景



该 SAAS 公司的客户数据以全托管的模式存放在亚马逊云（AWS）上，随着业务的快速发展，海量的客户数据迅速累积，客户对这些数据也提出了越来越强的访问需求，建立一个 DaaS 平台迫在眉睫。

该公司需要将这些数据按照客户需求提供高性能的访问 API 以及各类分析报告，从而提高客户满意度，增加用户黏性；另一方面，该公司也希望通过为客户提供附加服务找到新的业务增长点，创造更多营收。

原有方案



在使用 Kyligence 之前，该 SAAS 公司已建立了一个初步的从 OLTP 到 OLAP 的方案：原始数据主要存储在业务数据库 RDS（AWS RDS）中，为了避免对业务库的影响，该公司定期对该 RDS 创建快照，然后在另外一个 RDS 中恢复出来；为提升数据访问性能，会使用存储过程来计算各种物化视图，对数据进行预先的加工和计算。随后对接分析报表，通过 SQL 来查询物化视图达到提升性能的目的。

该公司明细数据量大，按照报表访问的方式去创建不同的物化视图，此此方法虽然可行，但存在诸多挑战。

例如：从业务库到分析库是以全量导出的方式，整个过程会花费若干个小时，而且容易出错。从分析库的明细数据加工到物化视图需要人工编写 SQL 脚本来执行；随着分析报表越来越多，物化视图也会越来越多，因此开发运维的成本也会越来越高。

可能大家会问：为什么不能够直接在业务库进行查询？

这是因为 OLTP 和 OLAP 两种负载会造成资源冲突：当做数据分析的时候，需要扫描大量的历史数据，会对交易型的业务造成影响，所以必然要将业务库和分析库分离。即便是分开，分析库也有很多的选择，例如 AWS 自带的 Redshift 分析型数据仓库等，但是客户做过测试，发现它的性能和并发达不到要求。

面临的挑战

该公司的分析平台目前主要面临以下挑战：

架构难扩展，处理能力弱

  • 使用传统 RDBMS，不能水平伸缩。

  • 聚合查询通常超过 5 秒，并且难以同时运行多个查询。


开发效率低

  • 新需求需要前后端一起开发，周期长，投入大。

  • 无法提供灵活分析。


数据延迟久

  • T+1 重刷物化视图，刷新平均需10小时以上。


单个库容量有限

  • 仅能存放近半年历史数据，不能存放全量。


因为既有方案存在很多的问题，该公司最后找到了 Kyligence，并提出了对新平台的具体要求。

对新平台的要求



对于新的平台，该 SAAS 公司提出了四个方面的要求。

自助开发：首先新的架构要能够支持业务人员做自助的数据模型开发，可以支持灵活的分析。同时，新的架构需要能够支持机器学习的接入，因为该公司的核心就是AI，希望能够从新的技术平台上获得额外的数据输入。

高性能，高并发：考虑到平台的分析报告服务面向客户的高层管理人员，用户体验非常重要，该公司对性能有非常高的要求：明确要求95%的查询小于2秒，最慢的查询不能超过10秒；能够支持到高并发，例如可以每秒完成超过100个查询；为了应对用户和数据的快速增加，体系架构需要能按需伸缩。

安全隔离：平台存储和管理着多个客户的财务数据，具有较高的敏感性，所以该公司对安全隔离的要求很高：平台需在私有VPC内部署，数据加工不能出VPC；要能够支持多租户部署；具备自动的数据备份，数据管控要可以做到行列级的权限控制。

云原生：该公司的平台整体运行在AWS上，因此新的平台需要能与AWS集成；优先使用S3存储数据，以在可承受的成本内达到更高的可靠性；平台需有丰富的API可以跟现有的CICD做集成。

解决方案：Kyligence Cloud



基于上述调研，Kyligence 为该公司提出了 Kyligence Cloud 方案。Kyligence Cloud 是一站式云原生数据仓库，提供：

  • 数据湖/云端数据源的对接。支持直接对接云上的数据源，比如说S3、 RDS。

  • 工作区的创建和管理。可以满足多租户的需求。

  • 集群部署/监控/伸缩。部署时间不超过5分钟。

  • 数据建模/智能加速。Kyligence  Cloud 具有AI增强的分析模式，用户不仅可以便捷地创建业务分析模型，而且能对不同的查询做智能加速。

  • 数据洞察/自助服务。包括Kyligence Insight、MDX、SQL 接口，可以连接到客户的不同分析系统。


Kyligence Cloud DaaS 方案介绍



最终，Kyligence 为该公司建立了一个从 SAAS 到最终分析的端到端的 DaaS 解决方案。

第一步：对数据源进行 ETL。因为数据源的表比较多，会按需启动 AWS EMR，把数据通过 EMR 里的 Sqoop 任务抽取出来，随后使用 Spark SQL 进行现场 Join 和二次加工;

第二步：把初步加工好的明细数据导入 S3 中，通过 Apache Hudi 来管理数据的增量修改，实现多版本管理并保证每次修改的原子性。Hudi 有很多丰富的功能，能用比较小的代价实现在大量数据上的插入和修改，比传统的存储如 Kudu 成本更低，可以直接使用 S3。

第三步：数据增量进入 Hudi 数据集后，通过特定的 API 识别数据的新增或者修改，从而触发 Kyligence Cloud 对数据进一步的聚合预算（构建或刷新）。Kyligence Cloud 会申请 AWS 的计算资源，从 Hudi S3 获取新增或修改的数据，然后按照模型进一步计算。

第四步：完成数据准备后，客户可以通过我们提供的 Restful  API 或 JDBC/Python 等连接器无缝对接 Kyligence Cloud。整个端到端的 Workflow 通过 Airflow 进行调度，以连接到这里面的每一个组件。

Kyligence Cloud DaaS 方案亮点


  1. 引入新技术 Apache Hudi。这个项目开始的时候， Hudi还在Apache孵化器，它帮助在海量数据上进行代价比较小的Upsert，同时可以保证每一批数据修改的原子性。在此之前，在大数据集上做增量更新有时候会失败，导致数据不一致，需要管理员的手动介入，成本非常高。在今年初的时候，AWS EMR官方宣布集成了Hudi并提供技术支持，进一步证明这个方案是可行的，为我们带来了信心。


  2. 集成 Alluxio 分布式缓存，解决性能和并发的问题。Alluxio可以透明地把热数据Cache在内存或者本地磁盘中，把冷数据存储在S3中。一方面提高了查询访问的性能，另一方面减少对S3 API的调用，减少网络带宽使用，从而进一步帮助节省成本。


  3. 读写分离。Kyligence Cloud采用两个Spark集群，一个集群用于数据加工计算，另外一个集群用于线上查询，以此确保数据负载的分离，保证查询的高稳定。计算数据的集群可以自动按需启动，而且根据数据量大小，自动向AWS请求合适的计算资源。这可以大幅度节省资源，因为在云上CPU是非常昂贵的。


  4. Airflow 全自动的调度。我们为客户基于 Airflow 开发了端到端的数据加工链路，实现了全流程的自动化调度、自动告警、自动重试等；最终做到端到端的增量数据更新延迟小于1小时。


  5. 数据不出VPC，所有计算都在客户的 VPC 内，只能通过 VPN 接入，从而保证了高安全性。


自助分析



通过模型把多达 50 个的常用维度提供给该客户的内部业务分析师，用户可以自由组装维度。该需求非常紧急， Kyligence 项目组完成了开发和 UAT 仅用时两周。最终，性能压测的效果非常好，几乎100%的查询在 2 秒以内完成，而且平均查询的时间小于 1 秒，这也得益于前述进行的大量优化。

管理者视图



报销审批通常由 Manager 负责，每一层级的 Manager 会定期审查他所管理部门所有人的报销数据，在大型企业中汇报链最高可达 12 级，例如 CEO 会审视公司所有人员的汇总数据。使用传统技术，很难确保对各个等级的管理者提供一致的、高性能的分析报告，而使用 Kyligence 的高级分析模型仅需一次计算就完成所有层级的统计。

性能表现上，该平台可以支撑 60 个用户的同时访问，98%的查询在两秒内，平均的查询时长小于 1 秒，其它分析方案很难达到这样的效果。统计下来每天成本只需要200 到 300 美金。


疫情过后，该公司也在官网上适时推出对该 DaaS 产品的介绍。通过这个产品用户可以对财务数据获得全视图的理解，而且业务人员可以在自助地创建出他们想要的分析报告。目前此业务正在推广中，将助力该客户转型并开拓新的增值业务！

第一时间获得行业洞察、案例、产品动态
请关注 Kyligence 公众号


关于 Kyligence
Apache Kylin 在 PB 级别数据上带来了开创性的即时分析能力，并被全球超过1000多家企业所使用。由 Apache Kylin 核心团队创立的 Kyligence 公司的使命以自动化数据管理、发现、交互及洞察来为其客户提升生产效率。

Kyligence 获得了来自红点、思科、宽带资本、顺为资本、斯道资本（富达国际自有投资机构）及 Coatue Management 等投资机构的多轮投资，其全球客户包括欧莱雅、Xactly、招商银行及华为等。公司以双总部运营，中国总部位于上海，美国总部位于美国加利福尼亚硅谷圣何塞。

联系我们
网站：https://kyligence.io/
邮件：info@kyligence.io
电话： +86 21-61060928


点击“阅读原文”下载 PPT

数据库
文章转载自Kyligence，如果涉嫌侵权，请发送邮件至：contact@modb.pro进行举报，并提供相关证据，一经查实，墨天轮将立刻删除相关内容。

评论