【Zilliz】向量数据库全球部署，全力驱动企业生成式 AI 新探索

Zilliz 成立于2017年，致力于简化 AI 数据管理基础设施，通过向量数据库赋能更多企业。依托亚马逊云科技的全球安全合规的基础设施， Zilliz 构建了开源向量数据库 Milvus、全托管云服务 Zilliz Cloud，并完成全球业务部署，帮助企业和开发者更好地拥抱 AI 时代机遇。

Zilliz 提供面向 AI 应用的新一代数据库技术，帮助企业便捷开发 AI 应用。依托于亚马逊云科技的全球基础设施，并结合全托管能力，Zilliz 快速构建了开源向量数据库 Milvus、全托管云服务 Zilliz Cloud，并完成全球业务部署，帮助企业和开发者更好地拥抱 AI 时代机遇。目前，Zilliz 使用的亚马逊云科技产品与解决方案包括：Amazon Elastic Kubernetes Service (Amazon EKS)、Amazon Simple Storage Service (Amazon S3)、Amazon Managed Streaming for Apache Kafka (Amazon MSK)、Amazon Aurora、Amazon Graviton3、Amazon Key Management Service (Amazon KMS) 等。

生成式 AI 技术快速的发展使非结构化数据的量级以惊人的速度增长，但传统数据库的处理能力却捉襟见肘，痛点恰恰意味着机会的出现，在研发出能够快速准确地检索、处理大量非结构化数据的 Milvus 后，Zilliz 成为向量数据库的全球先行者。为了检验产品是否真的能够完美满足客户需求，Milvus 从发布之日起即开源，捐赠给了 Linux 基金会。截止目前，Milvus 在 GitHub 上拥有超过27,900个星标和260多位贡献者，全球范围内得到了5,000多家客户的青睐，已经成为全球使用极广泛的向量数据库之一。为了将向量数据库进一步普及化，Zilliz 在2023年推出了全托管的向量数据库云服务产品 Zilliz Cloud，可提供百亿级向量数据毫秒级检索能力，Zilliz 也变成一个开源且基于云的商业化的公司。

随着生成式 AI 时代的到来，“AI 幻觉” 成为大模型应用的主要痛点之一，向量数据库作为 “大模型记忆体”，能够通过检索增强生成（Retrieval-Augmented Generation，简称 RAG）的方式进行知识增强，让大模型变得博闻强识。Zilliz 业务已遍布全球多个大洲，但要进一步实现快速扩张，仍然面对许多亟待解决的挑战，包括：

● 安全合规方面的风险识别和应对；

● 全球业务如何统一部署；

● 加快产品在海外的敏捷上线；

● 云成本不可见；

● 海外人才缺失；

● 海外区域的营销推广难展开。

Zilliz 合伙人兼技术总监栾小凡以开拓欧洲区域遇到的支付问题举例说明：“欧洲的税收制度特别复杂，协议条款也存在差异，对于初创企业来讲，没有太多人力去研究解决不同国家、地区税收政策，如何确保在遵守相关的税务法规前提下帮助客户成功完成支付，成了 Zilliz 十分头疼的事情之一。”

Zilliz 基于业务发展战略需求考量，选择与亚马逊云科技合作，借助其安全合规的全球云基础设施、多元丰富的产品体系以及完善的服务网络，来降低全球化部署难度和合规风险，提升系统稳定性和数据安全性，实现应用快速上线和成本的节约，更好地为全球客户提供稳定可信、体验更佳的向量数据库服务。

由于 Zilliz 没有物理服务器机房，且业务增长比较快，所以产品架构需要具备快速响应、弹性伸缩、按需获取、资源维护托管等功能。Milvus 和 Zilliz Cloud 在设计之初就采用云原生架构，存储计算完全分离，通过亚马逊云科技的托管服务来搭建弹性、稳定的数据库集群。方案遵循数据流和控制流分离的原则，整体分为四层，分别为协调服务（Coordinator Service）、接入层（Access Layer）、工作节点（Worker Node）和存储层（Storage），通过 Amazon EKS 来统一部署与管理容器化应用，并使用对象存储 Amazon S3 进行数据存储，使用消息服务 Amazon MSK 实现各个核心组件之间的解耦。

Amazon EKS 可跨三个可用区运行 Kubernetes 控制平面以确保高可用性，并且可自动检测和替换运行状况不佳的平面节点，通过 Amazon EKS 调度、编排容器化应用，能够提升整体资源利用率，同时结合持续集成、持续交付（CI/CD），使得应用发布与迭代过程更加迅速。在部署至亚马逊云科技时，Zilliz 选择了 Amazon Linux 2 作为执行环境来开发和运行云应用程序，通过 Amazon Linux 2 对新 Amazon EC2 实例功能的支持，提升应用整体的性能和稳定性。目前，Zilliz 可承诺提供99.9%的服务运行时间。

栾小凡表示：“Zilliz 需要为全世界客户提供24小时不间断的向量数据库服务，在业务繁忙时，Zilliz 技术团队每天需要创建上百个集群，亚马逊云科技的云服务在弹性扩展、稳定性和高可用性方面都很出色，让我们能够快速部署覆盖全球的向量数据库服务。” 

此外，业务增长带来了欣喜，云上成本攀升也随着业务发展成为阻碍扩张的掣肘。为了应对这一挑战，Zilliz 使用 Amazon Cost Explorer 结合 Resource Tag 进行月度账单分析，以报表的方式清晰显示不同部门和不同工作负载的成本开销，从而让管理人员能够对 Amazon EC2 的使用进行成本优化决策。通过分析，Zilliz 发现使用 Amazon Graviton3 可提升20%性价比，而任务型工作负载通过 Amazon EC2 Spot Instances 则能获得更好的性价比，充分证明了 Zilliz 和亚马逊云科技在软硬件联合优化方面的深度合作，成效显著。

Zilliz 基于亚马逊云科技的系统架构示意图

Zilliz 需要借助云厂商全球基础架构建立全球统一的业务部署，满足不同地区业务的即时需求变化。亚马逊云科技拥有遍布全球的云基础设施，覆盖33个地理区域，提供105个可用区，可以为245个国家和地区的客户提供服务，有助力于 Zilliz 为全球客户提供近距离的高质量服务，且无需操心基础架构的运维管理，为业务拓展提供更好的运营支撑。

Zilliz 始终将安全、合规、稳定放在全球化战略的首要位置。通过应用 Amazon KMS、Amazon Transit Gateway、Amazon NAT Gateway 、Amazon GuardDuty  等一系列网络和安全服务，实现了对数据、应用和基础设施的保护，确保系统稳定运行并及时应对任何问题。借助亚马逊云科技在数据安全标准与合规性上的众多认证，Zilliz 简化了审计流程，可以满足各国监管机构的合规性要求，能够更加顺利、便捷地在不同区域为客户提供服务。

除此之外，亚马逊云科技 Marketplace（海外区） 为 Zilliz 提供了丰富的自动化 API，支持快速上架、账单集成、税务咨询等服务，极大提高了业务新区域拓展的便利性。Zilliz Cloud 上架到亚马逊云科技 Marketplace（海外区）后，即便是面对欧洲财税政策复杂的问题，Zilliz 也无需担心，客户可以直接在亚马逊云科技 Marketplace（海外区）上为使用的向量数据库服务付费，极大减少 Zilliz 全球化进程中的障碍。事实上，Zilliz 的很多客户也已经在使用亚马逊云科技的服务，对于云上采购非常熟悉和接受，与此同时，亚马逊云科技本身就是这些客户信赖的品牌，通过亚马逊云科技 Marketplace（海外区），Zilliz 能够更好地触达高质量的全球客户群体。

采用云原生架构，基于 Amazon EKS 等服务部署的数据库集群方案具有可扩展性和高可用性特点，客户使用 Zilliz Cloud 可以轻松构建百亿级向量数据库，部署和扩展向量搜索服务。依托于亚马逊云科技遍布全球的云基础设施，Zilliz 技术团队仅用1个月时间就完成了美国西部地区业务的部署上线，每开设一个新区的平均时间缩减为一周。后续，Zilliz 将在美国东部、新加坡、法兰克福等区域建立全球统一的业务部署，并在日本和爱尔兰新增服务站点。

Zilliz 通过月度成本分析，将成本优化落实到已有的架构中，比如将大部分应用运行在亚马逊云科技 Amazon Graviton3 实例之上，帮助应用提升20%左右的性价比；部分批量作业场景中使用 Amazon EC2 Spot 实例，该部分工作负载较之前降低了60%的成本。Amazon Cost Explorer 成本管理服务可以帮助 Zilliz 选择适当的实例以平衡成本和性能，将节省的成本重新投入到产品创新中。

“亚马逊云科技的产品设计合理，能够给予 Zilliz 技术人员很多启示和借鉴，同时，亚马逊云科技专业技术服务团队还会和我们分享全球客户的丰富实践，为 Zilliz 业务部署提供高效指导。” 栾小凡如是说。

栾小凡非常明确地表明，Zilliz Cloud 上线亚马逊云科技 Marketplace（海外区）后，在整个客户留存率方面获得极大提升，相比早期的信用卡支付方式，客户在亚马逊云科技 Marketplace（海外区）上支付可以简化内部流程，从而帮助 Zilliz 降低获客成本。此外，Zilliz 正在与亚马逊云科技 Marketplace（海外区） 合作，发掘更多联合销售的机会，共同对接客户，从而获得更多的发展机会。

在生成式 AI 应用推动下，客户对向量数据库的需求也在不断增长。未来，Zilliz 将继续依托亚马逊云科技的全球基础设施，加速业务全球拓展，同时还计划尝试 Amazon S3 Express One Zone、Amazon Graviton4 以及 Serverless 相关的更多亚马逊云科技的创新服务，帮助全球企业和开发者在 AI 和大模型的浪潮中保持领先地位。

Zilliz 成立于2017年，主要研发 AI 场景的向量数据库，在2019年开源了向量数据库产品 Milvus，并且把这个产品捐赠给 Linux 基金会，在 GitHuB 上获得了2.7万颗星，拥有超过5000家企业客户。Zilliz Cloud 是完全托管的向量数据库服务，目前支持 SAAS 订阅和独立部署两种模式。