亚马逊云科技 Marketplace 可以帮助您利用领先的技术进行创新，其中包括来自70余个类别、超过4,000家卖家的15,000余种产品，当然，也包括生成式 AI 相关产品。本篇内容将探讨亚马逊云科技 Marketplace 上可用的核心和基础设施软件产品。
您能够多快开始使用生成式 AI？
毫无疑问，2023年是生成式 AI 的转折点。广泛适用的用例与用户需求相结合，为各种类型和规模的组织采用这项改变游戏规则的技术带来了紧迫性。亚马逊云科技合作伙伴网络已准备就绪，通过产品和解决方案帮助您快速高效地部署生成式 AI 工作负载，从而更快地实现生成式 AI 的全部潜力。
自2023年4月亚马逊云科技推出生成式 AI 服务以来，亚马逊云科技 Marketplace 上的生成式 AI 合作伙伴产品列表一直在快速发展。这些产品让您可以访问整个技术栈的各个层面（见下图1所示的亚马逊云科技生成式 AI 技术栈的三个层面）的正确工具和资源，以推动成功的生成式 AI 解决方案并使其具备扩展能力。
图1：亚马逊云科技生成式 AI 技术栈
为了帮助您广泛了解合作伙伴解决方案，我将分享亚马逊云科技 Marketplace 合作伙伴产品的分类框架。我将它们分为核心（生成式 AI 的核心产品，如基础模型和向量数据库）和基础设施软件产品、特定用例的软件和咨询产品，以及按客户阶段分类的生成式 AI 专业服务产品。在本文中，我将重点介绍核心和基础设施软件产品（如下图2所示）。
图2：亚马逊云科技 Marketplace 上的
核心和基础设施合作伙伴产品
核心和基础设施软件产品
可分为三大类：
1、基础模型（FMs）和向量数据库
2、大型语言模型运营（LLMOps）、可观测性以及安全和隐私工具
3、计算服务、推理端点和预置产品
基础模型（FMs）和向量数据库
基础模型和向量数据库是生成式 AI 系统的核心组件。基础模型赋予系统理解和响应提示的能力，而向量数据库用于存储和检索各种数据点，基础模型利用这些数据点来提高响应的准确性和可靠性。利用亚马逊云科技 Marketplace 中的基础模型和向量数据库合作伙伴产品，可帮助您快速启动项目，并确信您获得了经过专家开发和支持的技术，这些技术与亚马逊云科技无缝集成，简化了部署和管理，优化了性能和可扩展性。
基础模型是在广泛的通用数据上训练的复杂机器学习模型，能够生成原创内容并以自然语言进行对话。您可以从 Amazon SageMaker 和 Amazon Bedrock 上提供的数十种前沿基础模型中进行选择。除此之外，亚马逊云科技 Marketplace 还提供来自 A121 Labs、Cohere、Stability.ai、LightOn、Jina AI、Voyage AI、Upstage、Alt Inc、Nomic、Maritaca AI、NCSOFT 和 Twelve Labs 等合作伙伴的基础模型。
Amazon Bedrock 是一项全托管服务，通过单一 API 提供来自 AI21 Labs、Cohere、Meta、Mistral AI、Stability.ai 和 Amazon 等领先生成式 AI 公司的基础模型选择。
Amazon SageMaker JumpStart 是一个机器学习中心，提供对基础模型、内置算法和预构建的机器学习解决方案的访问，您可以在几个步骤内部署它们。它提供了对来自 AI21 Labs、Amazon、Cohere、Hugging Face、Stability.ai、Meta AI、LightOn 等知名模型提供商的基础模型的访问。
合作伙伴故事：Cohere
Cohere 全球合作伙伴关系负责人 Vinod Devan 表示，很自豪能够成为亚马逊云科技合作伙伴网络的一部分，企业客户可以在亚马逊云科技 Marketplace 上访问我们领先的大型语言模型。我们相信生成式 AI 对企业具有巨大潜力，我们致力于与亚马逊云科技合作，帮助公司从概念验证阶段进入生产阶段。Cohere 的 Command 和 Embed 模型具有高度可扩展性，并针对高级 RAG 功能进行了优化，可提供准确的信息和引用，从而减少幻觉。我们找到了一个与我们同样重视数据隐私和客户安全的合作伙伴，通过与亚马逊云科技合作，我们能够向大量企业提供我们最先进的大型语言模型，企业可以利用生成式 AI 的力量来简化工作流程、个性化客户体验并创造真正的业务价值。我们期待继续帮助企业客户发挥生成式 AI 的全部潜力，提高生产力和效率。
向量数据库可让您存储和检索作为高维点的向量。它们通常用于支持视觉、语义和多模态搜索。它们还可以与生成式 AI 文本模型配对，创建提供对话式搜索体验的智能代理。向量数据库在生成式 AI 的最常见实现模式之一——检索增强生成（RAG）中扮演着关键角色，并非常适合实现推荐和个性化用例。
一些向量数据库在亚马逊云科技 Marketplace 上以软件即服务（SaaS）的形式提供。其中包括 DataStax Astra DB、Elastic Cloud 的 Elasticsearch Service、Weaviate、Pinecone、MongoDB Atlas、Zilliz、Qdrant、Redis、Neo4j Aura、SingleStore、Kx Kdb Insights、CrateDB 和 Couchbase Capella。Franz Inc AllegroGraph 和 Unum UniStore CE 则以 Amazon 机器映像（AMI）的形式提供。
合作伙伴故事：MongoDB
Scalestack 联合创始人和 CEO Elio Narciso 表示，通过选择亚马逊云科技作为其云提供商，Scalestack 能够保持较低的云成本并实现数据使用的弹性。Scalestack 还使用 MongoDB Atlas Vector Search 进行 RAG，以便对大型数据集执行快速搜索并利用向量相似性。Scalestack 的使命是帮助组织释放销售生产力，我们与 MongoDB 和亚马逊云科技的关系对此至关重要。使用 Scalestack 的生成式 AI，客户显著减少了研究时间并大幅提高了生产力。客户的销售代表生产力提高了40%，GTM 团队平均在 Scalestack 上获得了53倍的投资回报率，这是由 Scalestack 影响的收入增量衡量的。
LLMOps、可观测性以及安全和隐私工具
这些工具用于优化生成式 AI 系统的可靠性、性能和安全性。LLMOps 从降低部署和运行大型语言模型的复杂性开始，而可观测性工具则在模型运行后提供其行为见解。高级安全和隐私工具对于缓解处理敏感或私人数据所固有的风险至关重要。亚马逊云科技 Marketplace 可让您快速轻松地查找、购买和开始使用这些工具。更好的是，您可以从受信任的合作伙伴那里获得精心策划的选择，帮助您加速云创新。
LLMOps 和可观测性工具对于加快生成式 AI 项目的价值实现时间并降低运营管理复杂性至关重要。它们还可以为高度监管行业的企业提供可解释性。亚马逊云科技 Marketplace 上的 SaaS 产品包括 CraftAI MLOps 平台、Comet MLOps、Arthur、Abacus.AI 平台、Weights&Biases AI 开发平台和 Union Cloud。还有一个 AMI 选项 LangGenius Dify，以及一个在 Amazon SageMaker 上的选项 Mphasis Factual Consistency Metric-LLMOps。
安全和隐私工具有助于保护生成式 AI 应用程序并维护隐私。亚马逊云科技 Marketplace 上的 SaaS 解决方案包括 Bosch 的 AIShield GuArdIan、Add Value Machine 的企业生成式 AI 安全中心、Portal26 的 AI TRiSM、MixMode 实时威胁检测和响应、Compliance.sh 基于生成式 AI 的安全合规性自动化，以及 Blink Ops Blink 安全自动化协作助手。
合作伙伴故事：AIShield
一家大型跨国工程和科技公司希望利用大型语言模型和生成式 AI 驱动的内部聊天机器人。他们意识到，在构建、解释和审查代码时，借助生成式 AI 聊天机器人可以显著提高软件工程师的生产力，因此他们开始评估实施和使用挑战。为了负责任和谨慎地实施，在软件工程师编码过程中使用的聊天机器人内部，有必要实施严格的控制措施，以防止知识产权流失、数据泄露、越狱尝试、侵犯版权以及引入代码漏洞，从而确保合规的编码环境并遵守安全代码实践。
AIShield CEO&CTO Manojkumar Parmar 表示，利用亚马逊云科技基础设施和我们创新的方法，我们构建了一个系统，能够熟练地吸收组织的编码标准并在生成的代码中执行合规性检查——无论是作为大型语言模型的输入还是输出。作为结果，该公司现在能够将知识产权和数据泄露风险降低90%，同时将越狱尝试的有效性提高近400%，并保持使用生成式 AI 带来的开发人员生产力提升。IT 开发团队中的聊天机器人开发人员只需五行代码更改就能集成 GuArdIan 中间件，并在不到2小时内部署 GuArdIan 功能。此外，GuArdIan 的交互式响应可作为一种重要的学习工具，通过区分适当和不当的查询来增强开发人员与大型语言模型交互时的行为。实时监控允许立即采取行动应对潜在的安全和安全风险。推理和可观察性功能为查询决策提供了详细的解释，有助于合规审计并加强了负责任的生成式 AI 使用。
亚马逊云科技 Marketplace 还提供了不同的部署选项，可根据特定需求和偏好进行定制，例如使用 AMI 启动预配置了软件堆栈的虚拟机（VM）、在 Amazon Elastic Container Service（Amazon ECS）的托管环境中运行容器化应用程序，或通过 Amazon Elastic Kubernetes Services(Amazon EKS)使用 Kubernetes 编排功能。这些选项来自诸如 Philterd Airlock、SpinSys MDACA PrivateGPT with Keycloak、Private AI:Detect、Redact and Anonymize PII 以及 Tonic 等合作伙伴。
合作伙伴故事：Elastic
Randstad Group Netherlands 全球安全运维负责人 Stijn Holzhauer 表示，多年来，Randstad 一直在使用 Elastic Security 运行其安全运营中心（SOC）、进行深入可见性监控并响应云工作负载中的威胁。现在，我们正在寻求安全地在生产环境中利用生成式 AI 进行检测工程，尤其是对于我们规模虽小但实力强劲的安全团队。我们期待实施 Elastic 的 AI Assistant，以缩短调查时间、减少技能短缺的影响并提高我们的检测能力。
平台、计算服务、推理端点和预置产品
这一类别的产品有助于开发、部署和管理生成式 AI 模型。它们提供了创建、训练、部署和使用生成式 AI 所需的工具、基础设施和解决方案。由于使用了云计算，它们为您提供了扩展性、灵活性和可访问性，让您能够利用生成式 AI 的强大功能，而无需大量硬件资源或专门的内部专业知识。
生成式 AI 平台产品提供了应用程序、库或框架以及用于开发、部署和管理生成式 AI 模型的基础设施。它们的范围从端到端平台到低代码和无代码开发平台。SaaS 解决方案包括 Fireworks AI、Stratio Generative AI Data Fabric、Arcee.ai SLM Adaptation System、IBM watsonx Orchestrate、FriendliAI Friendli Dedicated Endpoints、Reconify、Vectara GenAI Platform、Saturn Cloud、TrustPortal for Amazon Web Services Generative AI 和 Articul8 AI。
还有通过 AMI、Amazon CloudFormation 模板、Amazon Elastic Compute Cloud（Amazon EC2）和 Amazon EKS 提供的解决方案，包括 NVIDIA AI Enterprise、Intel Distribution of OpenVINO Toolkit、Ai Bloks llmware for Enterprise-Grade LLM Applications、ZS Max.AI Platform、Datasaur.ai LLM Labs 和 ecosystem.Ai platform。计算服务、推理端点和预置产品提供了各种履行选项，例如 SaaS 模式下的 OctoAI 和 Amazon SageMaker 中的 MK1 Flywheel。基于 AMI 和 Amazon CloudFormation 模板的解决方案包括 Meetrix.io 和 Apps4Rent 产品。
一站式满足您的生成式 AI 需要
在亚马逊云科技，我们很高兴能与您合作，利用生成式 AI 来帮助您重塑客户体验、创建新应用程序并提高生产力。我们最近推出了亚马逊云科技 Marketplace 生成式 AI 合作伙伴解决方案页面，帮助您快速轻松地找到值得信赖和安全的生成式 AI 解决方案。该页面展示了生成式 AI 模型、工具、应用程序和专业服务的列表，旨在加速创新。您可以将其作为起点，寻找一家生成式 AI 解决方案提供商，帮助您启动转型之旅。
作者简介
Amit Singh
Amit 是亚马逊云科技全球 GTM 和用例、生成式 AI 和机器学习合作伙伴关系的负责人。工作之余，他喜欢踢足球、阅读书籍、探索新啤酒，并享受户外活动，如划船和徒步旅行。
特别声明：前述特定亚马逊云科技生成式人工智能相关的服务仅在亚马逊云科技海外区域可用，亚马逊云科技中国仅为帮助您了解行业前沿技术和发展海外业务选择推介该服务。
点击阅读原文，了解亚马逊云科技Marketplace 生成式 AI 合作伙伴解决方案！
期待你的分享 收藏 在看 点赞！
亚马逊的一小步，云计算的一大步！
