面向开发人员的人工智能：在 Azure OpenAI 服务中探索全新的工具和 API

人工智能（AI）的真正潜力最近充分展露。AI 的下一次重大突破，不会仅仅局限在拥有强大模型，而在于实现 AI 与数据和系统的互联。

通过使用微软智能云 Azure 的 AI 能力，用户能够访问全球多款语言模型，包括 GPT-4模型、Turbo 和 GPT 模型 API。利用 Azure OpenAI 服务，您可以按需定制这些模型，轻松完成内容摘要、数据交互、揭示客户洞察等任务。而如果您希望轻松访问 Azure OpenAI 服务，则可以利用 REST API、Python SDK，或是 Azure AI Studio 中用户友好的、基于Web的界面等方式。

在微软 Build 2023 大会上，微软智能云 Azure 非常高兴地推出了一系列极具开拓性的新功能，这些功能将助您实现 AI 与数据和系统之间的集成，打造前所未见的创新。您可以使用自己的数据，在这些尖端模型上运行，添加插件以简化与 API 的外部数据源集成，预配吞吐量，从而实现对 OpenAI 大语言模型配置和性能的掌控。此外，您还可以控制配额和速率限制，以及创建和配置内容过滤器。接下来，我们将进一步介绍这些新功能。

Azure OpenAI 服务数据支持（Azure OpenAI Service on your data）是一项全新功能，将于六月发布海外版公共预览。该功能将助力企业用户在符合企业自身政策的前提下，利用 GPT 模型和 GPT-4 模型等 OpenAI 强大的对话式人工智能模型，处理企业数据。借助 Azure OpenAI 服务数据支持，企业可以利用上述模型进行对话、查看数据引用，以及根据自有数据定制对话体验。

Azure OpenAI 服务数据支持功能高度可定制，可以根据企业数据和计划，直接提供解答，从而满足不同企业的具体需求。借此，企业用户可以享受更快、更准确的沟通，提升客户服务质量，提高企业生产力。

包括宜家和沃尔沃在内的客户，都在利用这一功能来大规模挖掘商业洞察，改善终端用户体验。

插件（Plugin）是一种标准化接口，开发人员可以借此构建和使用 API，扩展大语言模型（LLMs）功能，并在 Azure 和微软生态系统中与GPT-4模型深度集成。七月面向开发人员发布的海外版有限预览中，将包含以下插件：

     ■  Bing 搜索

     ■  Azure 认知搜索

     ■  Azure SQL

     ■  Azure Cosmos DB

     ■  微软翻译

尽管本次有限预览仅提供预构建的插件，但客户很快也将能够在 Azure OpenAI 服务中使用自己的插件。我们将遵循与 OpenAI 相同的插件构建标准，因此插件将在这两个平台之间完全实现互操作。

预配吞吐量（Provisioned throughput）功能是 Azure OpenAI 服务即将提供的一项新服务，客户借此将更好地掌控 OpenAI 大语言模型的配置和性能。该功能在保证吞吐量的前提下，提供了与 OpenAI 模型的专用连接，吞吐量以提示和完成的每秒标记（tokens/sec）来测量。该功能将在六月以有限的访问权限正式在Azure全球版发布。

客户可以首先额定使用的吞吐量单位总数。同时，想要使用的 OpenAI 模型可以分配到特定收费标准下的多少资源额度，客户也可以灵活更改、增强掌控。毕竟每个模型运行所需的单位数量不同。客户可以选择不同的收费标准，但要注意，每 100 个单位的收费标准不同，且超过收费标准的部分将收取额外费用。

在选择为期 1 个月或 1 年的收费标准之后，客户就能明确自己需要多少预配吞吐量，从而节省开支。预配吞吐量模型为工作负载需求提供了更好的控制和灵活性，确保系统在出现较高工作负载时也能及时应对。该功能还为实时应用程序提供了一致的产品体验和吞吐量。

Azure OpenAI 服务现已加入配额（Quotas）功能，防止过度使用，确保所有客户都能合理使用。配额可以在资源组级别进行设置，针对提示、完成和训练，分别设置不同的配额。客户可以在 Azure 门户中查看配额的当前使用情况和剩余配额。

使用可配置内容过滤器（Configurable content filters），客户可以详细列出禁止或允许使用的单词、短语和实体。可配置内容过滤器能够应用于所有文本的提示和完成，确保输出内容适合目标受众。该功能充分可定制，客户可以详细配置自己的过滤器，也可使用 OpenAI 提供的默认过滤器。

微软致力于以人为本的原则，推动 AI 发展。Azure OpenAI 服务提供的生成式模型具有重大的潜在优势，但如果未经慎重设计，或是缺乏周全的缓解措施，模型很有可能生成不正确甚至有害的内容。目前，微软已经在防止模型造成滥用和意外伤害上做出了巨大努力。我们的努力包括要求申请人展示明确定义的用例、将微软原则纳入负责任 AI 的使用、构建内容过滤器以助力客户，以及向新客户提供负责任 AI 的实施指导。