
Mistral AI 正在与微软合作,将其大型语言模型引入 Azure。在去年12月,Mistral AI 的开源模型 Mixtral-8x7B 和 Mistral-7B 已经添加到 Azure AI 模型目录中。今天,我们很高兴地宣布,Mistral AI 的新的旗舰版模型 Mistral Large 也在 Azure AI 模型目录中亮相。Mistral Large 模型将通过“模型即服务”(Models-as-a-Service,MaaS)提供,提供基于 API 的访问和基于 Token 的计费方式,使构建人工智能应用程序变得更加容易。开发人员只需数秒即可配置 API 端点,并在 Azure AI Studio 沙盒中试用该模型,或将其与业内常用的大语言模型应用程序开发工具一起使用,例如:Azure AI 提示流和 LangChain。API 支持两层安全性,首先,模型内置了对“安全提示”参数的支持;其次,启用了 Azure AI Content Safety 可筛查模型生成的有害内容,帮助开发人员构建安全可信的应用程序。

000000000000000000
● 在 Azure 上使用 Mistral Large 的费用是多少?
根据提示和完成 token 的数量计费。您还可以在 Azure Marketplace 上找到定价:
https://azuremarketplace.microsoft.com/zh-cn/marketplace/apps/000-000.mistral-ai-large-offer
● 使用 Mistral Large 时,是否需要 Azure 订阅中有GPU 容量?
不需要。与使用在线端点部署到带有 GPU 的虚拟机的 Mistral AI 开源模型不同,Mistral Large 模型作为 API 提供,是一种高级模型,因此无法自行将其部署到虚拟机。
● Azure Machine Learning Studio 中是否支持Mistral Large?
是的,Azure AI Studio 和 Azure Machine Learning Studio 的模型目录中都有 Mistral Large。
● Azure 上的 Mistral Large 支持函数调用和 Json 输出吗?
Mistral Large 模型可以进行函数调用和生成 Json 输出,对这些功能即将在 Azure上推出。
● 我可以直接从 Azure Marketplace 购买和使用 Mistral Large 吗?
Azure Marketplace 支持 Mistral Large 的购买和计费,但购买只能通过模型目录访问。如果尝试从Azure Marketplace购买Mistral Large,将被重定向到Azure AI Studio。
● 鉴于Mistral Large是通过Azure Marketplace计费的,这是否会消耗我的Azure消费承诺(MACC)?
是的。Mistral Large是“Azure权益”产品,符合MACC条件。关于 MACC 的具体信息,请参考
https://learn.microsoft.com/zh-cn/marketplace/azure-consumption-commitment-benefit
● 我的推理数据是否会共享给 Mistral AI?
不会,Microsoft 不会与 Mistral AI 共享任何推理请求或响应数据的内容。
● Azure 上的 Mistral Large API 是否有速率限制?
Mistral Large API 具有每分钟 20 万个token和每分钟 1 千个请求的限制。如果这还不够,请联系 Azure 客户支持。
● Mistral Large Azure API 是否针对特定区域?
Mistral Large API 端点可以在 AI Studio 项目中创建,并连接到美国东部 2 区或法国中部 Azure 区域的 Azure 机器学习工作区。如果要在其他地区的项目或工作区的提示流中使用 Mistral Large,可以手动使用 API 和密钥进行连接。基本上,只要在美国东部 2 区或法国中部创建了 API,就可以在任何 Azure 区域使用 API。
● 我可以微调 Mistal Large 模型吗?
暂时还不支持, 敬请期待 。
立即使用 Mistral Large,提升您的 AI 应用吧!






