（本文翻译自微软全球官方博客）
微软很高兴与 Meta 合作，在 Azure 国际版AI模型目录中引入 Meta Llama 3模型。Meta-Llama-3 - 8B -Instruct 、Meta-Llama-3-70B-Instruct 预训练和指令微调模型是下一代Meta Llama 大语言模型，现已在 Azure 国际版 AI 模型目录上提供。根据 Meta 的报告显示，在 Azure 国际版上使用 Meta Llama 3 模型对大量预训练数据进行训练后，开发人员明显可以感受到整体性能得到显著的提升。微软很高兴能成为 Meta 的启动合作伙伴，这意味着，当企业和开发人员在 Azure 国际版上使用 Meta Llama 3构建模型时，也将得到 Azure AI 提示流和 LangChain 等热门的大语言模型（LLM）开发工具的支持。
#01
Meta Llama 3有哪些新功能？
Meta Llama 3包含预训练和指令微调语言模型，旨在处理各种用例。正如 Meta 公司称，Meta-Llama-3-8B、Meta-Llama-70B、Meta-Llama-3-8B-Instruct 和 Meta-Llama-3-70B-Instruct 模型在行业标准基准和高级功能方面都有显著改进，例如改进了推理能力。此外，模型对后训练过程进行了重大改进，从而大大降低了错误拒绝率，并提高了模型响应的一致性和多样性。Meta 公司称，Llama 3 不仅保留了其仅用于解码器的转换器架构，还包含了一个更高效的标记器，这也使得它的整体性能得到了显著提高。根据 Meta 的描述，这些模型的训练组合涉及数据并行化、模型并行化和流水线并行化，横跨两个专属设计的 24K GPU 集群，未来还计划扩展到可容纳 350K H100 GPU。
#02
扩展视野：Meta Llama 3现已作为 Azure 国际版 AI 模型即服务正式可用
2023年11月，我们在 Azure 国际版 AI 模型目录上推出了 Meta Llama 2模型，标志着我们首次尝试提供模型即服务（MaaS）。随着对我们不断扩展的模型即服务产品的需求日益增长，企业和中小企业的众多 Azure 客户已在其组织内迅速开发、部署和运行了企业级生成式人工智能应用。
Llama 3的发布表明了我们的坚定承诺，即利用 Azure 国际版 AI 优化基础设施的规模、实现从开源到专有模型的全方位功能，并增强企业利用生成式 AI 技术构建未来的能力。
Azure 国际版 AI 提供各种先进且用户友好的模型，使客户能够基于应用需求选择最切合的。在过去的六个月中，我们通过与领先的生成式人工智能模型提供商合作，并发布了 Microsoft Research 的 Phi-2，将模型目录扩展了七倍。Azure 国际版 AI 模型目录允许开发人员从 1,600 多个基础模型中进行选择，包括来自 Meta、Cohere、Databricks、Deci AI、Hugging Face、Microsoft Research、Mistral AI、NVIDIA、OpenAI 和 Stability AI 等行业领导者的 LLMs 和 SLMs 模型。如此丰富的选择可确保 Azure 客户在 Azure 国际版 AI 模型目录上找到最适合其用例的模型。
#03
在 Azure 国际版 AI 模型即服务中使用 Meta Llama 3D 的优势是什么？
使用 Meta Llama 3模型的开发人员可以与 Azure AI Studio 国际版中的工具无缝配合，例如 Azure AI Content Safety、Azure AI 搜索和提示流，以增强道德和有效的 AI 实践。以下是 Meta Llama 3 与 Azure、Azure 国际版 AI 和模型即服务（Models as a Service）顺利集成和强大支持系统的一些主要优势：
这些功能表明，Azure 致力于提供一个环境，让企业能够高效、负责任地利用 Llama 3 等人工智能技术的全部潜力，在推动创新的同时保持高标准的安全性和合规性。
#04
立即在 Azure 国际版 AI 模型即服务上使用 Meta Llama 3
要开始使用 Azure AI Studio 国际版并部署您的第一个模型，请按照以下详细步骤进行：
#05
展望未来
最新 Meta Llama 3 模型的推出了坚定了我们扩展人工智能的使命。随着我们不断创新和扩展模型目录，我们承诺提供易于访问、功能强大且高效的人工智能解决方案，通过从开源到专有的全系列模型选项，为开发人员和企业赋能。
#06
在 Azure 国际版上构建 Meta Llma 3
我们诚挚的邀请您，在 Azure 国际版 AI 模型目录中使用最新的 Meta Llama 3模型，并尝试将最先进的人工智能技术集成到您的应用中。
#07
常见问题解答
在 Azure 国际版上使用 Meta Llama 3模型的费用是多少？
您需要根据提示（prompt）和完成令牌（completions tokens）的数量付费。部署模型时，您可以在市场（Marketplace）报价详细信息信息中查看 Cohere 报价。您还可以在 Azure Marketplace 上找到定价：
● Meta-Llama-3-8B-Instruct
🔗 https://aka.ms/azure-marketplace-offer-llama-3-8b-chat
● Meta-Llama-3-70B-Instruct
🔗 https://aka.ms/azure-marketplace-offer-llama-3-70b-chat
在单个端点后纵向扩展/缩减使用Llama 3模型需要 Azure 订阅中的 GPU 容量吗
不需要，Llama 3模型是作为 API 提供的。
Llama 3 已在 Azure Marketplace 上发布。我可以直接从 Azure Marketplace 购买和使用 Llama 3 吗？
Azure Marketplace 支持 Llama 3 的购买和计费，但购买体验只能通过模型目录访问。尝试从Marketplace 购买 Llama 3模型将重定向您到 Azure AI Studio 国际版。
鉴于 Llama 3 是通过 Azure Marketplace 计费的，它是否会计入我的Azure消费承诺（也称为MACC）？
是的，Llama 3 是“符合 Azure 权益”的市场产品，具备 MACC 资格。
● 了解有关 MACC 的更多信息
🔗 https://learn.microsoft.com/zhcn/marketplace/azure-consumption-commitment-benefit
我的推理数据是否与 Meta 共享？
不会，微软不会与 Meta 共享任何推理请求或响应数据的内容。
Azure 国际版上的 Meta 模型有速率限制吗？
Meta 模型每分钟最多支持200,000个令牌和每分钟最多支持1,000个请求的限制。如果这不够，请联系Azure 客户支持。
Meta模型是否针对特定区域？
可以在 AI Studio 国际版项目中创建 Meta 模型 API 端点，并将其连接到 EastUS2 中的 Azure 机器学习工作区。基本上，只要在 EastUS2 中创建了 API，就可以在任何 Azure 区域使用它。
我可以微调 Meta Llama 3 模型吗？
暂时还不能。
*所有发布内容均由微软全球产品与服务提供，各个国家或地区客户的产品可用性取决于当地情况。
