微软获评2024 Gartner® 数据科学和机器学习平台魔力象限™ 领导者

2024年5月，微软连续五年被评为 Gartner® 云 AI 开发者服务魔力象限™中的领导者，其中我们在愿景完整性（Completeness of Vision）方面名列前茅。我们很高兴获得 Gartner 的这些认可，并将继续帮助各种规模的企业客户（大型企业及敏捷初创企业），将他们的 AI 技术、机器学习模型和应用程序，安全且大规模地投入生产。  

Azure AI 在专用 AI 基础设施、负责任的 AI 工具等方面处于领先地位，并帮助跨职能团队利用机器学习运营（MLOps）针对生成式 AI 技术和传统机器学习项目进行有效协作。Azure 机器学习可访问 Azure AI 模型目录中的各种基础模型，包括最近发布的 Phi-3、JAIS 和 GPT-4，还可使用工具微调或构建自己的机器学习模型。此外，该平台还支持丰富的开源框架、工具和算法库，使数据科学和机器学习团队能够在一个可信赖的基础上，通过自己的方式实施创新。 

Azure 机器学习可帮助企业快速高效地构建、部署和管理高质量的AI技术解决方案，无论是从头开始构建大型模型、在预训练模型上运行推理、将模型作为服务投入使用，还是针对特定领域对模型进行微调。Azure 机器学习运行在同样强大的 AI 基础设施上，这些基础设施为全球一些受欢迎的 AI 技术提供支持，如 ChatGPT、Bing 和 Azure OpenAI 服务（国际版）。此外，Azure 机器学习与 ONNX Runtime 和 DeepSpeed 的兼容性还可以帮助客户进一步优化训练和推理时间，以提升性能、可扩展性和能效。

无论您的企业是使用开源框架从头训练深度学习模型，还是将现有模型迁移到云端，Azure 机器学习都能让数据科学团队使用弹性的云计算资源扩展训练作业，并实现从训练到部署的无缝过渡。通过托管的在线端点，客户可以在强大的 CPU 和图形处理单元（GPU）机器上部署模型，无需管理底层基础设施，从而节省时间和精力。同样，在将基础模型作为服务从 Azure AI 模型目录中部署时，客户也无需配置或管理基础架构。这意味着客户可以轻松地在从本地到边缘的生产环境中部署和管理成千上万个模型，用于批量和实时预测。 

机器学习操作（MLOps）和大型语言模型操作（LLMOps）处于人员、流程和平台的交汇点。随着数据科学项目的规模扩大和应用程序变得越来越复杂，有效的自动化和协作工具对于实现高质量、可重复的成果至关重要。 

Azure 机器学习是一个灵活的机器学习操作（MLOps）平台，旨在支持任何规模的数据科学团队。该平台使团队能够轻松共享和管理机器学习资产，利用与 Azure DevOps 和 GitHub Actions 的内置互操作性，构建可重复的管道，并持续监控生产中的模型性能。通过与 Microsoft Fabric 等微软数据源以及 Snowflake 和 Amazon S3 等外部数据源的数据连接，进一步简化了 MLOps 与 MLflow 的互操作性还使数据科学家能够轻松地将现有工作负载从本地执行扩展到云端和边缘设备上，同时将所有 MLflow 实验、运行指标、参数和模型工件存储在一个集中的工作区中。 

Azure 机器学习的提示流具有 LLMOps 功能，可协调由模型、提示、API、Python 代码以及矢量数据库查询和内容过滤工具组成的可执行流，有助于简化生成式 AI 应用的整个开发周期。Azure AI 提示流可以与 LangChain 和 Semantic Kernel 等流行的开源框架一起使用，使开发人员能够将实验流引入提示流，以扩展这些实验并运行综合评估。开发人员可以共同调试、共享和迭代应用程序，将内置的测试、跟踪和评估工具集成到他们的 CI/CD 系统中，以持续重新评估应用程序的质量和安全性。然后，开发人员只需一键操作，即可部署应用程序，并在生产过程中监控流量的关键指标，如延迟、令牌使用和生成质量。最终实现端到端的可观察性和持续改进。 

公平、安全和透明等人工智能原则并非是自动执行。因此，Azure 机器学习为数据科学家和开发人员提供了实用的工具，使他们能够在工作流程中实现负责任的人工智能，无论他们是需要评估和调试传统机器学习模型是否存在偏差，保护基础模型免受提示注入攻击，还是监控生产中模型的准确性、质量和安全性。 

负责任的人工智能仪表板可帮助数据科学家在整个机器学习生命周期内评估和调试传统机器学习模型的公平性、准确性和可解释性。用户还可以生成 “负责任的人工智能记分卡”，记录模型性能详情并与业务相关者共享，从而做出更明智的决策。同样，Azure 机器学习的开发人员可以查看模型卡和基准，并进行自我评估，以便从 Azure AI 模型目录中选择最适合其使用案例的基础模型。然后，他们可以应用纵深防御方法，通过内置功能进行内容过滤、基于最新数据的根源分析和安全系统消息的提示工程来减轻 AI 风险。通过提示流中的评估工具，开发人员可以使用内置指标和自定义指标迭代地测量、改进和记录其大规模缓解措施的影响，以便数据科学团队能够自信地部署解决方案，同时为业务利益相关者提供透明度。 

在当今数据驱动的时代，有效的数据安全、治理和隐私保护，要求每个企业对其数据、人工智能技术和机器学习系统有全面的了解。AI 治理还需要不同利益相关者（如 IT 管理员、AI 和 ML 工程师、数据科学家以及风险和合规角色）之间的有效协作。除了通过 MLOps 和 LLMOps 实现企业可观察性外，Azure 机器学习还可帮助企业确保数据和模型受到保护，并符合最高的安全和隐私标准。 

借助 Azure 机器学习，IT 管理员可以通过用户帐户或组限制对资源和操作的访问，控制传入和传出的网络通信，加密传输和静态数据，扫描漏洞，并通过 Azure Policy 集中管理和审核配置策略。数据管理团队还可以将 Azure 机器学习连接到 Microsoft Purview，使包括模型、数据集和作业在内的 AI 资产元数据自动发布到 Microsoft Purview 数据地图。这使数据科学家和数据工程师能够观察组件是如何共享和重用的，并检查训练数据的源头和转换，以了解任何依赖性问题的影响。同样，风险和合规专业人员也可以跟踪哪些数据用于训练模型，基础模型是如何微调或扩展的，以及模型在不同生产应用中的应用情况，并将其作为合规报告和审计的证据。 

最后，通过启用 Azure Arc 支持的 Azure 机器学习 Kubernetes 扩展，企业可以在任何 Kubernetes 集群上运行机器学习工作负载，从而确保跨混合公有云和内部部署环境的数据驻留、安全性和隐私合规性。这使得企业可以在数据所在的位置处理数据，满足严格的监管要求，同时保持对 MLOps 的灵活性和管理能力。此外，利用 Azure 机器学习和 Azure 机密计算的联合学习技术，客户可以在不同的数据源上训练强大的模型，而无需复制或移动数据原有所在的安全位置。 

机器学习正在不断改变企业在数字时代的运营和竞争方式——无论您是希望优化业务运营、提升客户体验，还是进行创新。Azure 机器学习提供了一个强大且灵活的平台，以负责任的方式实现人工智能创新。