（本文翻译自微软官方博客）
我们非常高兴地宣布 Azure AI Content Safety 现已正式发布。Azure AI Content Safety 能够检测应用程序中用户生成的和 AI 生成的有害内容，并可以支持文本、图像和多模态（文本+图像）内容检测。此外，除提供 API 接口，Azure AI Content Safety 还提供了 UI Studio，使客户可以便捷地探索和尝试。
有害内容有可能损害品牌形象、破坏用户信任，并使平台面临潜在法律责任。
尤其是随着 AI 生成内容的普及，确保 AI 生成内容的准确性、可靠性，且不存在有害或不当的内容至关重要。内容安全不仅能够保护用户免受错误信息干扰及潜在伤害，还维护了伦理标准，构建了对 AI 技术的信任。通过关注内容安全，我们可以创造一个更安全的数字环境，促进对 AI 的负责任使用。
基于此，微软负责任的 AI 团队正在构建一个具有强大安全模型和技术的多层系统。
关键功能 1
多语言
Azure AI Content Safety 能够审核100多种语言的内容，确保在尊重地区差异和文化敏感性的前提下，创造一个安全的环境。
关键功能 2
多类别
Azure AI Content Safety 可以检测多种类型的有害内容。用户可以在其 API 请求中指定要检查的类别，例如仇恨言论、暴力、自残或性。
关键功能 3
严重程度评分
产品提供根据输入内容的“严重程度”评分指标，用户可根据需要选择四级或八级严重程度进行评分。Azure AI Content Safety 将针对每个类别返回严重程度级别。
南澳大利亚教育部 将人工智能引入课堂环境中。然而，如何负责任地使用 AI 这一议题引发了重大讨论。教育部的数字架构总监 Simon Chapman 强调了需要保护学生免受潜在有害内容的重要性，尤其是基于未经筛选的互联网数据训练的大型语言模型所生成的内容。Azure AI Content Safety 因过滤有害响内容而获得了该组织的高度好评—。
“如果不是一开始就使用了 Azure AI Content Safety ，我们无法以如此快的速度取得进展。在使用 AOAI 的同时使用 Content Safety ，实现负责任的 AI 是必不可少的环节。”
——Simon Chapman
南澳教育部数字架构总监
壳牌 开发了一个名为 Shell E 的生成式 AI 平台，使团队基于大型语言模型构建和部署应用程序。该平台帮助员工更有效地访问和使用知识库，生成和总结内容、生成代码等。
“Azure AI Content Safety 在 Shell E 平台治理中发挥了关键作用，它支持文本和图像检测，同时能够限制有害内容的输出。”
——Siva Chamarti
壳牌 AI 系统高级技术经理
Azure AI Content Safety 提供了对用户非常友好的 UI 体验，同时可以使用 API/SDK 快速集成到您的工作流中。
🧑🏻💻 API/SDK 集成
借助 Azure AI Content Safety API/SDK， 您能够无缝集成到应用程序或平台中。只需发送您的内容，即可进行分析并得到该内容所对应的严重程度结果。
🧑🏻💻 Azure AI Content Safety Studio
为了获得更具交互性的体验，Azure AI Content Safety Studio 提供了一个 Web 界面。它支持快速的内容安全测试。借助监控仪表板的附加优势，您可以轻松跟踪和管理内容安全配置。Studio 提供了一个用户友好且可定制的环境，使您能够高效、有效地管理和维护内容安全的各项内容。
无论您选择集成 API/SDK 进行自动化内容分析，还是利用 Azure AI Content Safety Studio 解锁更多 UI 实践，Azure AI Content Safety 都提供了灵活且以用户为中心的解决方案，以满足您的内容安全需求。
如果您或您的客户对 Azure AI Content Safety 感兴趣，欢迎与我们联系。商务联系方式：contentsafetysupport@microsoft.com
# 参阅文档
立即开始内容安全之旅
🔗 复制链接至浏览器中打开
⇲ Azure AI Content Safety 门户
https://aka.ms/acs-acom
⇲ Azure AI Content Safety 技术文档
https://aka.ms/acs-doc
⇲ Azure AI Content Safety Studio
https://aka.ms/acsstudio
⇲ 参阅使用 API/SDK 的快速入门文档
https://aka.ms/acs-api
# 更多 AI 资讯
🔗 点击即可阅读
[1] Azure OpenAI 服务正式推出 Fine-tuning（微调）功能
[2] 面向 Azure DevOps 的 GitHub 高级安全功能正式发布
