微软最近发布了一款新的人工智能内容审核工具，叫做Azure AI Content Safety。该公司声称，这款工具将创建一个健康和和谐的社区环境。该公司还表示，它将减少图片或文字中与偏见、仇恨、暴力等相关的负面内容。这款人工智能内容审核工具，Azure AI Content Safety实际上是在今年5月正式推出的。但是，这款工具已经经过了几个月的测试。经过严格的测试后，该公司今天正式发布了这款工具。

无论负面内容是在文本还是图像中，Azure AI Content Safety都提供了一系列经过训练的人工智能模型来检测它们。该工具还可以理解和检测八种语言的图片或文字。该工具会给被标记的内容分配一个严重程度分数，指示人类审核者哪些内容需要采取行动。这款内容审核工具最初是集成到Azure OpenAI服务中的。但是，微软现在正式将其作为一个独立的系统推出。

微软在一篇官方博客文章中写道。

“这意味着客户可以使用它来处理来自开源模型和其他公司模型的人工智能生成的内容，以及一些用户生成的内容，进一步扩展其功能。”

微软说，与其他类似产品相比，这款产品在公正性和理解上下文方面有了显著的改进。但是，这款产品仍然依赖于人类审核者来标记数据和内容。这意味着，最终，它的公平性取决于人类。在处理数据和内容时，人类审核者可能带来自己的偏见。

什么是Azure AI Content Safety？

Azure AI Content Safety是一个使用人工智能保护你的内容安全的内容审核平台。它是一个使用先进的语言和视觉模型来监控文本和图像内容安全的内容审核平台。Azure AI Content Safety旨在帮助企业用强大的人工智能为每个人创建更好的在线体验。

Azure AI Content Safety的特点

Azure AI Content Safety是一个强大的工具，可以帮助企业维护安全的在线空间。Azure AI Content Safety的一些关键特点包括：

• 内容分类：Azure AI Content Safety将有害内容分为四类：性、暴力、自残和仇恨。这样，企业就可以限制和优先处理需要审核的内容。
• 严重程度等级：Azure AI Content Safety会为每个不安全的内容类别返回一个严重程度水平，范围是0、2、4和6。这有助于企业做出自信的内容审核决策。
• 语义理解：使用自然语言处理，Azure AI Content Safety理解语言的含义和上下文。它可以分析短文本和长文本。
• 多语言模型：Azure AI Content Safety理解多种语言。它支持英语、德语、西班牙语、法语、葡萄牙语、意大利语和中文的内容审核。
• 计算机视觉：Azure AI Content Safety由微软的Florence Foundation模型驱动，进行高级图像识别。这项技术是用数十亿个文本-图像对训练的。
• 可定制设置：Azure AI Content Safety有可定制的设置，以满足特定的业务规则和政策。
• 实时检测：Azure AI Content Safety实时检测有害内容。这使得企业可以立即采取行动删除有害内容。

Azure AI Content Safety是如何工作的

Azure AI Content Safety使用先进的人工智能模型来监控文本和图像内容的安全性。它使用人工智能内容分类器来识别具有高度细化的性、暴力、仇恨和自残内容。它还使用内容审核严重程度分数来指示内容风险的水平，从低到高。Azure AI Content Safety应用先进的语言和视觉模型来准确地检测不安全或不适当的内容，并自动实时分配严重程度分数。这使得企业可以审查和优先处理被标记的项目，并采取明智的行动。

Azure AI Content Safety的好处

Azure AI Content Safety是一个对于经营社交媒体平台或具有社交功能的产品的企业来说很有价值的工具。它可以有效地监控帖子、主题、聊天等内容。此外，游戏行业也可以通过使用Azure AI Content Safety来监督社交功能，如直播和多人游戏聊天，从而受益。该解决方案还检测用户生成内容中的风险，包括头像、用户名和上传的图片。Azure AI Content Safety模型以其可靠性和有效性而自豪，这一点可以从它们与其他Azure AI产品的集成中看出，这些产品用于监控用户和人工智能生成的内容。

结论

Azure AI Content Safety是一个可以帮助企业维护安全在线空间的强大工具。凭借其先进的人工智能模型，Azure AI Content Safety可以检测文本和图像中的有害内容，并给予严重程度分数。这使得企业可以立即采取行动删除有害内容，并为每个人创建更好的在线体验。

Azure AI Content Safety是一个对于经营社交媒体平台或具有社交功能的产品的企业来说很有价值的工具。它可以有效地监控帖子、主题、聊天等内容。此外，游戏行业也可以通过使用Azure AI Content Safety来监督社交功能，如直播和多人游戏聊天，从而受益。