您尚未登录账户
您的企业账号申请正在审核中
Mistral AI推出多语言内容审核API，挑战OpenAI
Mistral AI于周四推出了一项新的内容审核应用程序接口（API），此举标志着该公司在与OpenAI等其他AI行业巨头竞争的同时，也正面回应了日益增长的AI安全与内容过滤需求。
该内容审核服务基于Mistral AI的Ministral 8B模型的微调版本，旨在检测九大类潜在有害内容，涵盖色情内容、仇恨言论、暴力、危险行为及个人可识别信息等。此API既能分析纯文本，也能处理对话内容。
Mistral AI在发布声明中指出，安全性对于AI的有效应用至关重要，并强调系统层面的保护措施对于下游部署的安全至关重要。
随着AI行业面临加强技术安全保障的紧迫要求，此次发布正值关键时刻。上月，Mistral AI与其他主要AI公司共同签署了英国AI安全峰会协议，承诺负责任地发展AI技术。
该内容审核API目前已在Mistral AI自家的Le Chat平台上应用，支持包括阿拉伯语、中文、英语、法语、德语、意大利语、日语、韩语、葡萄牙语、俄语及西班牙语在内的11种语言。这一多语言功能使Mistral AI在竞争中占据优势，因为部分竞争对手的内容审核工具主要聚焦于英文内容。
近期，Mistral AI还达成了一系列重要合作，包括与微软Azure、高通及SAP等企业的合作，从而在企业级AI市场中逐渐崭露头角。上月，SAP宣布将在其基础设施上托管Mistral AI的模型，包括Mistral Large 2，为客户提供符合欧洲规定的安全AI解决方案。
Mistral AI的特点在于其同时注重边缘计算和全面的安全功能。与OpenAI和Anthropic等主要聚焦于云端解决方案的公司不同，Mistral AI的策略是在设备上启用AI和内容审核，以应对数据隐私、延迟及合规性的日益关注，这对受严格数据保护法规约束的欧洲公司而言尤为吸引。
在技术层面，Mistral AI的方法也展现出超越其成立时间的成熟度。通过训练内容审核模型理解对话上下文而非仅分析孤立文本，Mistral AI创建了一个能够潜在识别可能通过基本过滤器漏网的微妙有害内容的系统。
该内容审核API现已通过Mistral AI的云平台提供，定价依据使用量而定。公司表示，将持续根据用户反馈和不断变化的安全要求，提高系统准确性并扩展其功能。
Mistral AI的这一举措展示了AI领域的快速发展。这家总部位于巴黎的初创公司去年才刚刚成立，如今却在影响企业如何思考AI安全方面发挥着作用。在一个由美国科技巨头主导的领域，Mistral AI从欧洲视角出发，对隐私和安全的重视或将成为其最大优势。
