您尚未登录账户
您的企业账号申请正在审核中
Meta推出Purple Llama计划：赋能开发者构建安全可靠的生成式AI
Meta宣布推出一项名为Purple Llama的新倡议，旨在授权各种规模的开发者建立安全和负责任的生成式人工智能（AI）模型。该项目包含了开放源代码工具和评估，以帮助创建者在处理快速发展的AI系统时实施信任、安全和伦理的最佳实践。
正如Meta在其生成式AI负责任使用指南中所强调的，像网络安全、内容过滤以及减轻可能的危害等问题在整个行业中都是关注的重点。Meta希望促进开放合作来应对这些挑战。通过免费提供关键资源，他们希望使这一领域公平化，让所有开发者都能不受资源限制地负责任地创建AI。
Purple Llama的核心包括两个关键组成部分：CyberSec Eval和Llama Guard。CyberSec Eval在为Large Language Models设定网络安全安全基准方面代表了开创性的努力，解决了在越来越依赖技术的时代中安全AI的迫切需求。另一方面，Llama Guard是一个安全分类器，专为各种应用的输入和输出的细致过滤而设计，优化了无缝集成。
未来，Meta计划增加更多覆盖负责任AI开发其他方面的安全评估和工具。公司强调这只是个开始，随着技术的持续发展，行业指南也会不断演变。通过采取开放的途径，他们希望建立一个广泛的联盟，共同应对最紧迫的挑战。
忠实于这些理念，Meta已经吸引了超过100个合作伙伴加入该技术，包括像AWS、Google Cloud和Microsoft这样的超大型云服务提供商以及Hugging Face和Anthropic等AI专家。其他参与的联盟包括AI Alliance、MLCommons以及各种学术团体。
为什么是紫色？Meta解释说，在Purple Llama中选择紫色是有意的，它象征着在网络安全中攻击性（红队）和防御性（蓝队）策略的结合。这种“紫队”方法反映了Meta在应对生成式AI所提出的多方面挑战中的全面策略。
随着生成式AI进步的加速，没有哪个单一公司能独立应对每一个后果。像Purple Llama这样的倡议强调了透明度、合作以及民主化最佳实践获取途径的必要性。这种合作的生态系统可以帮助设定开发者使用这些非常强大的技术的基调。Meta及其合作伙伴已经迈出了重要的第一步，但在一个开放的系统中，最终的责任还是在于每个参与者，建设一个安全、符合伦理并且惠及社会的AI。
