IBM发布Granite 3.0生态系统,专注企业AI应用

2024年10月22日 由 daydream 发表 31 0

IBM近日推出了其Granite生态系统的第三代产品,这是一系列专为广泛企业应用场景定制的工具。Granite 3.0旨在使生成式人工智能(AI)在企业部署中具备可扩展性、安全性和商业可行性。


微信截图_20241022101251


Granite 3.0提供了多种模型,针对不同用例进行优化,如支持检索增强生成(RAG)、高级推理和代码生成等企业AI任务。这些模型可以使用专有企业数据进行微调,使企业在较低成本下获得高度专业化的性能。其中,最大的Granite模型拥有80亿参数,与其他大型前沿模型如GPT-4、Claude Opus、Llama 3 405B和Gemini Pro相比,规模较小。


Granite 3.0家族包括多个系列,如通用/语言模型、安全守护模型、混合专家(Mixture-of-Experts, MoE)模型和加速推理模型等。通用/语言模型系列包括Granite 3.0 8B Instruct、Granite 3.0 2B Instruct等多个版本。安全守护模型系列,即Granite Guardian 3.0,专注于通过监控用户提示和输出来减轻AI风险,检测偏见、暴力、粗俗和其他有害内容。


Granite 3.0还引入了加速器,利用推测解码技术显著减少延迟并提高吞吐量,实现了比标准方法快两倍的推理速度。此外,IBM还推出了第一代Granite MoE模型,这些轻量级模型在推理期间使用较少的参数,适合资源受限的环境,同时保持稳健的性能水平。


同时,Granite 3.0还发布了更新版的时间序列模型,即Tiny Time Mixers(TTMs),这些紧凑的预训练模型用于多元时间序列预测,可以在仅使用CPU的机器上运行,并支持通道独立和通道混合方法。


Granite 3.0模型可以在多种平台上运行,包括IBM的watsonx、NVIDIA NIM、Hugging Face、Google Cloud的Vertex AI Model Garden,甚至可以在使用Ollama的笔记本电脑上本地运行。这种部署灵活性使Granite 3.0对企业具有吸引力。


据IBM介绍,Granite 3.0模型专为现代企业构建,结合了性能、定制化和负责任的AI实践。公司还特意解决了企业通常对OpenAI、Anthropic、Google和Meta等前沿模型提出的一些最大担忧,包括训练数据和方法的透明度、IBM的赔偿以及完整的商业权利,这些共同降低了企业将这些强大的AI模型安全集成到其工作流程中的障碍。


Granite 3.0模型在学术基准测试和现实世界的企业应用中均表现出色,在性能上能与Meta和Mistral AI等竞争对手的类似规模模型相媲美或超越。特别是Granite Guardian 3.0模型套件,在广泛的安全和偏见检测基准测试中表现出优于Meta的LlamaGuard的性能。


随着AI在各行业的采用持续激增,IBM不仅提供技术,还提供企业所需的安全保障和信心。Granite 3.0代表了创新、效率和道德治理之间的精心平衡,这种组合可能深受在复杂AI采用环境中前行的企业欢迎。

文章来源:https://www.maginative.com/article/ibm-releases-granite-3-0-generative-ai-purpose-built-for-the-modern-enterprise/
欢迎关注ATYUN官方公众号
商务合作及内容投稿请联系邮箱:bd@atyun.com
评论 登录
热门职位
Maluuba
20000~40000/月
Cisco
25000~30000/月 深圳市
PilotAILabs
30000~60000/年 深圳市
写评论取消
回复取消