英伟达联合Meta打造企业级AI超级计算机

2024年07月24日 由 daydream 发表 127 0

英伟达,这家全球知名的科技巨头,近期宣布了两项创新服务,旨在携手企业和国家,利用Meta公司最新发布的LLM(大型语言模型)——Llama 3.1,共同打造高度定制化和专业化的超级计算解决方案。


微信截图_20240724113803


英伟达推出的第一项服务是AI Foundry,它专为那些希望根据自身行业特性和需求定制LLM超级模型的企业和国家设计。通过融合Llama 3.1的先进能力、英伟达领先的软硬件技术,以及专业团队的支持,AI Foundry能够助力客户基于专有数据或利用Llama 3.1及英伟达Nemotron奖励模型生成的合成数据进行模型训练,从而构建出独一无二的LLM超级模型。


另一项服务则是NVIDIA NIM中的推理微服务,这一服务同样依托于Llama 3.1的强大功能,为企业构建并部署生成式AI超级计算机提供了便捷途径。


Llama 3.1,这款拥有4050亿参数的开源LLM库,正以其庞大的规模和开放性,向ChatGPT、Gemini等闭源AI模型发起挑战。Meta持续通过增加与模型协同工作的工具来增强Llama的竞争力,而英伟达则通过与Meta的紧密合作,迅速将Llama 3.1整合进自身服务体系中,确保客户能够立即享受到这一前沿技术的红利。


英伟达CEO黄仁勋对此充满信心:“英伟达AI Foundry已全面拥抱Llama 3.1,我们已准备好协助企业构建并部署专属的Llama超级模型,开启智能新篇章。”


值得一提的是,Llama 3.1的生成式AI模型是在超过16,000个Nvidia H100 Tensor Core GPU的强大算力下训练完成的,并针对Nvidia的加速计算技术和软件进行了深度优化,确保模型能够在数据中心、云端乃至GPU赋能的个人电脑上高效运行。


目前,全球多家企业已率先尝鲜Llama的NIM微服务,其中埃森哲更是为沙特阿美、AT&T和优步等巨头打造了定制化的Llama超级模型,成为首批利用Llama 3.1提升业务智能水平的先锋。成功构建模型后,这些企业可根据需求选择Nvidia提供的微服务、操作平台(OPs)及云平台方案,灵活部署并运行其定制模型。


此外,上周Mistral AI与Nvidia携手发布了Mistral NeMo,一款拥有120亿参数的全新模型,该模型现已作为Nvidia NIM推理微服务的一部分对外提供。而在硬件方面,有消息透露某知名硬件技术公司正筹备为中国市场推出新一代RTX 5090D GPU,作为RTX 4090D的升级版,这款新GPU无疑将为AI计算领域注入更加强劲的动力。

文章来源:https://www.cryptopolitan.com/nvidia-and-llama-supercomputers/
欢迎关注ATYUN官方公众号
商务合作及内容投稿请联系邮箱:bd@atyun.com
评论 登录
写评论取消
回复取消