微软将在明年推出两款新芯片,这家科技巨头在11月15日的Microsoft Ignite大会上宣布。Microsoft Azure Maia 100旨在用于AI工作负载,而Microsoft Cobalt 100 CPU则设计用于微软云上的通用计算工作负载。
根据内部规格定制的芯片
Maia 100和Cobalt 100芯片皆由微软内部制造,这家科技巨头表示这使得“从硅片选择、软件和服务器到机架和冷却系统”的每一个环节都能够为微软预测将会面临的客户工作负载量身定制。
Microsoft Azure Maia 100 AI加速器针对AI任务和生成式AI进行了优化(图一)。微软与OpenAI共享了Maia 100的设计,以确保Maia 100能够优化大型语言工作负载。
图一
Microsoft Cobalt 100 CPU是一款为微软云设计的基于Arm架构的处理器(图二)。
图二
“微软正在构建支持AI创新的基础设施,我们正在重新想象我们数据中心的每一个方面,以满足我们客户的需求,” Scott Guthrie,微软云+ AI集团执行副总裁说。“在我们运营的规模下,对我们来说,优化和整合基础设施堆栈的每个层面是非常重要的,以最大化性能,多样化我们的供应链并为客户提供基础架构的选择。”
Sidekick服务器机架提供液体冷却
为了在数据中心腾出空间以容纳Microsoft Maia 100 AI加速器,微软开发了定制的服务器机架。这些sidekick机架比典型的微软服务器格式更宽,位于Microsoft Maia 100机架旁边。
液体冷却液从sidekick流向Maia 100机架,再流回来,创造一个更冷静的环境。定制机架可以与行业合作伙伴的硅片一起使用。
新芯片专为云工作负载设计
微软预计客户将使用新芯片执行AI和云计算,这些来自微软数据中心,包括运行Microsoft Copilot或Azure OpenAI服务。Maia 100和Cobalt 100芯片是为微软数据中心内的定制机架制造的。
微软一直在稳步地致力于生产越来越多的微软云组件。硅是拼图的最后一块。
“我们可以看到整个堆栈,硅只是其中的一个成分,”Rani Borkar,微软Azure硬件系统与基础设施团队的企业副总裁说道。
微软与其硅片竞争对手的关系
提供内部芯片防止微软依赖竞争对手来运行大型AI工作负载。特别是Maia芯片可能会与NVIDIA专注于AI的GPU竞争。AMD、Arm、AWS、Intel、Meta、Google、SambaNova和Qualcomm也都生产旨在用于AI工作负载的芯片。
Borkar告诉The Verge,他并不将AI芯片领域看作是竞争,而是微软的芯片可以是与合作伙伴关系“互补的”,包括那些在AI芯片领域的其他公司。
“我们构建的所有东西,无论是基础设施、软件还是固件,我们都可以利用,无论是部署我们的芯片还是来自我们行业合作伙伴的芯片,”AHSI团队的合作伙伴项目经理Pat Stemen说。“这是客户可以做出的选择,我们正试图为他们提供最好的选项集合,无论是性能还是成本还是其他他们关心的封方面。”
微软并不计划替换来自AMD、Intel或NVIDIA的任何现有硬件。相反,公司将首发硅片选项框定为为客户提供更多的选择。
微软计划在未来的某个不确定时间生产Maia和Cobalt芯片的第二代版本。