在最新的Ignite大会上,Microsoft推出了两款为其云基础架构量身定制的芯片:Microsoft Azure Maia AI Accelerator(Athena),专为人工智能(AI)任务和生成AI进行优化,并且还有Microsoft Azure Cobalt CPU,这是一款专为Microsoft Cloud上的通用计算工作负载而设计的基于Arm架构的处理器。
Azure Maia AI和Azure Cobalt芯片将于2024年进入Microsoft的数据中心,最初将为公司的服务如Microsoft Copilot或Azure OpenAI Service提供动力。
据公司的新闻稿称,Maia AI芯片采用5纳米工艺制造,拥有1050亿个晶体管。该芯片专为Azure硬件堆栈设计,将为运行在Microsoft Azure上的一些最大的内部AI工作负载提供动力。
与此同时,Azure Cobalt是一款内建在Arm Neoverse CSS设计上的128核芯片,并经过定制以适合Microsoft。Microsoft硬件产品开发公司副总裁Wes McCullough在新闻稿中表示:
“选择Arm技术是Microsoft可持续发展目标的关键要素。它旨在优化其数据中心中的"每瓦性能",从而实现每单位能耗的更多计算能力。”
过去,Microsoft通过建造服务器和机架来降低成本,并通过加入芯片来影响散热效率和优化服务器容量。后一种情况受到Microsoft在2030年实现负碳排放的使命的推动。
Microsoft的竞争对手Google和AWS已经为AI工作负载开发了自己的芯片。例如,Google在2016年的Google I/O大会上宣布的Tensor Processing Unit被用于其数据中心,以支持机器学习框架TensorFlow等应用程序的神经网络。此外,AWS在2018年推出了其Graviton Arm芯片和Inferentia AI处理器,并在2020年宣布了用于模型训练的Trainium。
Hacker News论坛上的一个回应者Aromasin评论说:
“请注意,Microsoft多年来一直在使用“自定义芯片”,它们只是基于FPGA而不是ASIC。他们开发了加速各种过程的IP。现在他们的规模正在以疯狂的速度增长,可以证明与使用现成零件相比,设计ASIC所带来的额外开销是可以接受的。”
Microsoft与硅片供应商AMD(AMD MI300X加速VMs)和Nvidia(NVIDIA H200张量核心GPU)合作更密切。然而,与AMD和Nvidia不同,Microsoft不会让客户购买装有其芯片的服务器。
Microsoft的Cloud和AI Group执行副总裁Scott Guthrie在推特上说:
“Microsoft 已通过全面的系统方法重新构建了我们的基础架构,以满足客户独特的AI和云需求。通过推出我们的新AI加速器Azure Maia和云原生CPU Azure Cobalt,以及我们与硅片供应商的持续合作,我们现在可以提供更多选择和性能。”
最后,Microsoft打算在未来扩大选择范围,持续努力开发第二代的Azure Maia AI Accelerator和Azure Cobalt CPU。