英伟达Q1财报:AI需求激增,GPU供应紧张

2024年05月24日 由 daydream 发表 130 0

在第一季度财报电话会议上,英伟达首席执行官黄仁勋(Jensen Huang)特别强调了使用英伟达加速计算平台的生成式人工智能(GenAI)初创公司的迅猛增长。


微信截图_20240524113525


黄仁勋表示:“生成式人工智能初创公司的数量已经庞大到惊人的地步,大约有一万五千到两万家,它们来自不同的领域,如多媒体、数字角色、设计、应用生产力以及数字生物学等。自动驾驶汽车行业也纷纷转向英伟达,利用我们的技术来训练端到端模型,从而扩大自动驾驶汽车的运营范围——这份名单确实令人瞩目。”


他进一步强调,随着各大公司竞相使用英伟达的CUDA软件和Tensor Core架构将AI应用推向市场,对英伟达GPU的需求“极为旺盛”。消费者互联网公司、企业、云服务提供商、汽车公司和医疗保健组织都在斥巨资建设基于数千个英伟达GPU的“AI工厂”。


英伟达首席执行官表示,转向生成式人工智能正在推动“根本性、全栈式的计算平台变革”,因为计算正在从信息检索转向生成智能输出。


黄仁勋解释说:“(计算机)现在能够生成与上下文相关的智能答案。这将彻底改变全球的计算堆栈,即使是个人计算机的计算堆栈也将迎来革新。”


为了满足激增的需求,英伟达在第一季度开始发货其H100“Hopper”架构GPU,并公布了下一代“Blackwell”平台,该平台提供的AI训练和推理速度比Hopper快4至30倍。今年将推出超过100台来自主要计算机制造商的Blackwell系统,以实现广泛采用。


黄仁勋表示,英伟达端到端的AI平台能力使其在AI工作负载迅速发展的背景下,比更狭窄的解决方案更具显著竞争优势。他预计,随着GenAI革命的兴起,英伟达Hopper、Blackwell和未来架构的需求将远远超过供应,并持续至明年。


AI芯片需求难以满足


尽管英伟达在Q1公布了创纪录的260亿美元收入,但该公司表示,客户对AI工作负载GPU的需求远远超过其供应能力。


“我们每天都在全力以赴,”黄仁勋在谈及英伟达努力完成订单时表示,“客户正在给我们施加巨大的压力,要求我们尽快交付系统并确保它们正常运行。”


黄仁勋指出,即使公司增加新Blackwell架构的生产量,英伟达当前旗舰产品H100 GPU的需求也将在一段时间内超过供应。


微信截图_20240524113600


“本季度H100的需求持续增长……我们预计在过渡到H200、过渡到Blackwell的过程中,需求将在一段时间内超过供应。”他表示。


英伟达首席执行官将这种紧迫性归因于率先推出具有突破性的AI模型和应用的公司所获得的竞争优势。


“下一家达到下一个主要里程碑的公司将宣布一项突破性的AI技术,而紧随其后的第二家公司可能只能宣布比前者好0.3%的成果。”黄仁勋解释说,“训练时间至关重要。早三个月的训练时间就意味着一切。”


因此,黄仁勋表示,云提供商、企业和AI初创公司都感受到了巨大的压力,他们必须尽可能多地确保GPU容量,以便在竞争对手之前达到里程碑。他预测英伟达AI平台的供应紧张状况将持续到2024年。


“Blackwell的供应严重滞后,我们预计需求可能会持续到明年仍然超过供应。”黄仁勋表示。


英伟达GPU为云AI主机带来显著的经济回报


黄仁勋详细阐述了云提供商和其他公司如何通过在英伟达加速计算平台上托管AI模型,实现了可观的财务收益。


“云提供商每在英伟达AI基础设施上投入1美元,就有机会在四年内通过GPU实例托管收入赚取5美元。”黄仁勋表示。


他以使用英伟达最新H200 GPU的拥有700亿参数的语言模型为例。他声称,单台服务器每秒可以生成24,000个标记,并支持2,400个并发用户。


“这意味着对于每1美元在英伟达H200服务器上的当前价格(按标记计算),API提供商(提供标记)可以在四年内产生7美元的收入。”黄仁勋说。


黄仁勋进一步指出,英伟达持续的软件改进不断提高了其GPU平台的推理性能。在最新一个季度,通过优化,H100的性能提高了3倍,为客户节省了3倍的成本。


黄仁勋坚信,这种高额的投资回报率正推动亚马逊、谷歌、Meta、微软和甲骨文等云巨头对英伟达产品的旺盛需求,他们竞相提供AI容量以吸引开发者。


他认为,结合英伟达卓越的软件工具和生态系统支持,这些经济因素使英伟达成为GenAI部署的首选平台。


英伟达积极推动以太网网络技术在AI领域的应用


尽管英伟达以GPU闻名,但该公司也是数据中心网络领域的重要参与者,拥有Infiniband技术。


在第一季度,英伟达报告了由Infiniband采纳推动的强劲同比增长。


然而,黄仁勋强调,以太网是英伟达将AI计算推向更广泛市场的重要新机遇。在第一季度,该公司开始发货其Spectrum-X平台,该平台针对以太网上的AI工作负载进行了优化。


“Spectrum-X为英伟达的网络业务开辟了一个全新的市场,使仅使用以太网的数据中心能够容纳大规模AI。”黄仁勋说,“我们预计Spectrum-X将在一年内跃升为一个数十亿美元的产品线。”


黄仁勋表示,英伟达“全力投入以太网”,并将发布一系列重要的Spectrum交换机路线图,以补充其Infiniband和NVLink互联技术。这种三管齐下的网络战略将使英伟达能够针对从单节点AI系统到大型集群的所有目标。


英伟达还在本季度开始对其每秒51.2太比特的Spectrum-4以太网交换机进行采样。黄仁勋表示,像戴尔这样的领先服务器制造商正在采用Spectrum-X,将英伟达的加速AI网络技术推向市场。


“如果你今天投资我们的架构,无需做任何事情,它就会进入越来越多的云端和数据中心,一切都会顺利运行。”黄仁勋保证说。


数据中心和游戏推动创纪录的第一季度业绩


英伟达在第一季度实现了260亿美元的创纪录收入,较上一季度增长18%,较去年同期增长262%,显著超出了其240亿美元的预测。


数据中心业务是增长的主要驱动力,收入飙升至226亿美元,较上一季度增长23%,较去年同期增长惊人的427%。首席财务官Colette Kress强调了数据中心领域的惊人增长:


“计算收入比去年增长了5倍以上,网络收入增长了3倍以上。所有客户类型都推动了强劲的数据中心连续增长,其中企业和消费者互联网公司领先。大型云提供商继续推动强劲增长,因为他们正在大规模部署和扩展英伟达AI基础设施。”


游戏业务的收入为26.5亿美元,较上一季度下降8%,但较去年同期增长18%。这与英伟达对季节性下降的预期一致。Kress指出:“GeForce RTX SUPER GPU的市场反响强劲,产品系列中的最终需求和渠道库存均保持健康。”


专业可视化业务的收入为4.27亿美元,较上一季度下降8%,但较去年同期增长45%。汽车业务的收入达到3.29亿美元,较上一季度增长17%,较去年同期增长11%。


对于第二季度,英伟达预计收入约为280亿美元,上下浮动2%,预计所有市场平台的收入都将实现连续增长。

文章来源:https://venturebeat.com/ai/nvidias-jensen-huang-says-20000-genai-startups-are-now-building-on-its-platform/
欢迎关注ATYUN官方公众号
商务合作及内容投稿请联系邮箱:bd@atyun.com
评论 登录
热门职位
Maluuba
20000~40000/月
Cisco
25000~30000/月 深圳市
PilotAILabs
30000~60000/年 深圳市
写评论取消
回复取消