您尚未登录账户
您的企业账号申请正在审核中
谷歌发布AI新武器：Cloud TPU v5p芯片和云端超级计算机
谷歌在2023年结束时，宣布了更多的AI发展。该公司推出了迄今为止最强大的TPU（张量处理单元），即Cloud TPU v5p，和来自Google Cloud的AI超级计算机。"在过去五年中，生成式AI模型的参数每年增长十倍，这要求更高的训练、调优和推理，"谷歌的工程院士兼机器学习、系统和云AI团队副总裁Amin Vahdat在一份发布中说。
Cloud TPU v5p是一个AI加速器，用于训练和服务模型。谷歌设计了Cloud TPU，让它能和那些大型、训练时间长、主要由矩阵计算组成并且在其主要训练循环内没有自定义操作的模型一起工作，比如TensorFlow或JAX。每个TPU v5p pod有8,960个芯片，用谷歌的最高带宽芯片间互连。
Cloud TPU v5p继承了之前的版本，比如v5e和v4。谷歌说，TPU v5p的FLOPs是TPU v4的两倍，它的可扩展性是TPU v4的四倍。它还能比TPU v4快2.8倍地训练LLM模型，和比TPU v4快1.9倍地嵌入密集模型。
接下来是新的AI超级计算机，它包括了一个集成系统，有开放的软件、性能优化的硬件、机器学习框架和灵活的消费模式。这个想法是，这种混合能提高生产力和效率，比每个部分都单独看要好。AI超级计算机的性能优化的硬件用了谷歌的木星数据中心网络技术。
在一个节奏的改变中，谷歌给开发者提供了开放的软件，支持机器学习框架，如JAX、PyTorch和TensorFlow。这个声明是在Meta和IBM推出AI联盟之后，该联盟优先考虑开源（而谷歌没有参与）。AI超级计算机还有两种模式，Flex Start Mode和Calendar Mode。
谷歌在介绍Gemini的同时分享了这个消息，Gemini是一个新的AI模型，该公司说它是“最大和最有能力的”，已经推出到Bard和Pixel 8 Pro。它有三种尺寸：Gemini Pro、Gemini Ultra和Gemini Nano。
