Groq融资6.4亿美元加速AI推理技术发展

2024年08月06日 由 daydream 发表 117 0

AI推理技术的领军者Groq成功完成了D轮融资,筹集了高达6.4亿美元的资金,这一壮举标志着人工智能基础设施领域正经历一场重大变革。此次融资由黑石私募股权合伙公司领航,同时吸引了新伯格·伯曼公司、Type One Ventures等投资机构,以及思科、KDDI、三星催化剂基金等战略投资者的参与,进一步将Groq的估值推高至28亿美元的新高度。


微信截图_20240806104657


总部位于山景城的Groq公司,计划利用这笔巨额资金迅速扩大其生产规模,并加速研发下一代语言处理单元(LPU),旨在满足AI行业从训练向部署转型过程中对高效推理能力的迫切需求。


新上任的Groq首席运营官斯图尔特·潘恩在接受采访时表示,公司已做好充分准备,以应对这一市场挑战。“我们已与供应商签订合作协议,与原始设计制造商(ODM)紧密合作,共同探索高效的机架制造方案,并提前预订了数据中心空间和电力资源,以确保我们的云平台能够顺利构建并高效运行。”


作为硅谷的加速新星,Groq雄心勃勃地计划在2025年第一季度末前部署超过108,000个LPU,有望成为除大型科技巨头外,全球最大的AI推理计算能力提供者。这一扩张战略不仅巩固了其在业界的地位,也为其日益壮大的开发者社区提供了强有力的支持。目前,已有超过356,000名开发者在GroqCloud平台上进行项目开发与创新。


特别值得一提的是,Groq推出的“代币即服务”(TaaS)因其卓越的速度和成本效益而备受瞩目。潘恩透露:“GroqCloud上的TaaS服务不仅速度冠绝群雄,而且根据Artificial Analysis的独立基准测试,其价格也是最为亲民的。我们称之为‘推理经济学’,致力于为用户提供最优的性价比体验。”


在半导体行业面临严重短缺的背景下,Groq的供应链战略显得尤为独特和稳健。“我们的LPU采用了与众不同的架构设计,不依赖于那些交货期延长的关键组件。”潘恩解释说。“它摒弃了高带宽内存(HBM)和芯片堆叠封装(CoWos)等技术,转而选择基于GlobalFoundries的14纳米成熟工艺制造,该工艺不仅成本低廉,而且在美国本土生产,有效降低了供应链风险。”


这种对国内制造的重视与当前科技界对供应链安全的深切关注不谋而合,也为Groq在各国政府加强对AI技术及其来源审查的背景下赢得了有利地位。


随着Groq技术的迅速普及,其应用场景也日益广泛。潘恩特别提到了几个典型案例,包括在医疗领域实现患者协调与护理的智能化、通过实时分析市场需求并调整价格来实现动态定价、以及利用大型语言模型(LLMs)实时处理基因组数据,以提供最新的基因药物指南等。这些应用不仅展示了Groq技术的强大潜力,也预示着AI推理技术将在未来社会发展中发挥更加重要的作用。

文章来源:https://venturebeat.com/ai/groq-secures-640m-to-supercharge-ai-inference-with-next-gen-lpus/
欢迎关注ATYUN官方公众号
商务合作及内容投稿请联系邮箱:bd@atyun.com
评论 登录
热门职位
Maluuba
20000~40000/月
Cisco
25000~30000/月 深圳市
PilotAILabs
30000~60000/年 深圳市
写评论取消
回复取消