一种新兴的人工智能(AI)模型因其快速的反应速度而备受关注。
Groq 是一家位于加利福尼亚州的初创公司,成立于 2016 年,其人工智能模型令人印象深刻,可迅速与 OpenAI 的 Chat GPT 等公司展开竞争。
该公司使用 LPU(语言处理单元)架构而非 GPU(图形处理单元),从而实现了更高效、更快的速度。这也是它与传统人工智能模型的不同之处,传统人工智能模型严重依赖 GPU,而 GPU 既昂贵又难以采购。
Groq 的产品以其惊人的速度带来了令人难以置信的效率。
早期迹象表明,Groq 的硬件性能似乎优于 ChatGPT,其公开基准测试速度高达每秒 500 个代币,而 GPT 3.5 仅为 30 至 50 个。
这个 Groq 与 GPT 3.5 的并排演示显示,Groq 完成了同样的提示,但速度快了约 4 倍。