近日,由埃隆·马斯克支持的xAI公司正式向公众开放了其应用程序编程接口(API)。xAI是社交网络X的衍生初创企业,利用X的数据训练新的大型语言模型(LLM),如Grok系列。为吸引开发者,xAI宣布至今年年底,每位开发者每月可免费获得25美元的API使用额度。
考虑到当前已是11月,这一免费额度实际上仅覆盖两个月,总额度为50美元。
此前,马斯克曾宣布xAI API三周前进入公开测试阶段,但显然用户参与度未达预期,因此公司推出了额外的免费额度激励措施。
这一额度是否足够吸引开发者?从全球首富和亿万富翁的角度来看,这一数额似乎微不足道,且并非基于每用户或总额计算。然而,这可能足以促使部分开发者尝试xAI的工具和平台,以在Grok模型基础上构建应用。
具体而言,xAI的API定价为每百万输入令牌5美元,每百万输出15美元,相比之下,OpenAI的GPT-4o模型定价为每百万输入2.5美元、每百万输出10美元,而Anthropic的Claude 3.5 Sonnet模型则为每百万输入3美元、每百万输出15美元。因此,xAI的25美元额度意味着开发者每月仅能进行约两百万输入和一百万输出的操作。作为参考,一百万令牌相当于7至8本小说的文字量。
在API的上下文限制方面,xAI允许每次交互输入或输出的令牌数约为128,000,与OpenAI的GPT-4o相近,但低于Anthropic的200,000令牌窗口,更远低于Google Gemini 1.5 Flash的一百万上下文窗口长度。
此外,xAI目前提供的API版本仅限于访问grok-beta和文本生成功能,尚未提供如Grok 2所具备的图像生成能力(由Black Forest Labs的Flux.1模型支持)。
新Grok模型即将发布
xAI在博客文章中透露,此次开放的是新Grok模型的预览版,该模型目前正处于开发的最后阶段。同时,xAI还表示,新的Grok视觉模型将于下周发布。
此外,grok-beta支持“函数调用”功能,即LLM可以接受用户命令并访问其他连接应用和服务的功能,甚至代表用户执行这些功能(如果连接的应用允许此类访问)。
与竞争对手兼容
xAI在社交网络X上的账户发布消息称,xAI API与OpenAI和Anthropic的软件开发工具包(SDK)兼容,这意味着开发者可以相对轻松地将这些平台上的模型替换为grok-beta或xAI平台上的其他模型。
xAI近期在田纳西州孟菲斯市启动了“Colossus”超级集群,该集群拥有10万台Nvidia H100 GPU,用于训练新模型,是世界上最大或最大的同类设施之一,目前正全力运转。