在推出Grok后仅两天,xAI团队就推出了xAI PromptIDE,一个集成开发环境,旨在彻底改变提示工程和可解释性研究的世界。这个工具通过提供一个SDK,使用户能够实现复杂的提示技术,并访问丰富的分析,所有这些都是为了可视化网络的输出而设计的。
团队表示,PromptIDE的核心目的是让Grok-1,即驱动Grok的模型,对社区内的工程师和研究人员都是可访问和透明的。这个IDE是巧妙地设计的,以赋予用户能力,使他们能够快速有效地探索LLM的能力。
PromptIDE的亮点:user_input()函数要求用户输入一个字符串。你可以用四行Python代码来写一个聊天机器人。在执行提示时,你可以看到分词、采样概率、备选词和聚合注意力掩码。
— Toby Pohlen
IDE的核心是一个Python代码编辑器,辅以一个新的SDK,使用户能够轻松地实现复杂的提示技术。当用户在IDE中执行提示时,他们会得到大量的有用的分析,包括精确的分词、采样概率、备选词和聚合注意力掩码。
此外,IDE还提供了一系列的便利功能。所有的提示都会自动保存,内置的版本控制确保用户可以随着时间的推移跟踪变化。另外,在提示执行过程中生成的分析也可以永久存储,方便比较不同提示技术产生的输出。用户还可以上传小文件,如CSV文件,并使用SDK中的一个Python函数来读取它们。
结合SDK的并发功能,即使是中等大小的文件也可以以惊人的速度处理。
PromptIDE的核心是一个代码编辑器和一个Python SDK。SDK引入了一种新颖的编程范式,允许优雅地实现复杂的提示技术。Python函数在一个隐式的上下文中执行,该上下文表示为一个词的序列。
用户可以使用prompt()函数手动向上下文添加词,或者他们可以利用模型根据上下文使用sample()函数生成词。sample函数提供了各种配置选项,使用户能够对词生成过程进行细致的控制。
SDK利用Python协程来并发处理用@prompt_fn注释的Python函数。这种并发执行能力大大加快了任务的速度,尤其是在处理CSV文件或大型数据集时。
在PromptIDE中,你可以使用user_input()函数创建交互式的提示。它会暂停执行,直到用户通过界面中的文本框提供输入。这个输入使用prompt()函数无缝地集成到上下文中,允许与模型进行动态交互。
开发者可以将小文件(每个文件最大5 MiB,总共最大50 MiB)上传到PromptIDE,并在他们的提示中使用它们。read_file()函数将上传的文件作为字节数组检索。结合并发功能,这种能力可以实现批量处理提示,方便在各种问题上评估提示技术。
目前,PromptIDE只对早期访问计划的成员开放。