xAI发布PromptIDE,助力开发者和研究者使用Grok进行prompt工程

2023年11月08日 由 neo 发表 337 0

Screenshot-2023-11-07-at-9.17.44-AM

在推出Grok后仅两天,xAI团队就推出了xAI PromptIDE,一个集成开发环境,旨在彻底改变提示工程和可解释性研究的世界。这个工具通过提供一个SDK,使用户能够实现复杂的提示技术,并访问丰富的分析,所有这些都是为了可视化网络的输出而设计的。

团队表示,PromptIDE的核心目的是让Grok-1,即驱动Grok的模型,对社区内的工程师和研究人员都是可访问和透明的。这个IDE是巧妙地设计的,以赋予用户能力,使他们能够快速有效地探索LLM的能力。

PromptIDE的亮点:user_input()函数要求用户输入一个字符串。你可以用四行Python代码来写一个聊天机器人。在执行提示时,你可以看到分词、采样概率、备选词和聚合注意力掩码。
— Toby Pohlen

IDE的核心是一个Python代码编辑器,辅以一个新的SDK,使用户能够轻松地实现复杂的提示技术。当用户在IDE中执行提示时,他们会得到大量的有用的分析,包括精确的分词、采样概率、备选词和聚合注意力掩码。

此外,IDE还提供了一系列的便利功能。所有的提示都会自动保存,内置的版本控制确保用户可以随着时间的推移跟踪变化。另外,在提示执行过程中生成的分析也可以永久存储,方便比较不同提示技术产生的输出。用户还可以上传小文件,如CSV文件,并使用SDK中的一个Python函数来读取它们。

结合SDK的并发功能,即使是中等大小的文件也可以以惊人的速度处理。

PromptIDE的核心是一个代码编辑器和一个Python SDK。SDK引入了一种新颖的编程范式,允许优雅地实现复杂的提示技术。Python函数在一个隐式的上下文中执行,该上下文表示为一个词的序列。

用户可以使用prompt()函数手动向上下文添加词,或者他们可以利用模型根据上下文使用sample()函数生成词。sample函数提供了各种配置选项,使用户能够对词生成过程进行细致的控制。

SDK利用Python协程来并发处理用@prompt_fn注释的Python函数。这种并发执行能力大大加快了任务的速度,尤其是在处理CSV文件或大型数据集时。

在PromptIDE中,你可以使用user_input()函数创建交互式的提示。它会暂停执行,直到用户通过界面中的文本框提供输入。这个输入使用prompt()函数无缝地集成到上下文中,允许与模型进行动态交互。

开发者可以将小文件(每个文件最大5 MiB,总共最大50 MiB)上传到PromptIDE,并在他们的提示中使用它们。read_file()函数将上传的文件作为字节数组检索。结合并发功能,这种能力可以实现批量处理提示,方便在各种问题上评估提示技术。

目前,PromptIDE只对早期访问计划的成员开放。

文章来源:https://analyticsindiamag.com/xai-announces-promptide-for-prompt-engineering-with-grok/
欢迎关注ATYUN官方公众号
商务合作及内容投稿请联系邮箱:bd@atyun.com
评论 登录
热门职位
Maluuba
20000~40000/月
Cisco
25000~30000/月 深圳市
PilotAILabs
30000~60000/年 深圳市
写评论取消
回复取消