LangChain刚刚推出了LangGraph Cloud

2024年07月03日 由 alex 发表 162 0

介绍

LangChain 生态系统正在快速发展,由开源软件(OSS)和商业软件组成。商业软件包括 LangSmith 和 LangGraph Cloud。


2


代理(又称代理应用程序)

我们都开始意识到 Agentic 应用程序将在不久的将来成为一种标准。Agents 的优点很多……但仅举几例:


  1. 代理可以自动处理复杂、模糊和更隐含的用户查询。
  2. 代理的基础是能够根据用户分配的任务快速创建一系列事件。
  3. 代理利用 LLM 作为代理的支柱。
  4. 当代理收到用户查询时,代理会将任务分解为子任务,然后按顺序执行。
  5. 代理可使用一种或多种工具,在代理认为合适的情况下使用这些工具。代理根据构成每个工具一部分的工具描述来决定使用哪种工具。
  6. 工具是一种能力单元,包括网络搜索、数学、应用程序接口调用等任务。


采用代理的障碍

采用Agent的障碍和顾虑包括:


  1. LLM 推断成本。骨干 LLM 在查询过程中会被多次查询,如果一个代理有大量用户,推理成本就会飙升。
  2. 可控性、可检查性、可观察性和更细粒度的控制是非常必要的。在市场上,人们担心代理过于自主。
  3. 代理打破了聊天机器人的 "玻璃天花板",但有点过了;现在需要一定程度的控制。
  4. 对于更复杂的代理来说,为了减少延迟,需要并行运行任务,而且不仅要将 LLM 的响应流化,还要将可用的代理响应流化。


LangGraph

LangGraph 与框架无关,每个节点都是一个普通的 Python 函数。


它扩展了核心 Runnable API(用于流式、异步和批量调用的共享接口),以便于:

  1. 跨多个对话轮次或工具调用的无缝状态管理。
  2. 根据动态标准在节点间灵活路由
  3. LLM 与人工干预之间的平滑转换
  4. 为长期运行的多会话应用提供持久性


LangGraph 云

下面展示了基本的个人工作流程。用户将在自己选择的集成开发环境中开发 LangGraph 应用程序。从这里,他们将把代码推送到 GitHub。


通过 LangGraph Cloud,可以访问 GitHub 代码并将其部署到 LangGraph Cloud。从 LangGraph Cloud 可以测试应用程序、运行跟踪、添加中断等。


3


下面是 LangGraph 助手的规格说明,其中提供了 OpenAPI 规格。


4


LangGraph Studio

LangGraph Studio 可视化数据流,允许通过发送消息进行交互。


它能在步骤发生时将其显示出来并进行流式处理,使用户能够重新访问和编辑节点,并从任意点分叉出新的路径。


断点可添加到图形中,以暂停序列,在继续之前请求允许继续。这一功能强大的工具为开发应用程序提供了一种动态方式。


5


需要说明的是,LangGraph Studio 是你所编写代码的图形表示。Studio 是一种将数据流可视化并获得洞察力的方法。


Studio 并非流程创建或开发工具,因此代码可以在 Studio 中可视化呈现。但在 Studio 中,不能编辑或更改代码。因此,Studio 是一种观察、调试和对话流工具。


6


Studio 是一个功能强大的跟踪工具,可以添加停顿和分叉对话,以检查不同的排列组合。

文章来源:https://cobusgreyling.medium.com/langchain-just-launched-langgraph-cloud-bf8f65e45a54
欢迎关注ATYUN官方公众号
商务合作及内容投稿请联系邮箱:bd@atyun.com
评论 登录
写评论取消
回复取消