🌊LangGraph中的异步和流
type
status
date
slug
summary
tags
category
icon
password
因为任何大模型在推理的时候，都会有一定的时间延迟，这是由大模型的底层架构决定的，所以在很多应用，尤其是对话应用中，使用异步以及流式输出，是大幅提升用户体验的较好方法。
在langGraph中可以很方便的实现异步和流，我们仍然以之前列的过简单例子为例：
在图结构上没有太大变化
异步调用方法：
注意当 stream_mode 被设置为 "updates" 时，系统会生成一个字典，字典的键是节点名称，值是与这些节点相关的输出数据。
流式输出，这里我们使用astream_events：
注意：如要使用流，python版本需要大于3.11
Loading...