LangChain Agent 循环、运行时与流式输出

langchain_agent_runtime_streaming2026-10-29 11:03:47

LangChain Agent 循环、运行时与流式输出

Agent 的基本循环是:模型读取当前消息与上下文,选择回答或调用工具;工具结果加入状态;模型再次判断,直到返回最终答案或触发停止条件。应用应限制最大步数、总耗时、成本和重复调用,并把失败区分为模型失败、参数失败、工具失败和完成验证失败。

运行时向工具和中间件提供本次执行的上下文、状态、存储与流式写入器。运行时上下文适合传递用户身份、依赖和请求级配置;可持久化状态适合保存需要跨步骤恢复的数据。凭据、连接对象和临时客户端不应因为方便而写入持久状态。

流式输出不仅是逐字文本,还可以包括状态更新、消息块、工具事件、自定义进度和调试事件。前端应按事件类型维护 UI 状态,并处理重连、重复事件、最终状态与部分文本之间的关系。

事件流与最终调用结果服务于不同用途:事件流提供过程可见性,最终状态用于确认任务结束。不能把收到一段文本当作任务已完成。

官方入口:Agent、运行时、流式输出、事件流。

本页目录