AI Agent 完成任务的关键,不是一次生成一段看起来合理的回答,而是围绕目标持续获取信息、采取行动、检查结果,并根据反馈调整下一步。
从一个具体任务开始
假设用户要求整理一个陌生主题的资料。普通文本生成模型可能直接依据已有知识回答;Agent 则可以先搜索相关内容,阅读重要资料,发现缺失信息后继续查找,最后整理结果并标明来源。如果下一步会改变外部状态,例如发送邮件或修改公开内容,它还应在执行前请求用户确认。
这个过程通常包含以下阶段:
- 理解目标:确认用户真正想得到的结果以及限制条件;
- 观察环境:通过搜索、读取文件或调用 API 获取当前信息;
- 选择行动:判断下一步应该调用哪个工具,或者是否需要询问用户;
- 执行行动:由运行框架校验参数和权限后执行工具;
- 检查结果:确认工具是否成功,信息是否足够,任务是否偏离目标;
- 继续或结束:根据新结果调整计划,直到任务完成、失败或需要人工介入。
观察—行动—反馈
可以把 Agent 与环境的交互理解为一个闭环:环境向 Agent 提供观察,Agent 选择行动,行动改变环境或获得新信息,新结果再次成为下一轮观察。Agent 的能力不仅取决于模型是否聪明,也取决于它能看到什么信息、可以执行哪些操作。
完成回答不等于完成任务
判断 Agent 是否成功,应检查环境中的真实结果,而不能只检查它是否输出了流畅文本。例如,Agent 声称“已经保存草稿”时,系统还应核对保存接口的返回状态;声称“测试通过”时,应保留实际测试输出。没有结果验证的 Agent,容易把计划、尝试和真实完成混为一谈。
什么时候需要人参与
当目标不明确、关键信息缺失或即将执行高风险操作时,Agent 应暂停并请求用户判断。人工介入不是 Agent 失败,而是可靠系统的一部分。读取公开信息通常可以自动进行,发布内容、发送消息、支付或删除数据等操作则应设置更严格的确认与权限边界。
运行检查要点
观察一个 Agent 时,可以依次询问:
- 它收到的目标是什么?
- 它能看到哪些信息?
- 它可以使用哪些工具?
- 它如何判断工具执行成功?
- 它在什么情况下继续、停止或询问用户?