AI Agent 基础
在 大语言模型基础 中,我们介绍了 LLM 如何生成回答,以及模型怎样通过工具调用使用外部功能。接下来,一个自然的问题是:如果任务需要查好几次资料,还要根据查询结果改变处理步骤,系统应该怎样组织这些操作?
例如,用户提出:
帮我查清订单 A1024 为什么一直没发货,并告诉我应该怎么处理。这个任务可能需要先查订单,再查仓库,必要时读取发货规则。每一步得到的信息,都会影响下一步该做什么。Agent 的核心,就是围绕一个目标,根据当前信息选择行动,再利用行动结果继续推进任务。
本文参考 JavaGuide 的 Agent 目录组织内容,围绕这个订单排查例子,逐一解释 11 个相关概念。例子中的订单和查询结果均为演示数据。
1. 什么是 Agent
Section titled “1. 什么是 Agent”Agent(智能体) 可以理解为一个围绕目标,持续获取信息、做出决策并执行行动的软件系统。本文讨论的是以 LLM 作为重要决策组件的 AI Agent。
在订单排查场景中,各部分的职责可以这样划分:
| 组成 | 负责什么 | 例子 |
|---|---|---|
| LLM | 理解任务,根据已有信息决定下一步 | 订单已付款,需要继续查询仓库状态 |
| 工具 | 执行实际操作,获取或修改外部数据 | 查询订单、读取仓库记录 |
| 状态 | 记录目标、已获得的证据和当前进度 | 已确认付款成功,尚未确认卡在哪个环节 |
| 运行程序 | 调用模型、执行工具、更新状态并控制流程 | 把仓库查询结果交回模型,开始下一轮 |
模型可以提出查询请求,真正访问订单系统的是工具背后的程序。运行程序将结果交回模型,模型才有依据判断是否需要继续查询。
1.1 会调用一次工具,就一定是 Agent 吗
Section titled “1.1 会调用一次工具,就一定是 Agent 吗”不同产品对 Agent 的定义并不完全一致。理解架构时,可以重点看:下一步的执行路径,主要由预先写好的流程控制,还是由模型根据反馈动态决定。
“查一次订单,然后按模板返回状态”可以用固定流程完成。而“排查未发货原因”可能需要根据订单状态选择仓库、库存或地址信息等不同查询路径。
本文采用这种区分方式,与 Anthropic 对工作流和 Agent 的说明一致。实际系统也可以在固定流程中嵌入一段由模型决定步骤的任务。
1.2 Agent 的自主性有范围
Section titled “1.2 Agent 的自主性有范围”自主选择下一步,仍然需要遵守应用提供的工具、权限和任务范围。比如,本例的目标是查询原因并给出建议,系统只提供只读工具;发现地址缺失后,可以请用户补充信息,而不是自行修改收货地址。
长期记忆、复杂规划和多个模型都可以按需增加。一个简单的 Agent,也可以只有模型、少量工具、当前任务状态和一个运行循环。
2. Agent Loop:Agent 怎样持续推进任务
Section titled “2. Agent Loop:Agent 怎样持续推进任务”Agent Loop 是 Agent 的运行循环:读取当前信息,让模型决定下一步,执行行动,将结果写回状态,然后再次判断。
用户目标 + 当前状态 ↓ 组装模型上下文 ↓ 模型决定下一步 ├── 调用工具 → 执行操作 → 记录结果 ──┐ │ │ │ ←──── 进入下一轮 ───────────┘ ├── 缺少信息 → 暂停,等待用户补充 └── 可以结束 → 校验结果,返回回答2.1 每一轮会发生什么
Section titled “2.1 每一轮会发生什么”以订单排查为例:
| 轮次 | 模型获得的信息 | 选择的行动 | 本轮结果 |
|---|---|---|---|
| 第一轮 | 用户说订单未发货 | 查询订单 A1024 | 已付款,尚未出库 |
| 第二轮 | 付款正常,卡在出库前 | 查询对应仓库记录 | 收货信息不完整,暂缓出库 |
| 第三轮 | 已有具体阻塞原因 | 读取相关处理规则 | 需要用户补充收货信息 |
| 第四轮 | 原因和处理依据齐全 | 生成回答 | 告知原因、处理方式及依据 |
这里的轮次是为了讲解而划分的。一次模型响应可能提出多个工具调用,一次工具调用也不等于完成整个任务。
2.2 一个简化的运行循环
Section titled “2.2 一个简化的运行循环”下面是描述控制流程的 Python 伪代码,辅助函数代表需要由应用实现的功能:
def run_agent(task, max_steps): state = load_or_create_state(task)
for step in range(max_steps): if budget_exhausted(state): return pause_task(state, reason="budget_exhausted")
decision = ask_model(build_context(state), available_tools(state))
if decision.kind == "ask_user": return pause_task(state, question=decision.question)
if decision.kind == "finish": if verify_completion(state, decision.answer): return complete_task(state, decision.answer) state.add_feedback("完成条件尚未满足,请补充证据或说明缺口") else: # 由应用校验工具名称、参数和权限,并处理执行错误 result = execute_checked_tool(decision.tool_call) state.record_tool_result(decision.tool_call, result)
save_state(state)
return pause_task(state, reason="step_limit")循环需要明确的停止条件。目标已经完成、需要用户输入、执行失败无法继续,或轮次、时间、费用达到上限,都可以成为结束或暂停的原因。
工具调用与结果回填的具体接口形式,可以参考 Ollama 的工具调用示例。
3. ReAct:根据反馈边分析、边行动
Section titled “3. ReAct:根据反馈边分析、边行动”ReAct 来自 Reasoning + Acting,强调将推理与行动交替组织:根据当前信息选择行动,再根据外部观察调整下一步。其原始研究见 ReAct 论文项目页。
可以用三个词理解这个过程:
| 环节 | 含义 | 订单例子 |
|---|---|---|
| Reasoning | 分析当前缺少什么信息、下一步该查什么 | 付款正常,需要确认出库环节 |
| Action | 执行一次具体行动 | 查询仓库记录 |
| Observation | 接收行动带来的外部信息 | 仓库记录显示收货信息不完整 |
下面只展示用于讲解的简短行动依据:
已有证据:订单已付款,但尚未出库。下一步:查询仓库的阻塞原因。观察结果:收货信息不完整,仓库暂缓出库。下一步:读取对应处理规则,确认如何补充信息。如果仓库返回的是“商品缺货”,下一步可能就变成查询补货安排。行动路线随着观察结果变化,这是 ReAct 很直观的特点。
3.1 ReAct 和 Agent Loop 有什么区别
Section titled “3.1 ReAct 和 Agent Loop 有什么区别”Agent Loop 描述运行程序如何反复调用模型和工具;ReAct 描述在这些轮次中,如何把分析、行动和反馈结合起来。一个 Agent Loop 可以采用 ReAct 思路,也可以结合其他规划方式。
ReAct 原始论文包含显式的推理轨迹。实际使用现代模型接口时,不需要假定模型会公开完整推理过程;排查系统行为时,可以记录行动摘要、工具参数、执行结果和证据来源。
4. Plan-and-Execute:先规划,再分步执行
Section titled “4. Plan-and-Execute:先规划,再分步执行”Plan-and-Execute 将较高层的任务规划与具体步骤执行分开。通常由 Planner(规划器)拆解任务,再由 Executor(执行器)完成各个步骤。LangChain 对这种模式的介绍展示了这一组织方式。
对于订单排查,可以先生成一个计划:
目标:查明订单 A1024 未发货的原因,并给出处理建议。
计划:1. 确认订单当前状态。2. 根据订单状态,检查阻塞发货的相关记录。3. 查找适用的处理规则。4. 整理原因、证据和用户需要采取的步骤。第二步本身仍然可能需要多轮工具调用。例如,执行器先查仓库记录,再根据返回内容决定是否补查库存。
4.1 计划也需要更新
Section titled “4.1 计划也需要更新”假设第一步发现订单已经取消,原先围绕发货的后续步骤就应重新评估。应用可以在关键步骤完成后触发重新规划,让计划与实际状态保持一致。
这类模式的价值是保留整体目标和进度,避免长任务只顾眼前。但规划本身可能有误,也会增加模型调用和状态管理开销。
4.2 和 ReAct 怎么配合
Section titled “4.2 和 ReAct 怎么配合”| 方式 | 主要关注点 |
|---|---|
| ReAct | 根据刚获得的反馈,决定眼前的下一步 |
| Plan-and-Execute | 先明确整体步骤,再跟踪每一步的完成情况 |
两者可以结合:规划器维护全局计划,执行器在某个步骤内采用 ReAct。Planner 和 Executor 是职责划分,也可以由同一个模型承担。
5. Workflow、Graph 与 Loop:流程、结构和运行方式
Section titled “5. Workflow、Graph 与 Loop:流程、结构和运行方式”这三个词讨论的是不同方面,需要放到具体执行过程里理解。
5.1 Workflow:定义任务怎样流转
Section titled “5.1 Workflow:定义任务怎样流转”Workflow(工作流) 用预先设计的步骤、条件和分支组织任务。例如:
收到订单号 → 校验用户身份 → 查询订单 → 按状态分支 → 返回结果工作流中可以调用 LLM,但整体路径依然可以由程序控制。固定步骤容易验证,适合规则明确、处理路径相对稳定的任务。
5.2 Graph:表示节点之间的连接
Section titled “5.2 Graph:表示节点之间的连接”Graph(图) 是表达执行关系的一种结构。常见元素包括:
- Node(节点):一次模型调用、一次工具执行或一段业务逻辑;
- Edge(边):决定接下来转到哪个节点,也可以根据条件选择;
- State(状态):执行过程中共享和更新的数据。
图中可以有固定分支,也可以有循环。例如,“调用模型 → 执行工具 → 回到模型”就可以表示为一段带回边的图。
5.3 Loop:重复执行直到满足条件
Section titled “5.3 Loop:重复执行直到满足条件”Loop 是循环执行机制。工作流也可以循环重试,Agent 也可以用图来实现;看到图形界面或 while 循环,还不能单凭这一点判断系统是否由模型动态决策。
订单助手可以采用这样的组合:
固定工作流:身份校验 → 创建排查任务 → 结果校验 │ └── Agent Loop:动态选择查询步骤关于固定流程与动态 Agent 的不同模式,可以参考 LangGraph:Workflows and agents。
6. Context Engineering:每一轮应该给模型看什么
Section titled “6. Context Engineering:每一轮应该给模型看什么”Context Engineering(上下文工程) 关注如何为模型选择、组织和更新当前需要的信息。
Agent 每执行一步,就可能产生新的工具结果、日志和中间结论。这些内容不能无休止地堆进下一次请求:输入长度有上限,重复和无关信息也会影响模型判断。
6.1 和 Prompt Engineering 的区别
Section titled “6.1 和 Prompt Engineering 的区别”| 关注点 | 订单例子 |
|---|---|
| Prompt Engineering | 写清“根据实际查询结果解释原因,缺少证据时说明无法确认” |
| Context Engineering | 决定这轮提交哪些订单字段、仓库记录、处理规则和历史摘要 |
例如,已经确认仓库因收货信息不完整而暂缓出库,下一轮需要的可能只是订单号、阻塞原因和对应规则。把整批仓库日志、其他订单和多次重复查询全部提供给模型,会增加干扰。
6.2 怎样管理不断增长的上下文
Section titled “6.2 怎样管理不断增长的上下文”可以围绕任务保留以下信息:
- 目标与范围:用户要查清什么,允许执行哪些操作;
- 当前证据:已查明的事实、来源和查询时间;
- 未解决问题:还缺少哪些信息;
- 必要的执行记录:哪些方法已经尝试过、为什么失败;
- 本轮可用工具与规则:下一步真正需要的能力和参考内容。
较长的原始材料可以保存在外部,需要时再读取;已完成步骤可以压缩成摘要,但关键编号、错误信息和来源应保留。外部文档中的文字还应作为待分析的数据处理,不能因为它出现在工具结果里,就被当成应用指令。
这类思路可参考 Anthropic 的上下文工程文章。
7. Memory:哪些信息需要保留下来
Section titled “7. Memory:哪些信息需要保留下来”Memory(记忆) 关注信息怎样保存,以及在后续交互中怎样被找回。它与上下文密切相关:保存下来的信息,需要被选取并提供给模型,才能影响当前回答。
7.1 短期记忆与长期记忆
Section titled “7.1 短期记忆与长期记忆”| 类型 | 作用范围 | 例子 |
|---|---|---|
| 短期记忆 | 当前会话或任务 | 正在排查 A1024,已确认付款正常,仓库返回地址信息缺失 |
| 长期记忆 | 跨会话保留的信息 | 用户确认过的语言偏好、常用解释方式或可复用的处理经验 |
短期记忆也可以持久化到数据库,供任务中断后恢复。“短期”描述的是使用范围,并不意味着它只能放在进程内存中。LangChain 的记忆概览区分了这两种作用范围。
7.2 保存了,不代表每次都要读取
Section titled “7.2 保存了,不代表每次都要读取”订单排查结束后,某次查询结果未必还适合下次使用。订单状态会变化,下次需要查实时状态时,应重新查询,而不是将旧记录当作当前事实。
实际管理记忆时,需要确定来源、更新时间、适用用户和有效期。用户后来给出的明确要求,也可能覆盖之前保存的偏好。
这些信息可以放在关系数据库、文件、键值存储或向量存储中,按任务选择即可。普通的记忆写入通常不会更新模型权重。
7.3 记忆与知识库检索有什么关系
Section titled “7.3 记忆与知识库检索有什么关系”两者可能共用检索技术,但信息的用途和生命周期不同。例如,发货规则属于业务知识,用户在交互中确认的解释偏好属于个性化记忆。设计时应根据数据来源和使用范围区分,而不是只看它们是否存在向量数据库里。
8. MCP:应用怎样统一连接外部能力
Section titled “8. MCP:应用怎样统一连接外部能力”MCP(Model Context Protocol,模型上下文协议) 为 AI 应用与外部服务交换能力和上下文提供协议约定。
假设订单、仓库和知识库分别由不同服务提供。除了为每个应用单独定制接入方式,也可以让服务通过 MCP 暴露能力,由支持 MCP 的应用进行发现和使用。
8.1 Host、Client 和 Server 分别是什么
Section titled “8.1 Host、Client 和 Server 分别是什么”| 角色 | 职责 | 订单场景中的位置 |
|---|---|---|
| Host | 承载 AI 应用,协调模型、用户交互和外部连接 | 订单排查助手 |
| Client | Host 中负责与 MCP Server 通信的组件 | 助手里的订单服务连接组件 |
| Server | 按 MCP 协议提供能力和上下文的程序 | 对外提供订单查询的 MCP 服务 |
模型提出查询请求后,应用可以通过 MCP Client 访问对应 Server,再由服务调用实际业务系统:
模型生成工具请求 ↓应用 Host → MCP Client → MCP Server → 订单系统 ↑ │ └──────── 查询结果返回 ──────────────┘MCP Server 可以在本地运行,也可以部署在远端。它可以暴露 Tools(工具)、Resources(资源)和 Prompts(提示模板)等能力;协议角色与能力说明见 MCP 官方架构文档。
8.2 MCP 和 Tool Calling 是什么关系
Section titled “8.2 MCP 和 Tool Calling 是什么关系”Tool Calling 表达模型想调用哪个工具、使用哪些参数;MCP 约定应用怎样与外部能力提供方通信。 应用可以把从 MCP Server 获取的工具描述转换成模型支持的工具定义,再处理模型发出的调用请求。
直接调用本地函数或 HTTP 接口,也能实现工具调用。是否使用 MCP,取决于接入和复用需求;建立了 MCP 连接,也仍需要应用处理权限与执行结果。
9. Skills:把任务经验整理成可复用说明
Section titled “9. Skills:把任务经验整理成可复用说明”Agent Skills 将某类任务的知识、步骤和资源整理成可发现、可加载的能力包。按照 Agent Skills 的开放格式,一个 Skill 至少包含 SKILL.md,也可以附带脚本、参考资料和模板。
例如,可以把订单排查经验整理成:
order-triage/├── SKILL.md├── references/│ └── shipping-rules.md└── scripts/ └── summarize-order-log.py9.1 SKILL.md 里写什么
Section titled “9.1 SKILL.md 里写什么”下面是一个简化的任务说明示例:
---name: order-triagedescription: 排查已付款但未发货的订单,整理阻塞原因与处理建议。---
# 订单未发货排查
1. 先确认订单号和当前状态。2. 若订单已付款但未出库,检查仓库记录。3. 根据实际阻塞原因,查阅相关处理规则。4. 返回原因、证据来源和后续建议。5. 缺少必要信息时向用户询问;本任务只做查询与解释。其中,name 标识 Skill,description 说明适用任务,正文提供操作方法。字段格式可以参考 Agent Skills 规范。
支持该机制的宿主通常先发现 Skill 的名称和描述,匹配任务后再加载完整说明;相关资料和脚本也可以按需读取。这样可以复用任务经验,并减少不相关内容占用上下文。
9.2 Skills、Prompt、工具和 MCP 怎样配合
Section titled “9.2 Skills、Prompt、工具和 MCP 怎样配合”| 概念 | 在订单排查中负责什么 |
|---|---|
| Prompt | 说明本次要排查订单 A1024 |
| Skill | 提供排查顺序、证据要求和回答模板 |
| 工具 | 实际查询订单或读取日志 |
| MCP | 提供一种连接和调用外部能力的协议 |
Skill 可以指导模型怎样使用工具,但实际执行仍依赖宿主程序和相应权限。把流程写进 SKILL.md,也不代表任何模型接口都会自动识别,需要运行环境支持加载机制。
10. Harness Engineering:把模型接进可运行的系统
Section titled “10. Harness Engineering:把模型接进可运行的系统”Agent Harness 通常指围绕模型构建的运行系统,包括工具执行、状态管理、上下文处理、环境和控制逻辑。Harness Engineering 就是设计和改进这些部分的工程工作。
LangChain 的 Harness 文章使用 Agent = Model + Harness 帮助划分职责:模型提供决策与生成能力,Harness 将这些能力接到实际任务环境中。它是一种工程理解方式,而非要求所有产品采用相同边界。
10.1 对后端开发者来说,具体要实现什么
Section titled “10.1 对后端开发者来说,具体要实现什么”| 系统部分 | 要处理的问题 |
|---|---|
| 模型适配 | 怎样提交请求、解析工具调用和处理异常响应 |
| 工具执行 | 函数如何注册,参数怎样校验,执行失败怎样返回 |
| 状态管理 | 任务进度和证据保存在哪里,怎样恢复 |
| 上下文管理 | 哪些历史、规则和查询结果进入下一轮 |
| 执行约束 | 哪些操作可用,时间、调用次数和费用怎样限制 |
| 观测与验证 | 怎样追踪出错步骤,怎样判断任务真的完成 |
例如,模型选择了正确的仓库查询工具,但接口超时后整个任务直接丢失,问题就在执行与状态恢复环节。模型给出“排查完成”的回答,但没有关联任何证据,则需要检查完成条件与结果验证。
10.2 状态保存与中断恢复
Section titled “10.2 状态保存与中断恢复”如果用户暂时没有提供必要信息,可以保存任务状态,等用户补充后继续。持久化时需要区分当前任务快照和跨任务资料;具体实现可以参考 LangGraph 的持久化说明。
恢复也要考虑已经执行过的操作。查询通常可以重新发起,而创建记录等操作需要识别是否已经成功,避免重放时重复执行。
在需要外部输入的位置暂停并恢复,是运行系统提供的能力。LangGraph 的 Interrupts 文档给出了这种模式的实现示例。
11. Loop Engineering:让循环有反馈、有进展、能停止
Section titled “11. Loop Engineering:让循环有反馈、有进展、能停止”Loop Engineering 在工程讨论中,通常用来强调怎样把反馈循环设计得更可靠。这个名称的使用范围尚不统一;本文将它理解为围绕目标、行动、验证和停止条件改进 Agent 的运行循环。
Agent Loop 说明“循环怎样运行”,Loop Engineering 更关注“反复运行时,怎样知道它正在接近目标”。它也可以看作 Harness 工程中围绕循环控制的一部分。
11.1 为循环定义可以检查的进展
Section titled “11.1 为循环定义可以检查的进展”在订单例子里,可以定义以下检查项:
| 环节 | 可以检查的内容 |
|---|---|
| 目标 | 已识别阻塞原因,并给出有依据的处理建议 |
| 行动 | 执行的是允许使用的查询,参数与当前任务一致 |
| 反馈 | 记录了查询是否成功、实际返回什么、来源是什么 |
| 进展 | 本轮是否解决了一个未知问题,或获得了新的证据 |
| 停止 | 目标满足、需要用户输入、无法继续,或达到预算上限 |
“模型说已经完成”只是一条输出。订单排查是否完成,还应检查原因是否有来源、是否存在尚未解释的冲突信息,以及用户需要做的事情是否明确。
11.2 避免没有进展地重复行动
Section titled “11.2 避免没有进展地重复行动”假设仓库接口连续超时,系统应该记录失败,限制重试,并在必要时说明暂时无法确认。反复提交完全相同的请求,既不增加证据,也会持续消耗时间。
可以记录近期的工具名、参数和结果,识别重复失败;对长任务则保存已完成步骤与剩余问题,让恢复后的循环从明确状态继续。
如果将这个思路用到代码修改任务,外部反馈就可以是测试结果、类型检查或页面验证。测试通过与否有可检查的信号,比仅让模型反复评价“代码应该没问题”更有依据。
11.3 把这些概念放回同一个系统
Section titled “11.3 把这些概念放回同一个系统”订单助手收到任务后,可以加载对应 Skill,通过上下文工程挑选资料,由 Agent Loop 推进排查。模型按 ReAct 思路选择下一次查询,复杂任务也可以先做计划;工具通过本地代码或 MCP 接入,查询结果和任务状态按需保存。
Harness 负责让上述过程实际运行,Loop Engineering 则持续改进每一轮的反馈、验证、恢复和停止方式。它们各自关注不同问题,可以在同一系统中配合使用。
12. 参考资料
Section titled “12. 参考资料”- 目录结构参考:JavaGuide:AI 核心概念总览 · Agent。本文使用独立示例重新组织解释。
- Anthropic:Building effective agents——Agent 与工作流的架构区分。
- Ollama:Tool calling——工具执行与结果回填。
- ReAct:Synergizing Reasoning and Acting in Language Models——推理与行动交替的研究。
- LangChain:Plan-and-Execute Agents——规划与执行的职责划分。
- LangGraph:Workflows and agents——工作流与 Agent 的组织模式。
- Anthropic:Effective context engineering for AI agents——上下文选择与维护。
- LangChain:Memory overview——短期与长期记忆。
- MCP:Architecture overview——协议角色与能力。
- Agent Skills:Overview、Specification——Skill 的结构、内容和加载方式。
- LangChain:The Anatomy of an Agent Harness——运行系统的职责。
- LangGraph:Persistence、Interrupts——状态保存与暂停恢复。