字节笔记本
2026年10月24日 · 约 8 分钟读完
LLM 当大脑：凭什么做 Agent 的决策核心
本文是《从 0 写 Agent》系列第 43 章。这个系列基于开源项目 agents-go（OpenAI Agents SDK 的 Go 移植版），用 Go 从零实现一个生产级 Agent 运行时；本章讲「LLM 作为大脑：为什么它适合做 Agent 决策核心」。
Agent 的核心是一个"决策者"，决定下一步做什么。为什么这个决策者是 LLM，而不是规则引擎、传统 ML 模型、或强化学习 agent？
这一章讲 LLM 的四个特性，让它成为理想的 Agent 大脑。
引子：决策者候选
Agent 需要一个"决策者"，每一步决定，调哪个工具、传什么参数、什么时候停。谁能胜任？
| 候选 | 能做吗 | 问题 |
|---|---|---|
| 规则引擎（if-else） | 能 | 太死板，写不完所有情况 |
| 传统 ML（分类/回归） | 难 | 输入是开放的自然语言，分类模型处理不了 |
| 强化学习 | 能但要训练 | 需要大量交互数据，训练成本高 |
| LLM | 能 | ✅ 天然适合 |
LLM 赢在哪里？ 四个特性。
特性一：自然语言理解，处理开放输入
传统 ML 模型的输入是"结构化特征"，一个固定维度的向量。但 Agent 的输入是用户用自然语言说的话，
"帮我看看华东区上周销售怎么样，要是下滑得厉害就查查原因"
这句话没有固定结构。 "看看"、"要是"、"下滑得厉害"都是模糊的自然语言。传统分类模型处理不了，你要先把它解析成结构化特征，但"解析自然语言"本身就是个难题。
LLM 天然理解自然语言。 它不用你预先解析，直接吃自然语言，理解意图。这是它做 Agent 大脑的第一优势，处理开放的、非结构化的输入。
特性二：常识与推理，做出合理判断
Agent 要判断"这个用户是想退款还是投诉"。规则引擎做不到（写不完所有情况的 if-else），传统 ML 要标注大量数据训练分类器。
LLM 自带"常识"。 它在训练时读过海量文本，知道"退款"通常和"订单""金额""退回"相关，"投诉"通常和"不满""态度""处理"相关。它能基于这些常识做推理判断，不需要你标注数据。
用户："我上周买的东西还没到，而且客服态度特别差"
LLM 推理：还没到（物流问题）+ 态度差（服务不满）→ 这是投诉 + 物流查询这个推理，是 LLM "免费"给你的，不用训练，不用标注，它自己就会。
特性三：工具调用，结构化输出能力
这是最关键的。Agent 的决策结果不是"一段文字"，而是"结构化的工具调用"，调哪个工具、传什么参数。
LLM 经过 function calling 训练后，能输出结构化的工具调用：
{
"name": "get_order_status",
"arguments": {"order_id": "12345", "region": "华东"}
}这比传统 ML 的"分类标签"强得多。 分类模型只能输出"这是类别 A"，LLM 能输出"调这个工具、传这些参数"，参数本身就是 LLM 从自然语言里提取并结构化的。
这是 agents-go 的 NewFunctionTool（第 3 章）能工作的基础，LLM 能把自然语言意图，转成结构化的工具调用。
特性四：上下文适应，同一模型干多种任务
传统 ML 一个模型干一件事，退款分类器只分类退款，物流分类器只分类物流。要做 Agent，你得堆一堆模型。
LLM 一个模型干所有事。 同一个 LLM，既能判断退款意图，又能调物流查询，还能写总结，靠 prompt 切换"角色"。
同一个 LLM：
- 给它客服指令 → 它是客服 Agent
- 给它分析指令 → 它是分析 Agent
- 给它编程指令 → 它是编程 Agent这让 Agent 的"分工"变成 prompt 配置问题（第 15 章的 Handoff，本质是切换 prompt）。不用为每个角色训练专门模型。
LLM 做大脑的代价
这四个特性让 LLM 成为理想的 Agent 大脑，但代价是：
代价一：不确定性
第 42 章讲过，LLM 是概率性的，同输入可能不同输出。这是它和规则引擎的根本区别，规则引擎 100% 确定，LLM 不是。
代价二：延迟和成本
LLM 推理慢（几百毫秒到几秒）、贵（按 token 付费）。规则引擎微秒级、几乎免费。Agent 的每一轮决策都要调 LLM，成本累积。
代价三：幻觉
LLM 可能"编造"，调用不存在的工具（第 4 章的 ToolNotFound）、编造参数、虚构事实。规则引擎不会幻觉（它只按写的规则跑）。
代价四：能力边界
LLM 不擅长精确计算（大数乘法可能算错）、不擅长严格逻辑（复杂推理可能出错）。这些场景要用工具补，计算器工具、逻辑验证工具。
设计权衡：LLM + 工具的互补
理解了 LLM 的优势和代价，Agent 的设计哲学就清晰了，LLM 做决策（擅长），工具做执行（确定性）。
LLM（决策，概率性，擅长理解和推理）
↓ 决定调什么工具
工具（执行，确定性，擅长精确操作）
↓ 返回结果
LLM（再决策，基于结果推理）LLM 不直接执行，它只决定"执行什么"。执行交给确定性的工具。 这是 Agent 架构的精髓：
- LLM 的"不精确"被工具的"精确"中和
- 工具的"死板"被 LLM 的"灵活"中和
- 两者互补，形成"灵活但可控"的系统
agents-go 的整个设计，FunctionTool 的确定性执行、guardrail 的验证、HITL 的人工确认，都是在这个哲学下，给 LLM 的"概率性决策"加"确定性边界"。
小结
读完这一章，你应该理解 LLM 为什么适合做 Agent 大脑：
- 自然语言理解，处理开放的、非结构化的用户输入
- 常识与推理，自带世界知识，能做合理判断
- 工具调用，把自然语言意图转成结构化工具调用
- 上下文适应，一个模型靠 prompt 切换多种角色
代价是不确定性、延迟、幻觉、能力边界，这些用"工具执行 + 验证边界"来中和。
Agent 架构的本质，LLM 做决策（概率、灵活），工具做执行（确定、精确）。两者互补。
下一篇
第 44 章，评估难题：怎么知道 Agent 好不好。传统软件有测试覆盖率，Agent 这种概率性系统怎么评估？这是 Agent 工程化最难、也最被低估的问题。
本文是《从 0 写 Agent》系列第 43 章，案例代码基于开源项目 agents-go（OpenAI Agents SDK 的 Go 移植版）。全系列目录见总览。
