hermes教程-代理循环内部机制

核心职责

AIAgent 负责以下事项：

• 通过 prompt_builder.py 组装有效的系统提示和工具模式
• 选择正确的提供商/API 模式（chat_completions、codex_responses、anthropic_messages）
• 进行可中断的模型调用，支持取消操作
• 执行工具调用（顺序执行或通过线程池并发执行）
• 以 OpenAI 消息格式维护对话历史
• 处理压缩、重试和回退模型切换
• 跟踪父代理和子代理的迭代预算
• 在上下文丢失前刷新持久化内存

两个入口点

## 简单接口 — 返回最终响应字符串
response = agent.chat("Fix the bug in main.py")
## 完整接口 — 返回包含消息、元数据、使用统计的字典
result = agent.run_conversation(
    user_message="Fix the bug in main.py",
    system_message=None,           # 省略时自动构建
    conversation_history=None,      # 省略时从会话自动加载
    task_id="task_abc123"
)

chat() 是 run_conversation() 的轻量封装，从结果字典中提取 final_response 字段。

API 模式

Hermes 支持三种 API 执行模式，根据提供商选择、显式参数和基础 URL 启发式规则确定：

该模式决定了消息的格式化方式、工具调用的结构、响应的解析方式以及缓存/流式传输的工作方式。所有三种模式在 API 调用前后都收敛到相同的内部消息格式（OpenAI 风格的 role/content/tool_calls 字典）。

模式解析顺序：

1. 显式 api_mode 构造函数参数（最高优先级）
2. 提供商特定检测（例如，anthropic 提供商 → anthropic_messages）
3. 基础 URL 启发式规则（例如，api.anthropic.com → anthropic_messages）
4. 默认值：chat_completions

轮次生命周期

代理循环的每次迭代遵循以下顺序：

run_conversation()
  1. 如果未提供 task_id，则生成
  2. 将用户消息追加到对话历史
  3. 构建或重用缓存的系统提示（prompt_builder.py）
  4. 检查是否需要预检压缩（上下文超过 50%）
  5. 从对话历史构建 API 消息
     - chat_completions：直接使用 OpenAI 格式
     - codex_responses：转换为 Responses API 输入项
     - anthropic_messages：通过 anthropic_adapter.py 转换
  6. 注入临时提示层（预算警告、上下文压力）
  7. 如果使用 Anthropic，则应用提示缓存标记
  8. 进行可中断的 API 调用（_interruptible_api_call）
  9. 解析响应：
     - 如果包含 tool_calls：执行它们，追加结果，循环回步骤 5
     - 如果包含文本响应：持久化会话，必要时刷新内存，返回

消息格式

所有消息内部使用兼容 OpenAI 的格式：

{"role": "system", "content": "..."}
{"role": "user", "content": "..."}
{"role": "assistant", "content": "...", "tool_calls": [...]}
{"role": "tool", "tool_call_id": "...", "content": "..."}

推理内容（来自支持扩展思考的模型）存储在 assistant_msg["reasoning"] 中，并可通过 reasoning_callback 可选显示。

消息交替规则

代理循环强制执行严格的消息角色交替：

• 系统消息之后：用户 → 助手 → 用户 → 助手 → ...
• 工具调用期间：助手（带 tool_calls） → 工具 → 工具 → ... → 助手
• 绝不连续出现两条助手消息
• 绝不连续出现两条用户消息
• 只有 tool 角色可以连续出现（并行工具结果）

提供商验证这些序列，并拒绝格式错误的历史记录。

可中断的 API 调用

API 请求包装在 _interruptible_api_call() 中，该函数在后台线程中执行实际的 HTTP 调用，同时监控中断事件：

┌────────────────────────────────────────────────────┐
│  主线程                      API 线程              │
│                                                    │
│   等待：                       HTTP POST            │
│    - 响应就绪           ───▶   发送到提供商          │
│    - 中断事件                                       │
│    - 超时                                           │
└────────────────────────────────────────────────────┘

当中断发生时（用户发送新消息、/stop 命令或信号）：

• API 线程被放弃（响应被丢弃）
• 代理可以处理新输入或干净地关闭
• 不会将部分响应注入对话历史

工具执行

顺序执行与并发执行

当模型返回工具调用时：

• 单个工具调用 → 直接在主线程中执行
• 多个工具调用 → 通过 ThreadPoolExecutor 并发执行
  • 例外：标记为交互式的工具（例如 clarify）强制顺序执行
  • 结果按原始工具调用顺序重新插入，无论完成顺序如何

执行流程

for each tool_call in response.tool_calls:
    1. 从 tools/registry.py 解析处理程序
    2. 触发 pre_tool_call 插件钩子
    3. 检查是否为危险命令（tools/approval.py）
       - 如果是危险命令：调用 approval_callback，等待用户
    4. 使用参数 + task_id 执行处理程序
    5. 触发 post_tool_call 插件钩子
    6. 将 {"role": "tool", "content": result} 追加到历史记录

代理级工具

某些工具在到达 handle_function_call() 之前由 run_agent.py 拦截：

这些工具直接修改代理状态，并返回合成工具结果，而不经过注册表。

回调接口

AIAgent 支持平台特定的回调，可在 CLI、网关和 ACP 集成中实现实时进度：

预算和回退行为

迭代预算

代理通过 IterationBudget 跟踪迭代：

• 默认值：90 次迭代（可通过 agent.max_turns 配置）
• 每个代理都有自己的预算。子代理获得独立预算，上限为 delegation.max_iterations（默认 50）——父代理和子代理的总迭代次数可以超过父代理的上限
• 达到 100% 时，代理停止并返回已完成工作的摘要

回退模型

当主模型失败时（429 速率限制、5xx 服务器错误、401/403 认证错误）：

1. 检查配置中的 fallback_providers 列表
2. 按顺序尝试每个回退
3. 成功时，使用新提供商继续对话
4. 对于 401/403，在故障转移前尝试凭据刷新

回退系统还独立覆盖辅助任务——视觉、压缩和网页提取各自有自己的回退链，可通过 auxiliary.* 配置部分配置。

压缩和持久化

压缩触发时机

• 预检（API 调用前）：如果对话超过模型上下文窗口的 50%
• 网关自动压缩：如果对话超过 85%（更激进，在轮次之间运行）

压缩过程

1. 首先将内存刷新到磁盘（防止数据丢失）
2. 将中间对话轮次总结为紧凑摘要
3. 保留最后 N 条消息不变（compression.protect_last_n，默认 20）
4. 工具调用/结果消息对保持在一起（从不拆分）
5. 生成新的会话谱系 ID（压缩创建“子”会话）

会话持久化

每次轮次后：

• 消息保存到会话存储（通过 hermes_state.py 的 SQLite）
• 内存更改刷新到 MEMORY.md / USER.md
• 稍后可通过 /resume 或 hermes chat --resume 恢复会话

关键源文件

相关文档

• 提供商运行时解析
• 提示组装
• 上下文压缩与提示缓存
• 工具运行时
• 架构概述