ByteNoteByteNote

字节笔记本

2026年6月21日

hermes教程-将 Hermes 作为 Python 库使用

API中转
¥120

安装

直接从仓库安装 Hermes:

bash
pip install git+https://github.com/NousResearch/hermes-agent.git

或使用 uv

bash
uv pip install git+https://github.com/NousResearch/hermes-agent.git

你也可以将其固定到 requirements.txt 中:

hermes-agent @ git+https://github.com/NousResearch/hermes-agent.git

提示

将 Hermes 作为库使用时,需要与 CLI 相同的环境变量。至少需要设置 OPENROUTER_API_KEY(如果使用直接提供商访问,则设置 OPENAI_API_KEY / ANTHROPIC_API_KEY)。


基本用法

使用 Hermes 最简单的方式是调用 chat() 方法——传入一条消息,返回一个字符串:

python
from run_agent import AIAgent

agent = AIAgent(
    model="anthropic/claude-sonnet-4.6",
    quiet_mode=True,
)
response = agent.chat("What is the capital of France?")
print(response)

chat() 在内部处理完整的对话循环——工具调用、重试等——并仅返回最终的文本响应。

警告

在将 Hermes 嵌入到自己的代码中时,务必设置 quiet_mode=True。否则,代理会打印 CLI 旋转指示器、进度指示器以及其他终端输出,这些会干扰你的应用程序输出。


完整对话控制

如需对对话进行更多控制,可以直接使用 run_conversation()。它返回一个包含完整响应、消息历史和元数据的字典:

python
agent = AIAgent(
    model="anthropic/claude-sonnet-4.6",
    quiet_mode=True,
)

result = agent.run_conversation(
    user_message="Search for recent Python 3.13 features",
    task_id="my-task-1",
)

print(result["final_response"])
print(f"Messages exchanged: {len(result['messages'])}")

返回的字典包含:

  • final_response — 代理的最终文本回复
  • messages — 完整的消息历史(系统、用户、助手、工具调用)

(你传入的 task_id 会存储在代理实例上用于 VM 隔离,但不会在返回字典中回显。)

你也可以传入自定义系统消息,该消息会覆盖该次调用的临时系统提示:

python
result = agent.run_conversation(
    user_message="Explain quicksort",
    system_message="You are a computer science tutor. Use simple analogies.",
)

配置工具

使用 enabled_toolsetsdisabled_toolsets 控制代理可以访问哪些工具集:

python
## 仅启用网络工具(浏览、搜索)
agent = AIAgent(
    model="anthropic/claude-sonnet-4.6",
    enabled_toolsets=["web"],
    quiet_mode=True,
)
## 启用所有工具,但禁用终端访问
agent = AIAgent(
    model="anthropic/claude-sonnet-4.6",
    disabled_toolsets=["terminal"],
    quiet_mode=True,
)

提示

当你想要一个最小化、锁定严格的代理时(例如,仅用于研究机器人的网络搜索),使用 enabled_toolsets。当你需要大多数功能但需要限制特定功能时(例如,在共享环境中禁止终端访问),使用 disabled_toolsets


多轮对话

通过将消息历史传回,可以在多轮对话中保持对话状态:

python
agent = AIAgent(
    model="anthropic/claude-sonnet-4.6",
    quiet_mode=True,
)
## 第一轮
result1 = agent.run_conversation("My name is Alice")
history = result1["messages"]
## 第二轮——代理记得上下文
result2 = agent.run_conversation(
    "What's my name?",
    conversation_history=history,
)
print(result2["final_response"])  # "Your name is Alice."

conversation_history 参数接受前一次结果中的 messages 列表。代理会在内部复制它,因此你的原始列表不会被修改。


保存对话轨迹

启用轨迹保存,以 ShareGPT 格式捕获对话——适用于生成训练数据或调试:

python
agent = AIAgent(
    model="anthropic/claude-sonnet-4.6",
    save_trajectories=True,
    quiet_mode=True,
)

agent.chat("Write a Python function to sort a list")
## 以 ShareGPT 格式保存到 trajectory_samples.jsonl

每次对话都会作为一行 JSONL 追加,便于从自动化运行中收集数据集。


自定义系统提示

使用 ephemeral_system_prompt 设置自定义系统提示,以指导代理行为,但不会保存到轨迹文件中(保持训练数据干净):

python
agent = AIAgent(
    model="anthropic/claude-sonnet-4",
    ephemeral_system_prompt="You are a SQL expert. Only answer database questions.",
    quiet_mode=True,
)

response = agent.chat("How do I write a JOIN query?")
print(response)

这对于构建专用代理非常理想——代码审查员、文档编写者、SQL 助手——都使用相同的底层工具。


批量处理

如需并行运行多个提示,Hermes 包含 batch_runner.py。它管理并发的 AIAgent 实例,并具有适当的资源隔离:

bash
python batch_runner.py --input prompts.jsonl --output results.jsonl

每个提示都有自己的 task_id 和隔离环境。如果你需要自定义批量逻辑,可以直接使用 AIAgent 构建自己的逻辑:

python
import concurrent.futures
from run_agent import AIAgent

prompts = [
    "Explain recursion",
    "What is a hash table?",
    "How does garbage collection work?",
]

def process_prompt(prompt):
## 为每个任务创建一个新的代理实例,以确保线程安全
    agent = AIAgent(
        model="anthropic/claude-sonnet-4",
        quiet_mode=True,
        skip_memory=True,
    )
    return agent.chat(prompt)

with concurrent.futures.ThreadPoolExecutor(max_workers=3) as executor:
    results = list(executor.map(process_prompt, prompts))

for prompt, result in zip(prompts, results):
    print(f"Q: {prompt}\nA: {result}\n")

警告

务必为每个线程或任务创建一个新的 AIAgent 实例。代理维护内部状态(对话历史、工具会话、迭代计数器),这些状态不是线程安全的,不能共享。


集成示例

FastAPI 端点

python
from fastapi import FastAPI
from pydantic import BaseModel
from run_agent import AIAgent

app = FastAPI()

class ChatRequest(BaseModel):
    message: str
    model: str = "anthropic/claude-sonnet-4"

@app.post("/chat")
async def chat(request: ChatRequest):
    agent = AIAgent(
        model=request.model,
        quiet_mode=True,
        skip_context_files=True,
        skip_memory=True,
    )
    response = agent.chat(request.message)
    return {"response": response}

Discord 机器人

python
import discord
from run_agent import AIAgent

client = discord.Client(intents=discord.Intents.default())

@client.event
async def on_message(message):
    if message.author == client.user:
        return
    if message.content.startswith("!hermes "):
        query = message.content[8:]
        agent = AIAgent(
            model="anthropic/claude-sonnet-4",
            quiet_mode=True,
            skip_context_files=True,
            skip_memory=True,
            platform="discord",
        )
        response = agent.chat(query)
        await message.channel.send(response[:2000])

client.run("YOUR_DISCORD_TOKEN")

CI/CD 流水线步骤

python
#!/usr/bin/env python3
"""CI step: auto-review a PR diff."""
import subprocess
from run_agent import AIAgent

diff = subprocess.check_output(["git", "diff", "main...HEAD"]).decode()

agent = AIAgent(
    model="anthropic/claude-sonnet-4",
    quiet_mode=True,
    skip_context_files=True,
    skip_memory=True,
    disabled_toolsets=["terminal", "browser"],
)

review = agent.chat(
    f"Review this PR diff for bugs, security issues, and style problems:\n\n{diff}"
)
print(review)

关键构造函数参数

参数类型默认值描述
modelstr""OpenRouter 格式的模型(默认为空;运行时从你的 hermes 配置解析)
quiet_modeboolFalse抑制 CLI 输出
enabled_toolsetsList[str]None白名单特定工具集
disabled_toolsetsList[str]None黑名单特定工具集
save_trajectoriesboolFalse将对话保存为 JSONL
ephemeral_system_promptstrNone自定义系统提示(不保存到轨迹)
max_iterationsint90每次对话的最大工具调用迭代次数
skip_context_filesboolFalse跳过加载 AGENTS.md 文件
skip_memoryboolFalse禁用持久化内存读写
api_keystrNoneAPI 密钥(回退到环境变量)
base_urlstrNone自定义 API 端点 URL
platformstrNone平台提示("discord""telegram" 等)

重要说明

提示

  • 如果你不希望工作目录中的 AGENTS.md 文件加载到系统提示中,请设置 skip_context_files=True
  • 设置 skip_memory=True 可防止代理读取或写入持久化内存——推荐用于无状态 API 端点。
  • platform 参数(例如 "discord""telegram")会注入平台特定的格式提示,使代理调整其输出风格。

警告

  • 线程安全:为每个线程或任务创建一个 AIAgent。切勿在并发调用之间共享实例。
  • 资源清理:代理在对话结束时自动清理资源(终端会话、浏览器实例)。如果你在长时间运行的进程中运行,请确保每个对话正常完成。
  • 迭代限制:默认的 max_iterations=90 比较宽松。对于简单的问答场景,考虑降低该值(例如 max_iterations=10),以防止工具调用循环失控并控制成本。
分享: