将 Hermes 作为 Python 库使用
Hermes 不只是一个 CLI 工具。你可以直接导入 AIAgent 并在自己的 Python 脚本、Web 应用或自动化流水线中以编程方式使用它。本指南将向你展示如何操作。
安装
直接从代码仓库安装 Hermes:
pip install git+https://github.com/NousResearch/hermes-agent.git
或使用 uv:
uv pip install git+https://github.com/NousResearch/hermes-agent.git
也可以在 requirements.txt 中固定版本:
hermes-agent @ git+https://github.com/NousResearch/hermes-agent.git
将 Hermes 作为库使用时,需要与 CLI 相同的环境变量。至少需要设置 OPENROUTER_API_KEY(如果使用直接提供商访问,则设置 OPENAI_API_KEY / ANTHROPIC_API_KEY)。
基本用法
使用 Hermes 最简单的方式是 chat() 方法——传入消息,获取字符串响应:
from run_agent import AIAgent
agent = AIAgent(
model="anthropic/claude-sonnet-4",
quiet_mode=True,
)
response = agent.chat("What is the capital of France?")
print(response)
chat() 在内部处理完整的对话循环——工具调用、重试、所有步骤——并仅返回最终的文本响应。
在自己的代码中嵌入 Hermes 时,始终设置 quiet_mode=True。否则,Agent 会打印 CLI 进度指示器、进度条以及其他终端输出,这些会污染你的应用程序输出。
完整对话控制
如需对对话进行更多控制,直接使用 run_conversation()。它返回一个包含完整响应、消息历史和元数据的字典:
agent = AIAgent(
model="anthropic/claude-sonnet-4",
quiet_mode=True,
)
result = agent.run_conversation(
user_message="Search for recent Python 3.13 features",
task_id="my-task-1",
)
print(result["final_response"])
print(f"Messages exchanged: {len(result['messages'])}")
返回的字典包含:
final_response— Agent 的最终文本回复messages— 完整消息历史(系统、用户、助手、工具调用)
(你传入的 task_id 会存储在 agent 实例上用于 VM 隔离,但不会回显在返回字典中。)
你也可以传入自定义系统消息,覆盖该次调用的临时系统提示:
result = agent.run_conversation(
user_message="Explain quicksort",
system_message="You are a computer science tutor. Use simple analogies.",
)
配置工具集
使用 enabled_toolsets 或 disabled_toolsets 控制 Agent 可访问的工具集:
# 仅启用 Web 工具(浏览、搜索)
agent = AIAgent(
model="anthropic/claude-sonnet-4",
enabled_toolsets=["web"],
quiet_mode=True,
)
# 启用除终端访问之外的所有功能
agent = AIAgent(
model="anthropic/claude-sonnet-4",
disabled_toolsets=["terminal"],
quiet_mode=True,
)
当你需要最小化、受限的 Agent 时(例如,仅支持 Web 搜索的研究机器人),使用 enabled_toolsets。当你需要大多数功能但需要限制特定功能时(例如,在共享环境中禁用终端访问),使用 disabled_toolsets。
多轮对话
通过回传消息历史来跨多轮维持对话状态:
agent = AIAgent(
model="anthropic/claude-sonnet-4",
quiet_mode=True,
)
# 第一轮
result1 = agent.run_conversation("My name is Alice")
history = result1["messages"]
# 第二轮——Agent 记得上下文
result2 = agent.run_conversation(
"What's my name?",
conversation_history=history,
)
print(result2["final_response"]) # "Your name is Alice."
conversation_history 参数接受上一次结果的 messages 列表。Agent 在内部复制它,因此你的原始列表不会被修改。
保存轨迹
启用轨迹保存,以 ShareGPT 格式捕获对话——适用于生成训练数据或调试:
agent = AIAgent(
model="anthropic/claude-sonnet-4",
save_trajectories=True,
quiet_mode=True,
)
agent.chat("Write a Python function to sort a list")
# 以 ShareGPT 格式保存到 trajectory_samples.jsonl
每次对话以单个 JSONL 行追加,便于从自动化运行中收集数据集。
自定义系统提示
使用 ephemeral_system_prompt 设置引导 Agent 行为的自定义系统提示,该提示不会保存到轨迹文件中(保持训练数据干净):
agent = AIAgent(
model="anthropic/claude-sonnet-4",
ephemeral_system_prompt="You are a SQL expert. Only answer database questions.",
quiet_mode=True,
)
response = agent.chat("How do I write a JOIN query?")
print(response)
这非常适合构建专业化 Agent——代码审查员、文档编写助手、SQL 助手——全部使用相同的底层工具。
批量处理
对于并行运行多个提示词,Hermes 提供了 batch_runner.py。它管理并发的 AIAgent 实例,并进行适当的资源隔离:
python batch_runner.py --input prompts.jsonl --output results.jsonl
每个提示词都有自己的 task_id 和隔离的环境。如果你需要自定义批处理逻辑,可以直接使用 AIAgent 构建:
import concurrent.futures
from run_agent import AIAgent
prompts = [
"Explain recursion",
"What is a hash table?",
"How does garbage collection work?",
]
def process_prompt(prompt):
# 每个任务创建一个新 Agent 以确保线程安全
agent = AIAgent(
model="anthropic/claude-sonnet-4",
quiet_mode=True,
skip_memory=True,
)
return agent.chat(prompt)
with concurrent.futures.ThreadPoolExecutor(max_workers=3) as executor:
results = list(executor.map(process_prompt, prompts))
for prompt, result in zip(prompts, results):
print(f"Q: {prompt}\nA: {result}\n")
始终为每个线程或任务创建新的 AIAgent 实例。Agent 维护内部状态(对话历史、工具会话、迭代计数器),这些状态在并发共享时不是线程安全的。
集成示例
FastAPI 端点
from fastapi import FastAPI
from pydantic import BaseModel
from run_agent import AIAgent
app = FastAPI()
class ChatRequest(BaseModel):
message: str
model: str = "anthropic/claude-sonnet-4"
@app.post("/chat")
async def chat(request: ChatRequest):
agent = AIAgent(
model=request.model,
quiet_mode=True,
skip_context_files=True,
skip_memory=True,
)
response = agent.chat(request.message)
return {"response": response}
Discord 机器人
import discord
from run_agent import AIAgent
client = discord.Client(intents=discord.Intents.default())
@client.event
async def on_message(message):
if message.author == client.user:
return
if message.content.startswith("!hermes "):
query = message.content[8:]
agent = AIAgent(
model="anthropic/claude-sonnet-4",
quiet_mode=True,
skip_context_files=True,
skip_memory=True,
platform="discord",
)
response = agent.chat(query)
await message.channel.send(response[:2000])
client.run("YOUR_DISCORD_TOKEN")
CI/CD 流水线步骤
#!/usr/bin/env python3
"""CI 步骤:自动审查 PR diff。"""
import subprocess
from run_agent import AIAgent
diff = subprocess.check_output(["git", "diff", "main...HEAD"]).decode()
agent = AIAgent(
model="anthropic/claude-sonnet-4",
quiet_mode=True,
skip_context_files=True,
skip_memory=True,
disabled_toolsets=["terminal", "browser"],
)
review = agent.chat(
f"Review this PR diff for bugs, security issues, and style problems:\n\n{diff}"
)
print(review)
主要构造函数参数
| 参数 | 类型 | 默认值 | 说明 |
|---|---|---|---|
model | str | "anthropic/claude-opus-4.6" | OpenRouter 格式的模型名称 |
quiet_mode | bool | False | 抑制 CLI 输出 |
enabled_toolsets | List[str] | None | 白名单指定工具集 |
disabled_toolsets | List[str] | None | 黑名单指定工具集 |
save_trajectories | bool | False | 将对话保存到 JSONL |
ephemeral_system_prompt | str | None | 自定义系统提示(不保存到轨迹) |
max_iterations | int | 90 | 每次对话的最大工具调用迭代次数 |
skip_context_files | bool | False | 跳过加载 AGENTS.md 文件 |
skip_memory | bool | False | 禁用持久记忆读写 |
api_key | str | None | API 密钥(回退到环境变量) |
base_url | str | None | 自定义 API 端点 URL |
platform | str | None | 平台提示("discord"、"telegram" 等) |
重要说明
- 如果不希望工作目录中的
AGENTS.md文件加载到系统提示中,设置skip_context_files=True。 - 设置
skip_memory=True可防止 Agent 读写持久记忆——推荐用于无状态 API 端点。 platform参数(如"discord"、"telegram")注入特定平台的格式提示,使 Agent 能够适应输出风格。
- 线程安全:每个线程或任务创建一个
AIAgent。不要在并发调用中共享实例。 - 资源清理:Agent 在对话结束时自动清理资源(终端会话、浏览器实例)。如果你在长时间运行的进程中使用,请确保每次对话正常完成。
- 迭代限制:默认的
max_iterations=90比较宽松。对于简单的问答场景,建议降低此值(如max_iterations=10),以防止工具调用循环失控并控制费用。