跳到主要内容

视觉与图片粘贴(Vision & Image Paste)

Hermes Agent 支持多模态视觉——你可以将剪贴板中的图片直接粘贴到 CLI,并让 Agent 对其进行分析、描述或处理。图片以 base64 编码的内容块形式发送给模型,因此任何支持视觉的模型都可以处理它们。

工作原理

  1. 将图片复制到剪贴板(截图、浏览器图片等)
  2. 使用下面的任一方式附加图片
  3. 输入问题并按回车
  4. 图片在输入框上方显示为 [📎 Image #1] 徽章
  5. 提交时,图片以视觉内容块的形式发送给模型

在发送前可以附加多张图片——每张都有自己的徽章。按 Ctrl+C 清除所有已附加的图片。

图片以带时间戳的 PNG 文件名保存到 ~/.hermes/images/

粘贴方式

如何附加图片取决于你的终端环境。并非所有方式都适用于所有环境——以下是完整说明:

/paste 命令

最可靠的显式图片附加备用方式。

/paste

输入 /paste 并按回车。Hermes 检查剪贴板中的图片并附加它。当你的终端重写 Cmd+V/Ctrl+V,或你只复制了图片而没有括号粘贴文本载荷时,这是最安全的选择。

Ctrl+V / Cmd+V

Hermes 现在将粘贴视为分层流程:

  • 首先进行普通文本粘贴
  • 如果终端未能干净地传递文本,则使用原生剪贴板 / OSC52 文本备用
  • 当剪贴板或粘贴载荷解析为图片或图片路径时进行图片附加

这意味着粘贴的 macOS 截图临时路径和 file://... 图片 URI 可以立即附加,而不是作为原始文本留在编辑器中。

注意

如果你的剪贴板只有图片(没有文本),终端仍然无法直接发送二进制图片字节。使用 /paste 作为显式图片附加的备用方式。

VS Code / Cursor / Windsurf 的 /terminal-setup

如果你在 macOS 上的 VS Code 系列集成终端中运行 TUI,Hermes 可以安装推荐的 workbench.action.terminal.sendSequence 绑定,以更好地兼容多行输入和撤销/重做:

/terminal-setup

Cmd+EnterCmd+ZShift+Cmd+Z 被 IDE 拦截时特别有用。只在本地机器上运行——不要在 SSH 会话中运行。

平台兼容性

环境/pasteCmd/Ctrl+V/terminal-setup备注
macOS Terminal / iTerm2不适用最佳体验——原生剪贴板 + 截图路径恢复
Apple Terminal不适用如果 Cmd+←/→/⌫ 被重写,使用 Ctrl+A / Ctrl+E / Ctrl+U 备用
Linux X11 桌面不适用需要 xclipapt install xclip
Linux Wayland 桌面不适用需要 wl-pasteapt install wl-clipboard
WSL2(Windows Terminal)不适用使用 powershell.exe——无需额外安装
VS Code / Cursor / Windsurf(本地)推荐用于更好的 Cmd+Enter / 撤销 / 重做兼容性
VS Code / Cursor / Windsurf(SSH)❌²❌²❌³在本地机器上运行 /terminal-setup
SSH 终端(任意)❌²❌²不适用无法访问远程剪贴板

² 参见下方 SSH 与远程会话 ³ 该命令写入本地 IDE 快捷键绑定,不应从远程主机运行

各平台特定设置

macOS

无需设置。 Hermes 使用 osascript(macOS 内置)读取剪贴板。如需更快的性能,可选择安装 pngpaste

brew install pngpaste

Linux(X11)

安装 xclip

# Ubuntu/Debian
sudo apt install xclip

# Fedora
sudo dnf install xclip

# Arch
sudo pacman -S xclip

Linux(Wayland)

现代 Linux 桌面(Ubuntu 22.04+、Fedora 34+)通常默认使用 Wayland。安装 wl-clipboard

# Ubuntu/Debian
sudo apt install wl-clipboard

# Fedora
sudo dnf install wl-clipboard

# Arch
sudo pacman -S wl-clipboard
如何检查是否使用 Wayland
echo $XDG_SESSION_TYPE
# "wayland" = Wayland, "x11" = X11, "tty" = 无显示服务器

WSL2

无需额外设置。 Hermes 自动检测 WSL2(通过 /proc/version)并使用 powershell.exe 通过 .NET 的 System.Windows.Forms.Clipboard 访问 Windows 剪贴板。这是 WSL2 Windows 互操作的内置功能——powershell.exe 默认可用。

剪贴板数据通过 stdout 以 base64 编码的 PNG 传输,因此不需要文件路径转换或临时文件。

WSLg 说明

如果你运行 WSLg(带 GUI 支持的 WSL2),Hermes 首先尝试 PowerShell 路径,然后回退到 wl-paste。WSLg 的剪贴板桥接只支持 BMP 格式的图片——Hermes 使用 Pillow(如果已安装)或 ImageMagick 的 convert 命令自动将 BMP 转换为 PNG。

验证 WSL2 剪贴板访问

# 1. 检查 WSL 检测
grep -i microsoft /proc/version

# 2. 检查 PowerShell 是否可访问
which powershell.exe

# 3. 复制一张图片,然后检查
powershell.exe -NoProfile -Command "Add-Type -AssemblyName System.Windows.Forms; [System.Windows.Forms.Clipboard]::ContainsImage()"
# 应输出 "True"

SSH 与远程会话

剪贴板图片粘贴不能完全通过 SSH 工作。 当你 SSH 到远程机器时,Hermes CLI 在远程主机上运行。剪贴板工具(xclipwl-pastepowershell.exeosascript)读取它们运行的机器的剪贴板——即远程服务器,而不是你的本地机器。因此从远程端无法访问你的本地剪贴板图片。

文本有时仍可通过终端粘贴或 OSC52 桥接,但图片剪贴板访问和本地截图临时路径仍与运行 Hermes 的机器绑定。

SSH 的变通方案

  1. 上传图片文件 — 将图片保存在本地,通过 scp、VSCode 文件浏览器(拖放)或任何文件传输方式上传到远程服务器。然后按路径引用。(计划在未来版本中提供 /attach <filepath> 命令。)

  2. 使用 URL — 如果图片可在网上访问,只需在消息中粘贴 URL。Agent 可以使用 vision_analyze 直接查看任何图片 URL。

  3. X11 转发 — 使用 ssh -X 连接以转发 X11。这让远程机器上的 xclip 可以访问你的本地 X11 剪贴板。需要本地运行 X 服务器(macOS 上的 XQuartz,Linux X11 桌面内置)。大图片时速度慢。

  4. 使用消息平台 — 通过 Telegram、Discord、Slack 或 WhatsApp 向 Hermes 发送图片。这些平台原生处理图片上传,不受剪贴板/终端限制影响。

为何终端无法粘贴图片

这是一个常见的困惑来源,以下是技术说明:

终端是基于文本的界面。当你按 Ctrl+V(或 Cmd+V)时,终端模拟器:

  1. 读取剪贴板中的文本内容
  2. 将其包装在括号粘贴转义序列中
  3. 通过终端的文本流将其发送给应用程序

如果剪贴板只有图片(没有文本),终端就没有内容可以发送。没有标准的终端转义序列用于二进制图片数据。终端什么都不做。

这就是为什么 Hermes 使用单独的剪贴板检查——它不是通过终端粘贴事件接收图片数据,而是直接通过子进程调用操作系统级工具(osascriptpowershell.exexclipwl-paste)来独立读取剪贴板。

支持的模型

图片粘贴适用于任何支持视觉的模型。图片以 OpenAI 视觉内容格式的 base64 编码数据 URL 发送:

{
"type": "image_url",
"image_url": {
"url": "data:image/png;base64,..."
}
}

大多数现代模型支持此格式,包括 GPT-4 Vision、Claude(带视觉)、Gemini 以及通过 OpenRouter 提供的开源多模态模型。

图片路由(视觉能力模型 vs 纯文本模型)

当用户附加图片时——从 CLI 剪贴板、网关(Telegram/Discord 照片)或任何其他入口——Hermes 根据当前模型是否实际支持视觉来路由:

你的模型图片处理方式
支持视觉(GPT-4V、Claude with vision、Gemini、Qwen-VL、MiMo-VL 等)使用上方提供商原生图片内容格式以真实像素发送。无文本摘要层。
纯文本(DeepSeek V3、较小的开源模型、旧版仅聊天端点)通过 vision_analyze 辅助工具路由——辅助视觉模型描述图片,文本描述注入对话。

你无需配置这一点——Hermes 在提供商元数据中查找当前模型的能力并自动选择正确的路径。实际效果:你可以在视觉和非视觉模型之间切换,图片处理"自然工作",无需改变工作流。纯文本模型获得关于图片的连贯上下文,而非它们必须拒绝的破损多模态载荷。

负责文本描述路径的辅助模型可在 auxiliary.vision 下配置——参见辅助模型