核心用法
relay-to-agent 是一个基于 Node.js 的命令行工具,用于与任何 OpenAI 兼容 API 上的 AI 代理进行交互。用户通过 --agent 指定目标代理 ID 发送消息,支持 --list 查看可用代理、--reset 重置会话上下文、--session 管理并行对话。
显著优点
- 生态兼容性强:原生支持 Connect Chat、OpenRouter、LiteLLM、vLLM、Ollama 等主流服务
- 会话管理完善:本地持久化存储(~/.cache/relay-to-agent/sessions/),单会话保留 50 条历史消息
- 配置灵活:支持 agents.json 配置文件 + 环境变量覆盖(RELAY_API_KEY、RELAY_BASE_URL 等)
- 轻量无依赖:仅依赖 Node.js 运行时,无额外 Python 环境要求
潜在局限
- 功能边界清晰:仅做消息中继,不提供原生流式输出、函数调用编排或复杂工作流
- 安全性依赖本地:API Key 通过环境变量注入,无内置密钥加密或轮换机制
- 会话无服务端同步:本地缓存意味着多设备使用时会话状态不一致
适合人群
开发者、运维人员及需要快速接入私有/第三方 LLM 服务的技术团队,尤其适合已有 OpenAI 兼容基础设施、追求极简 CLI 交互的场景。
常规风险
- 密钥泄露风险:RELAY_API_KEY 以明文环境变量形式存在,需配合 shell 历史清理或密钥管理工具
- 代理配置可信性:agents.json 中的 endpoint 可被篡改指向恶意服务
- 数据本地残留:会话缓存虽便利,但在共享设备上可能暴露对话历史