relay-to-agent

🤖 多平台 AI 代理统一调度中枢

基于 Node.js 的 AI 代理中继工具,支持多轮对话与会话管理,兼容 OpenAI、OpenRouter、Ollama 等主流 API,为开发者提供灵活的 LLM 调用能力。

收藏
1.5k
安装
509
版本
v0.0.1
CLS 安全性认证2026-05-21
点击查看完整报告 >

使用说明

核心用法

relay-to-agent 是一个命令行工具,用于将消息转发到任何 OpenAI 兼容的 API 端点。用户通过 agents.json 配置代理和端点信息,使用 --agent 指定目标代理,即可发送单条或多轮对话消息。支持 --reset 重置会话、、--session 自定义会话 ID 实现并行对话,以及 --list 查看可用代理。会话数据自动缓存在本地,最多保留 50 条消息。

显著优点

生态兼容性极强:支持 Connect Chat、OpenRouter、LiteLLM、vLLM、Ollama 等几乎所有 OpenAI 兼容服务,用户可自由切换底层模型提供商。

会话管理完善:内置多轮对话记忆机制,支持自定义会话隔离,满足复杂工作流中并行处理多个对话线程的需求。

配置灵活:通过环境变量和 JSON 配置文件双重机制管理 API 密钥和端点,既适合个人本地开发,也便于 CI/CD 环境部署。

依赖精简:仅依赖 openai-fetch 一个运行时库,供应链攻击面小,维护成本低。

潜在缺点与局限性

无内置 HTTPS 强制:依赖用户自行配置安全的 baseUrl,若误用 HTTP 端点可能导致 API 密钥泄露。

无输入长度限制:未对用户消息长度做硬性限制,极端情况下可能触发 API 提供商的速率限制或产生意外费用。

本地会话无加密:会话文件以明文 JSON 存储于本地缓存目录,多用户共享设备时存在隐私泄露风险。

功能边界单一:仅提供消息转发能力,无内置的提示词模板、工具调用编排或流式响应处理等高级特性。

适合的目标群体

  • 需要统一接口调用多个 LLM 提供商的开发者与 MLOps 工程师
  • 构建 AI 工作流自动化脚本的 DevOps 和技术运营团队
  • 在本地或私有环境部署 vLLM/Ollama 并需要标准化 CLI 工具的研究人员
  • 希望快速原型验证多代理对话系统的 AI 产品经理

使用风险

API 密钥泄露风险:若配置文件中硬编码密钥或环境变量设置不当,可能导致密钥泄露;建议配合密钥管理工具如 direnv 或 Docker secrets 使用。

会话数据累积:长期高频使用会产生大量会话缓存文件,需定期清理 ~/.cache/relay-to-agent/sessions// 目录以避免磁盘空间占用。

第三方 API 依赖:实际服务质量、可用性和数据隐私取决于用户选择的 API 提供商,需自行评估服务商的 SLA 和合规性。

网络超时与重试:当前实现未显式配置请求超时和重试策略,在网络不稳定场景下可能挂起或失败。

安全解读

核心功能

relay-to-agent 是一款通用的 AI Agent 通信桥梁工具,允许用户通过命令行与任何兼容 OpenAI Chat Completions API 的服务端点进行交互。其设计目标是消除不同 AI 平台之间的调用差异,提供统一、简洁的操作界面。

主要用法

1. 基础单轮对话

node relay.mjs --agent <agent-id> "你的消息"

2. 多轮上下文对话
无需额外参数,连续调用同一 agent 即可保持会话记忆(本地存储最近 50 条消息)。

3. 会话管理

  • --reset 清空当前会话重新开始
  • --session <id> 创建并行独立对话线程
  • --list 查看已配置的可用 agents

4. 配置灵活性
通过 agents.json 定义多个 agent 及其对应的模型、端点,支持环境变量覆盖配置(RELAY_API_KEYRELAY_BASE_URL 等)。

显著优点

  • 生态兼容性强:原生支持 Connect Chat、OpenRouter、LiteLLM、vLLM、Ollama 等主流方案,甚至可对接私有部署的企业级 API
  • 隐私优先设计:API 密钥仅通过环境变量读取,对话历史本地存储(~/.cache/relay-to-agent/sessions/),不上传至第三方
  • 开发友好:零配置即可接入 OpenAI 兼容生态,适合快速原型验证和自动化工作流集成
  • 会话隔离清晰:支持自定义 session ID,便于管理多个并行任务或不同用户上下文

潜在局限

  • 依赖 Node.js 运行时:需要本地安装 Node 环境,对纯 CLI 用户不够轻量
  • 无内置重试或熔断机制:网络异常时需手动重试,生产环境建议配合外部调度工具
  • 会话无云端同步:换机或清理缓存后历史丢失,跨设备场景需自行备份
  • 功能边界单一:仅支持文本对话,无文件上传、图像生成等扩展能力

适合人群

  • 需要批量调用多个 AI 模型的开发者和技术团队
  • 在本地/私有云部署 LLM(如 vLLM、Ollama)的企业用户
  • 构建自动化内容工作流(营销文案、代码审查、数据分析)的工程师
  • 对数据隐私敏感、不希望对话记录流经第三方 SaaS 平台的用户

常规风险

  • API 密钥泄露:通过环境变量管理虽较安全,但仍需避免在共享环境或日志中暴露
  • 端点配置错误:若误填不可信第三方 API 地址,可能导致数据泄露;建议配合域名白名单策略
  • 本地会话明文存储:虽然不上云,但会话文件以 JSON 明文保存,多用户系统需设置适当文件权限
  • 成本不可控:对接计费型 API(如 OpenRouter)时,长对话可能产生意外费用,建议监控用量

relay-to-agent 内容

scripts文件夹
手动下载zip · 4.8 kB
relay.mjstext/javascript
请选择文件