任意 OpenAI 端点的智能代理中继

Relay To Agent

收藏 11.8k
下载 2.8k
版本 1.0.0

OpenAI 兼容 API 的通用代理中继工具,支持多轮对话与会话管理,可对接任意 Chat Completions 端点

基本信息

  • 技能名称?Relay To Agent
  • 中文名称?任意 OpenAI 端点的智能代理中继
  • 作者?ericsantos
  • 分类?专业技能
  • 版本?1.0.0
  • 标签?ai-integration, cli, openai-compatible, session-management, multi-turn

使用方法

使用说明
核心用法
relay-to-agent 是一个 Node.js 脚本工具,用于向任何 OpenAI 兼容的 API 端点发送消息并与 AI 代理进行交互。其工作流分为三步:

  1. 配置代理 :在 agents.json 中定义代理 ID、名称、描述和模型映射
  2. 环境准备 :设置 RELAY_API_KEY 等环境变量
  3. 执行交互 :通过 CLI 发送消息、管理会话、查看代理列表
    关键功能
    多轮对话 :默认保持会话上下文(最多 50 条消息),支持 --reset 清空历史
    会话隔离 :通过 --session 参数实现同一代理的并行多线对话
    广泛兼容 :支持 Connect Chat、OpenRouter、LiteLLM、vLLM、Ollama 等主流服务
    灵活输出 : --json 标志输出原始 API 响应便于脚本集成
    显著优点
    | 维度 | 优势 | |------|------| | 生态兼容 | 不绑定特定平台,任何实现 Chat Completions API 的服务均可接入 | | 轻量无依赖 | 纯 Node.js 实现,无需 Docker 或复杂运行时 | | 会话持久化 | 本地缓存机制实现"断点续聊",优于纯无状态调用 | | 配置驱动 | JSON 配置文件便于团队共享代理定义和端点设置 | 潜在局限
    本地状态风险 :会话存储于 ~/.cache/relay-to-agent/ ,多设备使用会导致状态不同步
    无内置加密 :敏感对话历史以明文形式存储于本地文件系统
    调试能力有限 :未提供日志级别控制或请求/响应详细追踪选项
    Node.js 绑定 :依赖特定运行时版本,对纯 Python/Go 生态团队不够友好
    适合人群
    AI 应用开发者 :需要快速验证多个 OpenAI 兼容端点的行为差异
    运营团队 :通过统一 CLI 调用不同平台的专用代理(如 LinkedIn 文案生成、数据分析)
    隐私敏感用户 :倾向本地会话管理而非云端记忆功能的场景
    常规风险
    API 密钥泄露 : RELAY_API_KEY 以环境变量传递,存在 shell history 记录风险
    配置注入 : agents.json 若被恶意修改可能导致请求重定向至攻击者服务器
    缓存膨胀 :长期使用的会话文件可能占用磁盘空间,需手动清理
    模型漂移 :上游服务商模型更新可能导致代理行为变化而无感知

    建议 :生产环境使用时配合 direnv 或密钥管理服务隔离敏感配置,定期审计 ~/.cache/relay-to-agent/ 目录。

标签

专业技能

💬 评论 (0)

发表评论

支持 Markdown

📭 还没有评论,快来抢沙发吧!