01 / Context
为什么做
在日常 AI 工作流中，经常需要在 ChatGPT、Claude、本地模型等多个服务之间切换。每个服务有不同的 API 格式、认证方式和调用限制。RelayForge 提供统一入口，让模型选择变得灵活且可控。
原有问题
多个 AI 模型的 API 不统一，切换成本高。某些模型有速率限制或地区限制，直接调用容易失败。请求中的敏感信息（如 API Key、个人数据）需要脱敏后才能安全转发。
解决方案
RelayForge 在本地运行一个统一的代理网关，将不同模型的 API 封装为统一接口。支持 fallback 路由（主模型失败时自动切换备用）、组合路由（将任务分发到多个模型）、请求脱敏和状态诊断。默认绑定本机回环地址，无 telemetry，prompt 不记录，凭据在界面与日志中脱敏。
02 / System
核心能力
- 统一多模型 API 为单一入口，兼容 OpenAI、Anthropic 接口
- 支持 Ollama/LM Studio 本地模型与云 provider
- Combo routing、fallback、round_robin、weighted_round_robin
- 请求隐私：在转发前移除或替换敏感信息
- 轻量用量分析：本地统计调用次数和 token 用量
- Overview、Providers、Combo Models、Clients、Usage、Diagnostics、Settings Dashboard
03 / Workflow
实际工作流
- 配置模型 provider 和路由规则
- 应用通过统一 API（默认 127.0.0.1:18765/v1）发送请求
- RelayForge 根据路由规则选择模型
- 自动 fallback 或组合分发
- 返回结果并记录用量统计
04 / Boundaries
安全与隐私边界
RelayForge 运行在本地，默认绑定本机回环地址。无 telemetry，prompt 不记录，凭据在界面与日志中脱敏。最近请求只保存元数据。使用用户自行配置的 provider 凭据，不提供订阅登录态转接。
当前限制
- 需要用户自行配置 provider 与路由
- 网关不能绕过上游配额或地区限制
- 隐私边界仍取决于最终选择的上游模型
05 / Roadmap
路线图
01
已完成
- 统一 API 入口与多模型适配
- Fallback 路由机制
- Combo routing 与 round-robin
- 请求脱敏与凭据保护
- Overview/Providers/Clients/Usage/Diagnostics/Settings Dashboard
02
进行中
- 流式输出支持
- 用量分析增强
03
探索中
- 组合路由的智能聚合
- 与 CI/CD 集成的模型健康检查
06 / Participate
参与方式
项目在 GitHub 上开源，可通过 Windows zip、跨平台 Node、Docker/GHCR 获取。欢迎提交 Issue 或 Pull Request。如果你在多模型协作中有具体需求，欢迎在 Issue 中描述使用场景。
GitHub