OmniRoute 功能全景:从 Combo 智能路由到全栈 Dashboard 控制台实战指南
【免费下载链接】OmniRouteNever stop coding. Free MIT AI gateway: one endpoint, 352 providers (150+ free), 1200+ models Kimi, Claude, GPT, Gemini, GLM, DeepSeek, MiniMax. Works with Claude Code, Codex, Cursor, OpenCode, Cline & Copilot. Quota-aware auto-fallback, RTK+Caveman compression saves 15-95% tokens, MCP/A2A, Desktop/PWA. Built by 550+ contributors项目地址: https://gitcode.com/GitHub_Trending/om/OmniRoute
OmniRoute 是一款开源 MIT 协议的 AI 网关,核心价值在于"一个端点接入数百家提供商、上千个模型",而其 Dashboard 控制台则是管理与观察这一切的中枢。本文基于仓库官方文档 docs/i18n/fr/docs/guides/FEATURES.md(与英文原版 docs/guides/FEATURES.md 同步)整理而成,系统讲解 Dashboard 的每一块功能面板:Providers、Combos、Analytics、System Health、Settings、CLI Tools、Context Relay、安全加固等,并结合仓库源码揭示底层实现原理。读完本文,你将能快速掌握 OmniRoute 控制台的完整功能地图,理解关键功能的实现机制,并能在自己的部署环境中逐一上手验证。
一图看懂 Dashboard:功能总览
OmniRoute Dashboard 是一个覆盖"接入 → 路由 → 观测 → 加固"全链路的控制台,主要板块包括:
- 接入层:Providers(提供商管理)、API Key 管理、Media(文生图/视频/音乐)、CLI Tools / CLI Agents(AI 编程工具一键配置与代理发现)
- 路由层:Combos(模型路由组合,多策略 + 自动回退)、Context Relay(会话上下文接力)、Model Playground(模型即测即用)
- 观测层:Analytics(用量分析)、System Health(系统健康)、Request Logs(请求日志)、Audit Log(审计日志)
- 配置层:Settings(七大选项卡)、Themes(主题)、Translator Playground(翻译器调试)
- 安全与运维:Proxy Hardening、SSRF 防护、Compliance Audit、OAuth Env Repair、Uninstall 脚本
提供商管理:OAuth、API Key 与免费提供商
Providers 面板用于管理各类 AI 提供商连接,覆盖三种形态:
- OAuth 提供商:如 Claude Code、Codex,通过浏览器 OAuth 登录换取长期令牌;
- API Key 提供商:如 Groq、DeepSeek、OpenRouter,直接填写密钥;
- 免费提供商:如 Qoder、Kiro,其中 Kiro 账号会跟踪剩余积分、总配额与续费日期,可在 Dashboard → Usage 中查看。
一个值得一提的细节:OpenRouter 连接可在 Advanced Settings 中为每条连接保存preset。设置后,OmniRoute 会将其作为 OpenRouter 请求的顶层字段发送(例如"preset": "email-copywriter"),除非客户端请求本身已携带自己的preset。
Combo 智能路由:策略矩阵与结构化编排
Combos 是 OmniRoute 路由能力的核心。你可以将多个模型串联成一条"组合链",配合自动回退与就绪检查。官方文档当前列出了19 种公开策略,覆盖确定性路由与启发式路由两大类:
| 类别 | 策略 | 说明 |
|---|---|---|
| 确定性 | priority/weighted/round-robin | 优先级、加权、轮询 |
| 负载感知 | least-used/headroom/reset-aware/reset-window | 最少使用、剩余容量、配额窗口重置时间感知 |
| 成本导向 | cost-optimized | 按成本最优选择 |
| 质量/上下文 | context-optimized/cache-optimized/lkgp | 上下文长度、缓存、Last-Known-Good-Provider |
| 随机 | random/strict-random/p2c | 随机、严格随机、Power-of-Two Choices |
| 会话延续 | context-relay | 账号轮换时保持会话上下文(详见下文) |
| 并行合成 | fusion | 扇出到多个模型并行推理,再由 judge 模型合成一个答案 |
| 流水线 | pipeline | 多模型按阶段串联执行 |
| 全自动 | auto | 由打分引擎自动决策 |
近期的 Combo 增强
- 结构化组合构建器:每一跳可精确选择"提供商 + 模型 + 具体账号/连接"三元组;
- 重复提供商支持:只要
(provider, model, connection)三元组唯一,同一提供商可在一条 combo 中复用多次; - Combo 目标健康度:分析与健康面板按单个 combo 目标/步骤区分展示,不再把一切压平成模型字符串;
- 复合层级排序:
defaultTier -> fallbackTier现在会影响顶层 combo 步骤的运行时执行/回退顺序; - 系统提示词模板:combo 的
system_message支持服务端占位符{{MODEL_ID}}、{{PROVIDER_ID}}、{{ACCOUNT}}、{{FINGERPRINT}},在实际路由目标确定后才展开。占位符采用白名单机制、非递归,未知占位符保持字面量、空值展开为空,且绝不改写客户端系统提示词。{{FINGERPRINT}}仅对基于指纹的免费提供商生效,在其他场景下展开为空。
Context Relay:账号轮换时的会话连续性(v3.5.5+)
当对话中途发生账号轮换时,会话上下文容易断裂。Context Relay正是为此设计:在活跃账号配额耗尽之前,OmniRoute 在后台生成一份结构化交接摘要;当下一请求解析到另一个账号时,该摘要以系统消息形式注入,让新账号"无缝接力"。
可在 combo 级或全局设置中配置:
- Handoff Threshold:触发摘要生成的配额使用率阈值,默认 85%;
- Max Messages For Summary:参与压缩的最近历史消息数量;
- Summary Model:生成交接摘要的可选覆盖模型。
目前 Context Relay 支持 Codex 账号轮换场景(进一步背景可参考 docs/architecture/ARCHITECTURE.md)。
源码佐证:交接摘要的持久化由 src/lib/db/contextHandoffs.ts 承担,其HandoffPayload结构包含sessionId、comboName、fromAccount、summary、keyDecisions、taskProgress、activeEntities、messageCount、warningThresholdPct、expiresAt等字段——摘要不是简单的文本缓存,而是结构化的"决策/进展/活跃实体"快照。upsertHandoff()(src/lib/db/contextHandoffs.ts#L81-L120)按(session_id, combo_name)冲突更新;getHandoff()仅取未过期的最近记录;cleanupExpiredHandoffs()以 30 分钟节流执行过期清理。同文件还提供了recordSessionModelUsage()等函数,配合session_model_history表跟踪会话历史模型,支撑会话级上下文缓存锚定。
观测面板:Analytics、System Health 与 Request Logs
Analytics(用量分析)
提供全面的用量分析:Token 消耗、成本估算、活跃度热力图、按周分布图表、按提供商细分的用量构成。
System Health(系统健康)
实时监控指标包括:运行时长、内存、版本、延迟百分位(p50/p95/p99)、缓存统计、提供商熔断器(circuit breaker)状态、受配额监控的活跃会话数,以及 Combo 目标健康度。
Request Logs(请求日志)
实时请求日志,可按提供商、模型、账号、API Key 过滤,展示状态码、Token 用量、延迟与响应细节。
调试工具:Translator Playground 与 Model Playground
Translator Playground
面向 API 翻译层的四模式调试工具:
- Playground:格式转换器;
- Chat Tester:实时请求测试;
- Test Bench:批量测试;
- Live Monitor:实时流观测。
Model Playground(v2.0.9+)
无需离开 Dashboard 即可直接测试任意模型:选择提供商、模型与端点,使用 Monaco Editor 编写提示词,实时流式查看响应,可中途中止,并展示计时指标。
Settings 设置中心:七大选项卡
设置面板以选项卡组织(英文原版为 7 个选项卡,法语版为 6 个,以下按最新原版展开):
- General:系统存储、备份管理(数据库导出/导入);
- Appearance:主题选择(深色/浅色/跟随系统)、7 种预设色、自定义颜色、健康日志可见性、侧边栏项目与分组分隔符可见性、Endpoint 隧道可见性;
- AI:AI 助手功能、默认路由预设(Auto Combo
auto/coding、auto/fast、auto/cheap、auto/smart)、推理回放缓存、技能/记忆开关; - Security:API 端点保护、自定义提供商拦截、IP 过滤、会话信息;
- Routing:模型别名、后台任务降级、Manifest 感知层级路由(W1–W4)、
fallbackDelayMs、每会话粘性路由; - Resilience:限流持久化、熔断器调优、自动禁用被封账号、提供商过期监控、Context Relay 交接阈值与摘要模型配置、按提供商的 429 分类与
useUpstream429BreakerHints开关、模型冷却; - Advanced:配置覆盖、配置审计轨迹、回退降级模式、Responses API 的后台模式降级。
Themes 主题(v2.0.5+)
整个 Dashboard 支持自定义配色主题:7 种预设色(Coral、Blue、Red、Green、Violet、Orange、Cyan),也可任选 hex 颜色创建自定义主题,支持浅色、深色与系统跟随模式。
生态集成:CLI Tools、CLI Agents 与桌面应用
CLI Tools
面向 AI 编程工具的一键配置:Claude Code、Codex CLI、OpenClaw、Kilo Code、Antigravity、Cline、Continue、Cursor、Factory Droid。支持自动化配置应用/重置、连接配置文件与模型映射。
CLI Agents(v2.0.11+)
发现与管理 CLI 代理的网格视图,内置 17 个代理(Codex、Claude、Goose、OpenClaw、Aider、OpenCode、Cline、Qwen Code、ForgeCode、Amazon Q、Open Interpreter、Cursor CLI、Warp、Windsurf、Devin CLI、Kimi Coding、Command Code):
- 安装状态:已安装/未找到 + 版本探测;
- 协议徽章:stdio、HTTP 等;
- 自定义代理:通过表单注册任意 CLI 工具(名称、二进制、版本命令、spawn 参数);
- CLI 指纹匹配:按提供商开关,匹配原生 CLI 请求签名以降低封号风险,同时保留代理 IP。
Desktop 桌面应用
基于 Electron 的原生桌面应用,覆盖 Windows、macOS、Linux,支持系统托盘、离线、自动更新与一键安装。关键特性包括:服务器就绪轮询(冷启动不白屏)、系统托盘端口管理、Content Security Policy、单实例锁、重启自动更新、按平台区分的 UI(macOS 交通灯按钮、Windows/Linux 默认标题栏)。加固方面:v2.5.5+ 在打包前检测并拒绝独立包中的符号链接node_modules,避免对构建机的运行时依赖;v3.6.2+ 在 Electronbefore-quit时优雅关闭 Next.js,防止 SQLite WAL 数据库锁。完整文档见 electron/README.md。
连接与扩展:API Endpoint、V1 WebSocket Bridge 与 Sync Tokens
统一 API Endpoint
单一端点按能力拆分展示:Chat Completions、Responses API、Embeddings、Image Generation、Reranking、Audio Transcription、Text-to-Speech、Moderations,以及已注册的 API Key。支持 Cloudflare Quick Tunnel、Tailscale Funnel、ngrok Tunnel 与云代理实现远程访问。
V1 WebSocket Bridge(v3.6.6+)
支持 OpenAI 兼容的 WebSocket 客户端,升级端点为/v1/ws。自定义服务器scripts/dev/v1-ws-bridge.mjs包装 Next.js,将 WS 连接升级为全双工双向流式会话;认证复用 HTTP 的 API Key 与会话 Cookie。关键行为:
- WS 升级在连接建立前由 src/lib/ws/handshake.ts 校验;
- 会话关闭或上游出错时流被干净终止;
- 可与既有 HTTP+SSE 流路径并行共存。
源码佐证:authorizeWebSocketHandshake()(src/lib/ws/handshake.ts#L84-L129)依次校验:查询参数/Authorization 头中的 API Key(api_key/token/access_token与Bearer前缀)、签名auth_token会话 Cookie,最终返回authorized/authenticated/authType三元判定;是否强制鉴权由设置项wsAuth控制。
Sync Tokens 与配置包(v3.6.6+)
面向多设备与外部运维人员的受限同步令牌:
POST /api/sync/tokens:签发新的(受限、可选过期时间的)同步令牌;DELETE /api/sync/tokens/:id:吊销令牌;GET /api/sync/bundle:下载全部非敏感设置的版本化 JSON 快照(密码已脱敏)。
配置包由 src/lib/sync/bundle.ts 构建,消费方通过比较ETag响应头检测变更,无需重复下载完整载荷。
安全与加固:从 SSRF 防护到合规审计
Proxy Hardening(v3.5.5+)
贯穿整个请求管道的代理配置强化:
- Token Health Check:后台 OAuth 刷新现在按连接解析代理配置,避免代理必需环境下的失败;
- API Key 校验:提供商密钥校验(
POST /api/providers/validate)经由runWithProxyContext路由,遵守提供商级与全局代理设置; - undici Dispatcher 修复:代理 dispatcher 改用 undici 自身的 fetch 实现而非 Node 内置 fetch,解决 Node.js 22 上的
invalid onRequestStart method报错; - Node.js 版本探测:登录页主动探测不兼容的 Node.js(24+)并显示警告横幅,提示使用 Node 22 LTS。
Email Privacy Masking(v3.5.6+)
OAuth 账号邮箱在面板中默认掩码显示(如di*****@g****.com),避免截图分享或录制演示时泄露;完整邮箱可通过悬停 tooltip(title属性)查看,也可在 Settings → Appearance → Account email visibility 中全局切换。
Model Visibility Toggle(v3.5.6+)
提供商页面的模型列表新增:实时搜索/过滤栏;单模型可见性开关(👁 图标,隐藏的模型置灰并从/v1/models目录中排除);N/M active活跃计数徽章。
OAuth Env Repair(v3.6.1+)
针对 OAuth 提供商的一键"Repair env"操作,入口为Dashboard → Providers → [OAuth Provider] → Repair env,自动检测并修复:缺失的 OAuth 客户端凭据、损坏的 env 文件条目、备份路径净化。
Safe Outbound Fetch 与 SSRF 防护(v3.6.6+)
所有提供商校验与模型发现调用现在都经过两层出站防护:
- URL 守卫(src/shared/network/outboundUrlGuard.ts):在 socket 打开前拦截私有/回环/link-local IP 范围。源码中
CLOUD_METADATA_HOSTNAMES集合(src/shared/network/outboundUrlGuard.ts#L56-L67)将 AWS/GCP/Azure/Oracle 的169.254.169.254、GCP 的metadata.google.internal/metadata.goog、阿里云的100.100.100.100等云元数据端点无条件封禁——这些是 SSRF→IAM 凭据窃取的经典跳板,即便用户显式放行私有地址也绝不放松;同时处理了 IPv4 映射 IPv6 地址(::ffff:前缀)绕过检测的问题; - 安全 fetch 包装(src/shared/network/safeOutboundFetch.ts):应用 URL 守卫、归一化超时、以指数退避重试瞬时错误。
守卫违规以 HTTP 422(URL_GUARD_BLOCKED)呈现,并通过providerAudit.ts写入合规审计日志。
Cooldown-Aware Retries(v3.6.6+)
当上游提供商返回模型级冷却时,聊天请求自动重试。可通过REQUEST_RETRY(默认 2)与MAX_RETRY_INTERVAL_SEC(默认 30 秒)配置。限流头学习覆盖x-ratelimit-reset-requests、x-ratelimit-reset-tokens与Retry-After;模型级冷却状态在 Resilience 面板中可视化。
Compliance Audit v2(v3.6.6+)
审计日志扩展:游标分页、请求上下文丰富(请求 ID、User-Agent、IP)、结构化认证事件、带 diff 上下文的提供商 CRUD 事件、SSRF 拦截校验日志。新事件由 src/lib/compliance/providerAudit.ts 发出。
媒体生成、密钥与审计
- Media(v2.0.3+):Dashboard 直接生成图像、视频与音乐,支持 OpenAI、xAI、Together、Hyperbolic、SD WebUI、ComfyUI、AnimateDiff、Stable Audio Open、MusicGen;
- API Key 管理:创建、限定范围、吊销 API Key。每个 Key 可限制到特定模型/提供商,支持完全访问或只读权限,并提供带用量追踪的可视化管理;
- Audit Log:管理操作追踪,按动作类型、执行者、目标、IP 地址与时间戳过滤,形成完整安全事件历史。
卸载与运维
提供覆盖所有安装方式的干净移除脚本:
| 命令 | 行为 |
|---|---|
npm run uninstall | 移除系统应用,但保留~/.omniroute中的数据库与配置 |
npm run uninstall:full | 移除应用并永久擦除全部配置、密钥与数据库 |
这两个脚本在 package.json 中分别映射为node scripts/build/uninstall.mjs与node scripts/build/uninstall.mjs --full。
版本亮点速览(v3.8.0 周期)
结合英文原版文档,v3.7.x → v3.8.0 周期的核心增量包括:
- Auto Combo / 零配置自动路由:前缀
auto/coding、auto/fast、auto/cheap、auto/offline、auto/smart、auto/lkgp、auto/chaos,由 16 因子打分引擎与 6 个精选 mode packs(ship-fast、cost-saver、quality-first、offline-friendly、reliability-first、chaos-mode)驱动; - Prompt Compression(v3.7.9+):Context & Cache 下新增 Caveman(语言感知规则包)、RTK(面向 shell/git/test/build/Docker/infra/JSON/stack-trace 的命令感知压缩)与 Compression Combos(如
rtk -> caveman命名流水线),双引擎叠加时平均约 89%、合格上下文节约 78–95%(详见 docs/compression/COMPRESSION_GUIDE.md); - 新提供商:Command Code、Z.AI、LLM7、Lepton、UncloseAI、BazaarLink、Completions、Enally、FreeTheAi 等 8 个新免费提供商,以及 GitLab Duo OAuth;
- Reset-aware 路由策略:combo 优先选择配额窗口最先重置的账号;
fallbackDelayMs与动态工具数量探测:更精细的回退时机与按提供商的工具数量上限;- 每会话粘性路由:Codex 会话在回合间固定到同一账号;
- CLI 增强套件:20+ 命令,包括
omniroute providers、omniroute combos、omniroute doctor、omniroute setup; - API Keys 的
managescope:支持通过 API 编程化执行管理操作。
继续阅读
- 功能总览英文原版:docs/guides/FEATURES.md
- 架构与 Context Relay 背景:docs/architecture/ARCHITECTURE.md
- 压缩体系:docs/compression/COMPRESSION_GUIDE.md、docs/compression/RTK_COMPRESSION.md、docs/compression/COMPRESSION_ENGINES.md
- 桌面应用:electron/README.md
- 快速上手:docs/getting-started/QUICK-START.md
该文档同时提供 40+ 种语言的翻译版本(如 中文简体、日文),可直接对照阅读。
【免费下载链接】OmniRouteNever stop coding. Free MIT AI gateway: one endpoint, 352 providers (150+ free), 1200+ models Kimi, Claude, GPT, Gemini, GLM, DeepSeek, MiniMax. Works with Claude Code, Codex, Cursor, OpenCode, Cline & Copilot. Quota-aware auto-fallback, RTK+Caveman compression saves 15-95% tokens, MCP/A2A, Desktop/PWA. Built by 550+ contributors项目地址: https://gitcode.com/GitHub_Trending/om/OmniRoute
创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考