Claude Code Router 多模型智能路由:3 步把日常代码请求打到更便宜的模型上
【免费下载链接】claude-code-routerOne local control plane for every AI agent: route across models, fuse new capabilities, orchestrate tools, and stay fully in control.项目地址: https://gitcode.com/GitHub_Trending/cl/claude-code-router
您是不是也有过这种时刻:Claude Code、Codex、Kimi CLI 各连一家供应商,想换个模型要翻遍每个 Agent 的配置文件,某家 API 一限流,当天所有请求集体变红。Claude Code Router(CCR)做的事情是:在您本机127.0.0.1:3456放一个多模型智能路由网关,所有编程 Agent 都指向这一个入口,模型选择、失败降级、Token 和成本核算全部交给它统一处理。
🧭 真正的问题不是选哪个模型,而是请求该去哪里
CCR 把自己定位成"本地控制平面",而不只是一个转发代理。它接在您和供应商之间,承担四件事:
- 统一入口:Claude Code、Codex、Grok CLI、Kimi CLI、OpenCode 等客户端保持原样工作,只需把端点指向 CCR 网关,配置集中在一个地方维护。
- 协议转换:网关支持 OpenAI Chat/Responses、Anthropic Messages、Gemini 等协议,Claude Code 用 Anthropic 协议进来的请求,可以落到 OpenAI 兼容的供应商上,协议差异由 CCR 抹平。
- 失败兜底:内置重试、凭据池、Key 轮换和有序 Fallback,限流或超时不再意味着整条请求链报废。
- 可观测:每次请求最终命中哪个供应商、哪个模型、耗时多少、花了多少 Token,日志页里一行一行可查。
理解这层关系后,后面的配置其实就三步:起服务、加供应商、定路由。
🚀 3 步从安装到第一条路由
两种启动方式:桌面端或 CLI
桌面端是官方推荐路径,下载对应 macOS、Windows 或 Linux 版本启动即可,模型网关默认监听http://127.0.0.1:3456。如果您习惯命令行或服务器环境,用 npm CLI 更轻:
npm install -g @musistudio/claude-code-router ccr ui要求 Node.js 22+,启动后浏览器打开http://127.0.0.1:3458是管理界面,模型网关仍在 3456 端口。Docker 部署则一行docker compose up -d --build,管理界面同样在 3458。
三行配置把 Ollama 接进路由
拉一个本地代码模型,在管理界面供应商 → 添加供应商里选自定义端点。对应到配置字段就是三样东西:
{ "name": "ollama", "api_base_url": "http://localhost:11434/v1", "models": ["qwen2.5-coder:latest"] }内置供应商预设(OpenRouter、DeepSeek、Mistral、Moonshot 等)在添加时直接选,省去填端点,见 providers/presets/。保存后打开服务点启动,再到Agent 配置里给 Claude Code 指定默认模型并应用档案。发一条真实请求,日志页立刻能看到最终命中的供应商和模型——路由已经通了。
📊 算一笔账:高频请求走本地,难请求留云端
路由的价值不在"用免费模型",而在把流量按价值分层。以日常使用强度为例(云端按常见 API 单价估算,本地模型电费可忽略):
| 请求类型 | 全部直连云端 | 经 CCR 路由后 | 差别 |
|---|---|---|---|
| 日常代码补全 | 每次计费,高频 | 路由到本地模型 | 省约 99% |
| 简单重构、注释生成 | 强模型单价 | 路由到低成本模型 | 省 80% 以上 |
| 复杂架构推理 | 强模型单价 | 仍走强模型 | 质量不降 |
| 云端限流 / 超时 | 请求直接失败 | 自动重试 + Fallback | 请求保持可用 |
最后一行容易被忽略:限流时 CCR 会按您配的顺序切到备用模型重试,而不是把错误抛给终端上正在等回显的 Agent。这是"路由"区别于"简单换 API 地址"的关键。
🖥️ 每条请求去了哪,控制台里看得一清二楚
配好之后,您花在"调配置"上的时间会远少于花在"看日志"上的时间。
界面左侧管理供应商与模型,右侧编排路由规则,请求进来按列表顺序匹配,第一条命中的启用规则决定改写方向。日志页则逐条记录最终供应商、模型、状态、耗时、Token 与成本估算——"这条请求到底花没花钱"不再靠猜。
托盘和状态栏组件可以常驻显示当前模型与用量,开会时扫一眼就知道今天烧了多少 Token。
Subagent 自动挑便宜模型
Claude Code 派生 Subagent、Task 或 Workflow 时,CCR 会读取模型页里每个模型填写的 Description,把"哪些模型适合什么任务"注入到 Agent 工具说明里。Claude Code 据此为派生请求写上模型标签,CCR 提取标签后把请求路由到指定模型。写一句"适合低成本并行任务"的 Description,大量后台子任务就会自动流向便宜模型,主推理请求不动。
条件表达不了时,写一段 Node.js 脚本
Header/Body 条件 + 改写的组合覆盖不了的需求(灰度分流、查外部策略再决定模型),可以把规则类型切成Node.js 脚本:脚本在独立 Worker 里异步执行,10–30000 毫秒超时,异常或超时走 fail-open 继续下一条规则,不会卡死整个网关。规则细节和完整字段见 路由文档。
🎯 落地:团队里怎么用起来
- 共享供应商配置:在Settings导出备份,新成员导入即可复用同一套供应商与路由规则,不用口头传 API Key。
- 后台任务走本地模型:批量重命名、日志整理、代码搜索这类高频低难度请求,用路由规则指到 Ollama 模型。
- Key 放凭据池:多个 Key 或共享额度时启用凭据池与轮换,限流命中一个 Key 自动切下一个。
CCR 把"哪个模型、哪家供应商、失败了怎么办"从散落在各客户端的配置项,收拢成一张您能在本地随时查看的路由表。现在就去供应商页接入那个最便宜的模型,把日常补全指过去。跑顺之后,再加一条 Fallback 规则,这套链路就稳了。
【免费下载链接】claude-code-routerOne local control plane for every AI agent: route across models, fuse new capabilities, orchestrate tools, and stay fully in control.项目地址: https://gitcode.com/GitHub_Trending/cl/claude-code-router
创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考