CC Switch 模型测试:3步跑通首次检查,超时与重试怎么调都有数
【免费下载链接】cc-switchA cross-platform desktop All-in-One assistant for Claude Code, Codex, OpenCode, OpenClaw, Grok Build & Hermes Agent. Only official website: ccswitch.io项目地址: https://gitcode.com/GitHub_Trending/cc/cc-switch
凌晨一点,你刚把新供应商的 Key 填完,切过去用,Claude Code 直接报 API 超时。翻日志、试 curl、怀疑 DNS,半小时过去了,问题还悬在那儿。要是有个东西能在你动手之前先告诉你"这个供应商现在是死的",这半小时就不用花了。本文讲的就是 CC Switch 模型测试:一个替你发真实请求、量延迟、打状态灯的哨兵。
机制速览:它到底在发什么请求
说白了,模型测试不发完整对话。它向供应商的 base_url 发一个最小流式请求,量首字节时间(TTFB),再按阈值判定状态。拿到的是三样东西:🟢 健康、🟡 降级(通但慢)、🔴 不可用(失败或超时)。
发起最小流式请求 → 探测供应商 base_url ↓ 测 TTFB + 判定状态(健康/降级/不可用) ↓ 结果喂给故障转移:不健康者跳过,熔断者复检调用链路本身很简单,妙处在下半段:开启代理后,这套检查会周期性跑在故障转移队列上,🔴 的供应商被暂时跳过;熔断的供应商想恢复,也得先通过复检才能回到队列。测试不碰真实业务流量,但直接决定流量走谁。
3步跑通首次测试
- 确认环境:CC Switch 升到最新版(v3.13.0 起覆盖 Claude、Codex、Gemini、OpenCode、OpenClaw 全部应用),供应商已添加。
- 配置检查参数:设置 → 高级 → 模型测试,先按默认值存,后面再细调。
- 触发检查:打开供应商列表,点目标卡片上的测试按钮,看右下角状态灯和延迟数值。
第一次结果怎么读?🟢 就完事;🟡 能用但慢,记下基线;🔴 直接跳过这个供应商,别纠结。
参数怎么调:超时、重试、降级阈值
三个参数,别一次全动,一次只调一个,像调收音机频率,听到清晰为止。
| 参数 | 默认 | 可调范围 | 怎么设 |
|---|---|---|---|
| 超时时间 | 8 秒 | 10-120 秒 | 探活不跑模型,8 秒够,波动大再放宽 |
| 最大重试 | 1 次 | 0-5 次 | 1 次起步,弱网加到 3 |
| 降级阈值 | 6000 ms | 1000-30000 ms | 慢黄线,对延迟敏感收到 3000 |
- 超时设多长合适?默认 8 秒是探活逻辑,不等待模型生成。如果你走机场或公司代理、链路不稳,放到 30 秒以内都行,再长就没意义了——你是在查故障,不是刷短视频。
- 重试要不要加?1 次够分清纯抖动和真故障。Wi-Fi 飘忽、弱网环境加到 3 次;超过 5 次纯属浪费时间,一次探测本身只要几秒。
- 降级阈值怎么定?6000ms 是黄线,超过算慢但不拦。核心项目对延迟敏感就收到 3000ms。记住:阈值要小于超时时间,不然状态灯会骗你。
三种用法,一条时间线讲完
周一,你接了新供应商。进列表先手动跑一轮检查:红的换 Key,黄的记下延迟基线,绿的直接进故障转移队列。下午,代理在后台定期自动体检队列里的供应商,🔴 的被暂时跳过,流量走健康的,你不用手动切换。周五复盘,熔断的供应商自动跑恢复验证,通过了才放回队列。
一次配置,手动、自动、熔断恢复三条线共用同一套判定标准。你平时唯一要做的,就是看看那个黄灯。
踩坑速查:六个高频问题
Q:明明能用,测试却红了?原因:测试模型与生产模型不同,或供应商不支持你配的模型;base_url 少了端口、尾斜杠没对齐。 解法:把测试模型换成供应商支持的,再核对端点地址。
Q:为什么超时才 8 秒?不是说要等 45 秒吗?原因:新逻辑是探活而非完整模型调用,8 秒是探活尺度。 解法:不用改,除非你的链路真的慢到 8 秒都回不了响应头。
Q:所有供应商同时红?原因:99% 是本地网络或代理配置问题。 解法:换个网络再测,别怀疑供应商集体阵亡。
Q:黄灯一直不消?原因:TTFB 持续高于阈值,可能是供应商负载高或区域远。 解法:看使用统计里的平均延迟趋势,趋势在上行再考虑换供应商。
Q:测试烧不烧钱?原因:有消耗但极轻,prompt 一个词、输出限 10-50 token。 解法:选 Haiku、mini、Flash 这类便宜模型当测试模型,成本优化不用专门做。
Q:Codex 第三方供应商老被误判不可用?原因:早期探测只打 /responses,Chat Completions 类供应商没接上。 解法:用 v3.13.0 以上版本,会自动探测 /chat/completions 并对齐代理转发顺序。
进阶玩法与资源入口
三个高手习惯:
- 测试模型季度轮换一次,顺带验证供应商的模型兼容性,别只测 Haiku。
- 把 Provider 统计(请求数、成功率、平均延迟)当周会数据,趋势比单次结果可信。
- 故障转移全开:测试当哨兵,熔断当保险丝,两者分工不同,都留着。
完整参数说明见 模型测试文档,检查服务实现在 src-tauri/src/services/stream_check.rs。
今晚就把那批红的清掉,明天开会不用等半小时查日志。
【免费下载链接】cc-switchA cross-platform desktop All-in-One assistant for Claude Code, Codex, OpenCode, OpenClaw, Grok Build & Hermes Agent. Only official website: ccswitch.io项目地址: https://gitcode.com/GitHub_Trending/cc/cc-switch
创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考