前两天圈子里一直在刷 Cloudflare 的 Clef,说是 98.76 分直接把 Jev 按在地上,还在一个新赛道里飙出了 38 毫秒做一次决策的速度。我一开始没太当回事,毕竟“全面超越”“碾压”这种词在技术新闻里一年能见八百回。但看完几个社区拆解帖之后,我意识到这次说的不是模型参数,也不是聊天能力,而是把“决策”本身做成了一项可部署、可评测、可计价的基础设施。这篇就把我对 Clef、Jev 以及这条新赛道的理解掰开揉碎讲一遍,顺便聊聊开发者如果想接,应该从哪个口子入手。
1. 先把分数说清楚:98.76 这个分是怎么打出来的
很多人看到“98.76 分”第一反应是“又一个人工评测刷分”。但这次不太一样,Clef 的分数不是拿一个榜单问“你俩谁答得好”,而是一套可以复跑的离线回放基准。要理解 Clef 为什么赢,先得拆开这个分数到底由什么构成。
1.1 一个总分背后是四类指标在撑腰
我按社区公开的信息和类似基准的惯例,把评分结构还原成下面这张表:
| 评测维度 | 权重 | 考察重点 |
|---|---|---|
| 决策正确率(动作命中率) | 50% | 在给定系统状态下,从候选动作集合里选中最优动作的比例 |
| 决策延迟(p50 / p99) | 25% | 从拿到输入到返回决策结果的端到端耗时 |
| 资源代价(单决策成本) | 15% | 每百万次决策消耗的 CPU 时间、内存、带宽 |
| 可解释性与审计完整性 | 10% | 每次决策是否有完整的状态快照、特征、置信度、版本号 |
四类指标加权之后,Clef 拿到 98.76,Jev 大概落后在 90 分区间。注意一个关键点:这里真正拉开差距的其实不是“模型谁的更聪明”,而是后三项工程指标。Jev 本身是一个面向代理式工作流的决策 API,很多人在 Claude Code、Codex、OpenCode 里接它做“工具调用时到底该执行哪个动作”的拍板。Clef 则是直接站在 Cloudflare 的全球边缘网络上做的同类系统,天然在延迟、成本、可观测性上占优。
1.2 “动态决策快照”是这次评分最狠的设计
分数能服众,靠的是“动态决策快照”这套评测机制。你可以把它理解成软件工程里的“录制回放”:把每一次真实决策发生时系统的输入状态、候选动作集、特征向量、模型置信度、最终选中的动作、响应延迟、模型版本号全部固化下来,存成一个独立的快照文件。评测时把所有快照统一回放,两个系统跑同一批输入,谁的动作更准、更快、更省,分数就出来了。
这个设计的好处是评测可复现。以前比 AI 系统好坏,要么拉一帮人盲评,要么拿几个静态 benchmark 硬跑,跑完就完了,谁也不知道分数是怎么来的。动态决策快照相当于把“决策过程”本身变成了可回放的单元测试。Clef 在这套体系里拿 98.76,意味着它每次决策都有据可查——这一点对生产环境来说比总分本身重要得多。
1.3 吃透分数之前要冷静三秒
我得泼一点冷水:98.76 分是在基准测试集上的综合表现,不代表你把它搬到自己的业务里也能拿 98.76。拿反欺诈场景举例,如果你的用户行为分布和评测集里的分布差得很远,正确率会明显回落。我之前用过一个在某公开榜单上“碾压竞品”的决策服务,部署到我们自己的风控场景里,因为特征分布对不上,实际命中率反而不如原来的规则引擎。所以看这种高分新闻,第一件事不是兴奋,而是找它的评测集、快照回放工具和场景覆盖清单。
2. 38 毫秒的账:一次决策的时间都花在哪了
“38 毫秒做出一次决策”是这次发布里最吸引眼球的数据。做过后端的人都知道,光是一个跨地域的 HTTPS 请求 RTT 就可能 30 到 80 毫秒,你跟我说一次完整的 AI 决策只要 38 毫秒?我第一次看到也愣了一下。拆开算完账之后发现,这个数字不是吹的,但它的成立有前提。
2.1 链路拆解:35 到 40 毫秒是怎么分配出来的
根据公开压测曲线和我自己做边缘推理的经验,可以把一次 Clef 决策的耗时大致反推成下面这张表:
| 阶段 | 主要动作 | 耗时(估算) |
|---|---|---|
| 请求接入与鉴权 | 边缘节点识别调用方身份、校验 Token | 约 2ms |
| 状态提取与意图识别 | 从请求中抽取特征向量,判定决策类型 | 约 6ms |
| 策略引擎匹配 | 先查本地编译的确定性规则/状态机 | 约 8ms |
| 模型推理 | 蒸馏后的小模型做概率打分 | 约 10ms |
| 动作校验与组合 | 校验候选动作合法性,组装决策结果 | 约 6ms |
| 响应编码 | 序列化返回 | 约 3ms |
合计下来正好落在 35 到 38 毫秒之间。注意“策略引擎匹配”和“模型推理”是并行设计,不是严格串行:大部分高频决策直接走确定性规则就出结果了,只有规则覆盖不到的长尾情况才触发模型推理,所以平均耗时才压得住。
2.2 快的关键不是“聪明”,而是“少做无用功”
Clef 能跑到 38 毫秒,不是某个模型推理引擎突然开窍了,而是整套系统设计都在为“少做无用功”服务。
- 模型做小:边缘节点上跑的是一套蒸馏后的小模型,参数量只有几十 M 级别,做一次前向推理 10 毫秒上下。对比动辄上百 B 参数的云端大模型,一次推理几百毫秒起步,压根不在一个量级。
- 策略冷热分离:最高频的决策路径(比如“这个请求要不要放行”“这个动作允不允许执行”)被编译成本地状态机和规则集,根本不走模型。规则能判的直接判,规则拿不准的才把特征向量灌给模型兜底。
- 就近执行:决策逻辑部署在距离用户最近的边缘节点上,省掉了中心化 API 网关的往返。这就像以前买杯咖啡要跑到市中心总店,现在楼下便利店就能做,物理距离缩短,延迟自然降下来。
- 确定性路由:同一类请求会被哈希到固定的边缘节点处理,避免跨节点协调。跨节点协调是分布式系统里最贵的操作之一,能避免就避免。
- 不做 GPU 批处理:云端 AI 服务为了吃满 GPU,习惯把请求攒一批再算,攒批过程本身就引入了额外等待。Clef 在边缘走的是单请求单卡单线程推理,单个请求的延迟被压到极致,代价是吞吐量不如大集群好看,但它的目标场景本来就是“单个决策必须快”,不是“每秒处理百万请求”。
2.3 38 毫秒和传统决策服务的差距有多大
拿数字直观感受一下:传统中心化 AI 决策服务,请求从客户端到中心机房再返回,普遍 200 到 800 毫秒;本地方案可以做到 50 到 80 毫秒;Clef 的边缘方案把端到端压到 38 毫秒。这里面差的不是“快一点”和“快很多”的区别,而是决策是否还能被当作同步操作来设计。800 毫秒的延迟意味着用户得等;38 毫秒的延迟意味着系统可以在用户无感知的情况下实时做拦截、放行、路由和配额控制。这是体验层面的质变。
3. 为什么偏偏是 Cloudflare:边缘决策和云端决策是两种物种
看到“Cloudflare 发布 Clef”,很多人第一反应是“又一个科技巨头蹭 AI 热点”。但说实话,这条赛道换成别家公司来做,我可能都会怀疑能不能落地——唯独 Cloudflare 做这件事,逻辑是通的。核心原因一句话:决策离数据越近,越快,也越安全。这不是一句空话,展开讲有三个硬理由。
3.1 “感知—分析—决策—执行”闭环在边缘才能真正闭合
现在做 AI 系统都喜欢谈 SADA 闭环:感知(Sense)、分析(Analyze)、决策(Decide)、执行(Act)。大部分团队的实现方式是:感知和分析放在设备端或边缘,决策和执行回传中心服务器。问题在于,决策一旦回传中心,前面感知做得再快,延迟也被网路吃掉了。Clef 的做法是把感知、分析、决策、执行整套闭环压缩到同一个边缘节点内完成。
类比一下:以前你在车站闸机前刷脸,摄像头拍到照片,传回城市另一头的机房,机房识别完再把开闸信号传回来——来回一趟怎么也得一两百毫秒。Clef 做的事相当于把识别和开闸的电脑直接塞进闸机里,照片本地拍、本地算、本地开闸。原理不复杂,但需要你把全套基础设施铺到离用户最近的地方,这就是 Cloudflare 的看家本领:它在全球有几百个边缘节点,每一台都能跑 Clef 的模型和策略引擎。
3.2 Cloudflare 的“安全产品矩阵”本质上早就在做决策
Cloudflare 现有的 WAF、Bot Management、Rate Limiting、负载均衡,本质上都是决策系统:判断一个请求是不是机器人,决定要不要拦截,决定流量路由到哪个后端。区别在于,以前这些决策靠的是“专家规则”——人工编写条件、阈值、正则。Clef 相当于把这些产品线里沉淀下来的决策逻辑升级成了“模型驱动”的形式,而且带完整的可观测性。
这个转变很有意思。以前你问一个规则引擎“你为什么拦了这个请求”,它会告诉你“因为 User-Agent 匹配了拦截列表”——这个答案看似清楚,其实背后是规则作者的经验。Clef 的做法是给每个决策配一份快照,里面包括当时的状态、特征、置信度、候选动作,你可以拿这份快照去复盘“规则没覆盖到的长尾情况为什么被放行了”。决策系统从“黑盒的规则”走向“可回放的模型”,这件事对安全运维的价值比省那几十毫秒大得多。
3.3 哪些场景真的需要 38 毫秒级别的决策速度
不是所有场景都需要这么快的决策,这是我把话撂在前面。需要 38 毫秒的,往往是那些“决策就发生在用户操作路径中间、慢了就影响体验或放跑风险”的瞬时场景:
- 反欺诈:支付接口在几十毫秒内对交易打分,放行、拦截、转人工必须当机立断。延迟拖到一秒,用户的支付流程就断了。
- API 滥用防护:判断一个请求是脚本还是真人,得在看板加载完成之前完成,否则数据已经泄露了。
- 内容路由:按用户画像和地理位置把请求分发到不同存储或区域,路由决定晚一点,内容加载就慢一点。
- 设备端代理:我在安卓的 Termux 里跑轻量代理做本地请求决策时,如果每次都要回源判断,日志分析的速度会明显拖慢。把决策器放到边缘,等于把“智商”前置到设备附近。
- 编码代理工具的动作约束:Claude Code、Codex、OpenCode 这类代理工具在执行命令前,经常需要判断“这个工具调用是否允许”。这个决策如果慢慢吞吞,整个 agent 工作流就像卡了壳。Clef 提供的 38 毫秒动作校验,正好卡在用户可感知的阈值下面。
反过来,像“每周一次的信贷审批”“每日一次的库存调拨”这类慢决策,完全不需要边缘推理,用传统的批量计算就行。选型的时候最怕的就是“我有锤子所以看什么都像钉子”——Clef 再快,它也只适合它的主场。
4. 想用 Clef 的人看这里:接入路径和踩坑预判
聊完概念,说点能直接落地的。Clef 作为一个 Cloudflare 体系内的产品,接入路径基本延续了 Workers 生态的习惯:既有代码内调用,也有独立 HTTP API,还有面向非程序员的声明式策略配置。以下是我根据公开资料和信息推断的接入方式,具体以官方文档为准,但大方向应该不会跑偏。
4.1 三种接入方式,从轻到重排个序
方式一:Worker 内直接调用(最轻量)
如果你本来就在用 Cloudflare Workers,Clef 最自然的接法就是在 Worker 脚本里直接调用:
import { decide } from '@cloudflare/clef'; export default { async fetch(request, env, ctx) { const decision = await decide({ action: 'allow_request', context: { path: new URL(request.url).pathname, country: request.headers.get('cf-ipcountry'), userAgent: request.headers.get('user-agent'), } }); if (!decision.allowed) { return new Response('blocked', { status: 403 }); } return env.ASSETS.fetch(request); } };这种方式的优势是没有额外网络跳转:决策函数和你的业务代码跑在同一个进程里,连序列化和反序列化都省了一部分,是延迟最稳的一种接法。
方式二:HTTP API 调用(跨语言友好)
非 JavaScript 技术栈可以通过标准 HTTP API 接入。Clef 的 API 风格大概率会兼容 OpenAI 格式,方便已经接过大模型 API 的团队平迁:
POST /v1/decide { "action": "tool_call", "candidates": ["run_test", "skip_test", "ask_user"], "context": { "repo": "myapp", "branch": "feature/x", "confidence_floor": 0.8 } }返回里会带上选中的动作、置信度和一份决策快照 ID。快照 ID 这玩意儿很重要,出问题的时候你能拿着它去后台拉完整决策上下文,而不是对着一个孤零零的“拒绝”发呆。
方式三:策略 DSL(让非开发者也敢碰)
Clef 还提供了一套声明式的策略 DSL,类似 YAML,把高频决策写成可读的规则,只有规则之外的长尾才走模型。这么设计既保住延迟,又保证业务同学能在不写代码的情况下调整策略:
strategy: request_gate rules: - if: env.country == "CN" && path.startsWith("/api/v1") action: allow - if: confidence(model.score) < 0.6 action: ask_mfa fallback: model: clef-default-v3 timeout_ms: 15运行的时候,规则引擎先跑,命中就直接返回;没命中,系统在 15 毫秒内调用模型兜底,避免规则覆盖不到的长尾把延迟拖垮。
4.2 与 Claude Code / Codex / OpenCode 这类代理工具怎么配合
社区里关于 Jev 的一大堆热搜,核心都在问“Jev 怎么接到 Claude Code 里”“Jev 能不能给 Codex 用”。这类需求的出现是有背景的:编码代理工具最危险的地方就在于它会自作主张执行操作,团队需要一个独立的决策服务来约束它——相当于给 agent 装一个“行为守门员”。
Clef 完全可以替代 Jev 扮演这个角色。接入路径通常走 MCP(Model Context Protocol)工具,或者直接在 agent 的 system prompt 里插入一个工具定义,让 agent 在每次准备执行命令前先调用决策 API 做一次校验:
你正在使用一个工具调用决策服务。在你执行任何会修改文件系统、 启动进程或访问外网的命令之前,必须调用 decide_action 工具, 只有返回 allowed=true 才能继续执行。这种做法把“该不该做”从 agent 的自由发挥里剥离出来,变成一次确定性的决策查询。38 毫秒的延迟对于 agent 工作流来说几乎无感,但安全性提升非常明显——相当于给 AI 程序员配了一个随时待命的资深 code reviewer,而且是毫秒级响应的那种。
4.3 本地调试和联调:我建议的姿势
接任何云服务,最怕的就是开发环境联调麻烦。Clef 的调试思路,我推测会有本地模拟器模式,也可以部署一个轻量副本。一个比较实用的做法是:在自己的机器上(哪怕是安卓 Termux 环境里)跑一个本地决策服务实例,然后用你习惯的方式把本地服务暴露到公网做回调联调——很多人用 cloudflare tunnel 干这件事,好处是配置简单、免公网 IP。这么做可以在本地把策略调好,再切到正式环境跑灰度,而不是一上来就在生产环境里试错。
4.4 几个我预判一定会有人踩的坑
- 冷启动比想象中明显:边缘函数的冷启动在首次调用时可能超过 38 毫秒,如果你的业务要求“每一个请求都在 38 毫秒内决策”,需要提前做预热或定期心跳保活。
- 缓存一致性和决策版本同步:Clef 的策略更新是异步下发的,旧策略和新策略可能短暂共存。如果你的业务对策略一致性要求极高(比如“同一用户同一分钟只能放行一次”这种),得确认快照版本和策略版本绑定,否则回放审计时会发现同一批请求用了两套不同策略。
- 可解释性不能只看置信度:置信度高不代表决策一定合理。我之前遇到过模型对某个明显的异常流量给出 0.95 的高置信度放行,原因是在训练集里类似流量全是正常请求。所以生产环境里一定要保留“人工复核兜底”的通道,不能看到高分就全自动。
- 审计快照的存储成本:每次决策都存快照,量大以后存储和查询成本会直线上升。建议提前规划快照的保留周期和采样策略,比如全量保存 7 天,之后只保留异常决策的完整快照。
5. Jev 输了但没完全输:这轮竞赛真正改写的是什么
回到标题里的“碾压”二字。作为从业者,我得说:Jev 这轮在分数上是输了,但把时间线拉长看,它并没有输掉整场战争——它赢了“定义赛道”的先手。Jev 是最早把“AI 决策 API”这个品类带到主流开发者视野里的玩家之一,大量关于“Jev 如何接入 Claude Code”“Jev 怎么在 Codex 里用”的讨论,已经把“决策即服务”这个概念种进了社区。Clef 固然在工程上和分发渠道上更强,但如果前面没有 Jev 把这条路蹚出来,Clef 也不可能一上来就站在这么清晰的需求上。
5.1 模型能力 vs 系统能力:这轮比的从来不是智商
Clef 赢 Jev 的 98.76 分,赢在工程系统能力,而不是模型智商。纯粹从“能不能做出合理决策”这个角度,Jev 的模型能力并不差,差距主要被拉在延迟、资源代价和审计完整性上。Cloudflare 的全球边缘网络、成熟的 Workers 运行时、海量的安全数据,这些是 Jev 短期内很难补上的护城河。这给我们的选型启示是:评估一个决策产品,不要只看它“多聪明”,要看它“在你需要的位置上能不能聪明地跑起来”。一个只能跑在中心机房的聪明模型,和部署在离用户 10 毫秒处的八十分模型,后者在实际业务里往往赢。
5.2 “速度”从优化项变成了默认前提
Clef 这轮发布,最值得关注的行业信号是:决策延迟正式从“优化项”变成了“默认前提”。以前你打算接一个 AI 决策服务,第一反应是“它准不准”;现在你会多问一句“它有多快”。当“38 毫秒”被当成默认卖点放在标题里,说明市场对 AI 决策的预期已经从“能用”切换到“无感”。这个转变我想强调一下:它能倒逼所有做 AI Infra 的团队重新审视自己的技术栈。如果你的决策链路需要 800 毫秒,你可能根本拿不到进入某些场景的门票——不管你的模型多准。
5.3 决策可观测性会成为标配,动态快照是标配里的第一公民
这次发布里,我最看重的其实是“动态决策快照”这个概念被主流厂商接纳。过去做决策系统,最怕的不是决策错,而是决策错了之后你不知道它为什么错。Clef 把每次决策的状态、特征、置信度、版本号全部固化下来,意味着你可以在事后完整地回放一次错误决策的现场。类比一下:以前的 AI 系统就像一个不写日志的线上服务,出问题只能靠猜;Clef 给决策系统装上了全量日志和链路追踪,这对生产环境的可维护性是革命性的。
5.4 看完这场竞赛,给你三个选型建议
第一,别用总分做选型决策,用场景分布做决策。98.76 分是综合分,你的业务可能只用到了其中 20% 的能力,重点看那 20% 的细分得分和命中情况。第二,把快照回放跑在自己的数据上再决定。不管 Clef 还是 Jev,都先拉一批真实请求,用动态决策快照的方式在你自己业务上对比一轮,分数再高也不如你手头那批真实数据有说服力。第三,评估供应商要看分发网络,而不只是看评分。决策服务跑在哪、离你的用户有多近、故障时有没有降级通道,这些往往比评分本身更能决定业务结果。
我自己的真实体会是:这轮“新赛道狂飙”看着热闹,但真正能吃到红利的人,不是最早围观的人,而是把那 38 毫秒当成系统设计约束、把动态决策快照当成审计工具、把“碾压”当成需要拆解验证的命题——然后踏踏实实在自己业务里跑一遍回放的人。决策速度确实是新赛道,但它服务的永远是业务结果,不是排行榜上的名次。
最后再分享一个小技巧:如果你打算试水,别一上来就全局接入。先找一个对延迟最敏感的场景(比如接口限流或工具调用校验),把决策快照留存打开,灰度跑一周,盯着 p50、p99 和审计记录三个指标看。一周之后你会很清楚这个 38 毫秒到底适不适合你的业务——比看任何博文的分析都管用。