Cloudflare 下场背书 RLCD27B Clef 两天前开源1B 复刻模型还有存在感吗【免费下载链接】Qwen-2.5-1B-RLCD项目地址: https://ai.gitcode.com/hf_mirrors/harshatheg/Qwen-2.5-1B-RLCD10 月 2 日Cloudflare 正式开源决策模型 Clef 与 Clef-flash27B 参数、冻结 Qwen 骨干、非自回归打分、面向校准的强化学习RLCD训练一次分类仅需 2.2 秒权重以 Apache 2.0 协议放出API 兼容 Jev。当巨头带着 27B 的体量杀入判断模型赛道一个更早用 RLCD 思路把 Qwen 小模型做成端侧 JSON 抽取引擎的开源项目——Qwen-2.5-1B-RLCD——是否就此失去存在感答案恰恰相反。Clef 的发布非但没有压垮小模型路线反而为RLCD 是否成立提供了最强背书两家团队、两种规模、同一套方法论验证的是同一件事——放弃自回归生成、把结构化决策变成一次前向传播的打分问题才是低延迟判断的正确形态。本文结合 Clef 发布情报与本仓库源码拆解 27B 与 1B 在 RLCD 路线上的不同取舍以及端侧小模型不可替代的生存位。Clef 发布要点冻结骨干 非自回归打分 RLCD 训练Clef 并非又一个大号聊天模型它刻意放弃了文本生成能力。核心设计包含三个层面冻结骨干 联合 Schema 头基于 Qwen 骨干社区情报显示为 Qwen3.8-27B冻结权重在骨干之上联合训练决策头只做 prefill 前向传播并并行打分不输出 token 序列非自回归打分机制对给定上下文与候选类别并行评估输出多类别概率分布推理一次分类仅 2.2 秒同时原生支持图像理解上下文窗口达 64kRLCD 训练即面向校准决策的强化学习Reinforcement Learning for Calibrated Decisions源自 OpenAI 前研究员、RLHF 之父 Diogo Almeida 的 Jev 体系核心诉求不是答得对而是概率可信——Brier 损失与决策头解耦设计是其中关键技术点。配套动作同样值得注意Cloudflare 同步推出 RL 微调产品支持企业定制专用分类器API 层直接兼容 Jev意味着现有 Jev 调用方可以低成本平移到 Clef。这是继 JevTypeSafe AI端到端 70–500 毫秒输入成本低至每百万 Token 0.042 美元之后又一个重量级玩家公开押注System 1 判断模型——而它选的训练范式正是 RLCD。27B 与 1B同走 RLCD完全不同的取舍Clef 用 27B 换通用性与复杂决策能力代价同样直观社区实测其本地部署显存要求高达约 85GB通用推理能力弱、成本高本质上是一个面向云侧工单路由、内容安全等有界决策场景的专用分类器。而 Qwen-2.5-1B-RLCD 走出的是另一条路。仓库名以 1B 命名引擎实际加载mlx-community/Qwen2.5-1.5B-Instruct-4bitMODEL_CARD.md 标注基础模型为Qwen/Qwen2.5-1.5B-Instruct4-bit AWQ 量化上下文 32,768 tokens。这个量级下它把RLCD落地为工程上可部署的端侧引擎核心文件是 core/engine_mlx.py单次广播 Prefill上下文与 schema 语义目录只 prefill 一次KV 缓存驻留 Apple Silicon 统一内存KV-Cache 广播把缓存沿 batch 维广播到全部 M 个字段一次前向传播并行评估所有决策子词表 Logit 切片每个字段只在合法候选 token 上打分其余词表全部屏蔽实现见 core/schema.py 的compile_candidate_tokens与compile_parallel_metadata校准 Softmax在候选切片上计算精确归一化概率 $P(c_i)\exp(z_i/T)/\sum_j\exp(z_j/T)$extract_calibrated_probabilities输出字段级置信度与 top_choices 分布Token 树消歧候选共享多 token 前缀时用零内存重分配的缓存切片续推程序化组装直接由已验证取值拼装 JSON100% 合法、无需解析重试。两者对比是鲜明的规模换通用、小模型换边界维度Clef (27B)Qwen-2.5-1B-RLCD (1B 级)决策方式非自回归并行打分非自回归并行打分KV-Cache 广播训练范式RLCDRLCD 思想驱动的并行约束解码单次决策延迟约 2.2 秒75–270 毫秒M4 Max本地部署约 85GB 显存约 1.1GB 内存4-bit能力边界图像理解、64k 上下文、复杂路由布尔 枚举单字段 ≤255 选项端侧小模型的差异化生存位Clef 的存在反而放大了小模型的稀缺价值判断模型的价值密度来自能否就近、就地、即时完成决策而这一要求与 27B 的部署成本天然矛盾。延迟从 1669ms 到 295ms 的实战验证社区在 Apple Silicon 上基于本仓库思路的实践给出了端侧硬数据结合 MLX 与 RLCD 优化 Qwen-2.5-1B 的 JSON 生成通过把 JSON Schema 编译为轻量状态机嵌入解码循环、4bit 量化与 KV Cache 紧凑化端侧 JSON 抽取延迟从 1669ms 压到 295ms——收益来源正是模型能力前移 端侧推理链路精简消除了解析失败与重试开销实现生成即合法、一次调用输出可用 JSON。仓库自带的基准则给出了更完整的对照core/benchmark.py、README.md场景字段数自回归基线并行约束加速比Fintech Fraud Routing4 字段420 ms75 ms5.6xCode Security Audit4 字段380 ms68 ms5.6xHigh-Cardinality Tariff1 字段255 选项500 ms89 ms5.6xSupport Triage Matrix28 字段1,900 ms270 ms7.0x注意高基数场景255 选项的单字段分类仍保持 O(1) 延迟sequential_forward_passes恒为 1这是自回归路线在候选集扩张时无法回避的线性代价——presets/high_cardinality_255.json 用完整 255 类 HS 海关编码路由验证了这一点。校准能力小模型也能给出可审计的概率Clef 把概率校准作为卖点1B 复刻同样没有缺席。字段级top_choices与置信度是引擎的默认输出一次决策同时给出胜选项概率与完整候选分布见 core/engine_mlx.py 的field_telemetry组装配合温度缩放 Softmax让风控、工单分派等需要人工复核边界的场景获得可解释、可审计的判断依据。这与社区对开源 Jev 复刻体系的观察一致接口兼容已高度复现RLCD 式概率校准才是真正的差距项——而本项目恰恰把校准做成了标准输出。交付形态从 SDK 到可部署服务与 Clef 面向云 API 不同1B 复刻模型的生存位在本地、私有、可控。仓库提供了完整的端侧交付链双后端自动适配core/engine.py 在 Apple Silicon 上自动启用 MLX在 Linux/Docker/HF Spaces 上回退 PyTorch/CUDA/CPU同一套 schema 语义两后端共用FastAPI 服务层server/app.py 暴露/api/run-parallel、/api/run-rlcd、/api/run-naive、/api/stream-naiveSSE 流式与/api/compare双跑对比端点PredictRequest直接接收 context schema可视化对比工具web/index.html 提供并行约束 vs 自回归的并排延迟对比、毫秒级计时器、幻觉字段高亮一行bash run.sh即起run.sh业务预设presets/fintech_fraud.json、presets/support_triage.json 分别覆盖 28 字段的反欺诈风控与故障工单分派字段描述即 schema 语义开箱即测。结语Clef 的开源给 RLCD 路线盖上了巨头认证的印章但 27B 的登场解决的是云端通用判断问题不是端侧低延迟问题。Qwen-2.5-1B-RLCD 代表的 1B 复刻路线用 5.6x–7.0x 加速、100% schema 合法性、字段级校准概率和约 1.1GB 的占用证明判断模型的价值不必以参数规模为前提——当决策需要发生在边缘设备、发生在支付网关、发生在工单入口的那一毫秒时27B 的显存账单和小模型的即时响应之间答案并不难选。两天前 Clef 的开源不是小模型的墓志铭而是整个 RLCD 范式从论文走向产品线的里程碑大模型负责广度小模型负责速度它们共享的是同一个不再逐 token 说话的未来。【免费下载链接】Qwen-2.5-1B-RLCD项目地址: https://ai.gitcode.com/hf_mirrors/harshatheg/Qwen-2.5-1B-RLCD创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考 Cloudflare 下场背书 RLCD：27B Clef 两天前开源，1B 复刻模型还有存在感吗
Cloudflare 下场背书 RLCD27B Clef 两天前开源1B 复刻模型还有存在感吗【免费下载链接】Qwen-2.5-1B-RLCD项目地址: https://ai.gitcode.com/hf_mirrors/harshatheg/Qwen-2.5-1B-RLCD10 月 2 日Cloudflare 正式开源决策模型 Clef 与 Clef-flash27B 参数、冻结 Qwen 骨干、非自回归打分、面向校准的强化学习RLCD训练一次分类仅需 2.2 秒权重以 Apache 2.0 协议放出API 兼容 Jev。当巨头带着 27B 的体量杀入判断模型赛道一个更早用 RLCD 思路把 Qwen 小模型做成端侧 JSON 抽取引擎的开源项目——Qwen-2.5-1B-RLCD——是否就此失去存在感答案恰恰相反。Clef 的发布非但没有压垮小模型路线反而为RLCD 是否成立提供了最强背书两家团队、两种规模、同一套方法论验证的是同一件事——放弃自回归生成、把结构化决策变成一次前向传播的打分问题才是低延迟判断的正确形态。本文结合 Clef 发布情报与本仓库源码拆解 27B 与 1B 在 RLCD 路线上的不同取舍以及端侧小模型不可替代的生存位。Clef 发布要点冻结骨干 非自回归打分 RLCD 训练Clef 并非又一个大号聊天模型它刻意放弃了文本生成能力。核心设计包含三个层面冻结骨干 联合 Schema 头基于 Qwen 骨干社区情报显示为 Qwen3.8-27B冻结权重在骨干之上联合训练决策头只做 prefill 前向传播并并行打分不输出 token 序列非自回归打分机制对给定上下文与候选类别并行评估输出多类别概率分布推理一次分类仅 2.2 秒同时原生支持图像理解上下文窗口达 64kRLCD 训练即面向校准决策的强化学习Reinforcement Learning for Calibrated Decisions源自 OpenAI 前研究员、RLHF 之父 Diogo Almeida 的 Jev 体系核心诉求不是答得对而是概率可信——Brier 损失与决策头解耦设计是其中关键技术点。配套动作同样值得注意Cloudflare 同步推出 RL 微调产品支持企业定制专用分类器API 层直接兼容 Jev意味着现有 Jev 调用方可以低成本平移到 Clef。这是继 JevTypeSafe AI端到端 70–500 毫秒输入成本低至每百万 Token 0.042 美元之后又一个重量级玩家公开押注System 1 判断模型——而它选的训练范式正是 RLCD。27B 与 1B同走 RLCD完全不同的取舍Clef 用 27B 换通用性与复杂决策能力代价同样直观社区实测其本地部署显存要求高达约 85GB通用推理能力弱、成本高本质上是一个面向云侧工单路由、内容安全等有界决策场景的专用分类器。而 Qwen-2.5-1B-RLCD 走出的是另一条路。仓库名以 1B 命名引擎实际加载mlx-community/Qwen2.5-1.5B-Instruct-4bitMODEL_CARD.md 标注基础模型为Qwen/Qwen2.5-1.5B-Instruct4-bit AWQ 量化上下文 32,768 tokens。这个量级下它把RLCD落地为工程上可部署的端侧引擎核心文件是 core/engine_mlx.py单次广播 Prefill上下文与 schema 语义目录只 prefill 一次KV 缓存驻留 Apple Silicon 统一内存KV-Cache 广播把缓存沿 batch 维广播到全部 M 个字段一次前向传播并行评估所有决策子词表 Logit 切片每个字段只在合法候选 token 上打分其余词表全部屏蔽实现见 core/schema.py 的compile_candidate_tokens与compile_parallel_metadata校准 Softmax在候选切片上计算精确归一化概率 $P(c_i)\exp(z_i/T)/\sum_j\exp(z_j/T)$extract_calibrated_probabilities输出字段级置信度与 top_choices 分布Token 树消歧候选共享多 token 前缀时用零内存重分配的缓存切片续推程序化组装直接由已验证取值拼装 JSON100% 合法、无需解析重试。两者对比是鲜明的规模换通用、小模型换边界维度Clef (27B)Qwen-2.5-1B-RLCD (1B 级)决策方式非自回归并行打分非自回归并行打分KV-Cache 广播训练范式RLCDRLCD 思想驱动的并行约束解码单次决策延迟约 2.2 秒75–270 毫秒M4 Max本地部署约 85GB 显存约 1.1GB 内存4-bit能力边界图像理解、64k 上下文、复杂路由布尔 枚举单字段 ≤255 选项端侧小模型的差异化生存位Clef 的存在反而放大了小模型的稀缺价值判断模型的价值密度来自能否就近、就地、即时完成决策而这一要求与 27B 的部署成本天然矛盾。延迟从 1669ms 到 295ms 的实战验证社区在 Apple Silicon 上基于本仓库思路的实践给出了端侧硬数据结合 MLX 与 RLCD 优化 Qwen-2.5-1B 的 JSON 生成通过把 JSON Schema 编译为轻量状态机嵌入解码循环、4bit 量化与 KV Cache 紧凑化端侧 JSON 抽取延迟从 1669ms 压到 295ms——收益来源正是模型能力前移 端侧推理链路精简消除了解析失败与重试开销实现生成即合法、一次调用输出可用 JSON。仓库自带的基准则给出了更完整的对照core/benchmark.py、README.md场景字段数自回归基线并行约束加速比Fintech Fraud Routing4 字段420 ms75 ms5.6xCode Security Audit4 字段380 ms68 ms5.6xHigh-Cardinality Tariff1 字段255 选项500 ms89 ms5.6xSupport Triage Matrix28 字段1,900 ms270 ms7.0x注意高基数场景255 选项的单字段分类仍保持 O(1) 延迟sequential_forward_passes恒为 1这是自回归路线在候选集扩张时无法回避的线性代价——presets/high_cardinality_255.json 用完整 255 类 HS 海关编码路由验证了这一点。校准能力小模型也能给出可审计的概率Clef 把概率校准作为卖点1B 复刻同样没有缺席。字段级top_choices与置信度是引擎的默认输出一次决策同时给出胜选项概率与完整候选分布见 core/engine_mlx.py 的field_telemetry组装配合温度缩放 Softmax让风控、工单分派等需要人工复核边界的场景获得可解释、可审计的判断依据。这与社区对开源 Jev 复刻体系的观察一致接口兼容已高度复现RLCD 式概率校准才是真正的差距项——而本项目恰恰把校准做成了标准输出。交付形态从 SDK 到可部署服务与 Clef 面向云 API 不同1B 复刻模型的生存位在本地、私有、可控。仓库提供了完整的端侧交付链双后端自动适配core/engine.py 在 Apple Silicon 上自动启用 MLX在 Linux/Docker/HF Spaces 上回退 PyTorch/CUDA/CPU同一套 schema 语义两后端共用FastAPI 服务层server/app.py 暴露/api/run-parallel、/api/run-rlcd、/api/run-naive、/api/stream-naiveSSE 流式与/api/compare双跑对比端点PredictRequest直接接收 context schema可视化对比工具web/index.html 提供并行约束 vs 自回归的并排延迟对比、毫秒级计时器、幻觉字段高亮一行bash run.sh即起run.sh业务预设presets/fintech_fraud.json、presets/support_triage.json 分别覆盖 28 字段的反欺诈风控与故障工单分派字段描述即 schema 语义开箱即测。结语Clef 的开源给 RLCD 路线盖上了巨头认证的印章但 27B 的登场解决的是云端通用判断问题不是端侧低延迟问题。Qwen-2.5-1B-RLCD 代表的 1B 复刻路线用 5.6x–7.0x 加速、100% schema 合法性、字段级校准概率和约 1.1GB 的占用证明判断模型的价值不必以参数规模为前提——当决策需要发生在边缘设备、发生在支付网关、发生在工单入口的那一毫秒时27B 的显存账单和小模型的即时响应之间答案并不难选。两天前 Clef 的开源不是小模型的墓志铭而是整个 RLCD 范式从论文走向产品线的里程碑大模型负责广度小模型负责速度它们共享的是同一个不再逐 token 说话的未来。【免费下载链接】Qwen-2.5-1B-RLCD项目地址: https://ai.gitcode.com/hf_mirrors/harshatheg/Qwen-2.5-1B-RLCD创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考