多彩编程 多彩编程MZPH · CODE BLOG
ARTICLE DETAIL

文章详情

深耕前端与后端开发技术的一线实战笔记与踩坑复盘。

TypeSafe AI 刚官宣 4000 万美元融资,“不会写代码“的 Jev 背后,是 RLCD 1B 复刻路线的全面走红

TypeSafe AI 刚官宣 4000 万美元融资,“不会写代码“的 Jev 背后,是 RLCD 1B 复刻路线的全面走红 TypeSafe AI 刚官宣 4000 万美元融资不会写代码的 Jev 背后是 RLCD 1B 复刻路线的全面走红【免费下载链接】Qwen-2.5-1B-RLCD项目地址: https://ai.gitcode.com/hf_mirrors/harshatheg/Qwen-2.5-1B-RLCD2026 年的 AI 融资市场上一笔 4000 万美元的 A 轮显得格外扎眼——不是因为金额而是因为它投给了一个不会写代码、不会写文章、甚至不会正常聊天的模型。由 OpenAI 前研究员坊间称为RLHF 之父创立的 TypeSafe AI 在 9 月推出 System One 模型 Jev把概率化判断从大模型的生成能力里彻底剥离出来做成了一根可以嵌入任意工作流的毫秒级智能 if 语句。紧接着开源社区在数周内涌现出 JevLite、Laya、Nimble、Clef 等一批复刻与对标项目而其中最成体系的一条技术路线是RLCD 1B 复刻——用 Qwen 系 1B 级小模型 并行约束解码把 Jev 的不做生成、只做校准决策哲学搬进本地推理引擎。这篇文章结合社区一手情报与源码级拆解还原这条路线为何在同一时间被资本与工程社区同时选中。4000 万美元融资事实与 Jev 的产品定位先对齐几个可核实的事实。TypeSafe AI 推出的 Jev 是一款System One Model它放弃了自回归生成能力专精于多选项概率化判断端到端响应仅 70–500 毫秒官方对比口径下速度提升达 193.6 倍、输入成本低至每百万 Token 0.042 美元且输出 Token 永久免费。社区对它的评价高度一致这不是又一个更快的 LLM而是对大模型一统天下的一次主动拆解——AI 系统被重新切分成 System 1快速、可靠、可校准的判断层与 System 2慢速、深度的推理层Jev 占据前者与 GPT 类推理模型协同充当置信度闸门式的编排角色。不会写代码恰恰是它的卖点。Jev 的输出不是文本而是带校准概率的结构化决策——例如这笔交易是否欺诈概率 0.994它不做开放式生成只做有界判断。这一设计的底层依赖一个关键训练范式RLCDReinforcement Learning for Calibrated Decisions校准决策强化学习。与传统 RLHF 对齐人类偏好文本不同RLCD 对齐的是概率的可信度——让模型输出的置信度在统计意义上接近真实频率从而让0.97 就是 0.97成为可审计的事实而非不可信的自我标榜。RLCD 训练范式如何传导到 1B 开源复刻Jev 是闭源 API但 RLCD 的工程内核并不玄学把决策从生成中剥离对候选集打分并用校准过的 Softmax 输出概率。这个内核在 1B 级开源模型上被完整复现了——本地仓库 Qwen-2.5-1B-RLCD 就是这条路线的代表性实现。以 核心引擎 为例它默认加载mlx-community/Qwen2.5-1.5B-Instruct-4bitQwen2.5 系列 1B/1.5B 级小模型在 Apple Silicon 上实现了完整度极高的 RLCD 决策管线与 Jev 的非自回归打分在思路上同构单次广播 Prefill上下文与压缩后的 schema 语义目录一次性写入 KV-Cache见 run_parallel_generation 的base_arr处理全程只做一次前缀前向KV-Cache 广播将 KV-Cache 沿 batch 维复制 M 份让 M 个字段共享同一份上下文状态mx.repeat(c.keys, M, axis0)一行完成并行化子词表 Logit 切片每个字段只取候选 token ID 对应的 logit其余词表全部掩蔽——这正是 Jev 式有界决策的推理层实现。候选 token 的预索引逻辑封装在 schema.py 的compile_candidate_tokens中boolean 字段会同时收录true/True/TRUE/yes等变体枚举字段则对每个选项做前缀公共串消歧温度缩放校准 Softmax对候选切片计算精确归一化概率P(c_i) exp(z_i / T) / Σ exp(z_j / T)并在返回结构中同时给出每个字段的confidence与完整top_choices分布见 extract_calibrated_probabilities对应 Jev 对外输出的多选项概率分布程序化组装因为取值从合法候选集中程序化拼装而来输出 JSON 的语法合法性为 100%不再需要 grammar-based decoding 与重试后处理——社区情报中端侧 JSON 抽取从 1669ms 压到 295ms的实测正是这一链路精简的直接结果。仓库还通过 core/engine.py 做了后端双路自动路由Apple Silicon 上用 MLXLinux/Docker/Hugging Face Spaces 上自动回退 PyTorch/CUDA使这套 RLCD 复刻既能在 M4 系芯片上以统一内存跑出 4bit 量化下约 1.1GB 的驻留占用也能塞进云端的 ZeroGPU 容器。MODEL_CARD.md 给出的实测数据非常硬核金融风控路由 4 字段从 420ms 压到 75ms5.6x企业工单分派 28 字段从 1900ms 压到 270ms7.0x255 选项高基数关税分类从 500ms 压到 89ms。这套引擎不是玩具演示presets 目录里沉淀了四个可复用的生产级场景fintech_fraud.json 是 28 字段的反欺诈与 AML 合规判断含 OFAC 制裁筛查、SAR 申报、账户冻结决策support_triage.json 是企业级工单分流28 字段code_security.json 是 CI/CD 漏洞门禁而 high_cardinality_255.json 专门验证了1 字段 255 个候选的高基数分类不随选项数增长而劣化。配合 server/app.py 提供的/api/run-parallel、/api/run-rlcd、/api/stream-naiveSSE 流式与/api/compare双跑对比端点以及 web/index.html 的并行 vs 自回归侧边对照可视化开发者拿到手就是一个完整的 Jev 式决策服务雏形。资本热捧与社区复刻为何在同一时间共振把融资新闻和开源动态放在同一时间轴上看会发现这不是巧合而是一次系统性共识的落地。TypeSafe AI 拿到 4000 万美元的时间点恰逢开源侧出现密集的Jev 平替发布潮Jev 发布 3 天后基于 ModernBERT-large 的 Laya 就以单次前向 32.8ms比 Jev 快约 8 倍的姿态登场Apache 2.0 全权重开放JevLite 用 Qwen3-4B LoRA 做到了单次决策 64.5ms、AUROC 0.974、ECE 0.052 的校准水平Nimble 基于 Qwen3.5-9B 微调判断准确率达到 90.12%。更值得关注的是 Cloudflare 在 10 月初跟进发布的 Clef——基于冻结的 Qwen 骨干、采用非自回归打分与面向校准的强化学习RLCD训练推理仅 2.2 秒API 直接兼容 Jev权重以 Apache 2.0 开放。一家云基础设施巨头为不生成文本的决策模型单独立项等于从产业端为这条路线盖了章。社区对 8 个开源 Jev 复刻的系统核查覆盖 SemIf、Simple Jev、Laya、Von、Verdict、Kev、Nimble、OpenJev 等给出的结论也印证了共振的必然性在结构化决策接口层面开源方案已经高度复现了 Jev 的形态真正的差距集中在三处——RLCD 式概率校准ECE/Brier 水平、高基数选项泛化、以及跨任务基准的统一。换言之资本在为System 1 判断层的稀缺性买单而开源社区在做的正是把这条能力曲线从专有 API拉到1B 本地可跑。当端侧推理在 Apple Silicon 上做到 70ms 级延迟、255 选项分类不劣化、字段级置信度可审计时Jev 式 AI就不再是独角兽的专利而是任何工程团队都能在pip install后立刻接入的基建能力。这或许是这轮共振最深刻的信号当所有人都挤在更大的生成模型这条赛道上时TypeSafe AI 与这些 1B 复刻项目同时证明了另一件事——AI 的价值不止于会写更在于判断得准、判断得快、判断得可解释。快慢思考解耦的架构正在从论文走向生产而这一次1B 小模型站在了范式转移的前排。【免费下载链接】Qwen-2.5-1B-RLCD项目地址: https://ai.gitcode.com/hf_mirrors/harshatheg/Qwen-2.5-1B-RLCD创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
返回列表