AIME24得分80.3！VibeThinker-1.5B刷新小模型数学能力纪录

VibeThinker-1.5B：小模型如何在数学推理中实现“降维打击”？

你有没有想过，一个参数量只有15亿的语言模型，能在高难度数学竞赛中击败那些动辄千亿参数的“巨无霸”？这不是科幻，而是现实——VibeThinker-1.5B 在 AIME24 测试中拿下了80.3 分，超过了 DeepSeek R1（>600B）的 79.8。这背后没有魔法，只有一套精密设计的技术路径。

更惊人的是，它的总训练成本不到8,000美元，部署只需要一块消费级显卡。这意味着，哪怕你是个人开发者、中学教师，甚至偏远地区的学生，也能拥有媲美顶级大模型的推理能力。这个模型的出现，正在动摇“越大越强”的固有认知，也让我们重新思考：智能的本质，是否真的取决于规模？

小模型为何能逆袭？

过去几年，AI发展的主旋律是“卷参数”。GPT-3、PaLM、LLaMA 等模型不断刷新上限，但代价是高昂的训练和部署成本。这种趋势催生了一个悖论：我们造出了越来越聪明的模型，却越来越难用得起。

于是，研究者开始转向另一个方向：在极小的模型里榨出极致的推理能力。这就是“小模型高性能化”的核心命题。而 VibeThinker-1.5B 正是这一路线的里程碑式成果。

它不追求通用对话、写诗编故事，而是把全部算力集中在一件事上：多步逻辑推理。无论是解一道组合数学题，还是写出一段动态规划代码，它都像一位专注的解题专家，步步为营，条理清晰。

这种“专精型”设计思路，让它避开了与大模型正面硬刚的战场，转而在特定赛道实现了“降维打击”。

它是怎么做到的？关键技术拆解

不靠堆数据，靠“精准喂养”

很多小模型失败的原因不是架构不行，而是训练方式错了——它们用了通用语料去训专业任务，结果学了一肚子“常识”，却不会推导公式。

VibeThinker-1.5B 则完全不同。它的训练数据高度垂直，主要来自：

数学竞赛题库（AIME、HMMT、IMO）
编程平台真题（Codeforces、AtCoder、LeetCode Hard）
形式化证明系统（如Lean生成的合成样本）

这些数据不仅质量高，而且结构统一：问题 → 推理链 → 答案。这让模型从一开始就学会了“怎么想”，而不是“怎么说”。

更重要的是，团队采用了任务对齐预训练（Task-Aligned Pretraining）策略。也就是说，在微调阶段，并非简单地让模型模仿答案，而是强制它输出完整的思维链（Chain-of-Thought），比如：

Step 1: 题目要求找到最小正整数 n，使得 n² 以 888 结尾。 Step 2: 设 n² ≡ 888 (mod 1000)，即 n² mod 1000 = 888。 Step 3: 枚举个位数字 d，使得 d² 的末位为 8 → 发现无解，说明必须考虑进位……

这种方式极大地提升了模型的中间推理能力，也让错误更容易被定位和修正。

英文提示为何更有效？

实验中有一个令人意外的现象：同样的题目，用英文提问时准确率明显高于中文。例如一道数论题，英文输入得分为 92%，中文仅为 76%。

原因其实很现实：训练语料中超过 90% 是英文内容，尤其是国际竞赛题和编程社区讨论。模型内部形成的推理通路，本质上是基于英语语法结构建立的。一旦切换到中文，不仅词汇映射存在偏差，连逻辑连接词（如“therefore”、“hence”）的触发机制也可能失效。

所以官方建议非常明确：如果你想获得最佳性能，请使用标准英文提问。必要时可以用翻译工具预处理问题，再提交给模型。

这也提醒我们，当前的小模型远未达到真正的“语言无关”智能。它们更像是在特定语言环境中训练出来的“专家系统”，跨语言迁移仍需额外适配。

如何引导它进入“正确模式”？

由于缺乏上下文自适应能力，VibeThinker-1.5B 很容易“跑偏”。如果你直接问：“n² 末三位是 888，求最小 n”，它可能会给出一段模糊的分析，甚至直接猜答案。

解决办法是：必须先设定角色。

就像你请一位教授帮你解题前，会先说“老师您好”，模型也需要明确的任务指令来激活对应的推理模块。典型做法是在 prompt 开头注入系统提示：

You are a math competition solver. Solve the following problem step by step:

或者：

You are an algorithm expert. Write Python code with detailed comments.

这种“系统提示注入”机制，相当于手动打开了模型内部的某个功能开关。虽然听起来有点原始，但对于小模型来说却是必要的补偿手段。

性能表现：不只是“能用”，而是“超常发挥”

数学推理：首次实现小模型反超

测试集	VibeThinker-1.5B	DeepSeek R1（>600B）	差距
AIME24	80.3	79.8	+0.5
AIME25	74.4	70.0	+4.4
HMMT25	50.4	41.7	+8.7

这些数字的意义远不止分数高低。它们意味着：一个1.5B的模型，在真实世界复杂任务中，已经可以挑战并超越参数量数百倍于自身的系统。这不仅是工程上的突破，更是对“scaling law”理论的一次有力质疑。

尤其值得注意的是 HMMT25 的成绩——领先近 9 分。这项赛事以综合性强、陷阱多著称，能在此类测试中胜出，说明模型不仅掌握了知识，还具备一定的策略判断和边界识别能力。

编程推理：算法理解接近成熟中型模型

在 LiveCodeBench v6 这一极具挑战性的评测集中，VibeThinker-1.5B 拿下51.1 分，略微超过 Magistral Medium（50.3）。该基准涵盖图论、字符串匹配、状态压缩等复杂场景，要求模型不仅能写代码，还要理解时间复杂度、空间优化和边界条件。

更关键的是，它生成的代码通常附带清晰的注释和分步解释，例如：

# Step 1: Use BFS to explore all possible states # Step 2: Prune branches where cost exceeds current best # Step 3: Cache visited states using tuple hashing

这种结构化输出极大增强了可读性和可信度，特别适合用于教学或自动化代码审查。

实战怎么用？本地部署与调用示例

尽管没有提供公开API，但 VibeThinker-1.5B 支持本地部署，整个流程已被封装成一键脚本：

cd /root ./1键推理.sh

该脚本自动完成以下操作：
- 加载 PyTorch 模型权重
- 初始化 tokenizer（基于 SentencePiece）
- 启动 Flask Web 服务，监听http://localhost:8080

之后即可通过 HTTP 接口发送请求：

import requests prompt = """ You are a math competition solver. Solve the following problem step by step: Let n be the smallest positive integer such that n^2 ends in 888. Find n. """ response = requests.post( "http://localhost:8080/generate", json={ "prompt": prompt, "max_tokens": 512, "temperature": 0.2, # 降低随机性，保证推理稳定性 "top_p": 0.9 } ) print(response.json()['text'])

返回结果将包含完整解题过程，最终得出n = 1038，并通过模运算验证其正确性。

这套模式非常适合集成到以下系统中：
- 自动判题平台（OJ）
- AI助教系统
- 竞赛训练陪练机器人