tRPC端到端类型安全：VibeThinker连接前后端共享类型

在构建一个面向数学竞赛题求解的智能系统时，最让人头疼的往往不是模型本身的能力，而是“为什么明明写对了逻辑，结果却出错了？”——这种问题常常源于前后端之间微妙的数据偏差：前端传了一个字段名拼错的请求，后端解析失败但没及时反馈；或者模型输出了一段看似合理实则结构混乱的文本，前端无法安全渲染。这类“小错误引发大崩溃”的场景，在高精度推理任务中尤为致命。

而当我们将轻量级模型 VibeThinker-1.5B-APP 引入这一流程时，这个问题变得更加敏感。这个仅 1.5B 参数的小模型，并不具备强大容错能力。它依赖清晰、结构化的输入提示才能激活其最强推理链路。一旦上下文被污染，哪怕只是少了一个标点或错用了一个术语，它的表现可能直接从“接近 DeepSeek-R1”跌落到普通学生水平。

于是我们开始思考：能否让整个调用链路像编译器一样“提前发现问题”，而不是等到运行时才暴露错误？答案是肯定的——通过tRPC 的端到端类型安全机制，我们可以实现从前端按钮点击到后端模型推理完成的全链路静态类型保障。

类型即契约：tRPC 如何重塑 API 开发体验

传统 REST 接口开发中，前后端协作常陷入一种“信任但不验证”的状态。后端说：“我返回的是{solution: string, steps: string[]}”，前端信了，于是硬编码去取res.data.steps.map(...)。可某天后端加了个嵌套层级，忘记通知，前端瞬间报错。更糟的是，TypeScript 的类型检查在此类动态请求中几乎失效——因为any或unknown总会在某个.json()后悄然出现。

tRPC 改变了这一切。它的核心理念很简单：接口就是类型，调用如同本地函数。

你不需要写.proto文件，也不需要运行代码生成脚本。只需在一个共享模块中定义路由：

// server/trpc/routers/math.ts import { initTRPC } from '@trpc/server'; import z from 'zod'; const t = initTRPC.create(); export const mathRouter = t.router({ solveAIMEProblem: t.procedure .input( z.object({ problemStatement: z.string().min(10), language: z.enum(['en', 'zh']).default('en'), }) ) .output( z.object({ solution: z.string(), steps: z.array(z.string()), success: z.boolean(), }) ) .mutation(async ({ input }) => { const response = await callVibeThinkerModel(input.problemStatement, input.language); return parseMathSolution(response); }), });

这段代码既是服务端的处理逻辑，也是前端可用的类型契约。当你在 React 组件中使用：

const solveMutation = trpc.mathRouter.solveAIMEProblem.useMutation(); solveMutation.mutate({ problemStatement: "", // TypeScript 编译器立刻提醒：长度不能小于10 language: 'es' // 错误：'es' 不在枚举范围内 });

你会发现，许多原本只能在测试或线上才发现的问题，现在在写代码时就被拦截了。这正是编译期防护墙的价值所在。

更重要的是，tRPC 在运行时也保留了校验能力（通过 Zod）。这意味着即使有人绕过前端直接发请求，非法输入也会被拒绝，不会进入模型推理流程——这对于保护小模型的稳定性至关重要。

小模型为何更需要强类型？

提到 VibeThinker-1.5B-APP，很多人第一反应是：“这么小的模型能做复杂推理？” 实际上，它的成功恰恰在于“专注”。该模型由微博开源，训练成本仅7,800 美元，却在多个权威基准上超越更大规模的前辈：

测试集	VibeThinker 得分	超越对象（DeepSeek R1）
AIME24	80.3	79.8
AIME25	74.4	70.0
HMMT25	50.4	41.7
LiveCodeBench v6	51.1	50.3

这些数字背后，是对数据质量与任务对齐的极致追求。它不是用来聊天的，而是为了解决那些需要多步推导、符号操作和精确输出的任务。比如一道典型的 AIME 题目：“设 $ x^2 + y^2 = 1 $，求 $ \max(x + 2y) $”，模型不仅要给出答案 $\sqrt{5}$，还要展示拉格朗日乘子法或柯西不等式的应用步骤。

但这也带来了新的挑战：小模型对输入噪声极其敏感。实验表明，若未设置系统提示词，如“你是一个数学推理助手”，模型很可能以闲聊模式回应；若输入中混杂无关文字，推理链条容易断裂。相比之下，大模型尚可通过上下文自我纠正，而 VibeThinker 则必须“一步到位”。

因此，我们必须在工程层面补足它的短板。而这正是 tRPC 发挥作用的地方。

构建高可靠推理系统的四条实践准则

1. 系统提示词必须由服务端统一注入

我们曾尝试将角色设定交给前端传递：

.input(z.object({ prompt: z.string(), role: z.string().optional() // 前端可选填 }))

结果很快发现，不同开发者传入的role千奇百怪：“math helper”、“solver”、“thinker”……导致模型行为波动。最终我们改为：

const fullPrompt = `You are a precise mathematical reasoning assistant. Respond in ${input.language}. Problem: ${input.problemStatement}`;

所有请求均由服务端注入标准化前缀。这样既保证了上下文一致性，又避免了前端遗漏关键信息。

2. 输入输出必须双重校验：编译期 + 运行时

虽然 TypeScript 已经提供了强大的静态类型支持，但在生产环境中仍需启用 Zod 的运行时校验。原因很简单：TypeScript 只管“合法调用”，不管“恶意请求”。

假设攻击者绕过前端，直接发送：

{ "problemStatement": "", "language": "xx" }

如果没有运行时校验，空字符串可能触发模型异常生成，甚至引发无限循环。而 Zod 能确保每个字段都符合预期：

.input( z.object({ problemStatement: z.string().min(10, "Problem too short"), language: z.enum(['en', 'zh'], "Invalid language") }) )

只有通过校验的请求才会进入模型调用环节。

3. 必须限制请求频率与长度

VibeThinker 是实验性模型，不适合长期高并发部署。我们在网关层添加了简单限流：

// 每 IP 每分钟最多 10 次请求 const limiter = new RateLimiterMemory({ points: 10, duration: 60 });

同时限制输入长度不超过 1024 tokens。过长的问题描述不仅增加推理负担，还可能导致关键信息被淹没在噪声中。

4. 建立日志闭环，持续优化提示策略

每一次请求与响应都被记录下来，包括原始 prompt、模型输出 raw text、解析后的结构化结果以及用户是否满意。通过对失败案例的分析，我们不断调整系统提示词模板。

例如，早期版本中模型常忽略“分步解答”要求。后来我们将提示词强化为：

“Please solve the following problem step-by-step. Do not jump to conclusion. Label each step clearly as Step 1, Step 2, etc.”

效果显著提升。这种基于真实反馈的迭代，是小模型持续进化的关键。

全链路架构设计：从前端到模型的无缝衔接

整个系统采用三层架构：

graph LR A[Frontend App<br>React + TypeScript] --> B[tRPC Gateway<br>Node.js + TRPC] --> C[VibeThinker Model<br>Python + LLM] style A fill:#f0f8ff,stroke:#333 style B fill:#e6f7ff,stroke:#333 style C fill:#fff7e6,stroke:#333 subgraph "Type Safety Zone" A B end A -- "Type-safe mutation call" --> B B -- "Validated JSON → Prompt" --> C C -- "Raw text response" --> B B -- "Parsed structured result" --> A

前端使用@tanstack/react-query和trpchooks 直接调用远程方法，享受 IDE 自动补全与类型推导。
网关层承担路由、认证、校验、限流职责，是系统的“守门人”。
模型服务层专注于推理执行，接收干净的输入并返回原始文本，再由网关解析成预定义格式。

值得注意的是，模型本身并不理解 tRPC 或 JSON。它只接收一段字符串并输出一段字符串。真正的“类型安全”发生在网关层对输出的解析过程：

function parseMathSolution(raw: string): MathOutput { // 使用正则或语法分析提取步骤 const steps = raw.split('\n').filter(line => line.startsWith('Step')); const solutionMatch = raw.match(/Final answer:\s*(.+)$/im); return { steps, solution: solutionMatch?.[1] ?? "Not found", success: steps.length > 0 && !!solutionMatch }; }

如果解析失败，返回success: false，前端可提示用户“模型未能生成有效解答”，而非盲目渲染乱码。