主要关注LLM、RAG、Agent等AI前沿技术,每天分享业界最新成果和实战案例。
Agentic RAG 需要“会自己规划、检索、纠错”的模型,但高质量训练数据稀缺——人工标注既贵又浅,无法还原真实检索噪声。北京大学 & 腾讯 AI Lab联合提出了RAGShaper,它用自动数据合成把“难题+干扰+纠错”一次性喂给模型,让智能体在“噪音地狱”里练出真功夫。
一、方案速览
| 阶段 | 核心模块 | 一句话职责 |
|---|---|---|
| ① 信息策展 | InfoCurator | 从种子实体出发,自动“爬”出密集信息树,并同步生成感知&认知两级干扰文档 |
| ② QA 合成 | LLM 反向出题 | 沿着信息树“逆向”生成必须多跳检索才能答的问题 |
| ③ 行为诱导 | Teacher Agent | 在强制干扰环境下解题,留下“识别→纠错→再检索”的完整轨迹 |
| ④ 蒸馏训练 | 学生模型 | 仅用答对的轨迹做 SFT,学会在噪声中稳健推理 |
信息树 + 干扰文档如何“挖坑”
| 干扰维度 | 类型 | 示例 | 目的 |
|---|---|---|---|
| 感知层 | Doppelgänger(替身) | 2024 财报 vs 2025 预稿,内容几乎一样 | 训练元数据核验 |
| 认知层 | False Shortcut | 文档声称“A→C”跳过中间节点 B | 训练坚持多跳 |
| 认知层 | Fragmented Puzzle | 答案被拆成多份,单篇不全 | 训练完整性自检 |
| 认知层 | Subjective Fallacy | 主观评论夹带“95% 有效→我觉得没用” | 训练事实-观点分离 |
图给出一段真实案例:同一皇帝两部作品,替身文档用“手稿 vs 印刷”细节埋坑,模型必须核对版本字段才能避开。
行为诱导:把教师“逼”进死胡同
Teacher Agent 仅配备稠密检索工具,但系统按概率把干扰文档混入召回前 k 位:
- 首轮强制召回 2 篇干扰
- 若上一轮已踩坑,本轮放行干净文档
- 否则 50 % 概率继续“放毒”
教师全程不知道干扰库存在,只能凭推理识别自相矛盾、再发新查询,由此产生“自我纠错”轨迹。这些轨迹就是后续训练的正样本。
二、实验亮点
- 四项基准全面第一
6.5 k 数据模型在 NQ、PopQA、AmbigQA、Bamboogle 平均 EM 50.3 / F1 62.0,显著超越Search-o1、DecEx-RAG 等强基线。
- 同规模碾压人工数据
4.5 k 规模即超 HotpotQA+2Wiki 人工标注的 HL-Data,证明合成质量 > 人工标注。
- 消融:干扰文档是“刚需”
去掉干扰后平均 EM 从 48.8 → 33.8,AmbigQA 跌 20 个点,噪声环境暴露模型盲区。
三、一张图看懂效果
人工数据 80 % 轨迹 ≤ 3 步,RAGShaper 长尾直达 40 步,深度推理行为密度更高。
- 工具调用分布——RAGShaper 拖出“长尾巴”,10+ 步轨迹占主流。
- 右:干扰应对成功率——66.9 % 轨迹成功识破并排除干扰;False Shortcut & Subjective Fallacy 仍是硬骨头,给后续 RL 留下提升空间。
四、对产业界的启示
- 数据飞轮:无需昂贵标注,用 RAGShaper 可7×24 自动生产“高难度+高噪声”训练集。
- 场景迁移:框架与模型规模、领域无关,维基→医学→金融只需换 KB 即可复用。
- 下一步:把尚未攻克的 1.3 % Subjective Fallacy 交给强化学习,让模型在“认知陷阱”里继续升级。
RAGShaper 用“自动挖坑+强制踩坑”的方式,把纠错过程写进数据,让 Agentic RAG 模型第一次真正“在污水里学会游泳”,从此面对真实检索的噪声与歧义,不再手足无措。
RAGShaper: Eliciting Sophisticated Agentic RAG Skills via Automated Data Synthesishttps://arxiv.org/pdf/2601.08699学AI大模型的正确顺序,千万不要搞错了
🤔2026年AI风口已来!各行各业的AI渗透肉眼可见,超多公司要么转型做AI相关产品,要么高薪挖AI技术人才,机遇直接摆在眼前!
有往AI方向发展,或者本身有后端编程基础的朋友,直接冲AI大模型应用开发转岗超合适!
就算暂时不打算转岗,了解大模型、RAG、Prompt、Agent这些热门概念,能上手做简单项目,也绝对是求职加分王🔋
📝给大家整理了超全最新的AI大模型应用开发学习清单和资料,手把手帮你快速入门!👇👇
学习路线:
✅大模型基础认知—大模型核心原理、发展历程、主流模型(GPT、文心一言等)特点解析
✅核心技术模块—RAG检索增强生成、Prompt工程实战、Agent智能体开发逻辑
✅开发基础能力—Python进阶、API接口调用、大模型开发框架(LangChain等)实操
✅应用场景开发—智能问答系统、企业知识库、AIGC内容生成工具、行业定制化大模型应用
✅项目落地流程—需求拆解、技术选型、模型调优、测试上线、运维迭代
✅面试求职冲刺—岗位JD解析、简历AI项目包装、高频面试题汇总、模拟面经
以上6大模块,看似清晰好上手,实则每个部分都有扎实的核心内容需要吃透!
我把大模型的学习全流程已经整理📚好了!抓住AI时代风口,轻松解锁职业新可能,希望大家都能把握机遇,实现薪资/职业跃迁~